英伟达开源PAIR软件,调度Mac/RTX PC协同处理本地AI请求

By AI123

2026年9月3日,英伟达以开源测试版状态推出Personal AI Router(PAIR)软件,用于在局域网内为本地AI请求调度可用计算机。该软件类似把任务分派给空闲工位的调度员,可在家庭或办公局域网内将多个独立AI请求分配至空闲设备处理。

PAIR兼容M4及更高版本的Mac设备、英伟达RTX PC和DGX Spark设备,并为Ollama、LM Studio等本地AI工具提供统一请求入口。产品定位方面,PAIR能够自动发现已加入的电脑,并将每项请求分配给可用设备。模型仍由目标设备上的Ollama或LM Studio运行,用户无需为每款AI应用分别配置每一台机器。

当某台设备繁忙或不可用时,PAIR可将新请求转向其他已配对设备。例如,AI智能体同时审阅多份文档时,可将彼此独立的任务分别交给不同计算机处理。该机制面向并发负载分担,并不意味着单个AI回复会因加入更多电脑而自动变快。

英伟达演示显示,在Hermes中使用Ollama与Qwen 3.6 35B A3B模型,将任务拆分给5个AI子智能体后,RTX Spark笔记本单机平均完成时间为18分钟;加入DGX Spark和RTX 5090后,平均时间缩短至8分48秒。

Explore topicsAICompute PowerOpen Source

Sources

View all