ЦОД теперь есть у вас дома — NVIDIA выпустила утилиту, которая превращает ваши компы в один домашний ИИ-кластер.
PAIR объединяет в локальной сети компьютеры с RTX, DGX Spark и Mac, а затем сама распределяет между ними запросы к нейронкам. При этом промпты, файлы и весь контекст остаются внутри вашей сети.
На секундочку: в демо NVIDIA пять ИИ-субагентов справились с задачей за 8 минут 48 секунд на трёх устройствах против 18 минут на одном — то есть быстрее почти в 2.5 раза.
Работает с Ollama и LM Studio на Windows, Linux и macOS.
Создаем свой маленький дата-центр 😊
@xor_journal
PAIR объединяет в локальной сети компьютеры с RTX, DGX Spark и Mac, а затем сама распределяет между ними запросы к нейронкам. При этом промпты, файлы и весь контекст остаются внутри вашей сети.
На секундочку: в демо NVIDIA пять ИИ-субагентов справились с задачей за 8 минут 48 секунд на трёх устройствах против 18 минут на одном — то есть быстрее почти в 2.5 раза.
Работает с Ollama и LM Studio на Windows, Linux и macOS.
Создаем свой маленький дата-центр 😊
@xor_journal