Кто сместит NVIDIA с лидерских позиций? И как выглядит будущее аппаратного обеспечения ИИ?
Nvidia сегодня собирает лучшие куски от лидерского пирога в гонке ИИ.
Как производитель графических процессоров, которые делают возможным все, от ChatGPT до GitHub Copilot и Google Gemini, его рыночная стоимость превысила $2 трлн.
Компания не стоит на месте, а Groq позиционирует себя как будущий конкурент. Тут подробнее мы писали.
Между тем, один из создателей Google Tensor Processing Unit (TPU) теперь работает в Groq, основанный в 2016 году, Джонатаном Росс.
Неделю назад Groq вызвал большой интерес своим новым изобретением: Language Processing Unit (LPU), который позволяет чат-ботам генерировать ответы с молниеносной скоростью.
В тесте скорости по сравнению с ChatGPT разница была огромной.
Надо отметить, что бот Groq работал на модели Llama 2 70B, которая во много раз меньше, чем GPT-4 Turbo.
На базе процессоров Tensor Stream (TSP) LPU может напрямую выполнять необходимые расчеты ИИ без вышеупомянутых накладных расходов. Это может упростить требования к оборудованию для крупных моделей искусственного интеллекта, если Groq выйдет за рамки публичной демонстрации.
Программное обеспечение CUDA в дополнение к аппаратному обеспечению, имеет решающее значение для единственной лидерской позиции Nvidia.
Даже если LPU от Groq или ускорители от других компаний прорвутся, CUDA будет продолжать играть важную роль.
Альтернативные графические процессоры от Intel и AMD, также ориентированные на центров обработки данных, полагаются на CUDA.
Но тот факт, что Groq фокусируется на чистой производительности, является хорошим решением.
Nvidia сегодня собирает лучшие куски от лидерского пирога в гонке ИИ.
Как производитель графических процессоров, которые делают возможным все, от ChatGPT до GitHub Copilot и Google Gemini, его рыночная стоимость превысила $2 трлн.
Компания не стоит на месте, а Groq позиционирует себя как будущий конкурент. Тут подробнее мы писали.
Между тем, один из создателей Google Tensor Processing Unit (TPU) теперь работает в Groq, основанный в 2016 году, Джонатаном Росс.
Неделю назад Groq вызвал большой интерес своим новым изобретением: Language Processing Unit (LPU), который позволяет чат-ботам генерировать ответы с молниеносной скоростью.
В тесте скорости по сравнению с ChatGPT разница была огромной.
Надо отметить, что бот Groq работал на модели Llama 2 70B, которая во много раз меньше, чем GPT-4 Turbo.
На базе процессоров Tensor Stream (TSP) LPU может напрямую выполнять необходимые расчеты ИИ без вышеупомянутых накладных расходов. Это может упростить требования к оборудованию для крупных моделей искусственного интеллекта, если Groq выйдет за рамки публичной демонстрации.
Программное обеспечение CUDA в дополнение к аппаратному обеспечению, имеет решающее значение для единственной лидерской позиции Nvidia.
Даже если LPU от Groq или ускорители от других компаний прорвутся, CUDA будет продолжать играть важную роль.
Альтернативные графические процессоры от Intel и AMD, также ориентированные на центров обработки данных, полагаются на CUDA.
Но тот факт, что Groq фокусируется на чистой производительности, является хорошим решением.