Яблочный сервер
В последнее время AI-компании начали в огромных количествах скупать обычные Mac mini и Mac Studio. Крупные AI-лаборатории приобрели уже десятки тысяч таких компьютеров, а некоторые стартапы строят на них собственную инфраструктуру. В результате Mac стал самым быстрорастущим продуктовым сегментом Apple: в последнем квартале продажи выросли почти на 29%, до $10,4 млрд.
Дело в том, что у Apple Silicon удачно сочетаются производительность, энергоэффективность и, главное, большой объем единой памяти, которой совместно пользуются CPU и GPU. Для запуска больших open-source моделей это особенно удобно: модель можно целиком держать в общей памяти, не пытаясь впихнуть её в ограниченную видеопамять отдельного GPU. При этом Mac гораздо компактнее и экономичнее полноценного серверного железа.
Реакция корпорации на это обстоятельство не заставила себя ждать: Apple готовится вернуться на рынок серверов. Компания разрабатывает собственный сервер для разработчиков ИИ, бизнеса и государственных заказчиков. Внутри могут оказаться два или четыре будущих чипа M8 Ultra, а появиться такой продукт, если проект не отменят, должен не раньше 2029 года. Целевой сегмент — AI-inference. Будущие сервера Apple вряд ли смогут конкурировать с AI-кластерами Nvidia в разрезе обучения моделей, а вот для запуска уже обученных моделей они подойдут отлично, в том числе для компаний, которым важно не отправлять данные в публичное облако.
Интересно, что Apple рассматривает возможность соединения нескольких M8 Ultra с помощью NVLink Fusion — технологии Nvidia для высокоскоростной связи между чипами. И это при том, что отношения компаний исторически были прохладными. Apple начала использовать GPU Nvidia ещё в 2001 году, но затем между ними возникли серьёзные конфликты. Джобс даже обвинял Nvidia в краже технологий Pixar. Но кто старое помянет... Apple уже использует Nvidia для части новой AI-инфраструктуры Siri.
Apple уже выходила на серверный рынок с Xserve в 2002 году, но в 2011-м закрыла продукт. Бывшие сотрудники объясняли провал тем, что Apple плохо понимала корпоративного клиента и не обеспечивала необходимую поддержку. Enterprise никогда не был её главным рынком.
Так что одного хорошего чипа тут недостаточно. Apple придётся строить полноценную enterprise-машину: удалённое управление, поддержку крупных клиентов, инструменты для AI-разработчиков и программную экосистему, способную хотя бы частично конкурировать с CUDA. Команда MLX, например, пока небольшая, а её руководитель Они Ханнун в этом году ушёл в Anthropic.
Так или иначе, но новый CEO Apple Джон Тернус, кажется, начал работу с места в карьер. Проект сервера он поддерживал ещё около года назад, будучи главой разработки оборудования. Теперь у него есть шанс превратить неожиданный спрос на Mac со стороны AI-компаний в попытку построить новый для современной Apple бизнес. И может быть, его первые шаги во главе компании запомнят не мемами про iPhone Duo, а созданием целого прибыльного направления внутри компании.
@anti_agi
В последнее время AI-компании начали в огромных количествах скупать обычные Mac mini и Mac Studio. Крупные AI-лаборатории приобрели уже десятки тысяч таких компьютеров, а некоторые стартапы строят на них собственную инфраструктуру. В результате Mac стал самым быстрорастущим продуктовым сегментом Apple: в последнем квартале продажи выросли почти на 29%, до $10,4 млрд.
Дело в том, что у Apple Silicon удачно сочетаются производительность, энергоэффективность и, главное, большой объем единой памяти, которой совместно пользуются CPU и GPU. Для запуска больших open-source моделей это особенно удобно: модель можно целиком держать в общей памяти, не пытаясь впихнуть её в ограниченную видеопамять отдельного GPU. При этом Mac гораздо компактнее и экономичнее полноценного серверного железа.
Реакция корпорации на это обстоятельство не заставила себя ждать: Apple готовится вернуться на рынок серверов. Компания разрабатывает собственный сервер для разработчиков ИИ, бизнеса и государственных заказчиков. Внутри могут оказаться два или четыре будущих чипа M8 Ultra, а появиться такой продукт, если проект не отменят, должен не раньше 2029 года. Целевой сегмент — AI-inference. Будущие сервера Apple вряд ли смогут конкурировать с AI-кластерами Nvidia в разрезе обучения моделей, а вот для запуска уже обученных моделей они подойдут отлично, в том числе для компаний, которым важно не отправлять данные в публичное облако.
Интересно, что Apple рассматривает возможность соединения нескольких M8 Ultra с помощью NVLink Fusion — технологии Nvidia для высокоскоростной связи между чипами. И это при том, что отношения компаний исторически были прохладными. Apple начала использовать GPU Nvidia ещё в 2001 году, но затем между ними возникли серьёзные конфликты. Джобс даже обвинял Nvidia в краже технологий Pixar. Но кто старое помянет... Apple уже использует Nvidia для части новой AI-инфраструктуры Siri.
Apple уже выходила на серверный рынок с Xserve в 2002 году, но в 2011-м закрыла продукт. Бывшие сотрудники объясняли провал тем, что Apple плохо понимала корпоративного клиента и не обеспечивала необходимую поддержку. Enterprise никогда не был её главным рынком.
Так что одного хорошего чипа тут недостаточно. Apple придётся строить полноценную enterprise-машину: удалённое управление, поддержку крупных клиентов, инструменты для AI-разработчиков и программную экосистему, способную хотя бы частично конкурировать с CUDA. Команда MLX, например, пока небольшая, а её руководитель Они Ханнун в этом году ушёл в Anthropic.
Так или иначе, но новый CEO Apple Джон Тернус, кажется, начал работу с места в карьер. Проект сервера он поддерживал ещё около года назад, будучи главой разработки оборудования. Теперь у него есть шанс превратить неожиданный спрос на Mac со стороны AI-компаний в попытку построить новый для современной Apple бизнес. И может быть, его первые шаги во главе компании запомнят не мемами про iPhone Duo, а созданием целого прибыльного направления внутри компании.
@anti_agi