Репост из: AI Projects
В Сингапуре запущен первый в мире коммерческий ЦОД на биокомпьютере на нейронах человека. Стоимость подписки — $2,200 в месяц, и клиенты на это имеются: в основном разработчики гуманоидов. Давайте разберёмся.
Сейчас в ЦОД всего 20 биокомпьютеров CL1; в каждом — 200 тыс. живых нейронов человека на чипе с электродами, которые считывают и стимулируют электрическую активность клеток. Для задач типа расчёта инференса LLM человеческие нейроны неэффективны, т.к. не имеют точности вычислений GPU.
Однако живая нейросеть умеет решать лучше GPU задачи, очень важные для гуманоидов, а именно поведение в условиях острого дефицита исходной информации: это навигация, ориентация и адаптация к новым условиям.
Для гуманоидов и автономных роботов живая нейросеть имеет преимущество экстремально низкого энергопотребления. CL1 с системами поддержки потребляет около 30 Вт, тогда как Nvidia H100 SXM при интенсивных аналогичных задачах ориентации — до 700 Вт; для сложных задач адаптации к новым условиям аналогом CL1 будет сервер с восемью H100, который потребляет 10,2 кВт.
Пока о перестановке биокомпьютеров в гуманоидов с практической точки зрения речь не идёт, но это возможная перспектива, если питание их GPU станет критическим местом. В данный момент создатели гуманоидов скорее стараются извлечь из живых нейросетей оптимальные паттерны для обработки поведения роботов и дистиллировать их в обычные нейросети. Наиболее важны тут паттерны ориентации и поведения в незнакомой обстановке.
https://www.straitstimes.com/tech/forget-silicon-chip-servers-singapores-newest-data-centre-needs-to-be-fed
Сейчас в ЦОД всего 20 биокомпьютеров CL1; в каждом — 200 тыс. живых нейронов человека на чипе с электродами, которые считывают и стимулируют электрическую активность клеток. Для задач типа расчёта инференса LLM человеческие нейроны неэффективны, т.к. не имеют точности вычислений GPU.
Однако живая нейросеть умеет решать лучше GPU задачи, очень важные для гуманоидов, а именно поведение в условиях острого дефицита исходной информации: это навигация, ориентация и адаптация к новым условиям.
Для гуманоидов и автономных роботов живая нейросеть имеет преимущество экстремально низкого энергопотребления. CL1 с системами поддержки потребляет около 30 Вт, тогда как Nvidia H100 SXM при интенсивных аналогичных задачах ориентации — до 700 Вт; для сложных задач адаптации к новым условиям аналогом CL1 будет сервер с восемью H100, который потребляет 10,2 кВт.
Пока о перестановке биокомпьютеров в гуманоидов с практической точки зрения речь не идёт, но это возможная перспектива, если питание их GPU станет критическим местом. В данный момент создатели гуманоидов скорее стараются извлечь из живых нейросетей оптимальные паттерны для обработки поведения роботов и дистиллировать их в обычные нейросети. Наиболее важны тут паттерны ориентации и поведения в незнакомой обстановке.
https://www.straitstimes.com/tech/forget-silicon-chip-servers-singapores-newest-data-centre-needs-to-be-fed