Мы обучаем ИИ через жопу
Свежие исследования 2026 года намекают на очень неприятную вещь. Возможно, вся AI-индустрия двигается не туда. Мы берем одну и ту же базовую архитектуру, делаем ее больше, скармливаем ей еще один интернет и называем это путем к интеллекту. При этом обычный ребенок учится на несколько порядков эффективнее, хотя у него нет триллионов токенов, дата-центра и пачки H100.
В исследовании Baby Scale модели обучали на реальной речи из жизни 20 семей. Грамматика росла вместе с данными, а семантика и знания о мире почти стояли на месте. Причем одинаковое количество слов из разных семей давало совершенно разный результат. В другом EgoBabyVLM моделям показали мир глазами ребенка. Живое видео, речь взрослых, движение, предметы вокруг. Современные VLM на этих данных работали почти на уровне случайного угадывания. Но стоило дать им аккуратно подобранные картинки с правильными подписями, и они резко умнели. То есть нейросеть умеет учиться только тогда, когда реальность заранее разложили по коробочкам. В естественном бардаке, где ребенок чувствует себя прекрасно, наша архитектура разваливается.
А теперь самое интересное. В исследовании ACL 2026 ученые взяли одинаковые небольшие LLM, обучили их с нуля и части из них искусственно ограничили память (контекст). Модель могла смотреть назад всего на пять токенов. И вот что интересно, она стала учить грамматику лучше, поднявшись в тестах примерно с 61 до 68 процентов. Получается, что ограничения мозга могут быть ключом к механизму обучения. Ребенок не запоминает весь интернет. Он смотрит, трогает, действует, ошибается, получает мгновенную реакцию и постепенно строит модель мира. А наши нейросети пока остаются гигантскими текстовыми пылесосами. Мы пытаемся масштабировать не интеллект, а архитектурный костыль. Настоящий AGI может появиться не после следующего триллиона токенов, а после признания, что нынешний фундамент никуда не годится.
Вход для мыслящих
Свежие исследования 2026 года намекают на очень неприятную вещь. Возможно, вся AI-индустрия двигается не туда. Мы берем одну и ту же базовую архитектуру, делаем ее больше, скармливаем ей еще один интернет и называем это путем к интеллекту. При этом обычный ребенок учится на несколько порядков эффективнее, хотя у него нет триллионов токенов, дата-центра и пачки H100.
В исследовании Baby Scale модели обучали на реальной речи из жизни 20 семей. Грамматика росла вместе с данными, а семантика и знания о мире почти стояли на месте. Причем одинаковое количество слов из разных семей давало совершенно разный результат. В другом EgoBabyVLM моделям показали мир глазами ребенка. Живое видео, речь взрослых, движение, предметы вокруг. Современные VLM на этих данных работали почти на уровне случайного угадывания. Но стоило дать им аккуратно подобранные картинки с правильными подписями, и они резко умнели. То есть нейросеть умеет учиться только тогда, когда реальность заранее разложили по коробочкам. В естественном бардаке, где ребенок чувствует себя прекрасно, наша архитектура разваливается.
А теперь самое интересное. В исследовании ACL 2026 ученые взяли одинаковые небольшие LLM, обучили их с нуля и части из них искусственно ограничили память (контекст). Модель могла смотреть назад всего на пять токенов. И вот что интересно, она стала учить грамматику лучше, поднявшись в тестах примерно с 61 до 68 процентов. Получается, что ограничения мозга могут быть ключом к механизму обучения. Ребенок не запоминает весь интернет. Он смотрит, трогает, действует, ошибается, получает мгновенную реакцию и постепенно строит модель мира. А наши нейросети пока остаются гигантскими текстовыми пылесосами. Мы пытаемся масштабировать не интеллект, а архитектурный костыль. Настоящий AGI может появиться не после следующего триллиона токенов, а после признания, что нынешний фундамент никуда не годится.
Вход для мыслящих