Хуанг дважды за полгода объявил, что AGI достигнут. В марте - «I think we’ve achieved AGI», в сентябре, после выхода GPT-6 Astra, - «AGI has arrived». Я работаю с ИИ каждый день и AGI не жду ни завтра, ни в ближайшие годы. Как раз поэтому.
Спорить «есть AGI или нет» бессмысленно, пока у слова нет общего определения. У OpenAI оно экономическое, у Google DeepMind - шкала, у Шолле - через эффективность обучения, а Амодеи предлагает термином вообще не пользоваться. По своему определению Хуанг прав. Я по своему - тоже. Поэтому я назвал своё и показал, как его проверить.
Сильный, или общий, ИИ - это ИИ, способный браться за то, чего не видел и под что не был спроектирован, доводить задачу до результата в меняющихся условиях, а также самостоятельно формировать устоявшийся навык и использовать его в будущем.
На короткой задаче сегодняшняя модель первым двум частям почти соответствует. Дайте ей задачу на один присест и инструменты - разберётся, в том числе с той, которой не видела. А на длинной дистанции сыплется по всем пунктам сразу: план строит и тут же теряет, памяти внутри нет, на ходу не учится. И ничего не начинает сама.
Хорошо видно на тесте ARC-AGI-3: одна и та же модель в стандартном окружении даёт 62,7 %, а с механизмом, который переносит состояние между запросами, - 98,6 % (ARC Prize). Решающая часть памяти оказалась снаружи модели.
Итог у меня практический. Мысль формулирую я, контекст и ограничения даю я, результат проверяю я, галлюцинации ловлю тоже я. Машине досталось исполнение, и его она делает быстрее меня. Интеллект в модели есть. А работу она с меня не снимает.
Поэтому для бизнеса вопрос звучит не «когда будет AGI», а «зачем платить за общность, которая не нужна моей задаче». И правило выбора модели: не самая мощная, а самая маленькая из тех, что решают задачу.
В статье - полный разбор: пять качеств сильного ИИ под отвёрткой, почему бенчмарки не измеряют интеллект, шесть счётчиков цены масштабирования, экономика шума вокруг AGI, как на деле устроена моя работа с ИИ и при каком условии я признаю, что ошибся.
Статья: https://www.chelidze-d.com/post/agi-declared-twice Выпуск с PRO Hi-Tech: https://youtu.be/OGSDa-02fOU
Спорить «есть AGI или нет» бессмысленно, пока у слова нет общего определения. У OpenAI оно экономическое, у Google DeepMind - шкала, у Шолле - через эффективность обучения, а Амодеи предлагает термином вообще не пользоваться. По своему определению Хуанг прав. Я по своему - тоже. Поэтому я назвал своё и показал, как его проверить.
Сильный, или общий, ИИ - это ИИ, способный браться за то, чего не видел и под что не был спроектирован, доводить задачу до результата в меняющихся условиях, а также самостоятельно формировать устоявшийся навык и использовать его в будущем.
На короткой задаче сегодняшняя модель первым двум частям почти соответствует. Дайте ей задачу на один присест и инструменты - разберётся, в том числе с той, которой не видела. А на длинной дистанции сыплется по всем пунктам сразу: план строит и тут же теряет, памяти внутри нет, на ходу не учится. И ничего не начинает сама.
Хорошо видно на тесте ARC-AGI-3: одна и та же модель в стандартном окружении даёт 62,7 %, а с механизмом, который переносит состояние между запросами, - 98,6 % (ARC Prize). Решающая часть памяти оказалась снаружи модели.
Итог у меня практический. Мысль формулирую я, контекст и ограничения даю я, результат проверяю я, галлюцинации ловлю тоже я. Машине досталось исполнение, и его она делает быстрее меня. Интеллект в модели есть. А работу она с меня не снимает.
Поэтому для бизнеса вопрос звучит не «когда будет AGI», а «зачем платить за общность, которая не нужна моей задаче». И правило выбора модели: не самая мощная, а самая маленькая из тех, что решают задачу.
В статье - полный разбор: пять качеств сильного ИИ под отвёрткой, почему бенчмарки не измеряют интеллект, шесть счётчиков цены масштабирования, экономика шума вокруг AGI, как на деле устроена моя работа с ИИ и при каком условии я признаю, что ошибся.
Статья: https://www.chelidze-d.com/post/agi-declared-twice Выпуск с PRO Hi-Tech: https://youtu.be/OGSDa-02fOU