Андрей Карпатый: AGI не даст экономэффекта для ВВП и появится через 10 лет, а не через год
Продолжаем изучение интервью, экс- директора по ИИ Tesla и сооснователя OpenAI Андрея Карпатый об ИИ и почему большинство прогнозов хайповые. #часть2 , #часть1 тут.
Для полноценного AGI нужен ИИ, способный работать как сотрудник или стажёр — мы далеки от этого. Он может появиться через десятилетие.
Одно из самых ярких утверждений Андрея - AGI не изменит экономику, он растворится в той же 2% экспоненте роста ВВП, которая существует последние 200+ лет.
Карпатый признаётся: «Какое-то время я пытался найти ИИ в кривой ВВП. Я думал, что ВВП должен подскочить из-за ИИ. Но потом посмотрел на другие технологии — компьютеры, мобильные телефоны, интернет. Их тоже не видно на графике ВВП».
ИИ = ещё один набор инструментов в континууме автоматизации, а не дискретное добавление людей.
С ИИ мы увидим больше автоматизации. Это позволяет нам писать другие виды программ, которые мы не могли раньше. Но ИИ — это всё ещё программа.
Практические выводы
Для инвесторов и предпринимателей. Не ждите мгновенной революции. Стройте проекты для постепенного внедрения.
Для общества. Постепенная потеря контроля и понимания. Но это не внезапный коллапс. Будут десятилетия для адаптации, регулирования, построения новых институтов.
Для исследователей. Ещё огромное количество работы:
- Непрерывное обучение
- Культура между агентами
- Новые парадигмы обучения
- Интеграция с физическим миром
- Безопасность и надёжность
Это все десятилетие работы, может быть больше.
Карпатый подозрительно относится к идее, что существует 1 простой алгоритм, который можно выпустить в мир, и он научится всему с 0.
Он критикует RL, говоря так - это "высасывание информации через соломинку". Когда модель решает задачу после множества попыток, RL просто увеличивает вес всей успешной траектории, даже если по пути были неправильные шаги. Это очень шумный процесс. Человек так не учится — люди анализируют, что сработало, а что нет.
При создании nanochat Карпатый обнаружил, что модели:
1. Плохо работают с уникальным, никогда не писавшимся кодом
2. Отлично справляются с шаблонным кодом
3. Постоянно неправильно понимают контекст
4. Пытаются использовать устаревшие API
5. Автозаполнение работает лучше, чем vibe coding для сложных задач.
Продолжаем изучение интервью, экс- директора по ИИ Tesla и сооснователя OpenAI Андрея Карпатый об ИИ и почему большинство прогнозов хайповые. #часть2 , #часть1 тут.
Для полноценного AGI нужен ИИ, способный работать как сотрудник или стажёр — мы далеки от этого. Он может появиться через десятилетие.
Одно из самых ярких утверждений Андрея - AGI не изменит экономику, он растворится в той же 2% экспоненте роста ВВП, которая существует последние 200+ лет.
Карпатый признаётся: «Какое-то время я пытался найти ИИ в кривой ВВП. Я думал, что ВВП должен подскочить из-за ИИ. Но потом посмотрел на другие технологии — компьютеры, мобильные телефоны, интернет. Их тоже не видно на графике ВВП».
ИИ = ещё один набор инструментов в континууме автоматизации, а не дискретное добавление людей.
С ИИ мы увидим больше автоматизации. Это позволяет нам писать другие виды программ, которые мы не могли раньше. Но ИИ — это всё ещё программа.
Практические выводы
Для инвесторов и предпринимателей. Не ждите мгновенной революции. Стройте проекты для постепенного внедрения.
Для общества. Постепенная потеря контроля и понимания. Но это не внезапный коллапс. Будут десятилетия для адаптации, регулирования, построения новых институтов.
Для исследователей. Ещё огромное количество работы:
- Непрерывное обучение
- Культура между агентами
- Новые парадигмы обучения
- Интеграция с физическим миром
- Безопасность и надёжность
Это все десятилетие работы, может быть больше.
Карпатый подозрительно относится к идее, что существует 1 простой алгоритм, который можно выпустить в мир, и он научится всему с 0.
Он критикует RL, говоря так - это "высасывание информации через соломинку". Когда модель решает задачу после множества попыток, RL просто увеличивает вес всей успешной траектории, даже если по пути были неправильные шаги. Это очень шумный процесс. Человек так не учится — люди анализируют, что сработало, а что нет.
При создании nanochat Карпатый обнаружил, что модели:
1. Плохо работают с уникальным, никогда не писавшимся кодом
2. Отлично справляются с шаблонным кодом
3. Постоянно неправильно понимают контекст
4. Пытаются использовать устаревшие API
5. Автозаполнение работает лучше, чем vibe coding для сложных задач.