Arvind keynote at ICML Seoul 2026.07.pdf
Автор AI Snake Oil (я постил саммари) Arvind Narayanan из Princeton выступал с keynote на ICML в Сеуле, 57 легких слайдов:
- Щас его фокус рисеча - на оценке агентов
- Он апологет AI as a normal technology - что у инновации есть изобретение, затем продуктизация, и далее десяток-другой лет диффузия по цивилизации. И тогда парадокс: по мере развития AI число ролей для людей вырастет, а не отберет работы
- LLM собрали ВСЕ знание людей мира, но не породили креатива. А крове креативности есть еще куча барьеров..
- Агенты ненадежны, поэтому автоматизация и буксует. Нужны коллаборации агентов чтобы это сдвинуть
- Лабы не засолвят экономику или влияния на рынки труда, их milestones/бенчмарки/цели не имеют отношения к внедрениям
- Работа программистов уже полвека автоматизируется, щас очередной сдвиг, вот и выросла роль evals/evaluations
- Нас ждет co-superintelligence (условно: крановщик на кране), а не просто AGI через самоулучшение (оч скептичен. RL работает только где крайне узкие/точные критерии проверки)
- Щас его фокус рисеча - на оценке агентов
- Он апологет AI as a normal technology - что у инновации есть изобретение, затем продуктизация, и далее десяток-другой лет диффузия по цивилизации. И тогда парадокс: по мере развития AI число ролей для людей вырастет, а не отберет работы
- LLM собрали ВСЕ знание людей мира, но не породили креатива. А крове креативности есть еще куча барьеров..
- Агенты ненадежны, поэтому автоматизация и буксует. Нужны коллаборации агентов чтобы это сдвинуть
- Лабы не засолвят экономику или влияния на рынки труда, их milestones/бенчмарки/цели не имеют отношения к внедрениям
- Работа программистов уже полвека автоматизируется, щас очередной сдвиг, вот и выросла роль evals/evaluations
- Нас ждет co-superintelligence (условно: крановщик на кране), а не просто AGI через самоулучшение (оч скептичен. RL работает только где крайне узкие/точные критерии проверки)