⚡️
У топ-менеджмента OpenAI есть план по продаже AGI РФ/Китаю/США, устроив для начала «качели» за лучшее предложение от правительств стран, планируется начать с США - заявил экс-сотрудник OpenAI Леопольд Ашенбреннер в интервью
Но это еще не все! Леопольд выпустил
свой документ об AGI, в котором он делится своим видением будущего ИИ.
Поэтому, дорогие читатели, мы выпустим поэтапно посты. Сначала разберем, что написано в документе на 165страниц 👽Отметим, что Леопольд был в команде Ильи Суцкевера и его уволили из OpenAI в апреле из-за того, что он якобы занимался сливом информации. А сейчас он с именитыми венчурными инвесторами запустил свой венчурный фонд для AGI.
Основные моменты более подробно можно тут посмотреть: 1. К 2025-2026 годам эти продвинутый ИИ превзойдет по интеллекту выпускников колледжей, а к концу десятилетия станет умнее любого человека.
Ашенбреннер предупреждает, что этот прогресс может привести к гонке в области ИИ между США и Китаем, а в худшем случае — к полномасштабной войне.
2. AGI появится уже в 2027 году. Это будет сопоставим с человеческим разумом. Ашенбреннер приходит к этому выводу, анализируя темпы прогресса в области deep learning за последние годы.
3. Ключевую роль будут иметь алгоритмические прорывы, а не только масштабирование вычислений. В ближайшие годы модели превратятся агентов, сравнимых с людьми.
4. Существует проблема - «Стена данных». Ее суть в том, что данные в интернете не бесконечны (сейчас ИИ-модели обучаются именно на них). Если рассматривать область программирования, то все публичные репозитории на Github оцениваются примерно в 1 миллион токенов. Вероятно, подход к обучению моделей вскоре придется менять.
5. После достижения AGI прогресс не остановить. Сотни миллионов AGI смогут автоматизировать ИИ-исследования, сжав десятилетие алгоритмического прогресса (5+ порядков величины) в 1 год. Мы быстро перейдем от человеческого уровня к ИИ-системам, намного превосходящим человека.
6. Общество движется к созданию индивидуальных кластеров для обучения моделей стоимостью в сотни миллиардов $ к 2028 году. Они будут требовать мощности, эквивалентной той, что требует небольшой штат США. А уже к концу десятилетия мы придем к кластерам стоимостью более чем в $1 трлн, требующим мощности более 20% от производства электроэнергии в США. Триллионы $ пойдут на производство сотен миллионов GPU в год.
7.
При текущем курсе развития событий, ведущие китайские AGI-лаборатории будут находиться не в Пекине или Шанхае, а в Сан-Франциско и Лондоне. Через несколько лет станет ясно, что
секреты разработки AGI являются самыми важными секретами национальной обороны и заслуживают такого же отношения, как чертежи бомбардировщиков, не говоря уже о «ядерных секретах».
8.
Что требуется для защиты AGI: • Полностью изолированные дата-центры с системой безопасности как на военных базах
• Новые достижения в области конфиденциальности вычислений и шифрования
• Работа всех исследователей в защищенных помещениях
• Строгая проверка персонала и мониторинг
• Жесткий контроль внешних зависимостей
• Постоянный интенсивный пентестинг со стороны спецслужб.
Текущая готовность лабораторий ИИ: • Лаборатории не готовы к защите от полномасштабного промышленного шпионажа
• Нет времени на подготовку, учитывая вероятные сроки создания AGI (несколько лет).
Необходимые шаги, которые следует предпринять: • Немедленное и радикальное усиление безопасности лабораторий ИИ
• Строительство вычислительных кластеров AGI в США
• Готовность лабораторий ИИ сотрудничать с военными.
