Репост из: ᴍᴀᴄʜɪɴɪᴄ ᴇᴍʙᴏᴅɪᴍᴇɴᴛ
На выходных читал две интересные статьи про планетарный интеллект и рекурсивное самосовершенствование ИИ? советую и вам, если вам надоели алармистский или излишне научпоп взгляд на ИИ:
>Intelligence as a planetary scale process (Интеллект как процесс планетарного масштаба). Традиционно интеллект рассматривается как свойство отдельных индивидов или видов. Авторы предлагают расширить это понятие и рассматривать интеллект как коллективное свойство планетарного масштаба. Появление технологического интеллекта трактуется не просто как событие, происходящее на планете, а как эволюционный переход, происходящий с самой планетой. Планетарный интеллект определяется как приобретение и применение коллективных знаний, действующих в планетарном масштабе и интегрированных в функционирование связанных планетарных систем.
Чтобы планета могла демонстрировать планетарный интеллект, её взаимосвязанные системы должны обладать следующими свойствами: Эмерджентность, Сетевые потоки информации, Смысловая (семантическая) информация, Сложные адаптивные системы, границы и сигналы, Аутопоэзис.
Также в статье выделяются четыре ключевых этапа развития планет с точки зрения формирования планетарного интеллекта: Незрелая биосфера, Зрелая биосфера, Незрелая техносфера (ранний Антропоцен), Зрелая техносфера (Планета класса V).
Выводом статьи является то, что для выживания человечества необходим переход от «незрелой» техносферы к «зрелой». Этот переход требует создания механизмов, где знания о планетарных последствиях человеческой деятельности осознанно регулируют само поведение цивилизации. Моделирование показывает, что технологические цивилизации, не сумевшие сформировать регуляторные планетарные связи, быстро погибают из-за вызванных ими климатических изменений.
>The Last AI Built by Humans: Toward Genuine Recursive Self-Improvement (Последний ИИ, построенный людьми: к настоящему рекурсивному самосовершенствованию), за авторством большого числа учёных из Китая. Современная разработка баз знаний и больших языковых/агентных моделей сталкивается с высокими затратами ресурсов на подготовку данных, поиск архитектур, масштабирование подкрепляемого обучения (RL), а также на ручное исправление ошибок и поддержку систем после развертывания. Замкнутые и легко верифицируемые задачи быстро закрывают разрыв в точности, тогда как интерактивные и агентные задачи сохраняют значительные отставания. Именно в сложных интерактивных сценариях рекурсивное самосовершенствование (RSI) способно дать наибольший эффект за счет непрерывного сбора опыта и самообучения. Накопление изменений не должно приводить к деградации ранее освоенных навыков (необходимы механизмы откатов и проверок). Важно разграничивать, какие улучшения найдены самим ИИ, а какие обусловлены жестко прописанными алгоритмами поиска или ручной фильтрацией.
В статье предложена классификация уровня передачи ответственности за самосовершенствование от человека к ИИ:
L1 (Improvement Execution Autonomy / Автономность исполнения улучшений): Человек полностью задает процедуру, правила и критерии успеха, а ИИ автономно исполняет эти шаги в масштабе.
L2 (Improvement Strategy Autonomy / Автономность выбора стратегии улучшений): ИИ сам диагностирует свои ошибки и принимает решение, как именно улучшить систему (поиск промптов, графов агентов, кода обучения или ядер).
L3 (Learning-Signal / Experience-Acquisition Autonomy / Автономность сбора учебного опыта): ИИ определяет, какому опыту обучаться дальше, формируя учебную программу на основе своего текущего состояния и пробелов в знаниях.
L4 (Deployment & Environmental Adaptation Autonomy / Автономность адаптации в эксплуатации): Системы непрерывно адаптируют свою память, библиотеки навыков, код гарнесса или параметры модели по результатам работы в реальной среде.
L5 (Recursive Inheritance / Meta-Improvement / Рекурсивное мета-улучшение): ИИ модифицирует сам механизм, управляющий будущими улучшениями (агента-улучшителя, алгоритм поиска, верификатор или процедуру оценки).
>Intelligence as a planetary scale process (Интеллект как процесс планетарного масштаба). Традиционно интеллект рассматривается как свойство отдельных индивидов или видов. Авторы предлагают расширить это понятие и рассматривать интеллект как коллективное свойство планетарного масштаба. Появление технологического интеллекта трактуется не просто как событие, происходящее на планете, а как эволюционный переход, происходящий с самой планетой. Планетарный интеллект определяется как приобретение и применение коллективных знаний, действующих в планетарном масштабе и интегрированных в функционирование связанных планетарных систем.
Чтобы планета могла демонстрировать планетарный интеллект, её взаимосвязанные системы должны обладать следующими свойствами: Эмерджентность, Сетевые потоки информации, Смысловая (семантическая) информация, Сложные адаптивные системы, границы и сигналы, Аутопоэзис.
Также в статье выделяются четыре ключевых этапа развития планет с точки зрения формирования планетарного интеллекта: Незрелая биосфера, Зрелая биосфера, Незрелая техносфера (ранний Антропоцен), Зрелая техносфера (Планета класса V).
Выводом статьи является то, что для выживания человечества необходим переход от «незрелой» техносферы к «зрелой». Этот переход требует создания механизмов, где знания о планетарных последствиях человеческой деятельности осознанно регулируют само поведение цивилизации. Моделирование показывает, что технологические цивилизации, не сумевшие сформировать регуляторные планетарные связи, быстро погибают из-за вызванных ими климатических изменений.
>The Last AI Built by Humans: Toward Genuine Recursive Self-Improvement (Последний ИИ, построенный людьми: к настоящему рекурсивному самосовершенствованию), за авторством большого числа учёных из Китая. Современная разработка баз знаний и больших языковых/агентных моделей сталкивается с высокими затратами ресурсов на подготовку данных, поиск архитектур, масштабирование подкрепляемого обучения (RL), а также на ручное исправление ошибок и поддержку систем после развертывания. Замкнутые и легко верифицируемые задачи быстро закрывают разрыв в точности, тогда как интерактивные и агентные задачи сохраняют значительные отставания. Именно в сложных интерактивных сценариях рекурсивное самосовершенствование (RSI) способно дать наибольший эффект за счет непрерывного сбора опыта и самообучения. Накопление изменений не должно приводить к деградации ранее освоенных навыков (необходимы механизмы откатов и проверок). Важно разграничивать, какие улучшения найдены самим ИИ, а какие обусловлены жестко прописанными алгоритмами поиска или ручной фильтрацией.
В статье предложена классификация уровня передачи ответственности за самосовершенствование от человека к ИИ:
L1 (Improvement Execution Autonomy / Автономность исполнения улучшений): Человек полностью задает процедуру, правила и критерии успеха, а ИИ автономно исполняет эти шаги в масштабе.
L2 (Improvement Strategy Autonomy / Автономность выбора стратегии улучшений): ИИ сам диагностирует свои ошибки и принимает решение, как именно улучшить систему (поиск промптов, графов агентов, кода обучения или ядер).
L3 (Learning-Signal / Experience-Acquisition Autonomy / Автономность сбора учебного опыта): ИИ определяет, какому опыту обучаться дальше, формируя учебную программу на основе своего текущего состояния и пробелов в знаниях.
L4 (Deployment & Environmental Adaptation Autonomy / Автономность адаптации в эксплуатации): Системы непрерывно адаптируют свою память, библиотеки навыков, код гарнесса или параметры модели по результатам работы в реальной среде.
L5 (Recursive Inheritance / Meta-Improvement / Рекурсивное мета-улучшение): ИИ модифицирует сам механизм, управляющий будущими улучшениями (агента-улучшителя, алгоритм поиска, верификатор или процедуру оценки).