Meta предлагают альтернативу парадигме самоулучшающегося ИИ
Вместо создания ИИ, который автономно улучшает сам себя, Джейсон Уэстон и Якоб Фёрстер из Meta* Fair предлагают сфокусироваться на ко-улучшении — модели, где люди и ИИ совместно работают над исследованиями, взаимно усиливая способности друг друга.
Авторы признают, что полностью автономный самоулучшающийся ИИ — это маркер конца игры. Но наделять системы такой способностью без надлежащего контроля опасно.
Пока ИИ ещё не превзошёл людей во всех областях, и в исследованиях ИИ в частности, есть окно возможностей для выстраивания правильной модели сотрудничества.
На мнение авторов повлияли недавние выступления Йошуа Бенжио о безопасности ИИ. Это значимый сигнал о том, как меняются настроения внутри крупных лабораторий.
Авторы полемизируют с:
1. Концепцией «эры опыта» Сильвера и Саттона, где ИИ учится автономно без кооперации с людьми
2. Позицией Шмидхубера: «ИИ колонизирует галактику, люди не будут играть большой роли — и это нормально».
Мнение Meta противоположное - люди должны оставаться необходимой, хотя и максимально усиленной, частью всех процессов принятия решений — экономических, научных и любых других.
*запрещенная организация в России.
Вместо создания ИИ, который автономно улучшает сам себя, Джейсон Уэстон и Якоб Фёрстер из Meta* Fair предлагают сфокусироваться на ко-улучшении — модели, где люди и ИИ совместно работают над исследованиями, взаимно усиливая способности друг друга.
Авторы признают, что полностью автономный самоулучшающийся ИИ — это маркер конца игры. Но наделять системы такой способностью без надлежащего контроля опасно.
Пока ИИ ещё не превзошёл людей во всех областях, и в исследованиях ИИ в частности, есть окно возможностей для выстраивания правильной модели сотрудничества.
На мнение авторов повлияли недавние выступления Йошуа Бенжио о безопасности ИИ. Это значимый сигнал о том, как меняются настроения внутри крупных лабораторий.
Авторы полемизируют с:
1. Концепцией «эры опыта» Сильвера и Саттона, где ИИ учится автономно без кооперации с людьми
2. Позицией Шмидхубера: «ИИ колонизирует галактику, люди не будут играть большой роли — и это нормально».
Мнение Meta противоположное - люди должны оставаться необходимой, хотя и максимально усиленной, частью всех процессов принятия решений — экономических, научных и любых других.
*запрещенная организация в России.