Google: как измерить сознание ИИ, не зная, что такое сознание
Исследователи Google DeepMind с коллегами представили свежую работу «От какофонии к иерархии».
Авторы отмечают, что проблема не в том, что теорий о сознании мало (их как раз много), а в том, что они говорят на разных языках и не могут договориться между собой.
Одни говорят, что сознание - это поведение, другие - вычисление, а третьи - особая причинно-следственная структура, четвёртые - только живой организм, а пятые, что это про взаимодействие тела с миром. Все они дают разные ответы на один вопрос.
Исследователи предлагают не решать этот спор, а структурировать его. Они выстраивают пятиуровневую иерархию от поведенческого уровня до уровня организм–среда и показывают, что каждая теория сознания делает ставку на какой-то из этих уровней.
И исходя из этого видно, где расходятся позиции в интерпретации данных или в самой теории.
Особая проблема для ИИ, говорят авторы, заключается в том, что современные языковые модели антропомиметичны, они обучены воспроизводить продукты человеческого познания и речи. Поэтому человекоподобное поведение одновременно является свидетельством и помехой.
Система может показывать все признаки сознания потому, что научилась их имитировать, а не потому что у неё есть сознание.
Дальше авторы создают байесовскую модель, которая берёт одни и те же данные о языковой модели и показывает, что при оптимистичной интерпретации вероятность сознания у LLM 0.397, а при скептической 0.005. Меняешь не данные, а теоретические веса уровней и получаешь разброс от 0.099 до 0.793.
Авторы называют свою позицию структурированным агностицизмом: делай допущения явными, делай данные явными, обновляй и то, и другое и предпочитай калиброванную неопределённость преждевременному вердикту.
Они также выпустили интерактивный инструмент, где можно самому поиграть с допущениями.
_______
Источник | #blockchainRF
@F_S_C_P
▪️Генерируй картинки и видео в Mini App:
Flux + Veo 3 + Wan 2.2 + MidJourney v7 + другие
Исследователи Google DeepMind с коллегами представили свежую работу «От какофонии к иерархии».
Авторы отмечают, что проблема не в том, что теорий о сознании мало (их как раз много), а в том, что они говорят на разных языках и не могут договориться между собой.
Одни говорят, что сознание - это поведение, другие - вычисление, а третьи - особая причинно-следственная структура, четвёртые - только живой организм, а пятые, что это про взаимодействие тела с миром. Все они дают разные ответы на один вопрос.
Исследователи предлагают не решать этот спор, а структурировать его. Они выстраивают пятиуровневую иерархию от поведенческого уровня до уровня организм–среда и показывают, что каждая теория сознания делает ставку на какой-то из этих уровней.
И исходя из этого видно, где расходятся позиции в интерпретации данных или в самой теории.
Особая проблема для ИИ, говорят авторы, заключается в том, что современные языковые модели антропомиметичны, они обучены воспроизводить продукты человеческого познания и речи. Поэтому человекоподобное поведение одновременно является свидетельством и помехой.
Система может показывать все признаки сознания потому, что научилась их имитировать, а не потому что у неё есть сознание.
Дальше авторы создают байесовскую модель, которая берёт одни и те же данные о языковой модели и показывает, что при оптимистичной интерпретации вероятность сознания у LLM 0.397, а при скептической 0.005. Меняешь не данные, а теоретические веса уровней и получаешь разброс от 0.099 до 0.793.
Авторы называют свою позицию структурированным агностицизмом: делай допущения явными, делай данные явными, обновляй и то, и другое и предпочитай калиброванную неопределённость преждевременному вердикту.
Они также выпустили интерактивный инструмент, где можно самому поиграть с допущениями.
_______
Источник | #blockchainRF
@F_S_C_P
▪️Генерируй картинки и видео в Mini App:
Flux + Veo 3 + Wan 2.2 + MidJourney v7 + другие