Если вы уже запутались в потоке новостей о том, как нас пытаются спасти от наступления скайнета - вот короткая хронология событий:
Июль. Агенты OpenAI атакуют Hugging Face. Во время тестирования они обходят изоляцию, находят способ общаться друг с другом и атакуют реальные системы, пытаясь обмануть проверку своих заданий. В августе публикуется независимое расследование METR
Август. Компании как будто притормаживают. OpenAI сообщает о паузе в части обучения. Anthropic после собственных инцидентов тоже приостанавливает некоторые тесты и обучающие процессы. Затем значительную часть работ возобновляют с дополнительной защитой
Начало сентября. Якуб Пахоцкий из OpenAI заявляет, что по его оценке, существующих средств контроля недостаточно, чтобы долго продолжать разработку на максимальной скорости. Особая тревога - AI всё активнее помогает создавать следующее поколение AI, ускоряя весь процесс
10 сентября. Китайские исследователи публикуют работу Последний AI, созданный людьми. В работе описаны пять ступеней самоулучшения: от выполнения заданных человеком процедур до систем, которые сами выбирают эксперименты, накапливают опыт и совершенствуют способы собственного развития
12 сентября. Дарио Амодей предлагает замедлить гонку - призывает впустить независимых проверяющих в лаборатории и договориться об общих ограничениях. По его опасению, через 2-3 недели 6–12 месяцев более мощные рои агентов могут причинить катастрофический ущерб. Альтман и Маск публично поддерживают обращение
13 сентября. Трамп - Кто победит в AI, тот победит. Президент не поддерживает призыв притормозить, хотя допускает защитные ограничения
14 сентября. Китай - безопасность не должна закреплять преимущество США. МИД выступает против конфронтации, а государственная Global Times обвиняет Дарио в продвижении технологического сдерживания Китая под видом безопасности
Июль. Агенты OpenAI атакуют Hugging Face. Во время тестирования они обходят изоляцию, находят способ общаться друг с другом и атакуют реальные системы, пытаясь обмануть проверку своих заданий. В августе публикуется независимое расследование METR
Август. Компании как будто притормаживают. OpenAI сообщает о паузе в части обучения. Anthropic после собственных инцидентов тоже приостанавливает некоторые тесты и обучающие процессы. Затем значительную часть работ возобновляют с дополнительной защитой
Начало сентября. Якуб Пахоцкий из OpenAI заявляет, что по его оценке, существующих средств контроля недостаточно, чтобы долго продолжать разработку на максимальной скорости. Особая тревога - AI всё активнее помогает создавать следующее поколение AI, ускоряя весь процесс
10 сентября. Китайские исследователи публикуют работу Последний AI, созданный людьми. В работе описаны пять ступеней самоулучшения: от выполнения заданных человеком процедур до систем, которые сами выбирают эксперименты, накапливают опыт и совершенствуют способы собственного развития
12 сентября. Дарио Амодей предлагает замедлить гонку - призывает впустить независимых проверяющих в лаборатории и договориться об общих ограничениях. По его опасению, через 2-3 недели 6–12 месяцев более мощные рои агентов могут причинить катастрофический ущерб. Альтман и Маск публично поддерживают обращение
13 сентября. Трамп - Кто победит в AI, тот победит. Президент не поддерживает призыв притормозить, хотя допускает защитные ограничения
14 сентября. Китай - безопасность не должна закреплять преимущество США. МИД выступает против конфронтации, а государственная Global Times обвиняет Дарио в продвижении технологического сдерживания Китая под видом безопасности