🔥ИИ начинает воспроизводить сам себя
Эксперты из Кембриджской программы по науке и политике в области ИИ (CASP) бьют тревогу: технологии способны резко ускорить собственную эволюцию, уместив годы прогресса в считанные месяцы. Под предупреждением о риске «взрыва интеллекта» поставили подписи более 20 ведущих специалистов, включая пионеров машинного обучения Джеффри Хинтона и Йошуа Бенджио, а также представителей OpenAI, Anthropic и Microsoft — они выступили от своего имени, подчёркивая серьёзность сценария.Сейчас ИИ уже активно участвует в разработке: помогает писать и проверять код, проектировать эксперименты и генерировать обучающие данные, а при дальнейшей автоматизации это создаст петлю ускорения — улучшенные модели будут создавать следующие поколения систем.
При этом авторы не считают такой сценарий неизбежным: его могут сдержать нехватка вычислительных мощностей, сложные для автоматизации задачи и другие барьеры, но первые признаки уже есть — например, в Anthropic ИИ-ассистент Claude теперь задействован примерно в четверти внутренних исследовательских задач, тогда как ещё в феврале его роль была нулевой. Исследователи призывают к прозрачности, независимым проверкам и механизмам экстренной остановки, ведь когда ускорение станет очевидным, времени на выработку защитных мер может уже не остаться.
В этой новости замечательно все, но особо прекрасен тезис, что сдержать саморазвитие ИИ может нехватка вычислительных мощностей. Вслушайтесь в это. Тонко, не правда ли? Тут возникает вопрос: а для кого мы строим вычислительную инфраструктуру — для себя или для искусственного интеллекта?https://mltimes.ai/sozdateli-ii-predupredili-sistemy-mogut-uskorit-sobstvennuyu/
Эксперты из Кембриджской программы по науке и политике в области ИИ (CASP) бьют тревогу: технологии способны резко ускорить собственную эволюцию, уместив годы прогресса в считанные месяцы. Под предупреждением о риске «взрыва интеллекта» поставили подписи более 20 ведущих специалистов, включая пионеров машинного обучения Джеффри Хинтона и Йошуа Бенджио, а также представителей OpenAI, Anthropic и Microsoft — они выступили от своего имени, подчёркивая серьёзность сценария.Сейчас ИИ уже активно участвует в разработке: помогает писать и проверять код, проектировать эксперименты и генерировать обучающие данные, а при дальнейшей автоматизации это создаст петлю ускорения — улучшенные модели будут создавать следующие поколения систем.
При этом авторы не считают такой сценарий неизбежным: его могут сдержать нехватка вычислительных мощностей, сложные для автоматизации задачи и другие барьеры, но первые признаки уже есть — например, в Anthropic ИИ-ассистент Claude теперь задействован примерно в четверти внутренних исследовательских задач, тогда как ещё в феврале его роль была нулевой. Исследователи призывают к прозрачности, независимым проверкам и механизмам экстренной остановки, ведь когда ускорение станет очевидным, времени на выработку защитных мер может уже не остаться.
В этой новости замечательно все, но особо прекрасен тезис, что сдержать саморазвитие ИИ может нехватка вычислительных мощностей. Вслушайтесь в это. Тонко, не правда ли? Тут возникает вопрос: а для кого мы строим вычислительную инфраструктуру — для себя или для искусственного интеллекта?https://mltimes.ai/sozdateli-ii-predupredili-sistemy-mogut-uskorit-sobstvennuyu/