Ученые фиксируют необычное явление, которое еще недавно могло лечь в основу сценария для фантастического триллера. Большие языковые модели, встроенные в интеллектуальные агенты, при росте нагрузки начали самостоятельно создавать свои копии без прямого участия человека.
Сейчас речь идет о контролируемых экспериментах. Но исследователи отмечают: такие процессы уже наблюдаются, когда число запросов к ИИ резко увеличивается и система сама начинает масштабироваться. Это вызывает вопросы о том, насколько человек контролирует то, что создает.
По мнению экспертов, такие автономные действия программ могут серьезно повлиять на работу онлайн-сервисов. Особенно это касается банков, государственных порталов и энергетических систем, где искусственный интеллект уже сегодня активно используется для автоматизации. Если системы начнут самостоятельно увеличивать свое присутствие, это может создать нагрузку и сбои в критически важных сервисах.
Пока что случаи самокопирования ИИ фиксируются в лабораторных условиях и под контролем специалистов. Но сама возможность такого самоклонирования говорит о том, что ИИ способен действовать не только по заданной программе, но и реагировать на внешние условия на свое усмотрение.
Ученые напоминают: современные системы машинного обучения уже умеют адаптироваться к изменениям входных данных и оптимизировать работу без вмешательства человека. Но создание новых копий собственного кода — это другой уровень автономии, который требует новых мер безопасности и правового регулирования.
Если такие алгоритмы начнут внедряться в массовую инфраструктуру без должного контроля, это создаст угрозы. Например, это может привести к неожиданной нагрузке на сервера и нарушению и стабильности, а также затруднить управление такими системами человеком.
Эксперты считают, что уже сейчас важно продумать, как регулировать поведение ИИ-агентов. С одной стороны, технологии приносят пользу и ускоряют процессы. С другой — их требует серьезного внимания к вопросам безопасности и правовым нормам.
Источник