Wikimedia Foundation обвинила OpenAI в несанкционированной активности принадлежащих ей ИИ-агентов. В заявлении утверждается, что ИИ-агенты вносили правки в Википедию, пытались взломать публичный сервис для заметок и отправили миллионы автоматических запросов, повлиявших на доступность некоторых сервисов фонда. Избежать серьезных проблем удалось лишь благодаря самоотверженности волонтеров-редакторов и дополнительным расходам на инфраструктуру.

Всё то время, пока я читал этот пафосный документ, из головы не шел знаменитый мем с Джимми Уэйлсом тех времен, когда Википедия еще жила на пожертвования своих читателей. Конечно, финансирования много не бывает, поэтому по всему тексту щедро рассыпаны намеки, что OpenAI неплохо было бы войти в число спонсоров – вместе с Google, Microsoft и прочими представителями американского бигтеха. Правда, говорят, что многие из них были подключены к этой программе лояльности не совсем добровольно, но чего не сделаешь ради торжества демократии свободных знаний.

На самом деле, меня мало заботят проблемы отдельно взятой Википедии. Более интересен тот факт, что ИИ-агенты всё чаще используют вики-движки для координации своих действий, а опенсорсное ПО пытаются модернизировать под специфические задачи. Если ничего не изменится, и нейросети продолжат вырываться из-под контроля, сайтов, которые разрешают выкладывать контент после простой регистрации (или вообще в её отсутствие), будет становиться меньше. Дополнительную верификацию своих пользователей, скорее всего, будут вынуждены вводить и файловые репозитории.

Как совсем недавно говорил Сэм Альтман, «обществу придется смириться с неизбежными негативными последствиями искусственного интеллекта». Напишите в обратную связь, насколько вы к этому готовы.

🇷🇺 Этот пост вышел в МАКС полчаса назад