Claude уже помогает в слежке, обмане, разработке оружия и создании вирусов: Anthropic выпустили большой отчет о том, как преступники используют ИИ.

Из интересного:

– В Китае создали сеть из 20 фейковых дейтингов. За две недели там появилось больше 4,7 тыс. разных ИИ-персонажей, которые общались как минимум с 25 тыс. людей. А потом из них вытаскивали деньги;

– Также рассказали про 6 случаев разработки оружия. В одном из них Claude использовали для разработки ПО управляемой ракеты, в другом — для создания противоторпедной системы;

– В Иране Claude сделал расширение для Firefox, чтобы собирать данные людей в соцсетях. ИИ проанализировал сотни тысяч постов и отобрал 39 оппозиционных аккаунтов, чтобы вести за ними слежку.

И это только часть примеров. Полный отчет можно почитать здесь.

https://www-cdn.anthropic.com/e50be2e51e7695dc4b1366a37a245a597377d3b5/Anthropic-Detecting-and-countering-091026.pdf