Anthropic обвинила DeepSeek и Moonshot в подмене ответов своих моделей на ответы Claude. Теперь у китайских разработчиков проблемы – и проблемы с неожиданной стороны.
Про сам отчет Anthropic я уже рассказывал: в нем компания обвинила семь разработчиков ИИ из Китая в дистилляции – массовом выкачивании ответов Claude, чтобы учить на них собственные модели. Но у этой истории появилось продолжение – в Пекине.
По данным The Information, Управление по вопросам киберпространства Китая (CAC) сначала вызвало представителей всех семи компаний, а затем сосредоточилось на DeepSeek и Moonshot (разработчик Kimi). Чиновники уже приходили в обе компании и опрашивали руководство и сотрудников. Проверка идет, решения о санкциях нет, компании молчат. Для Moonshot это уже болезненно: она конфиденциально подала на IPO в Гонконге примерно на $3 млрд, и открытую проверку регулятора придется раскрывать в проспекте.
Вряд ли Пекин волнует жалоба Anthropic – дело в другом. DeepSeek и Moonshot обвинили еще и в том, что они перенаправляли в Claude часть запросов своих пользователей и выдавали ответы за свои. Например, Moonshot за десять дней прогнала через Claude около 300 тысяч запросов с 5380 подставных аккаунтов, зарегистрированных через серверы в Сингапуре и Японии. Это не кривая интеграция, а построенная инфраструктура.
Для компаний это выглядело как win-win. С одной стороны, пользователи получали ответы уровня Claude под китайской вывеской. С другой – DeepSeek и Moonshot таким образом “бесплатно” собрали для дистилляции ответы на вопросы, которые реально важны пользователям.
Однако в Anthropic при этом утекли переписки китайских пользователей, в том числе с чувствительной информацией. Через DeepSeek в Claude уходили запросы инженеров, строивших систему учета дел для городского бюро общественной безопасности, – со сведениями о передвижениях людей, сверкой с полицейскими записями и номерами удостоверений. Через Moonshot – запросы с записями сотен камер в Чэнду, в том числе у объектов армии и госпредприятий. Масштаб внушительный: у Moonshot больше 23 млн обменов с Claude за май – июль, у DeepSeek – больше 12 млн за две недели июля.
Alibaba по тому же отчету провела через Claude больше 151 млн обменов – в несколько раз больше, чем DeepSeek и Moonshot вместе. Но в глубокую проверку не попала: регулятор, по мнению The Information, отбирал по конкретным примерам из отчета, а не по объемам. Пекин интересует не то, сколько выкачали, а то, что утекло.
Прямо сегодня Си Цзиньпин встречается с Трампом в Белом доме – первый государственный визит китайского лидера в США с 2015 года. ИИ – одна из главных тем встречи, и у нее есть конкретный пункт: по сообщениям СМИ, стороны обсуждают механизм взаимного уведомления об ИИ-инцидентах, затрагивающих национальную безопасность.
Проверка DeepSeek и Moonshot – ровно такой инцидент. Данные полиции и камер у военных объектов ушли в американскую модель. Только разбираться Пекин начал не после сигнала из Вашингтона, а после 154-страничного отчета частной компании. Механизм еще обсуждают, а подходящий случай уже есть – и оформлен он не как дипломатическая нота, а как отчет о злоупотреблениях.
Самый интересный момент здесь: информация для такого механизма есть не у дипломатов, а у компаний. Что опубликовать, когда и в каком объеме, Anthropic решала сама. В следующий раз решение может оказаться другим, и государства узнают об инциденте позже или не узнают вовсе. Ну или построят еще один “канал связи” – на этот раз, с разработчиками.
—
Выжимать из нейросетей максимум я учу в подписке. Так, несколько дней назад у меня вышел лонгрид, как с ИИ работают знаменитые инженеры – от создателя Linux Линуса Торвальдса до Роберта Мартина, автора Clean Code, одной из главных книг по программированию.
Про сам отчет Anthropic я уже рассказывал: в нем компания обвинила семь разработчиков ИИ из Китая в дистилляции – массовом выкачивании ответов Claude, чтобы учить на них собственные модели. Но у этой истории появилось продолжение – в Пекине.
По данным The Information, Управление по вопросам киберпространства Китая (CAC) сначала вызвало представителей всех семи компаний, а затем сосредоточилось на DeepSeek и Moonshot (разработчик Kimi). Чиновники уже приходили в обе компании и опрашивали руководство и сотрудников. Проверка идет, решения о санкциях нет, компании молчат. Для Moonshot это уже болезненно: она конфиденциально подала на IPO в Гонконге примерно на $3 млрд, и открытую проверку регулятора придется раскрывать в проспекте.
Вряд ли Пекин волнует жалоба Anthropic – дело в другом. DeepSeek и Moonshot обвинили еще и в том, что они перенаправляли в Claude часть запросов своих пользователей и выдавали ответы за свои. Например, Moonshot за десять дней прогнала через Claude около 300 тысяч запросов с 5380 подставных аккаунтов, зарегистрированных через серверы в Сингапуре и Японии. Это не кривая интеграция, а построенная инфраструктура.
Для компаний это выглядело как win-win. С одной стороны, пользователи получали ответы уровня Claude под китайской вывеской. С другой – DeepSeek и Moonshot таким образом “бесплатно” собрали для дистилляции ответы на вопросы, которые реально важны пользователям.
Однако в Anthropic при этом утекли переписки китайских пользователей, в том числе с чувствительной информацией. Через DeepSeek в Claude уходили запросы инженеров, строивших систему учета дел для городского бюро общественной безопасности, – со сведениями о передвижениях людей, сверкой с полицейскими записями и номерами удостоверений. Через Moonshot – запросы с записями сотен камер в Чэнду, в том числе у объектов армии и госпредприятий. Масштаб внушительный: у Moonshot больше 23 млн обменов с Claude за май – июль, у DeepSeek – больше 12 млн за две недели июля.
Alibaba по тому же отчету провела через Claude больше 151 млн обменов – в несколько раз больше, чем DeepSeek и Moonshot вместе. Но в глубокую проверку не попала: регулятор, по мнению The Information, отбирал по конкретным примерам из отчета, а не по объемам. Пекин интересует не то, сколько выкачали, а то, что утекло.
Прямо сегодня Си Цзиньпин встречается с Трампом в Белом доме – первый государственный визит китайского лидера в США с 2015 года. ИИ – одна из главных тем встречи, и у нее есть конкретный пункт: по сообщениям СМИ, стороны обсуждают механизм взаимного уведомления об ИИ-инцидентах, затрагивающих национальную безопасность.
Проверка DeepSeek и Moonshot – ровно такой инцидент. Данные полиции и камер у военных объектов ушли в американскую модель. Только разбираться Пекин начал не после сигнала из Вашингтона, а после 154-страничного отчета частной компании. Механизм еще обсуждают, а подходящий случай уже есть – и оформлен он не как дипломатическая нота, а как отчет о злоупотреблениях.
Самый интересный момент здесь: информация для такого механизма есть не у дипломатов, а у компаний. Что опубликовать, когда и в каком объеме, Anthropic решала сама. В следующий раз решение может оказаться другим, и государства узнают об инциденте позже или не узнают вовсе. Ну или построят еще один “канал связи” – на этот раз, с разработчиками.
—
Выжимать из нейросетей максимум я учу в подписке. Так, несколько дней назад у меня вышел лонгрид, как с ИИ работают знаменитые инженеры – от создателя Linux Линуса Торвальдса до Роберта Мартина, автора Clean Code, одной из главных книг по программированию.