🤔 Загрузил документы в нейросеть – остался без работы!
Похоже, у корпоративных служб безопасности появилась новая головная боль: в Москве руководителя отдела по продажам одной из компаний уволили за разглашение коммерческой тайны. Оказалось, сотрудница загружала конфиденциальные документы в китайскую нейросеть DeepSeek.
🖊 Правда, помимо «скармливания» важных документов ИИ, девушка также отправляла себе их на личную почту, но нам интересен этот кейс именно с точки зрения передачи данных нейросети. Итак, компания заметила слив, сотрудницу уволили, после чего начались судебные разбирательства (девушка требовала изменить формулировку на расторжение договора «по соглашению сторон» и выплатить ей 5 миллионов рублей). Суд же решил, что производственной необходимости передавать данные через внешние сервисы не было, признав увольнение законным.
А вот теперь скажите, вы сами когда-нибудь загружали рабочие документы в нейросети? Например, чтобы они помогли в сортировке, дополнили данными, переделали формат и прочее. Видите ли, с точки зрения информационной безопасности загрузка документа в публичную нейросеть – примерно то же самое, что отправить его неизвестному внешнему подрядчику. Тот же DeepSeek прямо указывает, что собирает введенные запросы и загруженные файлы, может использовать информацию для развития своих технологий, а данные пользователей могут храниться на серверах в Китае.
🎭 В 2023 году был громкий скандал, когда сотрудники Samsung загрузили в ChatGPT закрытый исходный код, информацию о полупроводниковом оборудовании, а также расшифровку внутреннего совещания. Никто из них не хотел намеренно навредить компании, напротив: нейросеть просили найти ошибку в программе, оптимизировать код и быстро подготовить протокол встречи. После нескольких таких инцидентов Samsung ограничила, а затем запретила использование публичных генеративных сервисов.
Забавная история была и с американским Amazon. Юрист компании потребовал не отправлять ChatGPT внутренние материалы, поскольку ответы нейросети начали подозрительно напоминать закрытую информацию Amazon. Google также запретила сотрудникам вводить конфиденциальные данные во внешние чат-боты. Пока что мы не слышали о больших волнах увольнений в зарубежных компаниях за передачу рабочих документов нейросетям, но там сейчас вводят тотальные ограничения и проводят внутренние расследования.
Предполагаю, что одним инструктажем в стиле «не загружайте секретные документы в ChatGPT» тут не отделаешься. Большие компании будут пытаться технически отслеживать, какие данные сотрудники копируют данные и что отправляют ИИ. И такие механизмы уже существуют. В итоге нейросеть может постепенно стать обычной частью корпоративного контура: разрешенные модели, журналирование запросов, автоматическая проверка документов и персональная ответственность за каждый загруженный файл. В интересное время живем…
Похоже, у корпоративных служб безопасности появилась новая головная боль: в Москве руководителя отдела по продажам одной из компаний уволили за разглашение коммерческой тайны. Оказалось, сотрудница загружала конфиденциальные документы в китайскую нейросеть DeepSeek.
🖊 Правда, помимо «скармливания» важных документов ИИ, девушка также отправляла себе их на личную почту, но нам интересен этот кейс именно с точки зрения передачи данных нейросети. Итак, компания заметила слив, сотрудницу уволили, после чего начались судебные разбирательства (девушка требовала изменить формулировку на расторжение договора «по соглашению сторон» и выплатить ей 5 миллионов рублей). Суд же решил, что производственной необходимости передавать данные через внешние сервисы не было, признав увольнение законным.
А вот теперь скажите, вы сами когда-нибудь загружали рабочие документы в нейросети? Например, чтобы они помогли в сортировке, дополнили данными, переделали формат и прочее. Видите ли, с точки зрения информационной безопасности загрузка документа в публичную нейросеть – примерно то же самое, что отправить его неизвестному внешнему подрядчику. Тот же DeepSeek прямо указывает, что собирает введенные запросы и загруженные файлы, может использовать информацию для развития своих технологий, а данные пользователей могут храниться на серверах в Китае.
🎭 В 2023 году был громкий скандал, когда сотрудники Samsung загрузили в ChatGPT закрытый исходный код, информацию о полупроводниковом оборудовании, а также расшифровку внутреннего совещания. Никто из них не хотел намеренно навредить компании, напротив: нейросеть просили найти ошибку в программе, оптимизировать код и быстро подготовить протокол встречи. После нескольких таких инцидентов Samsung ограничила, а затем запретила использование публичных генеративных сервисов.
Забавная история была и с американским Amazon. Юрист компании потребовал не отправлять ChatGPT внутренние материалы, поскольку ответы нейросети начали подозрительно напоминать закрытую информацию Amazon. Google также запретила сотрудникам вводить конфиденциальные данные во внешние чат-боты. Пока что мы не слышали о больших волнах увольнений в зарубежных компаниях за передачу рабочих документов нейросетям, но там сейчас вводят тотальные ограничения и проводят внутренние расследования.
Предполагаю, что одним инструктажем в стиле «не загружайте секретные документы в ChatGPT» тут не отделаешься. Большие компании будут пытаться технически отслеживать, какие данные сотрудники копируют данные и что отправляют ИИ. И такие механизмы уже существуют. В итоге нейросеть может постепенно стать обычной частью корпоративного контура: разрешенные модели, журналирование запросов, автоматическая проверка документов и персональная ответственность за каждый загруженный файл. В интересное время живем…