133 млн обменов сообщениями с Claude прошли без защиты от биоугроз
Около 50 тысяч человек, включая подрядчиков и собственные команды Anthropic, почти год работали с моделями без фильтров, блокирующих опасные биологические запросы. За это время через платформы обратной связи прошло 133 млн обменов сообщениями.
Проверка не выявила явного злоупотребления. Но служебная настройка отключила не только защиту, но и регистрацию подозрительных обращений — компания теперь допускает, что в её системах могут оставаться похожие неизвестные пробелы.
@mltimesofficial
🔗 Читать: https://mltimes.ai/133-mln-obmenov-soobscheniyami-s-claude-proshli-bez-zaschity/
Около 50 тысяч человек, включая подрядчиков и собственные команды Anthropic, почти год работали с моделями без фильтров, блокирующих опасные биологические запросы. За это время через платформы обратной связи прошло 133 млн обменов сообщениями.
Проверка не выявила явного злоупотребления. Но служебная настройка отключила не только защиту, но и регистрацию подозрительных обращений — компания теперь допускает, что в её системах могут оставаться похожие неизвестные пробелы.
@mltimesofficial
🔗 Читать: https://mltimes.ai/133-mln-obmenov-soobscheniyami-s-claude-proshli-bez-zaschity/