Anthropic обновила правила использования своих ИИ-сервисов и запретила систематическое и чрезмерное оскорбительное поведение по отношению к моделям.

Впрочем, ругать Claude за ошибки, спорить с ним и проверять на прочность по-прежнему можно. Запрет касается крайних случаев, когда пользователь издевается над нейросетью просто ради удовольствия. Если такое поведение повторяется, Claude может самостоятельно завершить разговор.

Будут ли за виртуальное хамство блокировать аккаунты, Anthropic пока не уточнила. Конечно, нейросеть не обижается в человеческом смысле слова. Но тенденция занятная – теперь ИИ не только помогает нам решать проблемы, но и при определённых обстоятельствах может отказаться участвовать в их создании.