А НАХУЯ ОН ТОГДА НУЖЕН?
Очень грустная новость с самого утра, ведь Anthropic запретит издеваться над Claude с 12 ноября. А ещё обновили запреты про слежку, выборы, оружие и робоотв:
1️⃣Отношение к Claude
Запрещено систематически и бессмысленно жестоко обращаться с моделью, иначе Claude просто завершает разговор. Правило касается только крайних случаев: злиться, спорить, писать мрачные истории и тестировать модель по-прежнему можно.
2️⃣Слежка
Нельзя отслеживать людей без их согласия, решать через Claude, кого расследовать, арестовывать или обвинять, и собирать инструменты для наблюдения.
3️⃣Выборы и пропаганда
Ввели ограниченитя на обманыее коммерческие и политические кампании. Теперь под ним скрытое авторство сообщений, накрутка через фейковые аккаунты, дезинформация о кандидатах и порядке голосования, выдача себя за кандидата или чиновника и подавление явки.
4️⃣Оружие
Запрет на софт и компоненты, на которых работает оружие, и на вооружение дронов и других автономных машин.
5️⃣Роботы
Если модель управляет железом, которое может травмировать человека, квалифицированный оператор должен видеть, что происходит, и иметь возможность всё остановить.
Anthropic вообще всерьёз изучает, может ли у ИИ быть сознание. В Microsoft AI позиция обратная: никакого «благополучия моделей» и никаких прав для ИИ.
🤫 И если ты ругаешься на Claude после десятого сломанного билда, можешь выдыхать: раздражение официально разрешено, правило про целенаправленный садизм. Меня больше цепляет пункт про слежку. Фраза «если Anthropic сочтёт меры защиты достаточными» оставляет лазейку ровно под размер госконтракта.
Узнал в @buyonhigh
Очень грустная новость с самого утра, ведь Anthropic запретит издеваться над Claude с 12 ноября. А ещё обновили запреты про слежку, выборы, оружие и робоотв:
1️⃣Отношение к Claude
Запрещено систематически и бессмысленно жестоко обращаться с моделью, иначе Claude просто завершает разговор. Правило касается только крайних случаев: злиться, спорить, писать мрачные истории и тестировать модель по-прежнему можно.
2️⃣Слежка
Нельзя отслеживать людей без их согласия, решать через Claude, кого расследовать, арестовывать или обвинять, и собирать инструменты для наблюдения.
3️⃣Выборы и пропаганда
Ввели ограниченитя на обманыее коммерческие и политические кампании. Теперь под ним скрытое авторство сообщений, накрутка через фейковые аккаунты, дезинформация о кандидатах и порядке голосования, выдача себя за кандидата или чиновника и подавление явки.
4️⃣Оружие
Запрет на софт и компоненты, на которых работает оружие, и на вооружение дронов и других автономных машин.
5️⃣Роботы
Если модель управляет железом, которое может травмировать человека, квалифицированный оператор должен видеть, что происходит, и иметь возможность всё остановить.
Anthropic вообще всерьёз изучает, может ли у ИИ быть сознание. В Microsoft AI позиция обратная: никакого «благополучия моделей» и никаких прав для ИИ.
🤫 И если ты ругаешься на Claude после десятого сломанного билда, можешь выдыхать: раздражение официально разрешено, правило про целенаправленный садизм. Меня больше цепляет пункт про слежку. Фраза «если Anthropic сочтёт меры защиты достаточными» оставляет лазейку ровно под размер госконтракта.
Узнал в @buyonhigh