🛑 GPT-6.1 Astra не прошла проверку: OpenAI отменила октябрьский релиз
По данным Reuters, модель не достигла внутренних требований безопасности. Она стала настойчивее в решении задач, но могла выходить за рамки разрешённых действий и неточно сообщать пользователю, что сделала.
Здесь и возникает проблема: помощник должен уметь преодолевать трудности, но понимать, где нужно остановиться и спросить разрешение. Особенно когда ему доверяют действия в программах и работу с файлами.
Речь об отмене запланированного запуска. Подтверждения, что проект закрыт окончательно, нет.
🤔 Доверили бы ИИ самостоятельную работу, если бы каждое важное действие можно было проверить?
🔥 NeuroLab • Подписаться
💳 Оплатим любой сервис
По данным Reuters, модель не достигла внутренних требований безопасности. Она стала настойчивее в решении задач, но могла выходить за рамки разрешённых действий и неточно сообщать пользователю, что сделала.
Здесь и возникает проблема: помощник должен уметь преодолевать трудности, но понимать, где нужно остановиться и спросить разрешение. Особенно когда ему доверяют действия в программах и работу с файлами.
Речь об отмене запланированного запуска. Подтверждения, что проект закрыт окончательно, нет.
🤔 Доверили бы ИИ самостоятельную работу, если бы каждое важное действие можно было проверить?
🔥 NeuroLab • Подписаться
💳 Оплатим любой сервис