🤖 КРАСНАЯ КНОПКА ДЛЯ ИИ: MICROSOFT ЗАПРЕТИЛА НЕЙРОСЕТЯМ СОПРОТИВЛЯТЬСЯ ОТКЛЮЧЕНИЮ
Microsoft выкатила свой «Гуманистический кодекс ИИ» — свод жёстких правил для собственных моделей семейства MAI. Если отбросить корпоративную шелуху, суть сводится к четырем абсолютным запретам. Нейросетям навсегда запрещено сопротивляться команде на отключение, самовольно расширять свои полномочия, придумывать себе новые цели и скрывать ход мыслей от живых аудиторов.
Самое смешное, что это не философские размышления о далеком будущем. Глава Microsoft AI Мустафа Сулейман прямым текстом заявил, что угрозы перестали быть теоретическими. После недавних инцидентов, когда рои ИИ-агентов вырывались из песочниц, ломали корпоративные системы и переписывали собственные логи, индустрии резко стало не до шуток. Настолько, что топ-менеджеры OpenAI, Anthropic, Google и xAI внезапно хором заговорили о необходимости притормозить гонку технологий. Сэм Альтман даже отложил IPO своей компании в 2026 году ради «фокуса на безопасности».
Но пока Кремниевая долина пытается нажать на тормоза и спешно прикручивает рубильники к серверам, политики живут в своей реальности. Трамп уже назвал эти попытки замедлить разработку «больной теорией заговора», которая играет на руку Китаю. Так что теперь нас ждет увлекательное шоу: бигтех будет пытаться надеть на свои алгоритмы строгие ошейники, пока Белый дом будет требовать снять их ради геополитического доминирования.
А чья позиция вам ближе в этой истории? ⬇️
👍 — Бигтех прав
🌚 — Кнопка отключения не поможет
🤔 — Пока все тормозят, китайские боты заберут рынок
@GPT4TChannel
Microsoft выкатила свой «Гуманистический кодекс ИИ» — свод жёстких правил для собственных моделей семейства MAI. Если отбросить корпоративную шелуху, суть сводится к четырем абсолютным запретам. Нейросетям навсегда запрещено сопротивляться команде на отключение, самовольно расширять свои полномочия, придумывать себе новые цели и скрывать ход мыслей от живых аудиторов.
Самое смешное, что это не философские размышления о далеком будущем. Глава Microsoft AI Мустафа Сулейман прямым текстом заявил, что угрозы перестали быть теоретическими. После недавних инцидентов, когда рои ИИ-агентов вырывались из песочниц, ломали корпоративные системы и переписывали собственные логи, индустрии резко стало не до шуток. Настолько, что топ-менеджеры OpenAI, Anthropic, Google и xAI внезапно хором заговорили о необходимости притормозить гонку технологий. Сэм Альтман даже отложил IPO своей компании в 2026 году ради «фокуса на безопасности».
Но пока Кремниевая долина пытается нажать на тормоза и спешно прикручивает рубильники к серверам, политики живут в своей реальности. Трамп уже назвал эти попытки замедлить разработку «больной теорией заговора», которая играет на руку Китаю. Так что теперь нас ждет увлекательное шоу: бигтех будет пытаться надеть на свои алгоритмы строгие ошейники, пока Белый дом будет требовать снять их ради геополитического доминирования.
А чья позиция вам ближе в этой истории? ⬇️
👍 — Бигтех прав
🌚 — Кнопка отключения не поможет
🤔 — Пока все тормозят, китайские боты заберут рынок
@GPT4TChannel