Asia Times: Израиль применяет искусственный интеллект при выборе целей для бомбардировок в Иране, используя методы, впервые опробованные в Газе. Это вызывает тревогу у аналитиков и экспертов, которые указывают на отсутствие значимого человеческого контроля. Трита Парси из Института Куинси отметил в соцсети X, что сходство между двумя кампаниями становится всё сильнее, указав на бомбардировку места в Тегеране под названием «Полицейский парк» как на вероятную ошибку. Он предположил, что ИИ идентифицировал его как цель, поскольку это была государственная территория, но ни один человек-оператор не проверил и не установил, что это просто общественный парк.
Эта практика была описана как «летальное бета-тестирование», где Газа послужила прототипом, а Иран представляет собой полномасштабный запуск военных действий на основе ИИ. Расследования показали, что Армия обороны Израиля использует такие системы, как Habsora, платформу для целеуказания на основе ИИ, которая превратила военные операции в то, что один источник в разведке назвал «фабрикой массовых убийств», где приоритет отдается количеству целей, а не качеству. Система позволяет быстро выбирать тысячи целей при минимальном вмешательстве человека — процесс, который, по мнению экспертов, неизбежно приводит к катастрофическим ошибкам.
Риски стали очевидны во время войны в Газе, когда правила ведения боевых действий были значительно ослаблены после нападения 7 октября. Офицерам было разрешено рисковать жизнями до 20 гражданских лиц при каждом ударе, а дневные лимиты позже были полностью сняты. В результате одного удара с использованием ИИ по лагерю беженцев Джабалия несколькими бомбами весом 2000 фунтов было убито не менее 126 человек, включая 68 детей и нескольких заложников. Критики утверждают, что такие последствия неизбежны, когда машины принимают решения о жизни и смерти без контроля со стороны человека.
Вооруженные силы США также использовали передовые ИИ в этом конфликте, применяя систему Maven Smart System от Palantir для выбора 1000 иранских целей только в первый день войны. Однако эксперты, такие как Пол Шарр из Центра новой американской безопасности, подчеркивают, что системы ИИ совершают ошибки, и человеческая проверка необходима, когда на карту поставлены жизни гражданских лиц. Пентагону было приказано поэтапно отказаться от использования продуктов ИИ компании Anthropic после того, как компания отказалась разрешить неограниченное военное применение своих технологий из-за опасений по поводу массовой слежки и автономного оружия.
Более широкая инфраструктура, поддерживающая эти операции, включает проект Nimbus — контракт на сумму 1,2 миллиарда долларов между Израилем и технологическими гигантами Amazon и Google, предоставляющий облачные сервисы и инструменты ИИ военным. Тем временем в Женеве проходят международные переговоры, посвященные растущей угрозе смертоносных автономных систем вооружений. Эксперты предупреждают, что нет никаких доказательств того, что ИИ снижает число жертв среди гражданского населения, и что нынешняя траектория ведет к быстрому и нерегулируемому распространению оружия с использованием ИИ, что может иметь катастрофическим последствия для гражданского населения.
@netlenkanet
Эта практика была описана как «летальное бета-тестирование», где Газа послужила прототипом, а Иран представляет собой полномасштабный запуск военных действий на основе ИИ. Расследования показали, что Армия обороны Израиля использует такие системы, как Habsora, платформу для целеуказания на основе ИИ, которая превратила военные операции в то, что один источник в разведке назвал «фабрикой массовых убийств», где приоритет отдается количеству целей, а не качеству. Система позволяет быстро выбирать тысячи целей при минимальном вмешательстве человека — процесс, который, по мнению экспертов, неизбежно приводит к катастрофическим ошибкам.
Риски стали очевидны во время войны в Газе, когда правила ведения боевых действий были значительно ослаблены после нападения 7 октября. Офицерам было разрешено рисковать жизнями до 20 гражданских лиц при каждом ударе, а дневные лимиты позже были полностью сняты. В результате одного удара с использованием ИИ по лагерю беженцев Джабалия несколькими бомбами весом 2000 фунтов было убито не менее 126 человек, включая 68 детей и нескольких заложников. Критики утверждают, что такие последствия неизбежны, когда машины принимают решения о жизни и смерти без контроля со стороны человека.
Вооруженные силы США также использовали передовые ИИ в этом конфликте, применяя систему Maven Smart System от Palantir для выбора 1000 иранских целей только в первый день войны. Однако эксперты, такие как Пол Шарр из Центра новой американской безопасности, подчеркивают, что системы ИИ совершают ошибки, и человеческая проверка необходима, когда на карту поставлены жизни гражданских лиц. Пентагону было приказано поэтапно отказаться от использования продуктов ИИ компании Anthropic после того, как компания отказалась разрешить неограниченное военное применение своих технологий из-за опасений по поводу массовой слежки и автономного оружия.
Более широкая инфраструктура, поддерживающая эти операции, включает проект Nimbus — контракт на сумму 1,2 миллиарда долларов между Израилем и технологическими гигантами Amazon и Google, предоставляющий облачные сервисы и инструменты ИИ военным. Тем временем в Женеве проходят международные переговоры, посвященные растущей угрозе смертоносных автономных систем вооружений. Эксперты предупреждают, что нет никаких доказательств того, что ИИ снижает число жертв среди гражданского населения, и что нынешняя траектория ведет к быстрому и нерегулируемому распространению оружия с использованием ИИ, что может иметь катастрофическим последствия для гражданского населения.
@netlenkanet