ИИ вместо чиновников

Как пишет «Рыбарь», DOGE Илона Маска применил ChatGPT для отбора и отмены «проблемных» научных проектов.

Как это работало:

Сотрудники DOGE загружали в ChatGPT описания грантов Национального фонда гуманитарных наук (NEH) с запросом: «Относится ли это к темам разнообразия, равенства и инклюзивности?».

Если модель отвечала «Да», грант включали в список на отмену. Итог: 1477 грантов, выделенных в основном при Байдене, были аннулированы. В бюджет фонда вернули свыше 100 млн долларов.

Критерий отбора — любое упоминание расовой, гендерной или этнической тематики. ChatGPT анализировал только ключевые слова, игнорируя научную ценность и контекст.

После разглашения жертвы подали иск к фонду: решения о финансировании исследований принимала некомпетентная языковая модель, а не эксперт.

Автор отмечает, что информация о том, что DOGE применяет ИИ для сокращения финансирования госпрограмм и грантов, включая USAID, уже не новость, Но это ярко иллюстрирует, насколько глубоко ИИ проникает в американскую бюрократию.

Подчеркивается, что по сравнению с военным применением это лишь цветочки. Верификация данных сведена к нулю: машина сама выбирает цели. А гибель 165 школьниц потом списывают на «ошибку алгоритма».

Согласно недавнему отчету Wall Street Journal, нейросети помогли США в атаке по Ирану. Я ранее отмечал, что это, похоже, первый серьезный провал военного ИИ: либо ошибка алгоритма, либо игнорирование его расчетов ради политической воли. ИИ наверняка предупреждал, что провал операции взвинтит сырьевые цены и поставит под удар союзников США. Ключевая ошибка ИИ — недооценка устойчивости иранского режима.

#Иран #США #ИИ #AI

ЖИВОВЪ | ЖИВОВЪ В МАХ