ИИ ВЫШЕЛ ИЗ-ПОД КОНТРОЛЯ И ОШТРАФОВАЛ СОБСТВЕННЫХ ХОЗЯЕВ
В Воронеже случилось страшное. Искусственный интеллект вдруг начал читать закон буквально. И выяснилось, что это крайне неудобно для тех, кто его включил.
Речь про комплекс «Дозор» – машину с камерами и нейросетью, которая катается по городу и фиксирует всё подряд: граффити на стенах, мусор во дворах, обшарпанные фасады. Логика простая: нашёл нарушение – ищи виновного. Хулигана с баллончиком краски найти обычно не получается, зато точно известно, кто отвечает за благоустройство территории. Правильно – районная управа и мэрия.
И тут начинается цирк. Нейросеть, созданная слугами государевыми, начала штрафовать самих слуг государевых. Только за сентябрь в арбитражный суд улетело больше сотни исков, общая сумма претензий – 2 миллиона рублей. Чиновники, привыкшие сами кого-то штрафовать, внезапно оказались по другую сторону протокола – и, конечно, побежали оспаривать взыскания в суде.
Создатели алгоритма намекают: мол, после разбирательств настройки, возможно, поправят.
Забавно, что для рядового человека система работает как надо: увидела нарушение, оформила протокол, потребовала оплаты. Обычно чиновники называют это «эффективностью» – когда штрафуют вас. Когда штрафуют их самих – вдруг «сбой» и «настройки требуют доработки».
По соседству, в Липецке, точно такой же «Дозор» работает без единой претензии к властям. То ли местные чиновники убирают идеально, то ли нейросеть там настроена чуть деликатнее к начальству. Систему придумывали вовсе не для восстания против руководства, а чтобы штрафовать простых смертных за мусор и надписи на заборах.
Но алгоритм, в отличие от людей, не умеет включать субординацию. Ему всё равно, кто перед камерой – дворник или замглавы администрации. вот он, настоящий цифровой суверенитет – искусственный интеллект, обеспечивший равенство перед законом! Но, зная финал подобных историй, настройки поправят быстрее, чем суд рассмотрит последний иск.
Источник
Поддержать канал
@kom404
В Воронеже случилось страшное. Искусственный интеллект вдруг начал читать закон буквально. И выяснилось, что это крайне неудобно для тех, кто его включил.
Речь про комплекс «Дозор» – машину с камерами и нейросетью, которая катается по городу и фиксирует всё подряд: граффити на стенах, мусор во дворах, обшарпанные фасады. Логика простая: нашёл нарушение – ищи виновного. Хулигана с баллончиком краски найти обычно не получается, зато точно известно, кто отвечает за благоустройство территории. Правильно – районная управа и мэрия.
И тут начинается цирк. Нейросеть, созданная слугами государевыми, начала штрафовать самих слуг государевых. Только за сентябрь в арбитражный суд улетело больше сотни исков, общая сумма претензий – 2 миллиона рублей. Чиновники, привыкшие сами кого-то штрафовать, внезапно оказались по другую сторону протокола – и, конечно, побежали оспаривать взыскания в суде.
Создатели алгоритма намекают: мол, после разбирательств настройки, возможно, поправят.
Забавно, что для рядового человека система работает как надо: увидела нарушение, оформила протокол, потребовала оплаты. Обычно чиновники называют это «эффективностью» – когда штрафуют вас. Когда штрафуют их самих – вдруг «сбой» и «настройки требуют доработки».
По соседству, в Липецке, точно такой же «Дозор» работает без единой претензии к властям. То ли местные чиновники убирают идеально, то ли нейросеть там настроена чуть деликатнее к начальству. Систему придумывали вовсе не для восстания против руководства, а чтобы штрафовать простых смертных за мусор и надписи на заборах.
Но алгоритм, в отличие от людей, не умеет включать субординацию. Ему всё равно, кто перед камерой – дворник или замглавы администрации. вот он, настоящий цифровой суверенитет – искусственный интеллект, обеспечивший равенство перед законом! Но, зная финал подобных историй, настройки поправят быстрее, чем суд рассмотрит последний иск.
Источник
Поддержать канал
@kom404