У автономности есть предел по вниманию оператора

Человек может числиться ответственным за десятки автономных аппаратов и не успевать проверять их решения. Поэтому число бортов на оператора нужно связывать со сложностью обстановки и временем на осмысленную проверку. Кнопка «подтвердить» сама по себе контроля не доказывает.

В статье Рэя Рамоса предложено закреплять границы полномочий вне самого Имитатора Интеллекта. Алгоритм не должен обходить запрет или отмену применения силы. Без разрешения действие блокируется. Эти ограничения нужно проектировать до выбора числа аппаратов на человека.

🟢Подписаться на канал
🟢Подписаться в MAX