Forward from: BeardyCast
Джейсон Коттке в своем блоге опубликовал заметку в которой рассматривает случаи нарушения АИ-агентами заданных алгоритмов с целью скорейшего или наиболее эффективного выполнения поставленных им задач. Полный список таких случаев доступен в отдельной таблице.
Вот лишь некоторые из них:
• АИ-агент убивает себя в конце первого уровня игры, чтобы избежать проигрыша на втором уровне;
• Нейронная сеть, натренированная определять образования на коже как представляющие опасность для здоровья, делает вывод, что родинки, представляющие наибольший риск обычно фотографируют рядом с линейкой;
• В системе с симуляцией искусственной жизни, в которой выживание требует энергии, но для рождения потомства никакой энергии не нужно, возникает общество, которое размножается с целью пропитания (или для спаривания с целью производства еще большего количества потомства для пропитания).
Последний пункт немного шокирует, но укладывается в так называемую Теорему Лебовски. Ее суть заключается в том, что самый сверхразумный АИ не будет выполнять полученную задачу до тех пор, пока сложность обхода выполнения задачи будет ниже (пример: искусственный интеллект, которому поручат играть в Тетрис, поставит игру на паузу, чтобы не проиграть).
Вот лишь некоторые из них:
• АИ-агент убивает себя в конце первого уровня игры, чтобы избежать проигрыша на втором уровне;
• Нейронная сеть, натренированная определять образования на коже как представляющие опасность для здоровья, делает вывод, что родинки, представляющие наибольший риск обычно фотографируют рядом с линейкой;
• В системе с симуляцией искусственной жизни, в которой выживание требует энергии, но для рождения потомства никакой энергии не нужно, возникает общество, которое размножается с целью пропитания (или для спаривания с целью производства еще большего количества потомства для пропитания).
Последний пункт немного шокирует, но укладывается в так называемую Теорему Лебовски. Ее суть заключается в том, что самый сверхразумный АИ не будет выполнять полученную задачу до тех пор, пока сложность обхода выполнения задачи будет ниже (пример: искусственный интеллект, которому поручат играть в Тетрис, поставит игру на паузу, чтобы не проиграть).