StupidMadWorld

@stupidmadworld Нравится 6

Самое важное о технологиях
По вопросам рекламы и сотрудничества @AlekNone
Гео и язык канала
Россия, Русский
Категория
Технологии


Написать автору
Гео канала
Россия
Язык канала
Русский
Категория
Технологии
Добавлен в индекс
14.12.2017 00:17
14 Nov 2018, 09:44 (466 дней назад)
Репост из: BeardyCast
Джейсон Коттке в своем блоге опубликовал заметку в которой рассматривает случаи нарушения АИ-агентами заданных алгоритмов с целью скорейшего или наиболее эффективного выполнения поставленных им задач. Полный список таких случаев доступен в отдельной таблице.

Вот лишь некоторые из них:

• АИ-агент убивает себя в конце первого уровня игры, чтобы избежать проигрыша на втором уровне;
• Нейронная сеть, натренированная определять образования на коже как представляющие опасность для здоровья, делает вывод, что родинки, представляющие наибольший риск обычно фотографируют рядом с линейкой;
• В системе с симуляцией искусственной жизни, в которой выживание требует энергии, но для рождения потомства никакой энергии не нужно, возникает общество, которое размножается с целью пропитания (или для спаривания с целью производства еще большего количества потомства для пропитания).

Последний пункт немного шокирует, но укладывается в так называемую Теорему Лебовски. Ее суть заключается в том, что самый сверхразумный АИ не будет выполнять полученную задачу до тех пор, пока сложность обхода выполнения задачи будет ниже (пример: искусственный интеллект, которому поручат играть в Тетрис, поставит игру на паузу, чтобы не проиграть).