Один из самых странных аргументов против ИИ – «нельзя использовать чёрные ящики без понимания как они работают, неинтерпретируемые инструменты – бесполезны»

Да конечно можно. Люди так делают всю историю своего существования. Мы до сих пор не знаем, как именно работает корова, но без проблем получаем из неё молоко. Тысячелетиями не было понятно, что такое дрожжи, но никто не мешал их использовать для выпечки. Производство лекарств при помощи бактерий, сами лекарства, да даже некоторые математические и физические законы вполне успешно применялись без понимания, почему они вообще работают. Работают – и здорово

Я не говорю, что интерпретируемость – это плохо. Конечно это хорошо. Когда есть система, которая работает, но непонятно как – надо её изучить. Когда есть возможность сделать что-то интерпретируемым, не потеряв в качестве – надо это сделать. Но для решения проблем не обязательно понимание

Можно представить идеальный искусственный разум, который всегда даёт правильные ответы. Просишь разработать лекарство – он даёт формулу и она работает в 100% случаев, но объяснения этому не будет. Будем ли мы пренебрегать таким инструментом? Да конечно нет

На самом деле достаточно даже не 100% точности, а сравнимой с человеческой