Я не доверяю моделям ИИ 🦢
До 17 века жители Старого света считали, что лебеди бывают только белого цвета. "Rara avis in terris, nigroque simillima cygno" — редкая птица на земле подобна черному лебедю. А затем в Австралии внезапно встретили лебедя черного цвета. Одно единственное наблюдение перечеркнуло выведенную на протяжении тысячелетий аксиому.
Черным лебедем Нассим Талеб (род. 1960) иллюстрирует редкие события, сильно меняющие положение дел и при этом настолько невообразимые, что уверенно предсказать, а тем более подготовиться было практически невозможно. Зато постфактум можно придумать множество объяснений, подкрепленных расчетами и формулами, создавая иллюзию понятности, предсказуемости. То есть смоделировать многие события мы можем только постфактум, потому что такого раньше не происходило. Примеры: появление интернета, кризис 2008, пандемия, СВО и проч.
Эта идея зародила во мне скепсис относительно математических моделей, в том числе ML. Несмотря на бодрое развитие нейросетей, мир гораздо сложнее всех концепций, моделей и расчетов, и нужно помнить об этом постоянно. У этого сложно интерпретируемого инструмента ограниченная область применения. И даже там нужно кропотливо тестировать и перепроверять. Тем более в любой момент может случиться что-то, чего в обучающей выборке не было.
Иначе нас ждет множество дурацких ошибок c дурацкими последствиями от тех, кто доверяет.
До 17 века жители Старого света считали, что лебеди бывают только белого цвета. "Rara avis in terris, nigroque simillima cygno" — редкая птица на земле подобна черному лебедю. А затем в Австралии внезапно встретили лебедя черного цвета. Одно единственное наблюдение перечеркнуло выведенную на протяжении тысячелетий аксиому.
Черным лебедем Нассим Талеб (род. 1960) иллюстрирует редкие события, сильно меняющие положение дел и при этом настолько невообразимые, что уверенно предсказать, а тем более подготовиться было практически невозможно. Зато постфактум можно придумать множество объяснений, подкрепленных расчетами и формулами, создавая иллюзию понятности, предсказуемости. То есть смоделировать многие события мы можем только постфактум, потому что такого раньше не происходило. Примеры: появление интернета, кризис 2008, пандемия, СВО и проч.
Эта идея зародила во мне скепсис относительно математических моделей, в том числе ML. Несмотря на бодрое развитие нейросетей, мир гораздо сложнее всех концепций, моделей и расчетов, и нужно помнить об этом постоянно. У этого сложно интерпретируемого инструмента ограниченная область применения. И даже там нужно кропотливо тестировать и перепроверять. Тем более в любой момент может случиться что-то, чего в обучающей выборке не было.
Иначе нас ждет множество дурацких ошибок c дурацкими последствиями от тех, кто доверяет.