Цифровой геноцид

Эвристики и Герберт Саймон. часть I

Все выходные разбирался с ключевыми работами Саймона про эвристики и его идеи про решение задач: достаточно сильно заметно, что его взгляды сильно эволюционировали от теоретико-игровых и нормативных подходов к описанию рациональности в сторону прагматических оснований и того, как могут и должны работать операции

Изначально, в статье A BEHAVIORAL MODEL OF RATIONAL CHOICE 1953 года речь шла только о наблюдении, что в конце концов любой организм выбирает то решение, которое он вообще способен осуществить, ну не бежит гепард быстрее своей скорости, не может плавать пустынный тушканчик и итд и тп. Среди общих ограничений, которые сами не являются объектом рационального расчёта, — множество альтернатив, открытых для выбора, отношения, определяющие выигрыш (payoff)

Основной тезис, на мой взгляд примрено такой: при благоприятных обстоятельствах процедура рационального выбора может требовать от индивида сбора лишь небольшого объёма информации — незначительной части всего отображения элементов A(альтернатив поведения) на отдельные элементы S(множество возможных будущих состояний, или «исходов»). Если поиск альтернативы с желаемыми свойствами оказывается успешным, индивид уверен, что не сможет улучшить свой выбор, получив дополнительную информацию. Вместо оптимизации люди «сатисфайсят» те ищут решения, которые достаточно хороши, а не идеальны. Он писал, что вместо поиска «наилучшего» хода игроку нужно искать лишь «хороший» ход

Уже спустя 5 лет это становится гораздо более внятной программой в статье Heuristic Problem Solving: The Next Advance in Operations Research - причем, показательно, тут две вещи - это то, что эвристики должны решать управленческие задачи корпоративного уровня (и этого нет до сих пор! Те можно найти стандарты и пособия деловой литературы, но никакой энциклопедии эвристик управленцев не возникло) и проблема ограниченности знания и ограниченной рациональности

“Как любят напоминать руководители исследователям операций, проблема в том, что для большинства важнейших управленческих задач верхнего уровня не существует известных формальных методов поиска ответа. Более того, эти задачи, по-видимому, отличаются по своему типу от более конкретных ситуаций среднего управленческого уровня, где существующие методы исследования операций наиболее эффективны” 

И ниже констатация факта, что реальная часть задач в повседневной деловой, организационной и других казалось бы рациональных практиках - является задачей неполной, неструктурированной и без четких границ

“Что же тогда такое плохо структурированные задачи? Это задачи, которые не являются хорошо структурированными. В некоторых случаях, например, существенные переменные вообще не числовые, а символические или словесные. Руководитель, разрабатывающий политику предоставления больничных, ищет слова, а не числа. Во-вторых, во множестве важных житейских ситуаций целевая функция, то есть цель, расплывчата и не поддаётся количественному определению. Как, например, оценить качество системы образования или эффективность отдела по связям с общественностью? В-третьих, для многих практических задач — точнее будет сказать, для большинства практических задач — вычислительные алгоритмы просто отсутствуют.

Если смотреть на организационную жизнь реалистично, приходится признать: большинство решений, с которыми руководители сталкиваются ежедневно, и, безусловно, большинство важнейших решений располагаются гораздо ближе к плохо структурированному, чем к хорошо структурированному концу спектра. И всё же исследование операций и наука управления, при всех их серьёзных достижениях, пока не добились большого прогресса в области плохо структурированных задач”

Предполагается, что эвристики заменят алгоритмы для моделирования рассуждений и станут настоящими навыками - в 1957 году Саймон предсказывает как компьютеры заменят человека, ничего не напоминает? 

Его прогноз такой, и читатель сам может сделать вывод подтвердились его тезисы или нет:
1. Машины будут всё чаще применяться вместо людей для решения плохо структурированных задач — так же, как сегодня они всё шире используются для решения хорошо структурированных задач.
2. Машины будут применяться к плохо структурированным задачам такого масштаба и трудности, которые люди пока не могли решить. Это аналогично нынешнему использованию компьютеров для численного решения уравнений в частных производных, недоступных ручным методам.
3. Исследование эвристического решения задач будет использоваться для понимания человеческого разума. С помощью эвристических программ мы поможем человеку следовать древнему призыву: «Познай самого себя». А познав себя, он, возможно, научится использовать рост знания во благо, а не во вред человеческому виду.

Но тезис, который во многом остается на столе, и, который, все-таки породил целую тему - это выявление неявных, скрытых и других экспертных знаний для проектирования, для работ по созданию интерфейсов  - тема которая длится до сих пор и отражается в новых подходах, типа NDM и в практических задачах типа "а давайте тут ЛЛМ подкрутим" в 2026 году

Существенное влияние эвристического решения задач на исследования — либо позволяющее браться за более трудные задачи, чем те, что доступны человеку, либо объясняющее, как талантливые люди решают проблемы, — вероятно, наступит раньше. Здесь, как и в аналогичных применениях атомной энергии, вопрос будет не столько «Сколько это будет стоить?», сколько «Сможем ли мы это сделать?».

Интерфейсы ногтей/PhantomFolds

Я вообще думаю, что тема маникюра как передовой отрасли интерфейсов глубоко недооценена, хотя бы для того, чтобы делать ногти-холодные кошельки крипты, да и изменения цвета это интересная кастомизация

Исследователи Национального университета Сингапура прикрепили два вибромотора по бокам ногтя — и обнаружили, что мозг «достраивает» ощущение прикосновения там, где реального контакта нет (эффект похож на иллюзию «фантомного кролика» — когда серия последовательных касаний воспринимается как непрерывное движение). Смысл в том, чтобы дать тактильную обратную связь в дополненной/смешанной реальности, не закрывая при этом подушечку пальца, чтобы рука оставалась свободной для реальных предметов.

https://www.youtube.com/watch?v=R4YdJ62GXHA

И сама публикация
http://www.denysmatthies.com/downloads/Messerschmidt_PhantomFolds_IJHCI2025.pdf

Эргономика и человеческий фактор: угасание дисциплины
Статья и мои комментарии из de Winter JCF, Eisma YB. Ergonomics & Human factors: fade of a discipline. Ergonomics. 2024 Oct 23:1-9.
https://www.tandfonline.com/doi/full/10.1080/00140139.2024.2416553#abstract

А вот и, пожалуй, критика современных авторов почему сама идея человеческого фактора испытывает определенное угасание и находятся в кризисе - как ни странно для людей, которые обычно подписаны на этот блог, может показаться спорным, но, в целом, скорее реальным.
Статья посвящена следующему наблюдению: Ergonomics and Human Factors находится в кризисе по ряду причин. Наблюдение в следующем, немного перевода нейронки и моих комментариев.

Дело не в том, что теории человеческого фактора проверяются и опровергаются в пользу новых или более совершенных теорий, что вело бы к прогрессу знания. Происходящее скорее напоминает то, что было описано Милом: некоторые дисциплины постепенно угасают, поскольку учёные теряют к ним интерес по мере того, как используемые теории предлагают всё меньше реального содержания. Исследования технологий (включая автоматизацию, ИИ) и их практическое применение в настоящее время ведутся во многих областях и внутри компаний, но зачастую без опоры на литературу и теории ЧФ последних десятилетий.

Внутри человеческого фактора существует внутреннее напряжение: с одной стороны, дисциплина заявляет о себе как о науке с прогрессирующей базой знаний, а с другой — сами учёные, работающие в области ЧФ, осознают, что предстоит ещё немало сделать, особенно в отношении того влияния, которое эта дисциплина оказывает. В недавней статье Салмона и соавторов были опрошены мнения 18 учёных и практиков в области ЧФ. Среди прочих им был задан вопрос: «По шкале от 1 (совершенно никакого влияния) до 10 (достижение полного желаемого влияния) как бы вы оценили влияние, которое ЧФ оказывает на мир в настоящее время?» Ответы дали в среднем лишь 4,95 балла по указанной шкале от 1 до 10.

Проблема 1: наука человеческого фактора использует невалидные конструкты и теории
Область ЧФ характеризуется использованием разнообразной терминологии, такой как человеческая ошибка, самоуспокоенность (complacency), рабочая нагрузка (workload) и ситуационная осведомлённость (situation awareness, SA). Последние два понятия особенно считаются флагманскими конструктами ЧФ. Однако этим конструктам недостаёт внутренней согласованности, и они обладают низкой предсказательной ценностью.

Например, в основополагающих работах по ЧФ рабочая нагрузка определялась через использование ментальных ресурсов и как человеко-центрированный конструкт. Различные учебники и научные статьи далее уточняли, что рабочая нагрузка связана с «требованиями задачи» (то есть объективным определением сложности задачи), «усилием» (то есть тем, сколько ментальных ресурсов применяется/насколько сильно человек старается), выполнением задачи (то есть тем, насколько хорошо задача выполняется) или физической работой, но не тождественна им.

Однако NASA Task Load Index (TLX) — наиболее широко используемый инструмент измерения рабочей нагрузки — конкретно опрашивает оператора о воспринимаемых «требованиях» (три из шести пунктов), усилии (один пункт), результативности (один пункт) и физическом ощущении (один пункт). Это указывает на серьёзное расхождение между теоретическим определением рабочей нагрузки и эмпирическими инструментами, разработанными для её оценки. Похоже, что исследователи выбирают измерительные инструменты, обладающие видимостью валидности (например, благодаря названию «NASA») или в силу их популярности (то есть эффекта Матфея). Между методами измерения рабочей нагрузки также наблюдается слабая согласованность. Для измерения рабочей нагрузки применялись различные подходы — опросники, время реакции, задачи на визуальный поиск или физиологические показатели, — однако показатели по этим методам лишь слабо коррелируют друг с другом.

Тот же аргумент применим и к ситуационной осведомлённости (SA). Методы измерения SA разнообразны — от самоотчётов до тестов, основанных на знаниях, — но независимо от метода измерения показатели SA лишь умеренно коррелируют с выполнением задачи, если учесть смещение, связанное с избирательностью публикуемых данных.

Проблема 2: исследования взаимодействия человека и автоматизации почти НЕ влияют на практику
При разработке продуктов и услуг часто используются методы ЧФ, такие как фокус-группы, интервью или исследования удобства использования (usability studies). Справочники XX века содержат рекомендации о том, как следует проектировать интерфейсы с точки зрения цвета, интенсивности освещения, движения и т.д. Эти методы и рекомендации доказали свою ценность — это действительно так.
По всему миру тысячи практиков, дизайнеров и инженеров в области ЧФ работают над созданием более совершенных интерфейсов, продуктов и услуг. Однако, судя по всему, между исследованиями и практикой ЧФ существует большой разрыв: результаты исследований, публикуемые учёными в области ЧФ на протяжении последних десятилетий, по-видимому, никак не влияют на проектирование этих интерфейсов, продуктов и услуг. Иными словами, исследования последних нескольких десятилетий практически не повлияли на практику.
В действительности разработчики автоматизированных систем в значительной степени игнорируют многочисленные научные статьи из области ЧФ.

Проблема 3: планы исследований в ЧФ служат академической продуктивности, а не смысловой значимости
Мой комментарий: Тут скучно, чисто академические причины про то, что направлено на увеличение статей и публикационной активности - это скучный пункт, верный для любой академической дисциплины.

Пример, де Винтера касается проблемам степеней автоматизации и того трения, которые возникают.

При автоматизации уровня 4 передача управления часто заключается в том, что автомобиль останавливается, а проблему решает удалённый оператор. При автоматизации уровня 2, напротив, водителю, как правило, необходимо взять управление рулём в очень короткий промежуток времени (например, в течение 1 секунды). В некоторых случаях система автоматизации отключается сама, подавая предупреждающий сигнал, но во многих других случаях водитель должен действовать проактивно, то есть ещё до того, как система автоматизированного вождения осознает, что попала в затруднительное положение — так называемые «тихие» передачи управления (silent take-overs).
Значимость таких «тихих» передач управления подтверждается и отчётами об отключениях автоматизации на тестовых автомобилях. Однако подобные более непосредственные («тихие», проактивные) передачи управления почти не изучались, что позволяет предположить, что исследователей они попросту не интересуют.

Проблема 4: мало данных ЧФ размещается в открытых репозиториях данных
Проблема воспроизводимости данных, здравствуйте! Ну это тоже много у кого так, тут ЧФ и эргономика не одинока

Проблема 5: наука ЧФ поглощается другими дисциплинами
И с этим тезисом, я скорее склонен спросить «Ну и что?» - речь же идет главным образом про междисциплинарность вообще в мире.

А какой вывод?
"Знать классиков ЧФ и воспроизводить их работы. Если мы стремимся преодолеть пустоту современной теории и экспериментов в ЧФ, необходима приверженность более обширному чтению и анализу. Исследователям ЧФ следует глубже осмысливать классические труды. Это включает основополагающие работы таких фигур, как Пол М. Фиттс и Фредерик У. Тейлор."
Профиль автора https://scholar.google.com/citations?user=MJ3SNBAAAAAJ&hl=en

Дональд Норман "Знания важны: навыки необходимы"

Норман написал очередную статью о проблемах ЛЛМ и взаимодействиях ЛЛМ с пользователем, приведу основное, на мой взгляд, полное эссе доступно по ссылке
https://donnorman1.substack.com/p/knowledge-is-important-skills-are?r=8ey10&utm_campaign=post-expanded-share&utm_medium=web&triedRedirect=true

Люди — универсалы животного мира, физически уступающие животным, но обладающие уникальной способностью изобретать миллионы специализированных физических и когнитивных инструментов, расширяющих их возможности. Инструменты специализированы, и большинство из них требуют значительного опыта, обучения и практики для эффективного использования. Иными словами, овладение многими из этих инструментов требует специализации.

В искусственном мире зафиксированного знания, которое усваивают наши современные ИИ, компьютеры превосходят любого человека. В реальном, физическом мире картина меняется. Навыки — это особый вид знания, который нельзя усвоить через чтение, слушание или наблюдение. Даже через инструктаж. Их можно освоить только через опыт, методом проб и ошибок, через практику. Значительная их часть невыразима словами, неописуема, но осваивается через опыт и практику. Обладание экспертными навыками означает быть специалистом. Что важнее: универсалы или специалисты? Ни то, ни другое. И глубокие узкие специалисты, и широкопрофильные универсалы одинаково необходимы для выживания в реальном, физическом мире.

Сегодня в мире искусственного интеллекта мы входим в физический мир через агентов и роботов, требующих специалистов. Знание не зависит от формы. Действие сильно зависит от формы. Законы физики ограничивают действие.

Посмотрите на ИИ-агентов: каждый из них специализирован под конкретную задачу и часто требует специализированных инструментов. Некоторые люди используют свои LLM, чтобы задействовать целые отряды специализированных агентов, каждый из которых способен на специализированные действия, а их совокупность даёт нужный результат.

Заключение

И специалисты, и универсалы одинаково необходимы.

В сфере знаний немногие являются широкопрофильными универсалами; немногие — по-настоящему глубокими и узкими специалистами. Но ещё меньше тех, кто является одновременно и универсалом, и специалистом.

Среди физических и когнитивных артефактов большинство специализированы под узкий круг навыков. В физическом мире знание бесполезно, если оно не применяется. А применение лучше всего оставить специалистам, даже если сами артефакты разрабатывают, а затем управляют ими универсалы.

————
Похоже, мы возвращаемся к Расмуссену и его модели «Навыки, Правила, Знания»... но теперь у нас есть ИИ, создающий впечатление, что он способен охватить все три уровня что, однако, не дает преодолеть колоссальный эволюционный разрыв, также известный как рамки физического мира.