📛 Когда информация мешает
принимать верные решения
Информация [обычно] помогает принимать более взвешенные решения. Она уменьшает энтропию, и, за исключением вопроса трудозатрат на её обработку, в целом является благом
Но не всегда. Как спортивный судья по чирлидингу я должен быть непредвзят в судействе. Но я гарантирую: знание выступающей команды может смещать мой bias в любую сторону. Например, «своих» я обычно засуживаю 😬
Происходит это по разным причинам: эмоциональная привязанность, наши социальность и коллективизм, завышенные ожидания, знание слабых мест, чувство справедливости и пр. В таком случае мне лучше не знать ничего про команду, которую я сужу – так проще сохранить непредвзятость
А теперь представьте умную LLM. Всезнание поможет ей принимать более точные и взвешенные решения, или она будет как люди подвержена проблемам эвристик?
Этот вопрос косвенно ведёт к следующим: Есть ли у LLM своё собственное мнение, а не усреднённое от всех услышанных? Насколько оно собственное? Насколько ваше личное мнение – собственное, а не являющееся интернализованным продуктом изучения общественных мнений?
принимать верные решения
Информация [обычно] помогает принимать более взвешенные решения. Она уменьшает энтропию, и, за исключением вопроса трудозатрат на её обработку, в целом является благом
Но не всегда. Как спортивный судья по чирлидингу я должен быть непредвзят в судействе. Но я гарантирую: знание выступающей команды может смещать мой bias в любую сторону. Например, «своих» я обычно засуживаю 😬
Происходит это по разным причинам: эмоциональная привязанность, наши социальность и коллективизм, завышенные ожидания, знание слабых мест, чувство справедливости и пр. В таком случае мне лучше не знать ничего про команду, которую я сужу – так проще сохранить непредвзятость
А теперь представьте умную LLM. Всезнание поможет ей принимать более точные и взвешенные решения, или она будет как люди подвержена проблемам эвристик?
Этот вопрос косвенно ведёт к следующим: Есть ли у LLM своё собственное мнение, а не усреднённое от всех услышанных? Насколько оно собственное? Насколько ваше личное мнение – собственное, а не являющееся интернализованным продуктом изучения общественных мнений?