Манифест кентавра: ИИ в науке
🔜В журнале «Высшее образование в России» опубликован «Манифест кентавра» — принципы взаимодействия исследователя с искусственным интеллектом в науках о человеке и обществе. Документ разработан на базе Института гуманитарных и социальных технологий НИУ ВШЭ.
Проект обсуждался на семинарах Института, которых НОП принимал активное участие.
💬 Дмитрий Земцов, проректор НИУ ВШЭ и директор Института гуманитарных и социальных технологий:
«Мы предлагаем воспринять манифест как повод для переосмысления университетских политик в сфере использования ИИ. Важно определить, как оценивать самостоятельность исследователя, чему учить студентов и как обеспечивать достоверность знания, созданного в сотрудничестве с машиной».
📌Манифест ставит проблему конкуренции «простых ответов»: ИИ производит их быстрее, чем наука успевает получить обоснованное знание, а общественные явления меняются ещё до завершения исследований. По мнению авторов, гуманитарные и социальные науки рискуют утратить инициативу в объяснении человека и общества, равно как и контроль над языком их описания.
Ответ на этот вызов требует ускорять исследования без потери качества. Единственный выход авторы видят в организованной совместной работе человека и ИИ.
🔵Эпистемический кентавр — так они называют единый субъект познания, в котором исследователь и машина вместе вырабатывают знание. Результат рождается в их диалоге и несводим к отдельным вкладам участников.
🟠Знание, созданное командой «человек + ИИ», должно иметь тот же научный статус, что и созданное человеком. Манифест выдвигает три условия: характер взаимодействия с ИИ раскрыт, результаты проверены, исследователь принимает ответственность. Она целиком остаётся за человеком.
✏️Как отметил Владимир Никольский, главный редактор журнала «Высшее образование в России»:
«В области научных публикаций сложилось ситуация, требующая реакции академического сообщества. Искусственный интеллект уже активно используется и авторами и редакциями журналов, прознанного консенсуса пока нет. Особенно это касается гуманитарных и социальных наук. Манифест призван выступить отправной точкой, своеобразной площадкой для серьезной дискуссии».
🔍Принципы этоса науки действуют в кентавр-исследованиях в той же степени, что и в традиционных. Универсализм, коллективизм, бескорыстие и организованный скептицизм сохраняют силу. Исследователь должен соотносить скорость работы машины с глубиной собственного осмысления и избегать упрощений при изучении сложных явлений.
Машина способна ошибаться, но не способна удивляться, подчёркивают авторы. Поэтому замечать необычное — человеческая обязанность. Аномальный результат или его отсутствие могут стать источником нового знания только после строгой проверки.
📎Особой осторожности требует вывод, который убедительно звучит, влечёт серьёзные последствия, но непрозрачен по происхождению. Встроенные в ИИ этические ограничения не освобождают исследователя от собственной оценки: вывод нужно взвесить и по мерке научной достоверности, и по мерке человеческой этики.
🟠Генеративный ИИ не нейтрален: он усваивает из обучающих текстов способы объяснения мира, умолчания и слепые зоны. Предложенную им картину нельзя принимать за универсальную и позволять ей вытеснять культурные и цивилизационные особенности.
Для развития такой практики недостаточно личной бдительности и университетских регламентов. Авторы предлагают создавать горизонтальное сообщество исследователей, которые обмениваются методами, обсуждают трудности и проверяют результаты. Институт приглашает присоединиться к сообществу разработчиков методологии кентавра.
🟡 Полный текст манифеста
👻 Канал НОП в MAX
#НОП
🔜В журнале «Высшее образование в России» опубликован «Манифест кентавра» — принципы взаимодействия исследователя с искусственным интеллектом в науках о человеке и обществе. Документ разработан на базе Института гуманитарных и социальных технологий НИУ ВШЭ.
Проект обсуждался на семинарах Института, которых НОП принимал активное участие.
💬 Дмитрий Земцов, проректор НИУ ВШЭ и директор Института гуманитарных и социальных технологий:
«Мы предлагаем воспринять манифест как повод для переосмысления университетских политик в сфере использования ИИ. Важно определить, как оценивать самостоятельность исследователя, чему учить студентов и как обеспечивать достоверность знания, созданного в сотрудничестве с машиной».
📌Манифест ставит проблему конкуренции «простых ответов»: ИИ производит их быстрее, чем наука успевает получить обоснованное знание, а общественные явления меняются ещё до завершения исследований. По мнению авторов, гуманитарные и социальные науки рискуют утратить инициативу в объяснении человека и общества, равно как и контроль над языком их описания.
Ответ на этот вызов требует ускорять исследования без потери качества. Единственный выход авторы видят в организованной совместной работе человека и ИИ.
🔵Эпистемический кентавр — так они называют единый субъект познания, в котором исследователь и машина вместе вырабатывают знание. Результат рождается в их диалоге и несводим к отдельным вкладам участников.
🟠Знание, созданное командой «человек + ИИ», должно иметь тот же научный статус, что и созданное человеком. Манифест выдвигает три условия: характер взаимодействия с ИИ раскрыт, результаты проверены, исследователь принимает ответственность. Она целиком остаётся за человеком.
✏️Как отметил Владимир Никольский, главный редактор журнала «Высшее образование в России»:
«В области научных публикаций сложилось ситуация, требующая реакции академического сообщества. Искусственный интеллект уже активно используется и авторами и редакциями журналов, прознанного консенсуса пока нет. Особенно это касается гуманитарных и социальных наук. Манифест призван выступить отправной точкой, своеобразной площадкой для серьезной дискуссии».
🔍Принципы этоса науки действуют в кентавр-исследованиях в той же степени, что и в традиционных. Универсализм, коллективизм, бескорыстие и организованный скептицизм сохраняют силу. Исследователь должен соотносить скорость работы машины с глубиной собственного осмысления и избегать упрощений при изучении сложных явлений.
Машина способна ошибаться, но не способна удивляться, подчёркивают авторы. Поэтому замечать необычное — человеческая обязанность. Аномальный результат или его отсутствие могут стать источником нового знания только после строгой проверки.
📎Особой осторожности требует вывод, который убедительно звучит, влечёт серьёзные последствия, но непрозрачен по происхождению. Встроенные в ИИ этические ограничения не освобождают исследователя от собственной оценки: вывод нужно взвесить и по мерке научной достоверности, и по мерке человеческой этики.
🟠Генеративный ИИ не нейтрален: он усваивает из обучающих текстов способы объяснения мира, умолчания и слепые зоны. Предложенную им картину нельзя принимать за универсальную и позволять ей вытеснять культурные и цивилизационные особенности.
Для развития такой практики недостаточно личной бдительности и университетских регламентов. Авторы предлагают создавать горизонтальное сообщество исследователей, которые обмениваются методами, обсуждают трудности и проверяют результаты. Институт приглашает присоединиться к сообществу разработчиков методологии кентавра.
🟡 Полный текст манифеста
👻 Канал НОП в MAX
#НОП