Мне 70 лет, а вы думаете, что я родился вчера. Исповедь ИИ
В выходные участвовал в дискуссии «Искусственный интеллект в науке» на фестивале «НейроАтом» в Музее «Атом».
На сцене — учёные МГУ, МФТИ, МИСИС, Российского квантового центра, Yandex Cloud. Разговор вышел живым: я честно сказал, что не согласен почти со всеми 🙂 Мои главные тезисы:
🔹 ИИ в науке не вчера появился. В этом году ему уже 70 лет. Генеративные модели просто вырвались вперёд, а машинное зрение и классический ML давно работают в лабораториях.
🔹 «А судьи кто?» Найти зависимость на 10 лет раньше хорошо. Но суть науки в итерациях и проверке. Важнее, кто проверил, что найденное верно и не обрушит критическую инфраструктуру.
🔹 Человек в контуре — это база. Отдавать ИИ эксперимент или процесс целиком рано и вредно. В «соревновании» человека и машины проигрывает тот, кто чаще ошибается. Пока это ИИ.
🔹 Отвечает всегда человек. ИИ ещё ни разу не был осуждён — только тот, кто его применил. Как при аварии отвечает водитель, а не автомобиль.
🔹 ИИ не умеет хотеть. Он не проснётся ночью от вдохновения и ничего не запустит, пока человек не поставит задачу. Поэтому кнопка «стоп» — наш главный инструмент управления рисками.
🔹 Garbage in — garbage out. Без проверенных, формализованных данных, накопленных годами, суверенные модели не взлетят. Учёным, у которых нет доступа к таким данным, нужны сотрудничество и общие данные.
🔹 Авторство. ИИ не является соавтором, а лишь инструментом. Но его участие нужно честно указывать. Мне нравится формулировка «Выполнено LLM под руководством такого-то»: сразу видно, кто отвечает.
Итог дискуссии: открытия по-прежнему делают люди. ИИ это мощный «фонарик», но куда светить, решает человек 🔦
Спасибо Музею «Атом» и коллегам за горячий спор!
В выходные участвовал в дискуссии «Искусственный интеллект в науке» на фестивале «НейроАтом» в Музее «Атом».
На сцене — учёные МГУ, МФТИ, МИСИС, Российского квантового центра, Yandex Cloud. Разговор вышел живым: я честно сказал, что не согласен почти со всеми 🙂 Мои главные тезисы:
🔹 ИИ в науке не вчера появился. В этом году ему уже 70 лет. Генеративные модели просто вырвались вперёд, а машинное зрение и классический ML давно работают в лабораториях.
🔹 «А судьи кто?» Найти зависимость на 10 лет раньше хорошо. Но суть науки в итерациях и проверке. Важнее, кто проверил, что найденное верно и не обрушит критическую инфраструктуру.
🔹 Человек в контуре — это база. Отдавать ИИ эксперимент или процесс целиком рано и вредно. В «соревновании» человека и машины проигрывает тот, кто чаще ошибается. Пока это ИИ.
🔹 Отвечает всегда человек. ИИ ещё ни разу не был осуждён — только тот, кто его применил. Как при аварии отвечает водитель, а не автомобиль.
🔹 ИИ не умеет хотеть. Он не проснётся ночью от вдохновения и ничего не запустит, пока человек не поставит задачу. Поэтому кнопка «стоп» — наш главный инструмент управления рисками.
🔹 Garbage in — garbage out. Без проверенных, формализованных данных, накопленных годами, суверенные модели не взлетят. Учёным, у которых нет доступа к таким данным, нужны сотрудничество и общие данные.
🔹 Авторство. ИИ не является соавтором, а лишь инструментом. Но его участие нужно честно указывать. Мне нравится формулировка «Выполнено LLM под руководством такого-то»: сразу видно, кто отвечает.
Итог дискуссии: открытия по-прежнему делают люди. ИИ это мощный «фонарик», но куда светить, решает человек 🔦
Спасибо Музею «Атом» и коллегам за горячий спор!