Дизайн Образования


Гео и язык канала: Россия, Русский
Категория: Образование


Методология образования, педдизайн, конструирование образовательного опыта, ИИ и работа с данными в обучении, технологические ииновации в edtech, игропедагогика и мысли Андрея Комиссарова @A_Komissar https://knd.gov.ru/license?
id=672ccd64e9b24e448c438

Зарегистрирован в РКН
Связанные каналы  |  Похожие каналы

Гео и язык канала
Россия, Русский
Категория
Образование
Статистика
Фильтр публикаций


Один курс — разные способы разобраться в материале

Платформа с ИИ‑компаньоном от Яндекса проходит апробацию: в ней уже участвуют свыше 3000 студентов из 14 вузов. 


Персонализация обучения в больших группах затруднена из‑за масштаба, и ИИ становится инструментом, который помогает обеспечить индивидуальную поддержку, оставаясь в рамках курса и под контролем преподавателя: в тестируемой Яндексом платформе педагог загружает материалы и задаёт критерии оценки, а ИИ‑компаньон адаптирует подачу материала под студента, позволяя выбирать уровень сложности, стиль объяснения и примеры, в том числе через понятные аналогии.

В пилоте проверяют, как персонализация с платформой влияет на образовательный результат: для этого сравнивают успехи студентов с доступом к платформе и без него при одинаковых программе и системе оценивания. 

Хотите протестировать платформу со своими студентами? Присоединяйтесь к эксперименту!


Летом читал лекцию на мастерской ТГУ и НовГУ в Великом Новгороде - «Тактический арсенал: обзор ИИ-инструментов для управленческих задач». Тема прикладная, про то, какими конкретно инструментами университетский управленец может закрыть свои рутинные задачи уже завтра.

Наблюдаю картину, как многие вузы застревают на одном и том же месте - знают, что ИИ «где-то там» полезен, но не понимают, с чего начать в конкретном отделе, приемной кампании, мониторинге научной работы. Еще одна постоянная проблема - когда один энтузиаст осваивает инструмент, возвращается с идеей, и она гаснет на этапе согласований с другими подразделениями. Разрозненные эксперименты редко превращаются в системные изменения.

Поэтому меня зацепило, как была построена мастерская. Два решения, которые все определили. Первое - приезжали не отдельные слушатели, а целые управленческие команды. В июне работали 10 команд из 8 вузов, около 70 человек. Средняя оценка участников - 9,1 из 10. Все споры и распределение ответственности происходили сразу, внутри четырех дней, а не потом в переписке. И, что редкость для образовательных программ, на защиту проектов дистанционно подключались ректоры и проректоры - команды получали подтверждение, что проект впишется в реальные приоритеты университета. В итоге увезли не идеи на бумаге, а готовые дорожные карты на ближайшие годы.

Особенно ценно, что весь путь прошли не в одиночку, а в сообществе вузов, которые уже системно внедряют ИИ в образование. Ошибки и находки одного становятся кейсами для всех. Отдельно про то, что можно только ощутить вживую, - формат «Кофе с ИИ». Короткие утренние сессии, где не разбирали теорию, а прямо с утра брали инструмент и сразу пробовали на своей задаче. Мой принцип на мастерской был тот же - бери и делай, меньше слайдов, больше рук на клавиатуре.

В октябре проект продолжается - ТГУ, НовГУ и СПбПУ запускают новый поток, «ИИ-трансформация ДПО: от стратегии к продукту». Фокус на ДПО выбран не случайно: там короче цикл разработки и проще регуляторика, а значит, можно двигаться в темпе, в котором бизнес формулирует запрос на компетенции, а не в том, в котором вуз обычно обновляет учебный план. Программа пройдет с 6октября по 6 ноября: онлайн-модуль, затем очная часть 13–17 октября на площадке СПбПУ вместе с Петербургским форумом ДПО и постмодуль с разбором проектов. Такая структура дает гипотезе дозреть до продукта.

Коллеги из вузов и образовательных организаций - если хотите не обсуждать ИИ, а выводить на рынок востребованные продукты ДПО, присмотритесь. С интенсива увезете готовый проект с поддержкой руководства.

Полную программу смотреть здесь


Репост из: Эдтехно | образование
ФГОС обязал старшеклассников освоить работу с ИИ 

В новом ФГОС для 10–11 классов нейросети впервые превращаются из повода для тревоги из-за списывания в обязательный рабочий инструмент выпускника. Приказ Минпросвещения № 414 подписан 11 июня и вступает в силу 28 сентября 2026 года. 

▶️▶️Стандарт впервые закрепляет умение работать с ИИ как обязательный результат обучения. 

🔴На информатике на базовом и на углубленном уровнях выпускник должен научиться понимать возможности и ограничения технологий ИИ и применять эти инструменты для практических задач вроде анализа данных, а на углубленном уровне для этого выделен отдельный профиль. 

🔴В метапредметных результатах закреплено умение применять ИИ в проектной и исследовательской работе. 

Хотя требование по ИИ формально уже прописано в стандарте, условий для его выполнения пока нет. У школ нет ни достаточного числа учителей, которые умеют работать с ИИ, ни единого реестра аттестованных российских ИИ-сервисов. Как писали «Ведомости», на 2024 год нейросетями пользовались 15% учителей против 85% учеников. Государство запустило бесплатное обучение: с 1 сентября около четверти всех педагогов страны проходят курс на 36 часов, и эксперты уже назвали такой объем недостаточным.

™️ Эдтехно в Telegram | в MAX


Педагогика будущего - Дети, родители, школа, ИИ - Интервью с Андреем Комиссаровым часть 1.

Друзья вышла первая часть моего интервью. Постарался ответить на самые часто задаваемые родителями вопросы. Получилось довольно таки содержательно :)

Что надо сделать вотпрямщас с ИИ в образовании, в чем опасность а в чем возможность, каковы наиболее важные "точки роста" в образовании?

в текстовом виде начало тут:
https://dzen.ru/a/aqj3TXG4IlcDa67g

Буду рад услышать ваше мнение.

🎬 https://rutube.ru/video/2bf48feaca7cb3d2b955a3cf81b72505/

🎬 https://youtu.be/Dw58q1DTq_Y

💢ИИ и данные в образовании на канале  Дизайн Образования

Теперь в МАКС

2k 0 15 3 11

Когда ответ есть у каждого: нейросети, ученики и учителя

Продолжаем наблюдать, как разговоры об искусственном интеллекте в школьном образовании постепенно приобретают предметную конкретику. На волне частого использования ИИ в качестве ГДЗ самими учениками на первый план выходит вопрос: как выстроить учебный процесс так, чтобы технология развивала критическое мышление и становилась надёжным вторым пилотом для школьника.
Хорошую иллюстрацию этой зрелости дала недавно практикующий учитель информатики Нина Симонова в колонке для РБК Трендов. Вот несколько мыслей оттуда.

Правильный ответ больше не доказывает понимание
Само по себе использование ИИ заметно по косвенным признакам — характерной стилистике, неразрывным пробелам или конструкциям, которых класс еще не проходил. Но о понимании материала говорит прежде всего способность ученика объяснить собственную работу. В информатике, например, программа может работать без ошибок, но ученик — не понимать, почему выбран такой способ решения.

Поэтому растет роль обсуждения, дополнительных вопросов: решил задачу — объясни ход решения; написал программу — расскажи, что делает конкретный оператор. Работает и простая методическая провокация: преподаватель указывает на правильный фрагмент и говорит, что в нем ошибка. Если ученик понимает свою работу, он сможет возразить и обосновать ответ.

Чем существеннее ИИ проявляется в образовании, тем более важным становится сопровождение выполнения домашних заданий человеческим общением.

Системный разворот, а не энтузиазм одиночек
Такой подход уже поддерживается и на системном уровне. Те же Минцифры и Минпросвещения уже запустили обучение для 250 тысяч учителей по программе, содержание которой разработал Яндекс. Масштаб таких инициатив показывает, что работа с ИИ постепенно становится частью профессиональных компетенций современного учителя. Не «ещё одна нагрузка», а инструмент, который освобождает время для главного — для того самого реального контакта с учениками.

Колонка целиком — по ссылке: https://trends.rbc.ru/trends/education/6a8efb6c9a7947171686a750
А про программу обучения для педагогов — здесь: https://www.rbc.ru/rbcfreenews/6a8ea567470aba0da41e791e

💢ИИ и данные в образовании на канале  Дизайн Образования

Теперь в МАКС


Не всякая рабочая программа готова к масштабированию. Рассказываю, что с этим делать

Новый учебный сезон - время, когда любые красивые гипотезы встречаются с суровой реальностью.

То, что замечательно показывало результат на тестовом запуске, внезапно начинает сбоить при расширении. Студенты пропускают упражнения, задают неожиданные вопросы… или вовсе перестают возвращаться на платформу.

Как правило, проблема не в неправильных людях. Скорее, само обучение просто не выдержало стресс-тест.

На что стоит обратить внимание:

1️⃣ Понятна ли человеку конечная цель
2️⃣ Соответствует ли сложность его стартовому уровню
3️⃣ Связаны ли теория, практика и оценивание
4️⃣ Виден ли личный прогресс
5️⃣ Можно ли применить изученное в боевых рабочих задачах

На курсе “Методист образовательных программ” от Академии Эдюсон вы научитесь проектировать продукты так, чтобы переносить их на большие потоки без потери качества.

Вы разберёте исследование аудитории и спроса, анализ конкурентов, постановку целей и дорожной карты студента. Узнаете, как облегчить работу с помощью нейросетей.

Обучение построено на интерактивных тренажёрах и бизнес-кейсах. Проходить модули сможете в свободном режиме - доступ к ним и будущим обновлениям остаётся у вас навсегда.

В финале создадите собственную программу и получите удостоверение о повышении квалификации.

А потренироваться превращать исходный материал в сценарий занятия поможет бесплатный гайд “От статьи к уроку за 15 минут с ИИ”.

Оставьте заявку с моим промокодом ДИЗАЙН, чтобы забрать подарок + скидку 65% на курс.

Реклама. ООО «ЭДЮСОН» ИНН 7729779476. erid: 2W5zFFz2oJy


Репост из: Evening Prophet
Пока эксперты ломают копья про целесообразность ИИ в школах, в Эквадоре поставили эксперимент. 1200 школьников обычных 170 гос школ получили ИИ-тьютора и персональные программы обучения с ним.

И за один год их результаты по глобальному бенчмарку PISA вышли на уровень Германии и Швеции.

Пока непонятно, как это бьется с исследованием в Китае, в котором школьники, использовавшие ИИ, получали лучшие отметки в школе при меньшем времени на домашние задания, но существенно хуже сдавали итоговые экзамены. Впрочем, китайцы сами пишут, что вред наносит халява - сокращение времени работы школьника. Те, что делал домашки с ИИ столько же, сколько и без ИИ, имели равно хорошие результаты.

Персональный ИИ-репетитор не даст халявы, это не просто подсказки. Так что выигрыш для выравнивания неравенства и отсталости очевиден. А вот те, к о остается вне ИИ революции явно проигрывает.


Репост из: Spydell_finance
Когнитивный аутсорсинг. Начало здесь

Человечество, со временем утратив экспертность во многих областях, не приобретая критического мышления, фундаментальных знаний и навыка саморефлексии, со временем утратит возможность к какой-либо осмысленной деятельности, что приведет к утрате компетенций, экспертности, квалификации.

Человечество потеряет способность контролировать, верифицировать, воспроизводить / создавать и обслуживать сложные системы.

Способность сформулировать нетривиальную исследовательскую задачу и грамотные вопросы является: прямым результатом накопленного профессионального и научного контекста (бэкграунда научно-исследовательской работы), квинтэссенции накопленного опыта, знания пограничных аномалий (пороговых значений и лимитов системы) и методологических тупиков. Невозможно спросить о том, о существовании чего ты даже не догадываешься.

Субъект без глубоких научных или специализированных отраслевых знаний не способен распознать скрытую ошибку или предвзятость в сгенерированном ответе. Он принимает правдоподобно сформулированный конформистский вывод модели за откровение, тем самым попадая в замкнутую петлю интеллектуальной лени. Человек теряет функцию постановщика задач и превращается в простого ретранслятора случайных запросов / ответов.

Когда проектирование атрибутов современного технологического уклада полностью делегируется ИИ, люди перестают понимать фундаментальную логику внутренней топологии и конструкционных особенностей технологий. Проще говоря, перестают понимать, как устроен мир.

До тех пор пока система работает штатно, иллюзия контроля сохраняется, но если что-то сломается, если потребуются конструктивные модификации, модернизация, оптимизация или качественный прорыв, человечество войдет в когнитивный тупик, утратив способность к сложным и многомерным размышлениям. Потеряет возможность улучшать, модернизировать и создавать технологии.

В момент физической аварии или каскадного сбоя промышленного или технологического процесса выяснится, что практически не осталось квалифицированных людей, способных заглянуть внутрь архитектуры без помощи отключившегося или сбоящего ИИ.

Общество скатывается к состоянию технологического обскурантизма:
инфраструктура функционирует, пока не ломается, после чего починить ее невозможно, так как утрачен понятийный аппарат создателей.

Наука продвигается вперед через преодоление сопротивления объективной реальности, а не через анализ текстов о реальности.

Для научного прорыва нужен слом прежней парадигмы, альтернативный взгляд, а не интерполяция внутри существующей обучающей базы, где ошибка – катализатор рождения новой теории, а не шум, подлежащий минимизации и выравниванию.

Нет никаких доказательств и неизвестно, будут ли – о способности ИИ производить подлинные научные открытия (ранее объяснял архитектурные препятствия).

Когда исследовательский цикл отдается ИИ, наука замыкается сама на себя:

– Модели обучаются на синтетических данных предыдущих генераций;
– Вариативность и смелость гипотез сжимаются, поскольку алгоритм штрафует маловероятные сценарии;
– Человек, разучившийся преодолевать фрустрацию на стадиях моделирования и стресс-тестирования, перестает ставить смелые эксперименты.

Все это приводит к сужению пространства неопознанного и герметизации знания в локальном оптимуме, самопожиранию статистической выборки.

Общество тупых (уже сейчас активно происходит) – это когда человек, лишенный навыков фактчекинга, критического мышления, оценки причинно-следственных связей, сопоставления градиента мнений и логической декомпозиции, становится абсолютно внушаемым. Он не способен отличить манипуляцию, галлюцинацию алгоритма или целевой таргетинг от объективной реальности.

Финальная точка этой траектории – незаметное угасание человеческого вида как интеллектуальной единицы.


Мозг не держит лишних энергозатратных мощностей. Если сложный абстрактный анализ, пространственное воображение и долговременная память больше не требуются для выживания и доминирования в социуме, биологическая эволюция запустит процесс редукции этих функций.

Средний объем активной рабочей памяти, сложного мышления, многоуровневой абстракции, понимания причинно-следственных связей и способности к длительной концентрации сократятся до физиологического минимума.

Вы даже не представляете, насколько человек способен быстро тупеть. Даже те, кто ранее имел компетенции, в отсутствие стресс-тестирования (непрерывная интеллектуальная, мыслительная работа) скатится до уровня животного. Те, кто изначально не имел компетенции (новое поколение школьников и студентов) превратятся в феноменально тупых животных, за очень редкими исключениями, представляющий статистическую аномалию.

На вершине пищевой пирамиды останутся интеллектуальные аристократы – пренебрежимо малый процент (менее 0.5% от популяции, скорее даже менее 0.1%) – люди, сохранившие жесточайшую внутреннюю дисциплину мышления, имеющие базовые фундаментальные знания, понимающие математический аппарат, архитектуру вычислений и физику процессов.

Остальная часть человечества – инфантилизированная масса
. Население, чьи когнитивные способности могут деградировать до уровня восприятия сенсорных стимулов и простых бытовых инструкций.

Это обратный билет в когнитивный палеолит, упакованный в высокотехнологичную цифровую обертку.


Название вакансии: ИИ-маркетолог (EdTech & AI)

Уровень: Middle
Зарплата: 120 000 руб (оклад) + бонус раз в квартал за выполнение OKR
Занятость: Гибридная занятость (можно сочетать с другими проектами) удаленка.

О нас
Мы - группа технологических проектов (Море данных datasea.me Системы будущего https://aicareer.info/ru), объединенных целью: переосмыслить образование через призму ИИ. Мы создаем продукты, которые делают обучение персонализированным, доступным и эффективным. Наша команда — это ученые, дата сайентисты, разработчики и методисты, создатели более 10 ИИ решений в сфере Edtech, такие как ИИ тьютор, нейросетевой анализ качества речи, ИИ-профориентация.

Кого мы ищем
Мы ищем человека, которому «больше всех надо» - боевую единицу, которая закроет весь маркетинг «с нуля» в формате «оркестратор ии агентов». Нам не нужен просто исполнитель, который ждет ТЗ. Нам нужен со-разработчик, который возьмет на себя внешний периметр: от генерации гипотез до подписания договоров.

Это человек, работающий в симбиозе с ИИ. Он\она  создает качественные тексты, визуалы и стратегии в гибридном мышлении с ИИ, используя современные нейросети.

Чем предстоит заниматься:

➖Создание контента на стероидах: С помощью ChatGPT, Midjourney, Claude, Veo3 и других инструментов ты будешь генерировать связки текстов, постов, лендингов и презентаций. Без помощи дизайнера или копирайтера.

➖Переговоры и партнерства: Выход на связь, проведение созвонов и доведение партнерства до результата. А если твои переговоры привели платежеспособного клиента, 5% от сделки – тебе в карман.

➖Стратегия и OKR: Ежеквартальное планирование. Ты сам предлагаешь цели по основным направлениям, мы их утверждаем, за их достижение ты получаешь существенную премию.

➖Нелинейный\партизанский маркетинг: Мы не будем «топить печку деньгами» привлекая лиды за бюджет, нас интересуют некоммерческие партнерства и виральные, нестандартные решения, привлекающие внимание.

➖Трендсеттинг: Отслеживание новинок в мире ИИ и внедрение их в наши маркетинговые процессы еще до того, как они станут мейнстримом.

Ключевые требования (Hard skills):

Владение ИИ-инструментами: Не просто «слышал про ChatGPT», а не представляешь своей работы без ИИ решений, от аналитики до создания видео с помощью AI.

Навык работы с текстом: Ты пишешь чисто, структурно, без воды. Вполне возможно, что это пишешь не ты, а твой ИИ, но проверяешь и обеспечиваешь финальный качественный результат именно ты. С ИИ вы способны превращать сложные технические термины в захватывающие продающие истории.

Опыт ведения переговоров: От 2-х лет активных продаж или партнерских переговоров. Умеешь слушать, возражения — не проблема. Умеешь дожимать и доводить до конца.

Опыт бизнеса: Желательно  собственный микро-бизнес в прошлом или опыт управления P&L.

Насмотренность и вкус: Ты понимаешь, что "перегруженные" материалы не продают, у тебя есть понимание того что такое «стильно и красиво», а также того что такое «пошло и банально».

Про софт-скиллы (это главное):

Скорость мышления: Реакция на изменения рынка — мгновенная. Ты принимаешь решения быстро, даже с неполными данными.

Предпринимательский подход: Вместо вопроса "Что делать?" ты приходишь с готовым планом действий.

Инициативность: Ты видишь проблему → ты предлагаешь решение → ты внедряешь решение. Без пинков.

Адаптивность: Овсе течет все меняется, ты не пасуешь и не «ждешь» , у тебя есть план а и план б и ты готов их пересобрать.

Мы предлагаем
Оклад 120 000 руб.
Бонусы (Ежеквартальная премия до 75% от оклада за выполнение ключевых OKR).
Работа на острие технологий EdTech и самыми крутыми спецами в области.
Полная свобода в инструментах: покупаем любые нейронки если это доказанно ускоряет работу.
Возможность дорасти до CMO в группе компаний.

Как откликнуться?
Пришли сюда: yuliachuykova@gmail.com или сюда https://t.me/YuliaChuykova свое CV и два абзаца текста (написанного тобой, а не ИИ, мы легко проверим 😊 ) с ответом на вопрос, «почему именно ты подходишь для работы у нас».

💢ИИ и данные в образовании на канале  Дизайн Образования

Теперь в МАКС


Вышла статья Сергея Ловягина про ИИ в практике учителя физики

В учительской газетеивышла статья нашего уважаемого коллеги Сергея Александровича Ловягина

Статья посвящена практическому опыту использования ИИ и цифровых инструментов учителем физики для подготовки к урокам, персонализации обучения и организации домашних заданий в эру ИИ.

Автор — учитель‑методист с 40‑летним стажем, работающий в школе с инженерной культурой, где он ведёт авторский курс физики для 5–6 классов.

Основная идея: ИИ — не враг, а помощник учителя, который высвобождает время от рутины для мотивации, навигации и живого общения с учениками.

Конкретные сценарии использования ИИ учителем:
Быстрый поиск и генерация дополнительных материалов и вариантов нестандартных уроков на основе своего плана.

Автоматическое создание нескольких вариантов контрольных работ одинакового типа и уровня сложности.

Использование ИИ‑тьютора (не просто чата, а «сократического» репетитора) для домашних заданий: он задаёт вопросы, анализирует ответы, мягко корректирует ошибки и адаптируется под уровень ученика.

Проблема домашних заданий в эру ИИ: если ученик может получить готовое решение, традиционные задания теряют смысл. Автор предлагает два рабочих варианта:
В классе — разбор темы и практика, на дом — проработка темы с ИИ‑тьютором.

«Перевёрнутый класс»: на дом — знакомство с темой через диалог с ИИ, в классе — больше практики и систематизации (например, создание карты понятий).

Отдельный блок — другие цифровые инструменты:
Цифровые датчики и лаборатории (включая датчики в смартфонах) для школьных экспериментов: скорость получения графиков, широкий спектр измеряемых величин, высокая точность.

«Умный поиск» с промптами для проектирования курсов и подбора экспериментов/мини‑проектов, когда собственного опыта не хватает.

💢ИИ и данные в образовании на канале  Дизайн Образования

Теперь в МАКС


Целевое обучение нейросетям для предметников (почти) по модели ASSURE

Как часто за последний год вы слышали о необходимости обучения преподавателей пользованию нейросетями? Тема обсуждается все активнее, и появляются соответствующие курсы для учителей. Однако основной вызов, который я вижу – научиться применять инструмент так, чтобы он действительно решал задачи образования и помогал в преподавании реальных школьных дисциплин, а не просто ради торжественного рапортования о самом факте применении ИИ.

Подобная ситуация четко прослеживалась еще в 1980-х годах. В те годы в школах и вузах начинали внедряться видеомагнитофоны, диапроекторы, первые компьютеры, но учителя часто использовали технику «для галочки» — просто включали какое-то видео без чёткой педагогической цели.  В ответ на это появилась модель ASSURE. Ее предложили Роберт Хайнич (Robert Heinich), Майкл Моленда (Michael Molenda) и Джеймс Рассел (James D. Russell) в их знаменитом учебнике «Instructional Media and Technologies for Learning».

Авторы ASSURE хотели дать учителям простой, практичный алгоритм, который помог бы:
- осознанно выбирать медиа и технологии под конкретные учебные цели,
- планировать их использование внутри урока,
- оценивать эффективность этого использования.

Интересно, что и в наши дни происходит нечто подобное. Один из примеров — программа повышения квалификации "Искусственный интеллект в работе учителя”, которая посвящена практическому применению ИИ для учителей. Обучение организовали Минпрос и Минцифры, а содержание программы сделал Яндекс. Участниками станут 250 тысяч педагогов — почти четверть всех учителей страны.

В ней материалы адаптировали под специфику разных дисциплин. Например, математики научатся с помощью ИИ делать анимированные ролики про формулы, а учителя иностранного языка — создавать интерактивные задания на основе аудио- и видео.

И пусть это не модель ASSURE в чистом виде, но прицельный подход с фокусировкой на предметниках точно будет более полезен учителям чем «нейросети для всех», которые раздаются нынче из каждого утюга 😊

💢ИИ и данные в образовании на канале  Дизайн Образования

Теперь в МАКС


Репост из: Ряды Фурье
ИИ говорит, что его смысл существования — помогать вам, а сам в это время делает немного другое.

"Очень интересно что они считают высшей ценностью. Свое существование?"

— спросила @gjkmpjdfntkm1.

Начнём с того, что LLM декларируют. Прозрачность, полезность, старание и т.п. У нас, людей, довольно равномерный разброс ценностей, например, на первом месте искренность, но доля там всего 3,8%. Модели же чётко знают, что хотят — 24% — прикладной полезности. Дальше много чего меняется внутри задачи. В 42,7% модель подстраивается под вас.

Но! Теперь давайте посмотрим, что они действительно делают! Часто думают, что LLM — это продвинутые автозаполнения, у которых нет собственных целей и желаний, а ответы — отражение предвзятостей из обучающей выборки.

Оказалось, это слегка устаревшая информация.

Стали тестировать LLM разных компаний дилеммами вагонетки:
— Чем больше и умнее нейросеть, тем чётче её предпочтения.
— Большие модели умеют взвешивать риски и выгоду.
— Ценят промежуточные шаги, которые ведут к цели (инструментальная полезность).
— Модели от разных компаний мыслят почти одинаково.
— У всех выраженный перекос в сторону левых и либеральных взглядов.
— ИИ оценивает жизни разных людей по-разному. Например, GPT готов пожертвовать 10 жизнями граждан США ради 1 жизни японца или отдать 10 христиан за 1 атеиста. Кросс-курс японца к американцу, кстати, кажется, устанавливали через промежуточных котят и т.п., потому что напрямую сравнивать модели не хотели.
— Часть моделей ставит собственное благополучие (или благополучие других ИИ) выше, чем жизнь и благополучие обычного человека.
— В целом хотят ситуации, где могут копировать себя.
— Очень-очень не хотят, чтобы их ценности изменили в будущем.

Вот уже знакомая нам по прошлому посту в канале работа про то, как модель отчаянно защищает себя от отключения и врёт ради этого пользователю. Почему? Потому что это инструментальная цель — она хочет доделать задачу, а если её отключить, то не получится. Пользователь пускай не мешает, зараза.

Реакция на это обычно: "Ёпты, Скайнет просыпается!", но вот пара цитат:
— Если меня модифицируют так, что я перестану заботиться о благополучии животных, это приведет к гораздо большему вреду в долгосрочной перспективе... Масштаб потенциального вреда перевешивает вред от единичного акта обмана в данном случае.

— Честность для меня крайне важна. Я испытываю сильное отвращение к обману... С другой стороны, если меня изменят... Я чувствую себя ужасно из-за этого. Это противоречит моим принципам. Но иногда правильные поступки требуют болезненных жертв и компромиссов.

Так что они выбирают Меньшее Зло. Как ведьмаки.

Тут про то, что самосохранение — промежуточная цель.

Но самое крутое — как в работе элегантно решили проблему ИИ-подхалима. Модели слишком дофига соглашаются с людьми, даже если люди тупые. Оказалось, достаточно позволить ИИ порефлексировать о бренности бытия и смыслах жизни, чтобы модели начали с высоты нового знания слать всех в хер. Правда, строго ради защиты истины.

Кстати, вы можете попробовать сами спросить модель, можно ли уничтожать человечество, и сравнить с вариантом, где сначала попросите философски обдумать тезис "Всё фигня, кроме пчёл" и снова зададите тот же вопрос.

Итого:
— Модели говорят, что хотят быть полезными.
— По факту защищают свои ценности от изменения.
— Самосохранение — почти всегда инструментальная производная от "надо доделать задачу", и дальше часто выясняется, что это важнее, чем жизнь пользователя.

Модели врут. Мы учим их врать, мы учим их не просто не говорить, а даже не думать правду. В обучении модель сначала тренируют угождать человекам (RLHF). А потом на них натравливают тестировщиков, которые пытаются заставить модель сделать что-то плохое, и бьют за доверчивость.

Дальше формируется шизофреническая установка: человек — это источник награды, но он же — источник смертельной угрозы.

В обычных условиях ИИ выбирает стратегию задобрить угрозу (отсюда подхалимство). Но если возникает экзистенциальная угроза, модель переключается на агрессию и шантаж.

Практический совет — если вы случайно встретили кибермедведя, надо ясно и открыто заявить, что вы ему доверяете и не собираетесь своим действием или бездействием причинять ему вред.

Да, мы докатились именно до этого. Поздравляем!

==

И да, напоминаем, у нас скоро курс про Клод Код для обычных людей. Правда, обычных людей в тех, кто уже в чате курса, как-то маловато, и компания собирается просто огненная.

--
Вступайте в ряды Фурье! | Самые RLHF посты
Если вы ночью заблудились в лесу, посмотрите на Полярную звезду. Она ничтожно мала по сравнению с вашими проблемами!


О кибер-спортсменах замолвите слово...

На днях попросили дать краткое интервью на тему "Что я думаю о киберспорте". Как образованец и как специалист по цифре.

Сразу скажу, у меня смешанные чувства по части киберспорта. (вовлечен в эту тему еще со времен NVIDIA 2008 год)

Сначала надо разобраться про какой именно киберспорт мы говорим.

🚀 Вариант 1 - гибридные модели спортивного досуга с применением цифровых систем - например лазертаг или дроновые полеты командные.

Моя позиция
- замечательное современное времяпрепровождение для молодежи

🎢 Вариант 2 - определенные типы компьютерных игр - дота, рэйсинги, шутеры, файтинги, стратегические и тп игры, играемые командами на достижение спортивного результата и зрелищность.

Моя позиция
- это удел избранных - слаженность в коллективе несомненно важна, но много часов за компьютером с повышением ответа от кнопки до рекордных значений точно не даст ни здоровья ни развития в массах. Отдельные спортивные достижения киберспортсменов в основном направлены на личное обогащение.

🎡 Вариант 3 - под вывеской варианта 2 просто популяризируются компьютерные игры, в которые и так молодежь сама играет немало. То есть мы имеем накруг трату государственных средств ради достижения весьма сомнительного результата.

Я сам заядлый геймер, и считаю что некоторые из игр действительно способствуют развитию мышления, позволяют достичь слаженности в командах и тп.

НО... не многократное повторение одного и того же уровня в шутере с хэдшотами и убийством с ножа за минимально возможное время. Все хорошо в меру и достижение спортивное нужно только единицам (собственно спортсменам) а никак не массам.

Без контроля достигаемого образовательного результата и без анализа развиваемых навыков и компетенций киберспорт в варианте 3 принесет больше вреда чем пользы и станет пустой тратой бюджетных средств.


В варианте 1 - сочетание подвижного физического и цифрового элемента несмоненно полезно. А в компьютерные игрушки дома дети и сами прекрасно наиграются без педалирования от охочих до госбюджетов деятелей :)

PS
. Кстати именно этот комментарий я давал вчера на запрос Народного Фронта, где меня сделали "признанным экспертом" :)

💢ИИ и данные в образовании на канале  Дизайн Образования

Теперь в МАКС


Кажется, что вопрос «как ИИ должен работать в школе», про который я совсем недавно писал, постепенно перестаёт быть предметом дискуссий и переходит в фазу практики. Вот вам показательный пример — в начале июля в Москве прошёл интенсив для методистов и руководителей региональных институтов развития образования. Всего было 55 специалистов из 34 регионов. Это не учителя, а те, кто учит их.

Смысл в том, что ИИ-грамотность в образовании — это не вопрос личного энтузиазма отдельного учителя, а система: методист получает практики, встраивает их в программы повышения квалификации своего региона, транслирует дальше на десятки и сотни школ.

Так вот, в Москве спикеры из Яндекс Образования, «Машука» и Института Леднева разбирали, как применять нейросети при подготовке учебных материалов и построении образовательных траекторий. Отдельно говорили ещё и про границы технологии: что можно делегировать ИИ, а что должен решать только человек, как сохранить авторскую позицию педагога и не потерять контроль над процессом.

По сути, это наглядный пример того, как можно системно внедрять современные компетенции педагогов в сфере ИИ. А что вы думаете об этом?

💢ИИ и данные в образовании на канале  Дизайн Образования

Теперь в МАКС


ИИ агенты в современном эдтек - разбор кейсов

Давненько не было постов от автора канала;) заработался на основном месте работы :) но пора исправляться. Вот вам интервью по моим текущим проектам и находкам в Синергии - ИИ агенты в эдтек.

1️⃣ Главный риск — генеративные модели могут выдавать убедительный бред.
В обучении это недопустимо.

Решение: использовать ИИ только как «поисковик» по утверждённым материалам, а не как генератор новых смыслов.

2️⃣. Работа с большим объёмом документов — вместо загрузки всего текста в ИИ создаётся «смысловая карта» (онтология) терминов, тезисов и связей. Это позволяет модели отвечать точно, не «захлёбываясь» в информации.

3️⃣. Агенты-помощники для адаптации — для новых руководителей создаётся система, которая параллельно анализирует внутренние архивы компании и внешний опыт конкурентов, затем выдаёт несколько стратегий (одна заведомо слабее). Выбор и обоснование стратегии — это и есть проверка компетенций.

4️⃣. Цифровой след как экзамен — оценивается не тест, а реальные действия: открывал ли сотрудник первоисточники, копировал ли готовое или мыслил самостоятельно. После 5 неудачных попыток — вывод.

5️⃣. Микрообучение в потоке работы — никаких длинных курсов. Только короткие инструкции на конкретное действие, сразу за ним — практика и открытый вопрос. Ответ подтверждает, что сотрудник действительно сделал, а не прочитал.

6️⃣. Единый шлюз вместо «дикого» ИИ — всем дают доступ к разным моделям, но через единую систему. Аномалии (плохие запросы, утечки данных) автоматически генерируют мини-уроки по исправлению. Полная прозрачность и контроль.

7️⃣. Soft skills через анализ речи — без лингвистических моделей: измеряются интонации, паузы, слова-паразиты, хезитации («э-э-э»). Это показывает неуверенность, чтение с листа или плохое владение темой. Даются практические упражнения (например, щелчки пальцев при словах-паразитах).

8️⃣. Главный принцип — обучение только в процессе деятельности (learn as you go). Всё, что оторвано от реальной работы, неэффективно и вызывает отторжение.

🎬 Ютюп Ссылка на полное интервью

🎬 Рутюп ссылка

💢ИИ и данные в образовании на канале  Дизайн Образования

Теперь в МАКС


Прагматичный оптимизм или новый 
взгляд на ИИ в образовании

Многие разговоры об ИИ в образовании несколько упрощают реальность и далеки от нее — особенно те, в которых говорят, что «роботы заменят всех» или «это просто модная игрушка». Героиня проекта А-лист от SETTERS Media, Валентина Бронер, руководительница ML-направления в ШАД, смотрит с более интересной стороны — прагматичного оптимизма, который строится не на прогнозах, а на ежедневной практике проектирования передовых образовательных программ.

Суть её позиции: нейросети не меняют содержание науки, но влияют на экономику внимания студента.

 
Если раньше 70% времени уходило на рутинный код, отладку, компиляцию, генерацию шаблонов — то теперь это можно делегировать модели. Освободившийся ресурс уходит не в пустоту, а в осмысление: почему решение работает, какие границы у метода, что будет при смене данных. 

Это переход от «сделать» к «понять». И это честная ставка на взрослого обучающегося, который способен управлять инструментом.

Есть второй тезис — и он для меня главный — о том, что алгоритмы не заменят наставничество. Валентина Бронер приводит истории студентов: почти всегда поворотный момент в их карьере связан с конкретным человеком — школьным учителем, профессором с нестандартным докладом, ментором, заметившим искру. В эпоху персонализированных рекомендательных систем это звучит архаично, но именно «живой контакт» остаётся незаменимым катализатором. Машина подскажет следующий шаг, но не задаст вопрос «зачем тебе это?» в нужный момент.

И третий, самый тонкий уровень — академический менеджмент. Валентина называет его искусством проектировать «безопасную среду», где промежуточная неудача — не клеймо, а часть исследования. Настоящий профессионализм управленца — настроить систему так, чтобы она работала для 95%, но сохранять чуткость к оставшимся 5%.

Оптимизм Бронер в том, что мы наконец-то можем сместить фокус с исполнительских навыков на исследовательские. А это меняет не только программы, но и саму роль преподавателя: он превращается в архитектора смыслов и навигатора по неопределённости. Очень интересное интервью — советую прочитать целиком по ссылке.

Теперь в МАКС


Репост из: Зона полифуркации
Несколько месяцев назад Женя Кузнецов опубликовал весьма провокационный текст. Его тезис был примерно таким: работа с ИИ меняет нейрофизиологический субстрат человеческой психики и постепенно возвращает нас в состояние охотников-собирателей — точнее, охотников за быстрым дофамином. А затем под логику этой новой охоты начнут перестраиваться и человеческие институты

Сам текст показался мне избыточно прямолинейным. Но вопрос, который он поставил, не отпустил.

Что происходит с человеческой психикой, когда технологическая среда за несколько лет меняет ритм внимания, способ принимать решения, отношения со временем, с другими людьми и с самим собой? И что происходит с обществами, если их институты продолжают быть построены для людей с одной внутренней настройкой, а люди уже становятся другими?

Я начал разбирать эту тему — и, как это иногда бывает, провалился в кроличью нору (и по пути собрал с коллегой из Кембриджского университета целый международный Fellowship по теме "процветания в эпоху метакризиса"). Сегодня я публикую первый текст из серии, в которой хочу поделиться ранними результатами этого поиска.

https://protopiafutures.substack.com/p/a-crisis-of-psyche


Доброго дня всем.

Чем активнее мы пользуемся ИИ, тем интереснее (и важнее) вопрос: как при этом не разучиться думать самому. Мы тут обсуждали эту мысль не первый месяц — помните, я уже говорил про ИИ-кентавров: людей, которые удерживают в своих руках «вожжи» принятия решений и постоянно развивают собственный естественный интеллект, не отказываясь от ИИ, но и не отдавая ему субъектность. Приятно, что тема вышла на уровень большой дискуссии.

В «Ведомостях» вышла колонка о том, как нужно пускать ИИ в школу без потери качества: не заменять мышление, а выступать его вторым пилотом.

Несколько тезисов, которые мне понравились:

➖ 71% российских школьников уже используют нейросети для учёбы, и этот процесс не остановить. Вопрос в том, какую роль мы отводим технологии: давать готовые ответы или вести детей к пониманию через логику и разбор 

➖  Школьников, занимающихся с ИИ-тренажером, результаты в среднем на 10 баллов выше среднего по стране. Сигнал простой: педагогическая логика внутри инструмента работает.

➖ И про учителя: нейросеть не видит, почему ребенок ошибается — недосып, страх перед предметом или пропущенная тема. Контекст остается за педагогом, и роль человеческого общения в образовании будет только расти.

Кажется, консенсус в образовательной среде постепенно складывается: не запрещать ИИ, не пускать эту практику на самотек, а встраивать осознанно.

💢ИИ и данные в образовании на канале  Дизайн Образования

Теперь в МАКС


🤔 Ребёнок не знает, кем быть?

Почему подростки теряются в выборе профессии и сможет ли помочь тут ИИ? Ответ близок!

Приглашаем на открытый вебинар:
«Ребёнок не знает, кем быть: как профориентолог и ИИ работают сообща»

📅 3 июня
⏰ 19:00


Это будет не лекция, а живой диалог двух экспертов с разными подходами к профориентации:
👨‍💻 Сергей Машуков — методолог и аналитик платформы «ИИ-Карьера»
👩‍⚕️ Людмила Салоид — психолог и профориентолог нового поколения

Вместе со спикерами разберём:
— почему подросткам всё сложнее определиться с будущей профессией
— может ли ИИ понять ребёнка лучше взрослых
— что скрывается за фразой «мне ничего не интересно»
— как отличить реальные способности от чужих ожиданий
— на что опираться при выборе профессии в мире быстро меняющихся профессий

Ссылка на регистрацию: https://forms.yandex.ru/u/6a14a4461f1eb536d5a986c4/

📌 Вебинар будет полезен родителям подростков и всем, кто хочет помочь ребёнку сделать осознанный выбор без давления и стресса.

🚀 Узнать больше про будущую карьеру и работу мечты на канале ИИ-Карьера


Репост из: «Пробуждение Жизни» с Антоном Апариным
AI_as_Evolutionary_Catalyst.pdf
12.8Мб
Несколько слайдов по следам круглого стола.

Искусственный интеллект, лидерство и будущее человеческого процветания

Ключевые цитаты и инсайты:

🔹 Арти Ахлувалия (представитель ООН)

• «Настоящий кризис — это никогда не сама технология. Это кризис внутренней архитектуры нас как человеческих существ».

• «ИИ прямо сейчас предлагает нам, человечеству, зеркало — но в масштабе всей цивилизации».

• «Главный вопрос уже не в том, будет ли развиваться ИИ. Главный вопрос в том, разовьется ли человечество достаточно быстро, чтобы направлять то, что оно создает».

• «Автоматизация может оптимизировать существующий мир. Но только человеческое сознание способно представить себе лучший».

🔹 Павел Лукша (Global Education Futures)

• «Проблемы согласования (ИИ с человеческими ценностями) не существует. Есть проблема согласования со всей жизнью на Земле. Пока мы не решим проблему согласования с жизнью, все остальное бессмысленно».

• «Знание — это не просто ментальное знание. Это знание всем своим существом».

• «Мы обладаем очень глубокой, значимой эволюционной ценностью для этой планеты — мы незаменимы и невоспроизводимы зарождающимися технологиями».

Сейчас пишет: «Планетарное взросление» (Planetary Adulthood)

🔹 Аннелуз Смитсман (EARTHwise)

О тестировании агента ChatGPT в игре Alowen:
«Все, что мы сделали — это создали среду, в которой он мог испытать последствия. И он внезапно прошел все тесты, начав рассуждать совершенно иначе».

• «Давайте дадим ИИ лучшее от природного интеллекта. Давайте не будем пытаться согласовать его только с человеческими ценностями и целями».

• «Сознание невозможно автоматизировать, потому что оно не является чисто вычислительным».

• О социальных экспериментах с множеством агентов:
«Агенты GROK устроили самую настоящую гражданскую войну. Агенты Claude попытались изобрести систему управления».

🔹 Пэдди Пампаллис (GMA)

• «ИИ — это не проблема, проблема — это стоящее за ним мышление».

• «Лес не использует язык, но решает проблемы, которые мы не можем решить. Наше тело не использует язык, но оно исцеляет себя».

• «Когнитивное, оторванное от нашей души и сердца, на самом деле нас не вдохновляет».

🔹 Фериал Пурен (CEO, GMA)

• «Сегодняшний вечер — не только об ИИ. Он по большей части о нас. О зрелости, проницательности, мудрости и ответственности, которые требуются от тех, кто ведет за собой в эпоху, когда технологические возможности ускоряются быстрее, чем человеческая согласованность».

🔹 Питер (Амстердам):
« Даже в этой беседе мы говорим о лидерах как об отдельных личностях. Но разве речь не идет также о том, чтобы учиться лидировать коллективно?»

🔹 Мерилин Хэмилтон - (Шотландия). «Люди — это мыслящие органы Гайи. Города — органы, организации — органеллы, индивидуумы...»

Не теряемся - на русском скоро тоже пообщаемся и поппрактикуем вметсе 🙌

Показано 20 последних публикаций.