опять центроиды

Комментарий по вопросу ЕГЭ выше имеет ограничения. Я не участвовал в олимпиадах школьников с сентября 2023 года, не проводил их, и не учил школьников.

В то же время, сейчас я отбираюсь на SOTA-интенсив ШАД-Сириус в октябре. Из самых интересных мне тем вижу четыре:
• Работа с тренировкой dLLM в стиле GFlowNet;
• Параллельный ризонинг LLM в контексте решения математики;
• Спекулятивный семплинг для LLM;
• Использование dLLM как надстройки над LLM для ускорения генерации.

Некая общая подстрока в темах видна. :) Выбрал для собеседования первую из тем. Честно говоря, сам метод достаточно странный, но, вообще, как раз хотелось взять что-то по диффузионным моделям, например 💅GFlowNet💅, поэтому надеюсь достаточно глубоко погрузиться в тему и предложить какие-то свои идеи. (Спойлерить дальнейшие мысли о статье до окончания отбора не буду.)

Наверно, если бы я хотел взять что-то другое, это были бы JEPA, или unalignment. В общем, темы интересные 😁

(К вопросу олимпиад и ЕГЭ, часть 2.)

Спецификация должна быть устроена так, чтобы варианты, сформулированные по ней, были максимально близки по сложности, но этой схеме не соответствуют типичные "интересные" задачи.
Таким образом, если кто-то предлагает объединить олимпиады и ЕГЭ, или улучшить ЕГЭ таким образом, чтобы отказаться от олимпиад, разумно ожидать, что он учёл эти ограничения.

• На олимпиадах бывают новые задачи, задачи с оценкой нешаблонных решений, а также бывает значительный риск не получить диплом. Это не является проблемой, так как участие в олимпиадах добровольно, а неудача в конкретной олимпиаде дешевле неудачи на ЕГЭ. Естественно, если текущую систему "ЕГЭ + олимпиады" поменять, изменится, как следствие, и характер олимпиад.

• К ЕГЭ применим закон Гудхарта. ЕГЭ измеряет не "уровень знания после прохождения программы 11-и классов", а наблюдаемый уровень знания после, в том числе, направленной подготовки к ЕГЭ. Любой экзамен на месте ЕГЭ должен учитывать тот факт, что к нему будут очень долго и упорно готовиться, в том числе будет существовать рынок подготовки. Подготовка к одним экзаменам будет полезным и развивающим занятиям, а к другим — не очень полезным; не стоит отказываться от тех экзаменов, подготовка к которым оказывается полезной самой по себе.

• В олимпиадах учитывается лучший результат участия, а не средний. Таким образом, риск неудачного дня, или неудачного/неподходящего набора задач имеет меньшее влияние на участника. В среднем, участник может масштабировать свои усилия и показать себя в лучшем свете, а цена конкретной ошибки будет ниже, а на ЕГЭ такого нет. Естественно, за счет этого, средний уровень диплома по участникам также немного смещается вверх, но это корректируется повышением планки БВИ.

• Разные олимпиады по одному предмету имеют разный характер задач. Участник может выбрать интересные и пропустить неинтересные. Это расширяет аудиторию участников, которым будет интересно готовиться хотя бы к одной олимпиаде, и в целом система поощряет тех, кому интересно конкретное направление.

• Подготовка к олимпиадам как к классу разных соревнований с неизвестными типами задач в конце концов подталкивает к формированию общих умений.

• РСОШ создан приказом Минобрнауки № 285 от 22 октября 2007 как замена массовым вступительным испытаниям вузов, в том числе с учетом интересов топовых вузов. ЕГЭ обязателен с 2009. Всероссийская олимпиада восходит к советским предметным олимпиадам. Олимпиадный канал не является надстройкой над ЕГЭ и не появился позже него "с потолка", это естественное продложение системы вступительных испытаний после 2009.

• Система олимпиадной подготовки готовит не только к российским, но и к международным олимпиадам. Можно изменить российскую систему олимпиад и олимпиадной подготовки, но нельзя изменить международную систему олимпиад; можно только готовить школьников к ней, лучше или хуже. (Готовить "лучше" — сложнее.)

• Система олимпиад масштабирует не только усилия участников, но и усилия организаторов. Организаторы из регионов могут провести свою олимпиаду, но не могут провести "дополнительный день ЕГЭ" или как-то еще использовать свои ресурсы, чтобы дать дополнительную возможность поступающим по ЕГЭ показать себя.

• Вне зависимости от конкретной системы подготовки и поступления, трудолюбие и ответственность всегда будут способствовать успеху.

Хочу указать на несколько важных пунктов относительно недавнего вопроса олимпиад и ЕГЭ.

Группа 1. Рамки вопроса.

• По стране, приём без вступительных испытаний в 2025 составил 2,6% бюджетных мест.

• На отдельных программах доля действительно доходит до 100% и/или конкурса БВИ. Однако, предметом спора остаются несколько десятков программ.

• Программы, на которые много людей поступили по БВИ, — это топовые программы, а не случайная выборка.

• Если человек не поступил на программу первого приоритета, он может поступить на программу второго приоритета.

• Поступление по БВИ и на общих основаниях — это не единственные два способа поступить на бюджетное место.

Группа 2. Об агентности участников приемной кампании.

• Непоступление на программу первого приоритета не означает непоступление на интересующую специальность. Напротив, в любом случае лишь часть абитуриентов по направлению поступит в топовое место, остальные поступят куда-то еще.

• Если на какой-то программе подавших заявку больше, чем мест, на ней будет конкурс. В конце концов, механизм поступления может только ранжировать их, но не добавить новые места; кто-то не поступит в любом случае.

• У факультета есть собственные интересы, которые он преследует, определяя основания БВИ осенью для последующей приёмной кампании. Он может самостоятельно выбирать, по какому каналу он хочет брать больше людей — по БВИ или по ЕГЭ; факт существования какой-то олимпиады не означает, что она обязательно даёт БВИ куда-либо. Например, МФТИ в этом году сократил список олимпиад, дающих БВИ.

• Если будут регулироваться возможности факультета по определению критериев БВИ и других, на кону будут в том числе интересы факультета. Если на факультете меняется состав набора, поменяется и репутация факультета среди научно-педагогических работников и абитуриентов, в частности — среди сильных и имеющих возможность выбирать факультет. Факультет не является каким-то неизменным благом, которое остается только распределить между абитуриентами.

• Человек не может прийти на каждый факультет и убедить его, что брать надо мало людей по БВИ и много по ЕГЭ; может найтись факультет, который захочет брать людей только по БВИ, и с этим прямо сейчас ничего нельзя сделать — можно только идти или не идти на этот факультет.

• Возможно, вы узнали об описываемой теме из телеграм-каналов-миллионников. Одной из задач таких каналов является публикация вовлекающих постов. Они чаще публикуют истории, в которых есть некоторый конфликт между ожиданием и результатом. Поэтому они не публикуют истории вида «на такой-то программе набрали в основном по ЕГЭ». Таким образом, оценить распространённость явления на основе чтения ленты нельзя (если это не посты людей, которых вы знаете лично). Одно из когнитивных искажений, связанных с таким чтением, называется "каскадом доступности". Конечно, это никак не говорит про самих абитуриентов, но стоит понимать, как формируется информационное поле.

Группа 3. Как устроены каналы набора.

• Вуз устанавливает критерии БВИ осенью. Он не может заранее знать, сколько абитуриентов с этими БВИ придут к нему летом. (Кроме того, каждая олимпиада может дать настолько мало дипломов призеров и победителей, насколько она захочет. См. Технокубок.)

• ЕГЭ имеет четыре свойства: он один и тот же для всех выпускников; он одновременный и, как правило, однократный; баллы выставляются по спецификации и, в задачах с открытым ответом, могут быть апеллированы; результаты сопоставимы между разными годами и вариантами. Из них следует:
— заранее известный набор типов заданий, а следовательно натаскиваемость, что непосредственно влияет на рынок подготовки.
— необходимость балансировать задания, направленные на разных, по уровню подготовки, абитуриентов. Экзамен хорошо различает абитуриентов со средним уровнем подготовки, поэтому в районе ~100 баллов важны фактор удачи и вероятность ошибки;
— ограниченность в новых или интересных заданиях.

Открыт набор в кружки Т-Поколения в этом учебном году. Админ учился в кружке по алгоритмам (вроде бы самый большой кружок), а также думал про кружки по математике, и ML. Кружков по ML несколько лет не было, но теперь они вернулись 🐦‍🔥. Насколько мне известно, очень крутые кружки, даже немного нишевые (по математике).

https://l.tbank.ru/t-pokoleniye-2026

В зависимости от города, отбор на кружок по алгоритмам может быть очным (например, в Москве), чтобы минимизировать читерство, в том числе с использованием БЯМ. Думаю, будет более честный отбор, и будет проще пройти добросовестным участникам.

Крутая программа в Сириусе. Проекты, возможно, сейчас не известны, но рекомендую рассмотреть возможность

Хочу обратить внимание — при подаче заявки на стипендию Альфа-Банка, статьи дают 0.5-1 балл достижений, а выступления на конференциях - 0.25 👍

Надеюсь, публикация в proceedings конференции у них считается как статья, иначе все мл статьи остаются.

(Можно предположить, что там считают, что конференции проще слопить, чем статьи — статья остается опубликованной, а конференция может быть без записи? 🤔)

btw, https://t.me/siriusprogram/160 Сириус стажировки 🙏

Хотелось бы написать немного инфоцыганских* мыслей в канал.

За последнее время видел три источника, по разным темам, призывавших, в общем, пользоваться точным значением слов при речи и чтении источников.

> Михаил Гребенюк — про предпринимательство и саморазвитие, автор проекта "Поколение" (ссылка)
Апеллировал к значению и происхождению слова "точность" по словарю, чтобы подчеркнуть важность фокуса при построении плана.

> gonzo-обзоры ML статей (ссылка)
Предлагается понимать, как минимум, ту математику, модели и алгоритмы (в машинном обучении), для которых есть время разобраться в содержимом. Учитывая, что для большинства мейнстримных вещей у вузов/в оригинальных статьях обычно есть хорошие объяснения.
Цитата:

понимание -- это то, на чём строится следующее понимание

> Неназванный блогпост (ссылка утеряна)
Указывается на важность понимания синтаксиса и работы примитивов языка программирования для понимания работы программ. Называются следующие преимущества:

• написать утверждение или алгоритм формально или на языке программирования может быть сильно короче, чем написать то же на естественном языке;
• выражение мысли на языке с точным значением лексем позволяет не создавать, случайно или намеренно (в том числе в голове читателя), противоречий в выраженной мысли;
• также "понимание -- это то, на чём строится следующее понимание".


Меньше слопим статьи и меньше слопим код, друзья 😀

*таковым не являюсь и не продаю никакие услуги или товары, слово использую без отсылки к какой-либо этнической группе, а также в ироничном ключе и не считаю кого-либо из авторов "инфоцыганами"

Отбор на Лето с AIRI продлили до 29 мая 10:00.

У меня все стабильно, курсач, работа, проекты 👍

Очень благодарен доставке, которая выручила, привезя зарядку и лимонад в 0:30 ночи 👾

Напоминаю про существование очень крутого проекта "Берлога". Если у вас есть возможность прийти на их мероприятие, рекомендую. Также напоминаю про существование НКФП, https://platform.kruzhok.org , с играми, материалами для наставников, и кружками 🧑‍🏫