• Dmitry Legchikov

Давно искал себе ML reading club. И наконец-то нашел!

Scale ML - кружок студентов MIT, которые приглашают интересных спикеров и обсуждают темы касательно масштабирования и оптимизации в области AI.

В программе среди спикеров нашел Horace He (Thinking machine), у него очень клевые статьи про ускорение моделей, например Making Deep Learning Go Brrrr From First Principles

Или Tri Dao (Together AI), создатель Flash Attention

Очень хочется их послушать!

Организаторы обещают трансляцию в zoom.
На сайте можно заполнить форму и получить ссылку

Заряженный туториал от Sasha Rush (ex. Cursor) - Mamba: The Hard Way

Начинает с объяснения основ triton и заканчивает реализацией Mamba

Не знаю почему, но обожаю такие статьи from scratch

Не могу не поделиться еще одним свежим курсом, на этот раз про World Models.
Это первый курс по теме, который попался мне на глаза.
Хотя тема супер актуальна.

This course introduces world models — learned representations and predictors of environment dynamics for perception, planning, and decision making. We study how they support control and reasoning across reinforcement learning, video and 3D, multimodal agents, and robotics.

Проводит его University of Pennsylvania.
Уже выкладывают слайды лекций плюс интерактивные HTML с анимациями и видео!

Очень много ссылок на статьи, туториалы и даже эссе.

Это еще один курс про Reinforcement Learning?

No. We teach the RL and control machinery needed to understand how learned world models support decisions, but the course also covers representation learning, generative modeling, video and 3D, robotics, language, and digital agents.

Не знаю осилю ли домашки, но слайды точно просмотрю

Касательно харнессов - начал проходить курс от CMU AI Agent. Делился ссылкой пару недель назад.

Очень нравится.
В отличии от CS336 это легкая прогулка.
Первая домашка - сделать свой харнесс, который профиксит баг в агенте, который играет в шахматы. А потом с этим агентом сам сыграет партию.

Большая часть кода уже написала, надо только точечно дописать логику, тулы, скиллы.

Работы реально на пару вечеров и сразу виден результат!

При этом код хорошо структурирован и можно легко переиспользовать для собственных харнессов в любом домене (и подаваться с ним в YC ;)

Например, читал статью про RL обучение агента. В ней приводился код агента - почти один в один структура соответствует коду из домашки.
Статья, кстати, крутая - рекомендую!

Если свои харнессы не писали, однозначно стоит попробовать сделать первую домашку. Сразу встают на места различия между tools, skills, memory, compaction и другие базовые термины.

Что мне еще нравится в таких курсах - перед реализацией строится много предположений, которые на практике подтверждаются или опровергаются.
Например, как сжатие контекста в агенте влияет на стоимость решения задач? В какой момент сжимать контекст? Как лучше сжимать?

Сначала строишь догадки, потом проводишь реальные эксперименты и пытаешься объяснить результаты.
Многие думают, что если сжимать контекст, то запуски агента становится дешевле. Это не всегда так.
Количество шагов агента может расти, тратятся токены на суммаризацию и тп.
И оказывается главная цель не совсем экономия токенов. А какая?

Еще из нюансов.
В самой домашке используется Modal - сервис, который предоставляет sandbox окружения для безопасного запуска агента (чтобы он случайно все вам не поудалял с компьютера).
Сервис платный, но если привязать карту, дают 30$ кредитов, что должно быть достаточно для прохождения курса.
Мне карту было привязывать лень, поэтому я попросил Claude Code перенастроить на локальный запуск в Docker.

И помимо того, что в курсе очень крутые слайды к каждой лекции, недавно начали выкладывать видео лекций. Их пока не смотрел, может доберусь позже.

Слайды по кодинговым агентам точно стоит глянуть, я много не знал по этой теме!

Еще летом записывал интервью с друзьями из Авито

Поговорили про внедрение ИИ в компаниях и трансформации

Carnegie Mellon University запускает курс 11-768 AI Agents

This course studies LLM-based AI agents: systems that use large language models to perceive, reason, plan, and act over many steps.

Обещают все материалы (слайды, лекции, домашки) выкладывать в открытый доступ!
Пока есть только слайды.

По темам выглядит очень интересно и пока не встречал подобных открытых аналогов:

- Capabilities: tool use, context management, skills, memory, planning
- Domains: coding, gui, deep research
- Training: SFT, RL, and systems
- Safety: sandboxing, adversarial defensе
- Interaction, frameworks, and search

Домашки тоже крутые:

- Building an agentic harness
- Creating agentic evaluations
- Training with RL
- A final research proj