Господа!
Пришло время переосмыслить канал и его название!
Когда я общаюсь частая история (особенно со студентами) — люди понимают, что прокачиваться надо, но не могут себя мотивировать на это. А ведь ровно этому, если вдуматься, канал во многом посвящен.
Ключевые тейки:
* На железе NVIDIA: Затраты на тренировку модели уровня GPT-4 на P100 в 2016 vs B100 в 2024 снизились в 525 раз за 8 лет (2,18 раза в год)
* На железе Google: цена за терафлоп FP16 у TPU v4 (2021) по сравнению с TPU v7 (2025) упала с $227 до $21. Это 1.9 раза в год.
Т.е. только за счет прогресса железа себестоимость инференса и тренировки очень быстро падает.
* Уверенно вангуется увеличение энергоэффективности в 100 раз в ближайшие 5 лет (т.е. себестоимость электричества в 100 раз) и в 1000 раз за 10 лет.
* Также при быстром росте сложности LLM было накоплено много неэффективности, что привело к падению стоимости токенов в 2024 году до 900 раз, причем наибольшее снижение стоимости было для наиболее сложных запросов.
* При этом сложность успешно решаемых задач также быстро растет — примерно в 2 раза за полгода (тык, тык, тык). Напомню, было ИЗМЕРЕНО УВЕЛИЧЕНИЕ ВРЕМЕНИ УСПЕШНО РЕШАЕМЫХ ЗАДАЧ БОЛЬШЕ, ЧЕМ В 16 РАЗ ЗА ГОД последние два года!
Как следствие, я ванговал год назад:
🤩 ➡️ Больше на тему по тегу #speed_of_progress@vgcourse
* Как следствие, все больше людей платит за модели. Доходы Антропик росли с $100 млн в 2023, $1 млрд в 2024 и $10 млрд в 2025 🤩
* А зарплаты в области улетели в космос. 🚀 Отдельно я разбирал состав Superintelligence team, где на 30 Research Scientist 29 с PhD и двое выпускников МГУ (с ВМК и Мехмата) + разбирал число А* статей у них.
* При этом все больший процент студентов меньше учится. Мой пост про ноотропы, микронаушники, домашки с LLM и прочие достижения прогресса причины не учиться стал вторым по прочтениям среди всех постов прошлого года 🤷♂️
* Одновременно соотношение вакансий с резюме в IT быстро падает на HH и на рынке труда холодает 🤷♂️
🤩 ➡️ Больше по тегу #winter_is_coming@vgcourse
* При этом, я наблюдаю серьезный всплеск желания прокачиваться у старшего поколения (которые ближе к "за 30"), но их поджидает страшный зверь нейропластичность — с возрастом способность изучать более сложные вещи падает, и даже в интервале 5 лет это хорошо заметно, а уж 10... (25, 35, 45, 55 — огромная разница)
🤩 ➡️ больше по тегу #neuroplasticity@vgcourse
* Ну и последний аргумент наши успехи, когда я пишу про очередного нашего третьекурсника, затащившего А* первым автором
🤩 ➡️ Больше по тегу #our_successes@vgcourse))) Надеюсь это тоже кого-то мотивирует!
* И полезная (или интересная) информация с конференций, например, когда у нас 2 рецензии совпали (самый популярный пост прошлого года), или когда ответ рецензентам превысил длину статьи (и статья зашла в итоге)! Как вообще выглядят топовые конференции сейчас, какие они проблемы испытывают и как меняются.
🤩 ➡️ Больше по тегу #pro_conferences@vgcourse
В общем — меняем название канала на VG: VideoLab & Self-Motivated Learning и дальше агитируем людей прокачиваться, пока другие агитируют расслабиться (ибо завтра чтобы работать будет достаточно скомандовать свою задачу агенту, да-да! 😁)))
А через некоторое время посмотрим на результат!
Продолжаем движение! 😁
@vgcourse
Пришло время переосмыслить канал и его название!
Когда я общаюсь частая история (особенно со студентами) — люди понимают, что прокачиваться надо, но не могут себя мотивировать на это. А ведь ровно этому, если вдуматься, канал во многом посвящен.
Ключевые тейки:
* На железе NVIDIA: Затраты на тренировку модели уровня GPT-4 на P100 в 2016 vs B100 в 2024 снизились в 525 раз за 8 лет (2,18 раза в год)
* На железе Google: цена за терафлоп FP16 у TPU v4 (2021) по сравнению с TPU v7 (2025) упала с $227 до $21. Это 1.9 раза в год.
Т.е. только за счет прогресса железа себестоимость инференса и тренировки очень быстро падает.
* Уверенно вангуется увеличение энергоэффективности в 100 раз в ближайшие 5 лет (т.е. себестоимость электричества в 100 раз) и в 1000 раз за 10 лет.
* Также при быстром росте сложности LLM было накоплено много неэффективности, что привело к падению стоимости токенов в 2024 году до 900 раз, причем наибольшее снижение стоимости было для наиболее сложных запросов.
* При этом сложность успешно решаемых задач также быстро растет — примерно в 2 раза за полгода (тык, тык, тык). Напомню, было ИЗМЕРЕНО УВЕЛИЧЕНИЕ ВРЕМЕНИ УСПЕШНО РЕШАЕМЫХ ЗАДАЧ БОЛЬШЕ, ЧЕМ В 16 РАЗ ЗА ГОД последние два года!
Как следствие, я ванговал год назад:
если тренды сохранятся, то условно через 6 лет в 1000 может вырасти сложность успешно решаемых задач, при этом одновременно в 200 раз упадет стоимость решения аналогичной задачи [...] Звучит, как фантастика, но основания для сохранения тренда есть. ✌️
🤩 ➡️ Больше на тему по тегу #speed_of_progress@vgcourse
* Как следствие, все больше людей платит за модели. Доходы Антропик росли с $100 млн в 2023, $1 млрд в 2024 и $10 млрд в 2025 🤩
* А зарплаты в области улетели в космос. 🚀 Отдельно я разбирал состав Superintelligence team, где на 30 Research Scientist 29 с PhD и двое выпускников МГУ (с ВМК и Мехмата) + разбирал число А* статей у них.
* При этом все больший процент студентов меньше учится. Мой пост про ноотропы, микронаушники, домашки с LLM и прочие достижения прогресса причины не учиться стал вторым по прочтениям среди всех постов прошлого года 🤷♂️
* Одновременно соотношение вакансий с резюме в IT быстро падает на HH и на рынке труда холодает 🤷♂️
🤩 ➡️ Больше по тегу #winter_is_coming@vgcourse
* При этом, я наблюдаю серьезный всплеск желания прокачиваться у старшего поколения (которые ближе к "за 30"), но их поджидает страшный зверь нейропластичность — с возрастом способность изучать более сложные вещи падает, и даже в интервале 5 лет это хорошо заметно, а уж 10... (25, 35, 45, 55 — огромная разница)
🤩 ➡️ больше по тегу #neuroplasticity@vgcourse
* Ну и последний аргумент наши успехи, когда я пишу про очередного нашего третьекурсника, затащившего А* первым автором
🤩 ➡️ Больше по тегу #our_successes@vgcourse))) Надеюсь это тоже кого-то мотивирует!
* И полезная (или интересная) информация с конференций, например, когда у нас 2 рецензии совпали (самый популярный пост прошлого года), или когда ответ рецензентам превысил длину статьи (и статья зашла в итоге)! Как вообще выглядят топовые конференции сейчас, какие они проблемы испытывают и как меняются.
🤩 ➡️ Больше по тегу #pro_conferences@vgcourse
В общем — меняем название канала на VG: VideoLab & Self-Motivated Learning и дальше агитируем людей прокачиваться, пока другие агитируют расслабиться (ибо завтра чтобы работать будет достаточно скомандовать свою задачу агенту, да-да! 😁)))
А через некоторое время посмотрим на результат!
Продолжаем движение! 😁
@vgcourse