CURL-ык🕸
В 1948 году Беррес Фредерик Скиннер ставит свой знаменитый эксперимент: голуби, посаженные в «ящик Скиннера», получают порцию зерна через определённые промежутки времени. Лишенные возможности понять истинную причину вознаграждения, птицы начинают повторять те действия, которые они случайно совершали в момент получения пищи. Один голубь крутился против часовой стрелки, другой бился головой об угол, третий махал крылом. Каждый из них разработал свой собственный ритуал, «суеверие», в надежде, что именно это принесет им заветную еду. Эксперимент наглядно продемонстрировал, как мозг ищет закономерности даже там, где их нет.
Вдохновившись работами Скиннера, но не имея доступа к университетской лаборатории, я решил воспроизвести классический эксперимент в современных условиях. Объектом моего исследования стали десять сизых голубей, пойманных на ближайшей помойке – существа, чья жизнь и так была тесно связана с поиском случайных вознаграждений. Я соорудил для них вольер с автоматической кормушкой на Arduino, запрограммированной на выдачу еды в хаотичном порядке.
Поначалу всё шло по учебнику. Голуби клевали, кружились, махали крыльями, пытаясь найти простую причинно-следственную связь. Но затем произошло нечто непредвиденное. Спустя неделю ритуалов, один из голубей, которого я мысленно прозвал «Восьмой», перестал бессмысленно кланяться и начал внимательно наблюдать. Он заметил, что еда появляется независимо от танцев его сородичей. Это было озарение.
Вечером того же дня Восьмой собрал остальных на экстренное совещание. «Коллеги, – проворковал он, – наши карго-культы не работают. Мы имеем дело со стохастическим процессом. Нам нужны данные».
С этого момента эксперимент вышел из-под контроля. Голуби организовали собственный Data Science отдел. Самый шустрый голубь, «Шестой», был назначен ответственным за сбор данных: он скрупулезно фиксировал время каждой кормежки. «Третий», обладавший аналитическим складом ума, возглавил отдел аналитики. Первым делом они закупили мощности в облаке💻 – благо, рядом с вольером проходил незапароленный Wi-Fi🖥.
Их первоначальные попытки анализа были просты: они искали простые закономерности📊, строили линейные регрессии, но быстро поняли, что система гораздо сложнее. Тогда «Восьмой», ставший к тому времени неформальным тимлидом, предложил революционное решение. Где-то раздобыв пейпер «Attention Is All You Need», они внедрили архитектуру transformer для прогнозирования временных рядов. Теперь их модель учитывала не просто отдельные события, а всю последовательность появления еды за последние дни.
Чтобы проверить эффективность своей модели, они разделились на две группы. Первая группа продолжала следовать своему «суеверному» поведению, вторая — использовала полученные прогнозы. Результаты A/B-тестирования оказались ошеломляющими: вторая группа получала корм на 30% чаще.
Спустя неделю успешной работы модель начала давать сбои. Точность прогнозов упала. «Мы поймали data drift!» – встревоженно проворковал «Третий». Статистические свойства входных данных изменились. После долгих дебатов и анализа внешних факторов, голуби пришли к выводу, что на график подачи еды влияет погода – в дождливые дни интервалы между кормежками сокращались. Они немедленно заказали API👣 с метеорологическими данными и интегрировали их в свою модель, переобучив ее.
На днях я наткнулся на препринт arXiv 📖 "Прогнозирование стохастических пищевых событий в ограниченной среде с использованием трансформерных архитектур: опыт голубиной стаи". Backtest показывал ошеломляющие 95% accuracy.
Думаю пора переходить к следующему шагу – оставить кормушку навсегда полной...
В 1948 году Беррес Фредерик Скиннер ставит свой знаменитый эксперимент: голуби, посаженные в «ящик Скиннера», получают порцию зерна через определённые промежутки времени. Лишенные возможности понять истинную причину вознаграждения, птицы начинают повторять те действия, которые они случайно совершали в момент получения пищи. Один голубь крутился против часовой стрелки, другой бился головой об угол, третий махал крылом. Каждый из них разработал свой собственный ритуал, «суеверие», в надежде, что именно это принесет им заветную еду. Эксперимент наглядно продемонстрировал, как мозг ищет закономерности даже там, где их нет.
Вдохновившись работами Скиннера, но не имея доступа к университетской лаборатории, я решил воспроизвести классический эксперимент в современных условиях. Объектом моего исследования стали десять сизых голубей, пойманных на ближайшей помойке – существа, чья жизнь и так была тесно связана с поиском случайных вознаграждений. Я соорудил для них вольер с автоматической кормушкой на Arduino, запрограммированной на выдачу еды в хаотичном порядке.
Поначалу всё шло по учебнику. Голуби клевали, кружились, махали крыльями, пытаясь найти простую причинно-следственную связь. Но затем произошло нечто непредвиденное. Спустя неделю ритуалов, один из голубей, которого я мысленно прозвал «Восьмой», перестал бессмысленно кланяться и начал внимательно наблюдать. Он заметил, что еда появляется независимо от танцев его сородичей. Это было озарение.
Вечером того же дня Восьмой собрал остальных на экстренное совещание. «Коллеги, – проворковал он, – наши карго-культы не работают. Мы имеем дело со стохастическим процессом. Нам нужны данные».
С этого момента эксперимент вышел из-под контроля. Голуби организовали собственный Data Science отдел. Самый шустрый голубь, «Шестой», был назначен ответственным за сбор данных: он скрупулезно фиксировал время каждой кормежки. «Третий», обладавший аналитическим складом ума, возглавил отдел аналитики. Первым делом они закупили мощности в облаке💻 – благо, рядом с вольером проходил незапароленный Wi-Fi🖥.
Их первоначальные попытки анализа были просты: они искали простые закономерности📊, строили линейные регрессии, но быстро поняли, что система гораздо сложнее. Тогда «Восьмой», ставший к тому времени неформальным тимлидом, предложил революционное решение. Где-то раздобыв пейпер «Attention Is All You Need», они внедрили архитектуру transformer для прогнозирования временных рядов. Теперь их модель учитывала не просто отдельные события, а всю последовательность появления еды за последние дни.
Чтобы проверить эффективность своей модели, они разделились на две группы. Первая группа продолжала следовать своему «суеверному» поведению, вторая — использовала полученные прогнозы. Результаты A/B-тестирования оказались ошеломляющими: вторая группа получала корм на 30% чаще.
Спустя неделю успешной работы модель начала давать сбои. Точность прогнозов упала. «Мы поймали data drift!» – встревоженно проворковал «Третий». Статистические свойства входных данных изменились. После долгих дебатов и анализа внешних факторов, голуби пришли к выводу, что на график подачи еды влияет погода – в дождливые дни интервалы между кормежками сокращались. Они немедленно заказали API👣 с метеорологическими данными и интегрировали их в свою модель, переобучив ее.
На днях я наткнулся на препринт arXiv 📖 "Прогнозирование стохастических пищевых событий в ограниченной среде с использованием трансформерных архитектур: опыт голубиной стаи". Backtest показывал ошеломляющие 95% accuracy.
Думаю пора переходить к следующему шагу – оставить кормушку навсегда полной...