Kotelok

А вот оно как вышло.

На самом деле, и скорость, и расход сил бегунов - это очень хорошо изученная область. Вот смотрите, какая тут бывает серьёзная наука. И датасет есть подробный, можно попробовать что-то вытащить. Было бы это интересно?

На первый (и второй, и даже третий) взгляд зависимость близка к линейной, никаких вам точек перегиба. ну и пройти марафон пешком - не достижение. Жаль, я верил 😀

Профессиональные атлеты бегают быстрее простого смертного - вот это инсайт! Но как вам то, что средняя скорость футболистов ближе к хотьбе, чем к бегу, как вам? Разумеется, это немного читерство. Ну как, честная средняя скорость: пройденное за матч расстояние, делённое на всё время на поле. То есть это с учётом пауз и остановок. Зато без учёта вратарей 😊

Игра "в A/B-тест"

Парадоксально, но когда мы работаем с данными, мы часто вынуждены многое оценивать "на глаз".

Если мы хотим проверить, есть тренд на рост или нет, гораздо проще построить график и посмотреть на него, чем считать скользящие средние, выбирать нужное окно и заниматься другими "увлекательными" действиями.

Особенно часто "метод пристального взгляда" мы используем, когда данные однородные, широкие, а метрика проста в интепретации. A/B-тесты, например. Но коварство в том, что как раз в этих условиях если тонкости. В реальной жизни всегда есть шумы. А наш мозг очень любит искать закономерности в случайных шумах.

Для проверки нашего глаза я тут сделал игру. В ней всё просто. Вам показывают два графика. Ваша задача: посмотреть на них и сказать навскидку, есть между ними статистически значимая разница.

Пробуйте, проходите сами, делитесь с друзьями, коллегами, продактами!

Игра сделана для браузера, должна запускаться откуда угодно без всяких VPN. С десктопа, конечно, будет чуть-чуть проще, при навежении можно увидеть числа. Но и с мобильного браузера кнопки тоже вполне нажимаются.

Стандартная игра - это 20 графиков, то есть около 5 минут. Но можно закончить в любой момент. У игры есть три уровня сложности. Они отличаются величиной шумов и разницей между средними значениями.

Выкладывайте в комментариях ваши успехи, баги. Оособенно жду скриншота, когда кто-то выбьет результаты, которые статзначимо хуже рандома 😄😄😄

Я знаю, что во многих платных курсах по аналитике есть похожие тренажёры. Только там не кнопочки тыкать, а реально статистику считать надо. Эта игрушка сделана полностью for fun, ничего и никого не продаёт и не покупает. В конце только реклама этого канала.

Бот спрашивает ваше имя, но тут же его забывает. Потому что нет никаких кук, никакие персональные данные не хранятся. Это легко проверить, так как исходный код открыт. Можно смотреть, можно делать форки, развернуть у себя, можно отдать код своей LLM и попросить его улучшить.

Но обезличенные логи пишутся, так что, когда будут данные, покажу вам зависимости сложности графиков от p-value. Также, спеиально для вас, галерея самых простых и самых сложных графиков.

Хотел сделать пару графиков про футбол, про чемпионат мира.

Нашёл хороший датасет, по 500 скачиваний в день. Посмотрел на него глазами, вроде норм.
Выгрузил к себе. Решил зафиксировать одного игрока и посмотреть структуру от игры к игре. И... опешил. Посмотрите на скрины.

Вот испанцы. Ансу Фати? Его взяли в сборную? Что? А остальные? Честно признаться, я подумал, что что-то не так со мной. Может, на футболках прозвища игроков, а в паспорте у них вот это вот. Хотя, по позициям, по клубам тоже не получается никого восстановить.

Второй скрин. Оказывается, на турнире играет Италия! Как вам? Смотрите: итальянские фамилии, такие игроки есть, но не те имена, не те позиции.. не то всё.

Да, этот датасет сгенерирован LLM. Он должен выглядеть правдоподобно, но задачи соответствовать фактам никто не ставил.

Зачем? Я не знаю.

Какой урок для нас? Смотрим датасеты глазами, крутим различные срезы, проверяем на здравый смысл. Всегда, никаких исключений.

Иначе сюрприз может вылезти в самый неожиданный момент.

Звёзды не ездят в метро (продолжение)

Итак, как же у нас распределены успешные люди про знакам зодиака?

Выборки маленькие, доверительный интервал добавил.

Учёные имеют разброс от 6% до 10% при интервале 1,5%, то есть как будто эффект есть. Только вот он близок к противоположному! 3 из 4 "благоприятных" знаков замыкают "турнирную таблицу". Так что, даже "на глаз" видно, что эффекта нет.

С миллиардерами такая же ерунда. Доверительный интервал уже, "благоприятные" знаки имеют меньшую долю, "неблагоприятные" - большую. Можно было бы проверить противоположную гипотезу, но нет, мы не "переобуваемся" на ходу. У "хороших" знаков должен быть позитивный эффект, у "плохих" - негативный.

У актёров просто гигантский доверительный интервал, который покрывает разницу между первым и последним местом. Увы, совсем игрушечная выборка. И снова "плохие" знаки наверху, "хорошие" распределены примерно случайно.

Закапываем гипотезу?

Звёзды не ездят в метро (продолжение)

Итак, у нас есть данные, у нас есть датасеты.

Что делаем дальше?

Понятно, что данные надо чуть-чуть почистить. К сожалению, не всегда дата рождения известна, точна или записана в приятном формате.

Но вообще жить с этим можно.

У нас есть
- 906 миллиардеров (79% изначальной выборки)
- 717 лауреатов нобелевских премий (95% изначальной выборки)
- 100 крутых актёров (100% изначальной выборки)

С учётом того, что знаков 12, размеры выборок на грани, но вообще какой-то сигнал можно попробовать увидеть. Можно начинать думать.

Какая у нас нулевая гипотеза?
Дата рождения не влияет на успех в этих сферах. Распределение нобелиатов, миллиардеров и актёров не должно отличается от распределения обычных людей.

А какое оно, это распределение обычных людей? В феврале, наверное, меньше людей рождается (потому что дней меньше). А в славянских странах реже женятся в мае (чтобы "не маяться"), тоже как-то влияет.
Но никакого подобного датасета на весь мир на 150 лет у меня нет. Но по тому, что я видел и читал по другим выборкам, размеры этой неоднородности завышаются. Гипотеза о том, что дни рождений распределены равномерно по году, достаточно сильна. Так что не усложняем. Шанс того, что успешный человек попадёт в конкретный знак - это 1/12 = 8,3%.

Что дальше?
Сначала просто посмотрим на графики, потом включим "серьёзную статистику".

- Как быть с умной колонкой, если мою дочь тоже зовут Алиса?
- Оставьте заявление на смену имени в МФЦ. Поверь, это гораздо проще

Конечно, такой график не может быть прямым доказательством связи девайса от Яндекса и популярности имени. Мода на то и мода, чтобы были взлёты и падения. Но шутки проо смену имени лично для меня стали смешнее.