Всем привет! На связи Маша Аничкова 😊
Если вы активно следите за Авито, возможно знаете, что мы мигрируем с БД Vertica на Trino (если нет — не осуждаем 🙂).
Подробности переезда и технические детали можете почитать на Хабре, например, в статье Trino в Авито два года спустя: от движка к полноценной экосистеме. А сегодня расскажу, с какими проблемами сложностями сталкивались аналитики при переезде.
🐱 Другой синтаксис
🐱 Источники на Вертике
🐱 Автоматизация
🐱 Массовый переезд
Сталкивались ли вы когда-нибудь с миграцией БД? Какие сложности у вас это вызывало?
#МашаАн
Если вы активно следите за Авито, возможно знаете, что мы мигрируем с БД Vertica на Trino (если нет — не осуждаем 🙂).
Подробности переезда и технические детали можете почитать на Хабре, например, в статье Trino в Авито два года спустя: от движка к полноценной экосистеме. А сегодня расскажу, с какими проблемами сложностями сталкивались аналитики при переезде.
🐱 Другой синтаксис
В целом синтаксис Трино не сильно отличается от Вертики, но есть нюансы. Например, нет ilike и нельзя задать формат через «::», а я к этому привыкла. Неприятненько 😬
🐱 Источники на Вертике
Когда пишешь код на Трино, но часть источников ещё лежат на Вертике — запрос может считаться намного дольше, чем на Вертике, особенно когда джойнится много таблиц. Поэтому просто поменять синтаксис не всегда прокатывало — иногда приходилось переписывать саму логику запроса, или, например, разбивать одну временную таблицу на несколько.
🐱 Автоматизация
В Q4 DE смогли автоматизировать перенос расчёта из Вертики в Трино. Владельцу витрины оставалось лишь проверить получившийся код и отправить на мёрж. Но новый сгенерированный код иногда содержал ошибки или работал слишком долго. Поэтому по некоторым витринам приходилось тратить много времени на проверку и корректировки. Если вы новичок и думали, что можно уже не учить SQL и LLM-ки всё сделают за вас — у меня плохие новости 😢
🐱 Массовый переезд
Объёмы данных на Трино начали стремительно расти, а Вертика, наоборот, освобождалась. В итоге были периоды, когда Трино работало намного медленнее Вертики, что вызывало негодование аналитиков — но это мы, пожалуй, забудем как страшный сон 😀
Сталкивались ли вы когда-нибудь с миграцией БД? Какие сложности у вас это вызывало?
#МашаАн