Последнее коммерческое облако в России

Большинство разработчиков до сих пор заставляют микросервисы общаться друг с другом по HTTP + JSON.

Для небольших проектов это норм. Для хайлоада — уже нет.

JSON так-то придуман для людей. Нам удобно читать текст формата {"user_id":123}, но сервер разговаривает на другом языке. Ему каждый раз приходится превращать этот текст в машинные данные.

Вызываете вы такси. Нажимаете кнопку «Заказать». Вроде бы один запрос, а на деле внутри запускается цепочка из десятков обращений между микросервисами: авторизация, биллинг, антифрод, рекомендации, геопозиция, уведомления и ещё бог знает что. И каждый такой запрос создаёт дополнительную нагрузку на процессоры и сеть.

Поэтому бигтех переходит на gRPC. Вместо текстового JSON там используется бинарный формат — родной язык компьютера. А HTTP/2 позволяет не открывать новое соединение для каждого запроса, а передавать множество запросов по уже существующему соединению.

Как раз адаптацией gRPC для российских реалий и занимается EasyP — вот тут на Хабре подробно обо всём написал. А мы что? Мы в H3LLO даём мощность на развитие проекта и дружеское плечо для поддержки. Дело-то классное.

Самый простой способ увеличить команду сегодня — накупить токенов.

Вот и нет. Фигня всё это. ИИ — не ваш инструмент, это чужой сервис.

Сегодня всё ок. Завтра токены стали вдвое дороже. Послезавтра изменились лимиты или API. А через год вышла новая версия модели, которая ведёт себя совсем не так, как вы привыкли. И вы смотрите на это, не в силах никак повлиять на происходящее.

Есть и другая особенность. Не существует универсальной модели, которая одинаково хороша во всём. Одна лучше справляется с Python, другая — с фронтендом, третья — с анализом кода. Поэтому даже выбор LLM становится инженерной задачей.

Мы в H3LLO Cloud используем ИИ в разработке и этого не стесняемся. Но строить кадровую стратегию по принципу «нафиг людей, докупим токены» — это ого-го какие риски. Их мы себе позволить не можем.

Пока что самые надёжные команды строятся вокруг инженеров, которым помогает ИИ, а не вокруг чистой замены людей машинами.

Нейронками, кстати, могут пользоваться не только работодатели.

Бесплатная модель уже сейчас может нагенерить классное резюме. ChatGPT на изи превращает сухой список проектов в историю героического сражения с высоконагруженной системой, а Claude красиво расписывает достижения с правильными формулировками.

На этом всё не заканчивается.

Во время онлайн-собеседований кандидаты тоже используют ИИ: просят подсказать ответ, быстренько набросать код или объяснить незнакомую технологию прямо по ходу пьесы. Вот тут на Хабре как раз об этом рассказываю — и о других штуках.

В итоге резюме перестаёт быть надёжным способом оценки человека. Поэтому компании меняют подход к найму. Всё меньше смотрят на красивые формулировки и всё больше — на практические задания, реальные кейсы и живое общение.

Так-то написать идеальное CV может и нейросеть, а вот посиять харизмой на созвоне и тем более решить реальную задачу за инженера — пока ещё нет.

Заметили перемены на рынке труда?

Раньше разраб постил резюме и уже через пару часов неспешно перебирал предложения. Не, эти не подойдут, зарплата не та. А здесь кофе с печеньками не предлагают. Сюда добираться долго. А тут просто неинтересно.

Сейчас ситуация изменилась. Теперь компания оставляет вакансию, а потом неспешно перебирает отклики. Этот не пойдёт — многого хочет. А у этого нет пятнадцатилетнего опыта работы во фреймворке, которому пять лет. И так далее.

Впервые за долгие годы рынок стал рынком работодателя. Особенно досталось джунам. Если раньше новичок мог отправить несколько резюме и быстро найти первую работу, то сегодня на одну вакансию приходят сотни откликов.

И не забываем про ИИ. Если раньше компания думала: «Возьмём джуна, пусть растёт», то теперь возникает другая мысль: «Может, ну его, этого джуна, пусть работу сделает нейронка, а миддл проверит?»

С точки зрения краткосрочной экономики идея выглядит логично. Меньше расходов, выше скорость разработки. Но у любой экономии есть обратная сторона.

Если не брать новичков, то через некоторое время рынок неизбежно столкнётся с нехваткой опытных инженеров. Все мы когда-то были маленькими. И сегодняшние сеньоры когда-то тоже были джунами.

Так что рынок меняется не только из-за ИИ. Он меняется ещё и потому, что впервые за долгое время работодатели могут позволить себе выбирать. Вопрос лишь в том, какой эффект это даст через несколько лет.

Что думаете?

Миддлы вымирают.

Вымирают они из-за того, что каждый миддл — это в прошлом джун. А джунов активно заменяют нейронками. Ведь зачем искать человека, если можно купить подписку на Codex или Claude Code?

Логика понятная. Джун долго вникает в проект, ошибается, ещё и достаёт всех дурацкими вопросами. А нейросеть молча пишет код и стоит дёшево.

Поэтому компании начали сокращать младших разработчиков или просто перестали их нанимать.

Проблема в том, что джун — это миддл-ин-прогресс. Через 3−4 года именно из новичков вырастают люди, которые проектируют архитектуру, принимают технические решения и руководят командами.

Если перестать выращивать таких специалистов сейчас, через несколько лет окажется, что нанимать просто некого. Вот здесь на Хабре я написал обо всех перспективах этого расклада.

Кстати, я вообще не спорю, что ИИ — реально полезная штука, мы сами активно используем его в H3LLO Cloud. Но у нас он просто помогает опытному инженеру работать быстрее, а не заменяет собой джунов.

Заменить джуна токенами можно. А вот заменить ими будущего сеньора, по сути, невозможно.

ИИ уничтожает профессию разработчика.

Или нет.

ИИ сегодня — цифровой джун, который кодит за секунды, не болеет, не жалуется, не требует, чтобы ему дали дэй-офф или повысили зарплату. Во всём он крут, кроме того, что задачу ему нужно пережёвывать, как вчерашнему выпускнику.

Если сказать: «Сделай CRM», получится одна CRM. Если сначала спроектировать базу данных, потом API, потом фронтенд и только потом начать писать код — получится совсем другая CRM.

Так что дело тут не в нейронке, а в человеке, который ставит задачу.
Раньше миддл писал код сам. Теперь он управляет сразу несколькими AI-агентами: одному отдаёт бэкенд, второму — фронтенд, потом проверяет, стыкует и исправляет ошибки. То есть становится этаким маленьким тимлидом.

LLM реально ускоряют разработку, уж мы это знаем не понаслышке, но только если инженер понимает архитектуру, умеет декомпозировать задачу и замечает ошибки до этапа продакшена.

ИИ ничего не уничтожает, но меняет — это факт. Разработчики же точно пока никуда не денутся.

Прошлая промышленная революция заменяла тех, кто работает руками, эта заменяет тех, кто работает головой.

Мы тут на питерском Хайлоаде обсуждали конфликт между скоростью ИИ и медлительностью человеческого мира.

Вот на Ютуб разбор этого всего, и там много интересного: https://youtu.be/JXBbd-2gxHM?si=qD4ztKc_D0K4_J8_

MVP раньше делалась 3-6 месяцев, теперь 1-2 дня. Но:

— Разработчики в 100 раз быстрее пишут код, а команда взяла и замедлилась в целом! Коротко — ИИ создаёт кучу хаоса, если не менять процессы. Самый простой пример — скорость проверки пулл-реквеста, конечно, выше, чем скорость его написания, но всё равно линейна. И принять всё вдумчиво становится очень сложно.
— Код-ревью на 3 строчки — 10 замечаний и дискуссия, на 31 тысячу строк — ну норм, автотесты пройдены.
— CEO компаний, поиграв с нейросетями, создают примитивные прототипы за 5 минут и искренне не понимают, почему полноценная разработка безопасной и масштабируемой системы стоит миллионы рублей и занимает месяцы.
— Многим стартапам хана ) Поскольку разработчики и бизнесмены используют одни и те же нейросети (которые мыслят похожими шаблонами), они начали массово генерировать одинаковые продукты. Когда понадобилось приложение для заправок, на рынке одновременно появились 20 идентичных по дизайну и логике сервисов, создав кровавую конкуренцию.
— Но появится куча команд из 1–2 человек, которые с помощью ИИ за 20 копеек смогут делать продукты такого качества, на разработку которых у крупных корпоратов уходили миллиарды. А вот те бизнесы, которые просто попытаются натянуть ИИ на свои старые процессы (как сову на глобус), вскоре вымрут.

Заходите, там ещё байки про разные внедрения — например, как ИИ давал в поддержке 1% от стоимости труда человека, но вся поддержка в итоге стала стоить в 4 раза дороже, чем полностью на человеках.

Ура! Мы строили-строили и наконец-то построили!

Релиз 1.0.

Это для нас важный праздник, поэтому по 31 декабря снова халява: при создании аккаунта и пополнении баланса на 5000 ₽:

• 2 виртуальные машины по 2 vCPU / 4 Гб RAM
• База данных 2 vCPU / 2 Гб RAM
• 40 Гб сетевых дисков
• Балансировщик нагрузки
• Белый IPv4
• 10 Гб объектного хранилища

Участвовать можно только один раз, если что-то не понравится — возвращаем деньги при предъявлении паспорта.

Подробнее тут.

Этого хватает попробовать основные фичи. Один человек рассказывал, как развернул там полноценный Кубер — одна машина контрол-плейн, вторая — кластер. Так делать уже не надо (если только из мазохизма желания научиться ставить Кубер ручками) — есть менеджед-сервис.

Ещё у нас отдельно есть помощь для стартапов — там нужны объёмы больше, чем в тестовых пакетах. Для них у нас есть история с грантами. Мы готовы новым проектам давать не только инфраструктуру, но и экспертизу — помогать правильно заезжать на наше облако и т.п. Тут приходите в личку или в почту world@h3llo.cloud

К релизу:

— VPC
— Managed Kubernetes и базы данных (PostgreSQL)
— Включаются SLA с компенсациями — бета кончилась )
— Дисковая подсистема с репликацией (в том числе мультизональной)
— Можно настраивать CPU и RAM под свои нужды.
— Load Balancer из коробки
— Для автоматизации уже готов Terraform-провайдер, сейчас допиливаем и полируем Public API

Вот тут на Хабре больше деталей.

Возможно, вы помните, что в июне у нас была задержка из-за удачно сошедшегося ряда особенностей — переезда из ЦОДа Ростелекома, старого стека (при том, что на корпоративном проде частных облаков уже был новый) и потом задержек с развёртыванием сразу правильно.

Завтра будет большой апдейт, и там новые полностью бесплатные пакеты для индивидуальных пользователей.

По функционалу мы даём нашим пользователям, помимо виртуальных машин, виртуальные сети с преднастроенной конфигурацией, работающей из коробки и с большой гибкостью, чтобы настроить любые параметры, включая статическую маршрутизацию. Это, правда, открывает миллион способов выстрелить себе в ногу, если ты не знаешь, что делаешь, но ты получаешь полную свободу.

Да, мы обновили цены, то есть демократичные цены на все предоставляемые нами ресурсы. Дальше мы... конечно же, предоставляем широкий набор образов, включая образы на Windows. Правда, с опцией «Приноси свой ключ».

Мы не забыли про базы данных, балансировщики, объектное хранилище, возможность делать бекапы и снапшоты дисков. И, наконец-то, у нас доехал новый обновлённый UI подо всё это.

Мы решили не мелочиться и для первых пользователей собрали пакет, на котором можно запустить серьёзный проект, а не только блог. Это не триальный «огрызок», а полноценный сетап.

Что внутри:

— 2 мощные виртуальные машины (на свежих Xeon 5 с памятью DDR5).
— Балансировщик нагрузки, чтобы распределять трафик.
— Управляемая база данных (PostgreSQL или MariaDB на выбор).
— 40 Гб быстрого сетевого хранилища (SSD).
— 100 Гб объектного хранилища для файлов и бекапов.
— 1 белый IPv4-адрес.

Этого хватит, чтобы поднять сайт, который выдержит 10 тысяч запросов в секунду. Или развернуть корпоративную почту для всей компании. Ну или завести сервис наблюдения за котом. Можно даже за соседским, чтобы он у вас на участке не гадил.

Сейчас заканчиваем стресс-тесты для инфраструктуры.

Завтра откроем доступ уже в новой консоли.

Мы недавно проводили опрос, и вот прекрасный пример про то, что бесит в других облаках:

Дико бесит и непрозрачность расчётов стоимости, и технологическая непрозрачность и отсутствие базовых, фундаментальных фич (типа нормальной сети и RBAC, а не вот этого всего однокнопочного).

Дико бесит отсутствие permission boundaries, дико бесит отсутствие возможности переименовать и переместить любой объект, который я создаю (ну поменяется у него имя, ну дайте вы плашку красненькую или какой переходный инструмент сделайте, ну как легаси-то разгребать, ну?).

Отсутствие нормального SLA и договора по умолчанию, если ты не офигеть большой клиент, — это тоже такое себе. Почему одни ребята, если по вине облачного провайдера есть простой, получают сразу неустойку деньгами, а кто поменьше — промокодик и красивый имейл? Не должно так быть.

В целом всё так. Это бесит и нас.

Мы от всего этого хотим уйти.

Первое важное — непредсказуемая цена. Начинаешь с тестового проекта на 500 рублей, а через месяц приходит счёт на 15 000. И ты даже не понимаешь, откуда набежала эта сумма.

Поэтому мы делаем всё очень, очень прозрачным. Тут есть две крайности: одни проекты должны работать при любых условиях (включая автосейклинг при резком наплыве трафика), а другие не должны выходить за определённый бюджет. Мы даём обе модели.

Поддержка на минималках. Тикет висит сутками, проект горит. Это нас больше всего бесит в корпоратах. Ещё есть второй круг ада — когда в тикете всё расписано, а вас просят заново это уточнить.

Мы не берём дебилов в поддержку. Серьёзно. Вам отвечают люди, которым на вас не пофиг. Это удивительно.

Сырой функционал — третий бич. Хочется развернуть что-то сложнее простой виртуалки, а в ответ — набор костылей. Потому что большинство российских облаков — это старый OpenStack на дряхлом железе, к которому просто прикрутили симпатичный интерфейс.

Мы тоже от этого устали. И сделали своё облако. Во время бета-теста у нас был (и пока есть) только базовый функционал, который мы отлаживаем до идеала. Но мы не стоим на месте и уже запилили приличный IaaS. Уже скоро покажем, что именно мы предлагаем.

Старые серверы мы разгоняем и топим. Это даёт +2 года использования в инференсе, а поскольку это гиперскейл в контейнерах — то, когда сервер умрёт, никто не заметит, это часть жизни.

Но сначала утопленника надо разогнать и подготовить.

1. Меняем провода на те, у которых изоляция не растворяется при +50 по Цельсию. Провода обычно выше процессора при вертикальном погружении, и туда доходит прямой поток тепла. А для изоляции обычных проводов такая температура очень неприятная.

2. Снимаем кулеры и всё движущееся, чтобы не мешали потоку жидкости. Движение жидкости обеспечивается насосом ванны и естественной конвекцией.

3. Если кулер снять, сойдёт с ума контроллер железяки (если он есть) и будет пытаться троттлить железку, потому что не получается выставить повышенные обороты кулеру. Заливаем новую прошивку или ломаем датчик, чтобы железка думала, что кулер всегда на максимуме.

4. Иногда надо отколупать или перевернуть радиаторы, они очень мешают потоку жидкости.

5. Такая же фигня с оперативкой рядами. Мы, например, искали платы, у которых процессор с оперативной памятью тоже ставится вертикально. У многих они ставятся горизонтально, что, соответственно, будет препятствовать нормальному охлаждению каждого второго, третьего и последующего модуля памяти в ряду. Жидкость должна проходить их насквозь, а не как пороги.

6. Обычная термопаста со временем растворяется и вымывается из-под радиатора. Есть специальная, устойчивая к вымыванию. Нам её поставляет производитель иммерсионных установок. Новая намазывается навсегда. У нас рекорд 4 года, поэтому навсегда равняется именно этому сроку. Дольше сервак в ванне не жил.

7. Жёсткие диски иногда очень сложно достать, если сервер уходит мордой вниз. Иногда нужны специальные салазки или что-то ещё, чтобы можно было вытащить диск для замены, не вынимая сервер из ванны.

На ЦИПРе очень много обсуждали инфобез.

В нескольких сессиях все телеком-операторы и банкиры наперебой рассказывали, как они борются с мошенниками, которые нам звонят по телефону. По их словам, вроде даже получается.

Возможно, скоро вместо мошенников будут звонить лицензированные спамеры, использующие бигдату операторов.

Если у вас есть требование на какую-то специальную железку, которая вот обязательно должна быть для соблюдения там какого-нибудь ФЗ или ГОСТа, — без проблем. Есть приватные инсталляции. ФСТЭК, все дела, сейчас получаем PCI DSS. Приходите.

Мы делали тестирование разных облаков на производительность. Запускали одинаковые виртуальные машины с одинаковыми характеристиками (по 3 на облако, чтобы исключить фактор шумного соседа), в одно и то же время и т.п. и гоняли Geekbench.

Разброс между провайдерами в два раза. Разброс между отдельными машинами у некоторых провайдеров 20–30%. Это говорит про переподписку. Адскую переподписку. Когда один и тот же физический ресурс сдаётся нескольким пользователям одновременно.

В целом переподписка как таковая — это в принципе нормально, если вы правильно контролируете и обеспечиваете уровень сервиса своему клиенту. Но когда на одинаковых машинах между твоим же сервисом производительность скачет на 20–30% и это заметно, ну, это уже ни в какие рамки не лезет. И это самое безобидное, с чем мы сталкивались.

Пара таких тестов есть у нас в блоге на Хабре, если что.

В любой IT-инфраструктуре основные издержки — это не железо.

Это люди, которые знают, что с этими железками делать. То есть сисадмин или целая команда девопсов — это намного-намного больше расход, чем покупка целой стойки железок.

Соответственно, когда мы приходим в облако, мы получаем целую экосистему сервисов, уже профессионально сконфигурированных и профессионально администрируемых. Ну, если вы выбрали правильную команду, конечно, и ваши вкусы примерно соответствуют рынку, а не несколько специфичны вроде «Дайте мне ReactOS для развёртывания гипервизора под OS/2».

В интерфейсе за пару кнопок можно наклацать себе нужный сервис. Мы прям упарываемся, чтобы стандартные вещи создавались очень быстро. Вот чтобы создать базу данных и она нормально работала — у вас внутри может уйти полмесяца. У нас эти полмесяца пошли на то, чтобы разработать решение для всех, автоматизировать и потом поддерживать.

Не надо сравнивать предложения облачных провайдеров, не разобравшись в совокупной стоимости владения инфраструктурой. Грубо говоря, если провайдер предлагает какой-то ресурс сильно дешевле, ещё не значит, что всё в совокупности будет дешевле.

Второе — не стоит сравнивать ресурсы в лоб. Если взять виртуальные процессоры, память, диски у провайдера и найти сервер в аренду с такими же характеристиками, то сервер будет в несколько раз дешевле. Но это не значит, что это решение будет лучше.

Стоит сравнить именно конечный результат, выполняет ли поставленную задачу такая конфигурация, и совокупная стоимость владения с учётом обслуживания, с учётом резервирования и всех потенциальных проблем, которые присущи физическим серверам и устранены в облачных решениях.

Чем отличается облако курильщика от облака здорового человека?

Ну, всё просто. Современное российское облако — это виртуализированная инфраструктура. Грубо говоря, сейчас стандарт в облачной индустрии в России — процессоры Xeon 3-го поколения.

У нас уже пятое. Разница вот в чём, кроме кост-эффективности — мы из коробки затаскиваем аппаратную изоляцию виртуальных машин. То есть у другого провайдера возможна история, что злоумышленник, будучи арендатором, из своей виртуальной машины совершит побег на хост-гипервизор или к соседней виртуальной машине другого клиента. Нет гарантированных механизмов изоляции их ресурсов.

У нас DDR5 вместо DDR4.

5-е поколение процессоров поддерживает разделение ресурсов по TDX. Мы даём пользователям высокий уровень безопасности в этой части.

Плюс сеть. Быстрая. Очень быстрая. Много. Столько у других нет, но про это расскажем отдельно.

Сеть даёт офигенное хранение — распределённые сетевые диски, которые выживают даже при отказе 3 автономных зон из 4 в разных ЦОДах. Ваша виртуальная машина не заметит даже, что что-то отвалилось — она развернётся в оставшейся автономной зоне и продолжит с той же транзакции к диску.

Плюс мы адекватные и нормально отвечаем в поддержке.

У нас есть хорошее предложение по миграции с российских облаков. Если вдруг вам надо — приходите, поможем с пилотом, потом плавно и аккуратно всё перенесём. Совокупная стоимость владения будет примерно такой же или немного ниже, только у вас всё будет работать, а мата в речи станет меньше. Ну и можно будет сосредоточиться на работе, а не на переговорах с контрагентом по облаку. И да, есть GPU. Много. Масштабируемо. С оплатой за инференс тоже.

У нас в названии есть слово «гиперскейлер». На подкасте меня спросили, а что это.

Я прям растерялся.

Это хостинг масштабом больше любого потенциального клиента в разы. В смысле, когда у клиента случится пиковая нагрузка, он сможет получить все нужные ресурсы.

Это значит несколько неочевидных вещей:

— Нет единого крупного клиента (привет, Сбер).
— График потребления ресурсов у клиентов разный (а не облако для розницы, падающее в чёрную пятницу).
— Есть свободные ресурсы или ресурсы, с которых можно сдвинуть какие-то проекты вроде месячного расчёта для поиска обитаемых планет в фоновом режиме.
— Есть платформа, которая позволяет так масштабироваться.
— Есть куча автоматизаций, которые решают проблемы свёртывания-развёртывания.

Напомню, мы выкинули всё, что раньше делали другие (потому что у других получился Опенстек), переосмыслили всё это полностью и написали свою платформу. У нас никакого легаси, сложных совместимостей, зато есть самое топовое железо. И как следствие мы строим лучший пользовательский опыт. Мы не идём в сторону сотен сервисов, как у Амазона. Мы идём в сторону того, чтобы это было просто, понятно, удобно и экономически эффективно.

Местами получается. Мы только начали.