HighLoad++ dan repost
Принесли вам пять свежих материалов. Здесь про оптимизацию сети, потоковые данные, ML-инфраструктуру, защищённый инференс и надёжность Kubernetes 🙌
1️⃣ We’re making Tailscale faster.
Инженерный разбор оптимизаций data plane Tailscale: меньше копирований пакетов, более короткие очереди и параллельная обработка. Изменение работы с буферами само по себе дало около 5% ускорения во многих конфигурациях.
2️⃣ Deduplicating Streams with Flink SQL.
Практический разбор дедупликации во Flink SQL. Автор сравнивает подходы по работе с состоянием, опоздавшим событиям, задержке и детерминированности и объясняет, когда Process Table Function предсказуемее сложного SQL-запроса.
3️⃣ Taming the ML Firehose: Scaling Feature Consistency.
Production-кейс Uber о согласованности признаков между обучением и инференсом при нагрузке до 8 млн предсказаний в секунду. Внутри — архитектура пайплайна, масштабирование Flink и результаты: объём сообщений сократился в 4–5 раз, пиковое отставание обработки — примерно на 70%.
4️⃣ Enabling Private High-Performance Production AI Inference with NVIDIA Confidential Computing.
Технический бенчмарк confidential computing на восьми GPU B200 и разбор узких мест. Система сохранила 96,1–98,2% исходной пропускной способности, а время генерации токена выросло на 1,2–4,3%.
5️⃣ Spotlight on SIG Apps.
Интервью с председателями SIG Apps о развитии workload-контроллеров Kubernetes. В фокусе — сбои узлов, надёжность базовых контроллеров и согласованный перезапуск распределённых задач через JobSet и LeaderWorkerSet.
Во всех пяти случаях результат зависит от конкретных решений: как обрабатывать пакет, хранить состояние, ограничивать нагрузку и восстанавливаться после сбоя.
1️⃣ We’re making Tailscale faster.
Инженерный разбор оптимизаций data plane Tailscale: меньше копирований пакетов, более короткие очереди и параллельная обработка. Изменение работы с буферами само по себе дало около 5% ускорения во многих конфигурациях.
2️⃣ Deduplicating Streams with Flink SQL.
Практический разбор дедупликации во Flink SQL. Автор сравнивает подходы по работе с состоянием, опоздавшим событиям, задержке и детерминированности и объясняет, когда Process Table Function предсказуемее сложного SQL-запроса.
3️⃣ Taming the ML Firehose: Scaling Feature Consistency.
Production-кейс Uber о согласованности признаков между обучением и инференсом при нагрузке до 8 млн предсказаний в секунду. Внутри — архитектура пайплайна, масштабирование Flink и результаты: объём сообщений сократился в 4–5 раз, пиковое отставание обработки — примерно на 70%.
4️⃣ Enabling Private High-Performance Production AI Inference with NVIDIA Confidential Computing.
Технический бенчмарк confidential computing на восьми GPU B200 и разбор узких мест. Система сохранила 96,1–98,2% исходной пропускной способности, а время генерации токена выросло на 1,2–4,3%.
5️⃣ Spotlight on SIG Apps.
Интервью с председателями SIG Apps о развитии workload-контроллеров Kubernetes. В фокусе — сбои узлов, надёжность базовых контроллеров и согласованный перезапуск распределённых задач через JobSet и LeaderWorkerSet.
Во всех пяти случаях результат зависит от конкретных решений: как обрабатывать пакет, хранить состояние, ограничивать нагрузку и восстанавливаться после сбоя.