Формат: Теория → Практика → Обсуждение на каждом этапе

Ведущий: Иван Синицын, руководитель подгруппы разработки рантайма рекомендаций, Ozon Tech

План воркшопа

Требования и ограничения
— Сбор функциональных и нефункциональных требований
— Бюджетирование задержки для P99 < 200 мс
— Определение строгих SLA/SLO для системы

Проектирование онлайн-компоненты
— Многоэтапный пайплайн: обогащение контекстом → генерация кандидатов → ранжирование
— Two-Tower модели и векторный поиск для быстрого подбора кандидатов
— Двухуровневое ранжирование: легкие и тяжелые модели
— Распределение бюджета задержки по этапам пайплайна

ML-инфраструктура и фичи
— Feature Store: единый источник фичей для онлайн и оффлайн
— CI/CD для ML-моделей в production
— Feedback Loop: потоковая обработка кликов и показов для обновления в реальном времени

Хранилище, отказоустойчивость и мониторинг
— Многоуровневое хранение: горячий кэш (Redis/Valkey) и холодное хранилище
— Стратегии шардирования и репликации для 100к RPS
— Механизмы защиты: Fallbacks, Circuit Breakers, Rate Limiting
— Проектирование отказоустойчивой архитектуры