Канареечные выпуски: сначала для небольшой группы
Перенаправьте небольшую часть трафика к новой модели
«Канареечные выпуски: сначала для небольшой группы» — бесплатный урок MLOps Academy на CoddyKit. Это урок 1 из 4. Ты можешь прочитать весь урок бесплатно ниже — а потом практиковать его прямо в браузере с встроенным редактором кода и ИИ-репетитором 24/7. Это часть пути обучения MLOps Academy, и твой прогресс синхронизируется между веб-версией и приложением CoddyKit. Курс MLOps Academy содержит 4 уроков всего.
Что такое канареечный выпуск
Канареечный выпуск сначала направляет новую модель на небольшую часть реального трафика, поэтому возможный ущерб остаётся минимальным, пока Вы наблюдаете за системой. 🐤
Почему не стоит сразу переключать всех
Одновременное переключение всего трафика на новую модель — это развёртывание по принципу большого взрыва: если что-то пойдёт не так, это сразу почувствует каждый пользователь.
Начните намеренно с малого
Канареечный выпуск обычно начинают примерно с 5% трафика. Этого достаточно для получения реальных данных, но недостаточно, чтобы неудачная модель заметно повлияла на пользователей.
Основная модель и кандидат
Стабильная модель — это основная модель, а канареечная — кандидат. Обе одновременно работают в реальном времени, поэтому их можно сравнивать на одних и тех же реальных запросах.
Наблюдайте, прежде чем расширять охват
Пока канареечная модель обслуживает свою часть трафика, Вы отслеживаете долю ошибок, задержку и ключевые бизнес-показатели, сравнивая их с показателями основной модели.
Увеличивайте долю поэтапно
Если канареечная модель работает стабильно, Вы увеличиваете её долю поэтапно: например, до 5%, 25%, 50%, а затем до 100%, делая паузу для проверки на каждом уровне.
Разделение трафика
Маршрутизатор или прокси решает, в какую модель направить каждый запрос. При таком простом разделении один из двадцати вызовов отправляется в канареечную версию.
import random
def route(request, canary_pct=5):
if random.uniform(0, 100) < canary_pct:
return canary_model.predict(request)
return champion_model.predict(request)Помечайте обслужившую модель
Записывайте, какая модель обработала каждый запрос. Без метки версии в каждом прогнозе позже невозможно понять, какой модели принадлежат те или иные показатели.
log.info("prediction", extra={
"model_version": "v2-canary",
"latency_ms": latency,
})Сохраняйте сопоставимость групп
Выполняйте маршрутизацию по стабильному хешу идентификатора пользователя, чтобы один и тот же человек всегда попадал в одну и ту же модель. Случайное разделение для каждого запроса затрудняет честное сравнение.
Быстро отключайтесь
Вся идея заключается в возможности быстро выйти из эксперимента. Если канареечная модель работает неправильно, Вы возвращаете её долю трафика к 0%, и пользователи ничего не замечают.
Канареечная схема и схема «сине-зелёный выпуск»
Схема «сине-зелёный выпуск» поддерживает две полностью подготовленные среды и переключается между ними. Канареечная схема, напротив, постепенно пропускает трафик, обеспечивая более точный контроль и раннее предупреждение.
Быстрая проверка
Проверим основную идею канареечного выпуска.
Повторение
Канареечный выпуск сначала направляет новую модель на небольшую часть трафика, сравнивает её с основной моделью, увеличивает охват только при стабильной работе и мгновенно выполняет откат в противном случае. ✅
Часто задаваемые вопросы
Урок «Канареечные выпуски: сначала для небольшой группы» бесплатный?
Да — полный текст урока «Канареечные выпуски: сначала для небольшой группы» бесплатно доступен здесь в веб-версии. Чтобы практиковать его интерактивно (встроенный редактор кода и ИИ-репетитор 24/7) и разблокировать остальной курс MLOps Academy, подпишись на CoddyKit PRO. Курс MLOps Academy содержит 4 уроков всего.
Чему я научусь в уроке «Канареечные выпуски: сначала для небольшой группы»?
Перенаправьте небольшую часть трафика к новой модели Ты практикуешь MLOps Academy с помощью реального кода, который запускаешь прямо в браузере, и ИИ-репетитор 24/7 отвечает на твои вопросы во время урока.
Нужен ли мне опыт, чтобы начать MLOps Academy?
Предыдущий опыт не требуется. MLOps Academy на CoddyKit структурирован для всех уровней — от новичков до продвинутых, поэтому ты можешь начать отсюда или с самого начала и учиться в своем темпе. Это урок 1 из 4.
Сколько времени занимает урок «Канареечные выпуски: сначала для небольшой группы»?
Большинство уроков CoddyKit занимают около 5–10 минут. Каждый из них компактный и интерактивный, поэтому ты постоянно делаешь прогресс и продолжаешь с того же места в веб-версии и приложении.
Можно ли писать и запускать код в этом уроке MLOps Academy?
Да. Каждый урок MLOps Academy включает встроенный редактор кода, поэтому ты пишешь и запускаешь реальный код прямо в браузере и получаешь моментальную обратную связь от AI — локальная установка не требуется.
Все уроки этого курса
- Канареечные выпуски: сначала для небольшой группы
- Теневой трафик без влияния на пользователей
- Определение критериев автоматического отката
- Постепенная доставка с помощью Argo Rollouts