Контейнеризация с Docker

Слышали когда-нибудь раздражающую фразу: «У меня на компьютере работает!»? Эта распространённая проблема возникает, когда программа прекрасно работает на компьютере разработчика, но не работает должным образом в другой среде, например на тестовом сервере или в облаке.

Различия в операционных системах, установленных библиотеках или версиях зависимостей часто приводят к такому непредсказуемому поведению и создают проблемы при развёртывании.

Контейнеризация решает эту проблему, объединяя ваше приложение и все необходимые компоненты в единый изолированный блок, называемый контейнером. Представьте его как небольшой автономный компьютер для вашего приложения.

• В него входит программный код приложения.
• Все его библиотеки и платформы.
• Все необходимые настройки.

Это гарантирует, что ваша программа будет работать одинаково независимо от места развёртывания.

Докер — ведущая платформа для создания, обмена и запуска контейнеров. Она предоставляет инструменты и платформу с открытым исходным кодом, которые упрощают управление всем жизненным циклом контейнеризированных приложений.

• Контейнеры и виртуальные машины: контейнеры значительно легче и быстрее традиционных виртуальных машин (VM). Виртуальные машины виртуализируют всё аппаратное обеспечение, а контейнеры виртуализируют операционную систему и используют общее ядро основной ОС.
• Благодаря этой эффективности Докер отлично подходит для быстрого развёртывания и масштабирования.

Прежде чем запустить контейнер, вам понадобится образ Docker. Образ — это лёгкий автономный исполняемый пакет, содержащий всё необходимое для запуска части программы: код, среду выполнения, библиотеки и системные инструменты.

• Это схема или шаблон для создания контейнеров.
• Образы создаются по инструкциям из файла Dockerfile и после создания не изменяются.

Dockerfile — это обычный текстовый файл, содержащий все команды, которые Докер использует для сборки образа. Это своего рода рецепт для вашего контейнера.

Вот несколько распространённых инструкций:

• FROM: указывает базовый образ (например, python:3.9-slim).
• WORKDIR: задаёт рабочую папку внутри контейнера.
• COPY: копирует файлы с вашего компьютера в образ.
• RUN: выполняет команды во время сборки образа (например, устанавливает зависимости).
• CMD: указывает команду по умолчанию, которая запускается при старте контейнера.

Создадим простое приложение на Python (app.py) и соответствующий ему Dockerfile. Представьте, что это небольшой скрипт для выполнения вывода модели ИИ.

app.py:

Теперь рассмотрим Dockerfile для нашего app.py:

FROM python:3.9-slim
WORKDIR /app
COPY app.py .
CMD ["python", "app.py"]

Чтобы собрать образ (выполните команду в терминале из той же папки):

• docker build -t my-ai-app . (-t задаёт метку образу, а . означает Dockerfile в текущей папке).

Чтобы запустить контейнер из этого образа:

• docker run my-ai-app (Вы должны увидеть сообщение «Hello from inside the container!»).

Докер чрезвычайно полезен для приложений ИИ SaaS и решает ряд специфических задач:

• Управление зависимостями: моделям ИИ часто требуются точные версии библиотек (например, TensorFlow, PyTorch и драйверов CUDA). Докер идеально изолирует их и предотвращает конфликты.
• Единообразные среды: гарантирует, что код вывода модели будет работать одинаково при разработке, тестировании и в рабочей среде, устраняя проблемы «у меня на компьютере работает».
• Масштабируемость: позволяет легко запускать множество одинаковых контейнеров для обработки возросшего числа запросов на вывод, делая сервис ИИ высокомасштабируемым.

По умолчанию данные, хранящиеся внутри контейнера, теряются после его удаления. Для моделей ИИ и настроек необходимо постоянное хранение данных.

Тома Docker позволяют хранить данные за пределами файловой системы контейнера — на основной машине. Это особенно важно для:

• хранения весов обученных моделей ИИ и артефактов;
• сохранения журналов или данных, созданных пользователями;
• обмена данными между разными контейнерами.

Так ваши ценные данные сохраняются дольше контейнера.

Рассмотрите следующий фрагмент Dockerfile:

FROM node:16-alpine
WORKDIR /app
COPY package*.json .
RUN npm install
COPY .
CMD ["npm", "start"]

Какая инструкция отвечает за загрузку и установку зависимостей Node.js?

Вы узнали, как Докер помогает упаковать ваше приложение ИИ SaaS в переносимые контейнеры с единообразным поведением. Мы рассмотрели:

• проблему различий между средами и то, как её решают контейнеры;
• назначение Docker, образов и контейнеров;
• создание простого Dockerfile и сборку и запуск контейнеров;
• ключевые преимущества Docker для ИИ SaaS, включая управление зависимостями и постоянное хранение данных с помощью томов.

Это базовое понимание крайне важно для беспрепятственного развёртывания и управления вашим приложением ИИ SaaS в облаке!