Konteinerisering med Docker

Docker er den ledende plattformen for å bygge, dele og kjøre containere. Den tilbyr et rammeverk og verktøy med åpen kildekode som forenkler håndteringen av hele livssyklusen til containeriserte applikasjoner.

• Containere kontra VM-er: Containere er mye lettere og raskere enn tradisjonelle virtuelle maskiner (VM-er). VM-er virtualiserer hele maskinvaren, mens containere virtualiserer operativsystemet og deler vertssystemets OS-kjerne.
• Denne effektiviteten gjør Docker ideelt for rask utrulling og skalering.

Før De kan kjøre en container, trenger De en Docker-avbildning. En avbildning er en lett, frittstående og kjørbar pakke som inneholder alt som trengs for å kjøre et stykke programvare, inkludert kode, kjøremiljø, biblioteker og systemverktøy.

• Den fungerer som en oppskrift eller mal for å opprette containere.
• Avbildninger bygges ut fra instruksjoner i en Dockerfile og kan ikke endres etter at de er opprettet.

En Dockerfile er en ren tekstfil som inneholder alle kommandoene Docker bruker til å sette sammen en avbildning. Den fungerer som en oppskrift for containeren.

Her er noen vanlige instruksjoner:

• FROM: Angir basisavbildningen (for eksempel python:3.9-slim).
• WORKDIR: Angir arbeidsmappen inne i containeren.
• COPY: Kopierer filer fra den lokale maskinen til avbildningen.
• RUN: Kjører kommandoer mens avbildningen bygges (for eksempel installasjon av avhengigheter).
• CMD: Angir standardkommandoen som skal kjøres når en container starter.

La oss lage en enkel Python-applikasjon (app.py) og den tilhørende Dockerfile-filen. Tenk Dem at dette er et lite skript for AI-inferens.

app.py:

La oss nå se på Dockerfile-filen for app.py:

FROM python:3.9-slim
WORKDIR /app
COPY app.py .
CMD ["python", "app.py"]

Slik bygger De avbildningen (fra terminalen i samme mappe):

• docker build -t my-ai-app . (-t merker avbildningen, mens . betyr at Dockerfile-filen ligger i gjeldende mappe).

Slik kjører De en container fra denne avbildningen:

• docker run my-ai-app (De skal se «Hello from inside the container!»).

Docker er svært nyttig for AI SaaS-applikasjoner og løser flere spesifikke utfordringer:

• Håndtering av avhengigheter: AI-modeller krever ofte nøyaktige versjoner av biblioteker (for eksempel TensorFlow, PyTorch og CUDA-drivere). Docker isolerer disse på en effektiv måte og unngår konflikter.
• Ensartede miljøer: Sikrer at modellens inferenskode kjører likt i utvikling, testing og produksjon, slik at problemer av typen «det fungerer på min maskin» elimineres.
• Skalerbarhet: De kan enkelt starte flere identiske containere for å håndtere flere inferensforespørsler, slik at AI-tjenesten blir svært skalerbar.

Som standard går data som er lagret inne i en container, tapt når containeren fjernes. For AI-modeller og konfigurasjon trenger De vedvarende lagring.

Docker-volumer gjør det mulig å lagre data utenfor containerens filsystem, på vertsmaskinen. Dette er avgjørende for:

• Lagring av vekter og artefakter fra trente AI-modeller.
• Lagring av logger eller brukergenererte data.
• Deling av data mellom ulike containere.

Dette sikrer at verdifulle data overlever containeren.

De har lært hvordan Docker kan pakke AI SaaS-applikasjonen inn i portable og ensartede containere. Vi har gått gjennom:

• Problemet med uensartede miljøer, og hvordan containere løser det.
• Hva Docker, avbildninger og containere er.
• Hvordan De skriver en grunnleggende Dockerfile-fil og bygger og kjører containere.
• De viktigste fordelene med Docker for AI SaaS, blant annet håndtering av avhengigheter og vedvarende lagring med volumer.

Denne grunnleggende forståelsen er avgjørende for å distribuere og administrere AI SaaS sømløst i skyen!