Containerisering med Docker

Docker är den ledande plattformen för att bygga, dela och köra containers. Den tillhandahåller ett ramverk och verktyg med öppen källkod som förenklar hanteringen av hela livscykeln för containeriserade applikationer.

• Containers jämfört med virtuella maskiner: Containers är mycket lättare och snabbare än traditionella virtuella maskiner (VM:er). VM:er virtualiserar hela maskinvaran, medan containers virtualiserar operativsystemet och delar värdoperativsystemets kärna.
• Denna effektivitet gör Docker idealiskt för snabb driftsättning och skalning.

Innan Ni kör en container behöver Ni en Docker-avbildning. En avbildning är ett lättviktigt, fristående och körbart paket som innehåller allt som behövs för att köra en del av programvaran, inklusive kod, runtime, bibliotek och systemverktyg.

• Den fungerar som en ritning eller mall för att skapa containers.
• Avbildningar byggs utifrån instruktioner i en Dockerfile och är oföränderliga när de väl har skapats.

En Dockerfile är en vanlig textfil som innehåller alla kommandon som Docker använder för att sätta samman en avbildning. Den fungerar som ett recept för Er container.

Här är några vanliga instruktioner:

• FROM: Anger basavbildningen (t.ex. python:3.9-slim).
• WORKDIR: Anger arbetskatalogen inuti containern.
• COPY: Kopierar filer från Er lokala dator till avbildningen.
• RUN: Kör kommandon under byggprocessen för avbildningen (t.ex. för att installera beroenden).
• CMD: Anger standardkommandot som ska köras när en container startar.

Nu skapar vi en enkel Python-applikation (app.py) och dess tillhörande Dockerfile. Föreställ Er att detta är ett litet skript för AI-inferens.

app.py:

Nu tittar vi på Dockerfile för vår app.py:

FROM python:3.9-slim
WORKDIR /app
COPY app.py .
CMD ["python", "app.py"]

Så här bygger Ni avbildningen (från terminalen i samma katalog):

• docker build -t my-ai-app . (-t märker avbildningen, och . betyder att Dockerfile finns i den aktuella katalogen).

Så här kör Ni en container från denna avbildning:

• docker run my-ai-app (Ni bör se ”Hello from inside the container!”).

Docker är mycket värdefullt för AI SaaS-applikationer och hanterar flera specifika utmaningar:

• Hantering av beroenden: AI-modeller kräver ofta exakta versioner av bibliotek (t.ex. TensorFlow, PyTorch och CUDA-drivrutiner). Docker isolerar dessa på ett tillförlitligt sätt och undviker konflikter.
• Konsekventa miljöer: Säkerställer att Er modellkod för inferens körs likadant i utveckling, testning och produktion, vilket eliminerar problemen med att ”det fungerar på min dator”.
• Skalbarhet: Ni kan enkelt starta flera identiska containers för att hantera fler inferensförfrågningar, vilket gör Er AI-tjänst mycket skalbar.

Som standard går data som lagras inuti en container förlorade när containern tas bort. För AI-modeller och konfiguration behöver Ni beständig lagring.

Docker-volymer gör det möjligt att lagra data utanför containerns filsystem, på värddatorn. Detta är avgörande för att:

• Lagra vikter och artefakter från tränade AI-modeller.
• Spara loggar eller användargenererade data.
• Dela data mellan olika containers.

På så sätt finns Era värdefulla data kvar även efter att containern har tagits bort.

Ni har lärt Er hur Docker hjälper till att paketera Er AI SaaS-applikation i portabla och konsekventa containers. Vi gick igenom:

• Problemet med inkonsekventa miljöer och hur containers löser det.
• Vad Docker, avbildningar och containers är.
• Hur Ni skriver en enkel Dockerfile och bygger och kör containers.
• De viktigaste fördelarna med Docker för AI SaaS, bland annat hantering av beroenden och beständig datalagring med volymer.

Denna grundläggande förståelse är avgörande för att smidigt driftsätta och hantera Er AI SaaS i molnet!