LLM-applikationer i produktion (RAG + vektordatabase + caching) · Lektion

Containerisering af LLM-applikationer med Docker

Lær at pakke Deres RAG-applikation og dens afhængigheder i Docker-containere, så den kan implementeres ensartet på tværs af miljøer.

Lektion 1 af 411 trin

Containerisering af LLM-applikationer med Docker er en gratis LLM-applikationer i produktion (RAG + vektordatabase + caching)-lektion på CoddyKit. Dette er lektion 1 af 4. Du kan læse hele lektionen gratis nedenfor — og derefter øve dig praktisk i browseren med en indbygget kodeeditor og en AI-vejleder, der er tilgængelig døgnet rundt. Den er en del af læringsforløbet i LLM-applikationer i produktion (RAG + vektordatabase + caching), og dine fremskridt synkroniseres på tværs af nettet og CoddyKit-appen. LLM-applikationer i produktion (RAG + vektordatabase + caching)-kurset indeholder 4 lektioner i alt.

Hvorfor containerisere LLM-applikationer?

Det kan være besværligt at implementere applikationer med Large Language Model (LLM). Du skal ofte håndtere mange afhængigheder, bestemte Python-versioner og forskellige miljøer.

Containerisering hjælper med at løse disse problemer ved at pakke din app og alle dens behov i en enkelt, isoleret enhed. Betragt det som en let og portabel virtuel maskine.

Mød Docker: Containerværktøjet

Docker er det mest populære værktøj til at oprette og administrere containere. Det giver dig mulighed for at bygge, levere og køre applikationer ensartet på tværs af forskellige miljøer.

Et Docker Image er en let, selvstændig og eksekverbar pakke, der indeholder alt, hvad der kræves for at køre et stykke software.
En Docker Container er en kørbar instans af et Docker Image. Du kan starte, stoppe, flytte eller slette en container.

Dockerfile: Din apps byggeplan

En Dockerfile er en almindelig tekstfil, der indeholder et sæt instruktioner til, hvordan et Docker-image bygges. Den fungerer som en opskrift på din applikationsmiljø.

Hver instruktion i Dockerfile opretter et lag i imaget, hvilket gør builds effektive. Det sikrer, at alle, der bygger dit image, får præcis det samme miljø.

Grundlæggende instruktioner i Dockerfile

Lad os se på nogle almindelige instruktioner i Dockerfile:

FROM: Angiver base-imaget (f.eks. Python eller Node.js).
WORKDIR: Angiver arbejdsbiblioteket inde i containeren.
COPY: Kopierer filer fra dit projekt ind i imaget.
RUN: Kører kommandoer under image-bygningsprocessen (f.eks. installation af afhængigheder).
CMD: Definerer den standardkommando, der skal køres, når en container starter.

Vores simple Python-app

Forestil dig, at dette simple Python-script er en central del af din LLM-applikation, måske en hjælpefunktion eller et lille API-slutpunkt. Vi containeriserer det.

import os

def process_text(text):
  # In a real LLM app, this might call an LLM API
  # or perform some text preprocessing.
  return f"Processed: {text.upper()}"

if __name__ == "__main__":
  message = os.getenv("APP_MESSAGE", "Hello CoddyKit!")
  print(process_text(message))

Opbygning af Dockerfile til vores app

Sådan skriver vi en Dockerfile til vores Python-applikation. Den opsætter et Python-miljø og tilføjer vores kode.

Opret først en requirements.txt-fil:

# requirements.txt
# No external libraries for this simple example

Derefter Dockerfile:

FROM python:3.9-slim-buster

WORKDIR /app

COPY requirements.txt .
RUN pip install --no-cache-dir -r requirements.txt

COPY . .

CMD ["python", "./your_app.py"]

Bygning og kørsel af imaget

Når du har din Dockerfile og applikationskode (f.eks. your_app.py), kan du bygge dit Docker-image og derefter køre det.

Byg: Kommandoen docker build opretter et image ud fra din Dockerfile. Flaget -t mærker det med et navn.
Kør: Kommandoen docker run starter en ny container fra dit image.

# Build the image (from the directory with Dockerfile)
docker build -t my-llm-app .

# Run the container
docker run my-llm-app

# Run with an environment variable
docker run -e APP_MESSAGE="Docker is awesome!" my-llm-app

Håndtering af afhængigheder og miljø

Rigtige LLM-apps har mange afhængigheder (f.eks. langchain, openai og numpy). Det er afgørende at angive dem i requirements.txt og installere dem med pip install -r requirements.txt i Dockerfile.

Brug miljøvariabler til følsomme oplysninger som LLM API-nøgler. Send dem til din container ved hjælp af flaget -e sammen med docker run, eller angiv dem i en .env-fil med Docker Compose.

Docker Compose til RAG-stakke

En komplet RAG-applikation involverer ofte flere tjenester: din LLM-applikation, en vektordatabase (som Chroma eller Pinecone) og måske et cachelag (som Redis).

Docker Compose hjælper dig med at definere og køre Docker-applikationer med flere containere. Du bruger en docker-compose.yml-fil til at konfigurere alle dine tjenester, netværk og diskenheder, så du nemt kan starte hele din RAG-stak med en enkelt kommando.

Test din Docker-viden

Hvilke af følgende er de vigtigste fordele ved at bruge Docker-containere til implementering af LLM-applikationer?

Besvar den i den interaktive lektion

Opsummering: Docker til implementering af LLM

Du har lært, hvordan Docker hjælper med at strømline udrulningen af LLM-applikationer. Ved at containerisere din app sikrer du ensartethed, forenkler håndteringen af afhængigheder og opretter portable udrulningsenheder.

Vi gennemgik Dockerfile til oprettelse af images, grundlæggende Docker-kommandoer og konceptet Docker Compose til RAG-arkitekturer med flere tjenester. Dette grundlag er afgørende for at opbygge robuste og skalerbare LLM-systemer i produktion!

Gratis at komme i gang

Lær LLM-applikationer i produktion (RAG + vektordatabase + caching) med en AI-underviser — gratis

Skriv og kør rigtig kode i din browser, få øjeblikkelig hjælp fra en AI-underviser døgnet rundt, og fortsæt, hvor du slap, på web eller i appen.

Kurser: 12
Lektioner: 48

Start gratis Se hele kurset

Ofte stillede spørgsmål

Er lektionen “Containerisering af LLM-applikationer med Docker” gratis?

Ja — hele teksten til “Containerisering af LLM-applikationer med Docker” kan læses gratis her på nettet. Hvis du vil øve dig interaktivt med en indbygget kodeeditor og en AI-vejleder døgnet rundt og få adgang til resten af LLM-applikationer i produktion (RAG + vektordatabase + caching)-kurset, skal du opgradere til CoddyKit PRO. LLM-applikationer i produktion (RAG + vektordatabase + caching)-kurset indeholder 4 lektioner i alt.

Hvad lærer jeg i “Containerisering af LLM-applikationer med Docker”?

Lær at pakke Deres RAG-applikation og dens afhængigheder i Docker-containere, så den kan implementeres ensartet på tværs af miljøer. Du øver dig i LLM-applikationer i produktion (RAG + vektordatabase + caching) med praktisk kode, som du kører direkte i browseren, og en AI-vejleder døgnet rundt besvarer dine spørgsmål, mens du arbejder dig gennem lektionen.

Skal jeg have erfaring for at begynde på LLM-applikationer i produktion (RAG + vektordatabase + caching)?

Der kræves ingen tidligere erfaring. LLM-applikationer i produktion (RAG + vektordatabase + caching) på CoddyKit er tilrettelagt for både begyndere og øvede, så du kan starte her eller fra begyndelsen og lære i dit eget tempo. Dette er lektion 1 af 4.

Hvor lang tid tager lektionen “Containerisering af LLM-applikationer med Docker”?

De fleste CoddyKit-lektioner tager cirka 5–10 minutter. Hver lektion er kort og interaktiv, så du gør løbende fremskridt og kan fortsætte, hvor du slap – på både web og app.

Kan jeg skrive og køre kode i denne LLM-applikationer i produktion (RAG + vektordatabase + caching)-lektion?

Ja. Alle LLM-applikationer i produktion (RAG + vektordatabase + caching)-lektioner har en indbygget kodeeditor, så du kan skrive og køre rigtig kode direkte i din browser og få øjeblikkelig feedback fra AI – uden lokal opsætning.

Alle lektioner i dette kursus

Containerisering af LLM-applikationer med Docker
Orkestrering med Kubernetes for skalerbarhed
CI/CD til implementering af LLM-applikationer
Håndtering af konfiguration og secrets ved deployment

← Tilbage til LLM-applikationer i produktion (RAG + vektordatabase + caching)