Aplikasi LLM dalam Pengeluaran (RAG + Pangkalan Data Vektor + Caching) · Pelajaran

Membungkus Aplikasi LLM dengan Docker

Pelajari cara membungkus aplikasi RAG dan kebergantungannya ke dalam bekas Docker untuk penggunaan yang konsisten merentas persekitaran.

Pelajaran 1 daripada 411 langkah

Membungkus Aplikasi LLM dengan Docker ialah pelajaran Aplikasi LLM dalam Pengeluaran (RAG + Pangkalan Data Vektor + Caching) percuma di CoddyKit. Ini ialah pelajaran 1 daripada 4. Anda boleh membaca keseluruhan pelajaran di bawah secara percuma — kemudian berlatih secara praktikal dalam pelayar menggunakan penyunting kod terbina dalam dan tutor kecerdasan buatan 24/7. Pelajaran ini merupakan sebahagian daripada laluan pembelajaran Aplikasi LLM dalam Pengeluaran (RAG + Pangkalan Data Vektor + Caching), dan kemajuan anda disegerakkan merentas web serta aplikasi CoddyKit. Kursus Aplikasi LLM dalam Pengeluaran (RAG + Pangkalan Data Vektor + Caching) merangkumi sejumlah 4 pelajaran.

Mengapakah Aplikasi LLM Perlu Dikontena?

Melancarkan aplikasi Large Language Model (LLM) boleh menjadi rumit. Anda sering berdepan dengan banyak kebergantungan, versi Python tertentu dan persekitaran yang berbeza.

Pengkonteinaan membantu menyelesaikan isu ini dengan membungkus aplikasi anda serta semua keperluannya ke dalam satu unit terpencil. Anggaplah ia sebagai mesin maya yang ringan dan mudah alih.

Kenali Docker: Alat Kontena

Docker ialah alat paling popular untuk mencipta dan mengurus kontena. Alat ini membolehkan anda membina, menghantar dan menjalankan aplikasi secara konsisten merentas persekitaran yang berbeza.

Imej Docker ialah pakej boleh laku kendiri yang ringan dan mengandungi segala-galanya yang diperlukan untuk menjalankan sekeping perisian.
Kontena Docker ialah tika Imej Docker yang boleh dijalankan. Anda boleh memulakan, menghentikan, mengalihkan atau memadam kontena.

Dockerfile: Pelan Tindakan Aplikasi Anda

Dockerfile ialah fail teks biasa yang mengandungi set arahan tentang cara membina imej Docker. Ia seperti resipi untuk persekitaran aplikasi anda.

Setiap arahan dalam Dockerfile mencipta satu lapisan dalam imej, sekali gus menjadikan binaan lebih cekap. Ia memastikan sesiapa sahaja yang membina imej anda memperoleh persekitaran yang sama sepenuhnya.

Arahan Asas Dockerfile

Mari lihat beberapa arahan Dockerfile yang lazim:

FROM: Menentukan imej asas (contohnya, Python dan Node.js).
WORKDIR: Menetapkan direktori kerja di dalam kontena.
COPY: Menyalin fail daripada projek anda ke dalam imej.
RUN: Melaksanakan arahan semasa proses pembinaan imej (contohnya, memasang kebergantungan).
CMD: Menentukan arahan lalai untuk dijalankan apabila kontena dimulakan.

Aplikasi Python Ringkas Kami

Bayangkan skrip Python ringkas ini merupakan bahagian teras aplikasi LLM anda, mungkin fungsi utiliti atau titik akhir API kecil. Kita akan mengkontenakannya.

import os

def process_text(text):
  # In a real LLM app, this might call an LLM API
  # or perform some text preprocessing.
  return f"Processed: {text.upper()}"

if __name__ == "__main__":
  message = os.getenv("APP_MESSAGE", "Hello CoddyKit!")
  print(process_text(message))

Membina Dockerfile untuk Aplikasi Kami

Beginilah cara kita menulis Dockerfile untuk aplikasi Python kita. Dockerfile ini menyediakan persekitaran Python dan menambahkan kod kita.

Mula-mula, cipta fail requirements.txt:

# requirements.txt
# No external libraries for this simple example

Kemudian, Dockerfile:

FROM python:3.9-slim-buster

WORKDIR /app

COPY requirements.txt .
RUN pip install --no-cache-dir -r requirements.txt

COPY . .

CMD ["python", "./your_app.py"]

Membina dan Menjalankan Imej

Setelah anda mempunyai Dockerfile dan kod aplikasi (contohnya, your_app.py), anda boleh membina imej Docker dan kemudian menjalankannya.

Bina: Perintah docker build mencipta imej daripada Dockerfile anda. Bendera -t menandainya dengan nama.
Jalankan: Perintah docker run memulakan kontena baharu daripada imej anda.

# Build the image (from the directory with Dockerfile)
docker build -t my-llm-app .

# Run the container
docker run my-llm-app

# Run with an environment variable
docker run -e APP_MESSAGE="Docker is awesome!" my-llm-app

Mengurus Kebergantungan dan Persekitaran

Bagi aplikasi LLM sebenar, anda akan mempunyai banyak kebergantungan (contohnya, langchain, openai dan numpy). Menyenaraikannya dalam requirements.txt dan memasangnya dengan pip install -r requirements.txt di dalam Dockerfile amat penting.

Untuk maklumat sensitif seperti kunci API LLM, gunakan pemboleh ubah persekitaran. Hantarkannya kepada kontena anda menggunakan bendera -e bersama docker run, atau takrifkannya dalam fail .env dengan Docker Compose.

Docker Compose untuk Susunan RAG

Aplikasi RAG lengkap selalunya melibatkan berbilang perkhidmatan: aplikasi LLM anda, pangkalan data vektor (seperti Chroma atau Pinecone) dan mungkin lapisan caching (seperti Redis).

Docker Compose membantu anda mentakrifkan dan menjalankan aplikasi Docker berbilang kontena. Anda menggunakan fail docker-compose.yml untuk mengkonfigurasi semua perkhidmatan, rangkaian dan volum, sekali gus memudahkan anda memulakan keseluruhan susunan RAG dengan satu perintah.

Uji Pengetahuan Docker Anda

Antara yang berikut, yang manakah manfaat utama menggunakan kontena Docker untuk melancarkan aplikasi LLM?

Jawab dalam pelajaran interaktif

Imbas Kembali: Docker untuk Pelancaran LLM

Anda telah mempelajari cara Docker membantu melancarkan proses penggunaan aplikasi LLM. Dengan menjadikan aplikasi anda sebagai bekas, anda memastikan keseragaman, memudahkan pengurusan kebergantungan dan menghasilkan unit penggunaan yang mudah dialihkan.

Kami telah membincangkan Dockerfile untuk penciptaan imej, arahan asas Docker dan konsep Docker Compose untuk seni bina RAG berbilang perkhidmatan. Asas ini penting untuk membina sistem LLM yang kukuh dan boleh diskalakan dalam persekitaran pengeluaran!

Percuma untuk bermula

Pelajari Aplikasi LLM dalam Pengeluaran (RAG + Pangkalan Data Vektor + Caching) dengan tutor kecerdasan buatan — percuma

Tulis dan jalankan kod sebenar dalam pelayar anda, dapatkan bantuan segera daripada tutor kecerdasan buatan yang tersedia 24/7, dan sambung semula dari tempat anda berhenti di web atau dalam aplikasi.

Kursus: 12
Pelajaran: 48

Mula belajar secara percuma Lihat kursus penuh

Soalan Lazim

Adakah pelajaran “Membungkus Aplikasi LLM dengan Docker” percuma?

Ya — teks penuh “Membungkus Aplikasi LLM dengan Docker” boleh dibaca secara percuma di web ini. Untuk berlatih secara interaktif menggunakan penyunting kod terbina dalam dan tutor kecerdasan buatan 24/7, serta membuka kunci baki kursus Aplikasi LLM dalam Pengeluaran (RAG + Pangkalan Data Vektor + Caching), tingkat taraf kepada CoddyKit PRO. Kursus Aplikasi LLM dalam Pengeluaran (RAG + Pangkalan Data Vektor + Caching) merangkumi sejumlah 4 pelajaran.

Apakah yang akan saya pelajari dalam “Membungkus Aplikasi LLM dengan Docker”?

Pelajari cara membungkus aplikasi RAG dan kebergantungannya ke dalam bekas Docker untuk penggunaan yang konsisten merentas persekitaran. Anda berlatih Aplikasi LLM dalam Pengeluaran (RAG + Pangkalan Data Vektor + Caching) menggunakan kod praktikal yang dijalankan terus dalam pelayar, manakala tutor kecerdasan buatan 24/7 menjawab soalan anda semasa anda mengikuti pelajaran.

Adakah saya memerlukan pengalaman untuk memulakan Aplikasi LLM dalam Pengeluaran (RAG + Pangkalan Data Vektor + Caching)?

Tiada pengalaman terdahulu diperlukan. Pembelajaran Aplikasi LLM dalam Pengeluaran (RAG + Pangkalan Data Vektor + Caching) di CoddyKit disusun untuk pelajar daripada peringkat pemula hingga lanjutan, jadi anda boleh bermula di sini atau dari awal dan belajar mengikut kadar anda sendiri. Ini ialah pelajaran 1 daripada 4.

Berapa lamakah pelajaran “Membungkus Aplikasi LLM dengan Docker” diambil?

Kebanyakan pelajaran CoddyKit mengambil masa kira-kira 5–10 minit. Setiap pelajaran ringkas dan interaktif, jadi anda boleh membuat kemajuan secara berterusan dan menyambung tepat dari tempat anda berhenti di web atau aplikasi.

Bolehkah saya menulis dan menjalankan kod dalam pelajaran Aplikasi LLM dalam Pengeluaran (RAG + Pangkalan Data Vektor + Caching) ini?

Ya. Setiap pelajaran Aplikasi LLM dalam Pengeluaran (RAG + Pangkalan Data Vektor + Caching) menyertakan penyunting kod terbina dalam, jadi anda boleh menulis dan menjalankan kod sebenar terus dalam pelayar serta menerima maklum balas kecerdasan buatan serta-merta — tanpa memerlukan persediaan setempat.

Semua pelajaran dalam kursus ini

Membungkus Aplikasi LLM dengan Docker
Orkestrasi dengan Kubernetes untuk Kebolehskalaan
CI/CD untuk Penggunaan Aplikasi LLM
Mengurus Konfigurasi dan Rahsia dalam Penerapan

← Kembali ke Aplikasi LLM dalam Pengeluaran (RAG + Pangkalan Data Vektor + Caching)