Azure Fundamentals · บทเรียน

Azure OpenAI Service

Azure OpenAI Service เป็นบทเรียน Azure Fundamentals ฟรีบน CoddyKit นี่คือบทเรียนที่ 4 จากทั้งหมด 4 บทเรียน คุณสามารถอ่านบทเรียนทั้งหมดด้านล่างฟรี — จากนั้นลองปฏิบัติด้วยตัวคุณเองในเบราว์เซอร์พร้อมตัวแก้ไขโค้ดในตัวและติวเตอร์ AI ตลอด 24/7 บทเรียนนี้เป็นส่วนหนึ่งของเส้นทางการเรียน Azure Fundamentals และความก้าวหน้าของคุณจะซิงค์ข้ามเว็บและแอป CoddyKit คอร์ส Azure Fundamentals มีบทเรียนทั้งหมด 4 บทเรียน

Azure OpenAI Service คืออะไร

Azure OpenAI Service ให้คุณเข้าถึงโมเดลภาษาขนาดใหญ่ของ OpenAI ได้แก่ GPT-4 GPT-3.5-turbo DALL-E และโมเดล Embeddings ผ่านโครงสร้างพื้นฐานคลาวด์ Azure ของ Microsoft แตกต่างจากการใช้ OpenAI API โดยตรง Azure OpenAI มอบฟีเจอร์ระดับองค์กร ได้แก่ เครือข่ายส่วนตัวผ่าน VNet/Private Link ใบรับรองการปฏิบัติตามข้อกำหนดของ Microsoft (ISO 27001, SOC 2, GDPR) การกรองเนื้อหา ความเป็นส่วนตัวของข้อมูลลูกค้า (ข้อมูลของคุณจะไม่ถูกใช้ฝึกโมเดลพื้นฐานของ OpenAI) และการผสานรวมกับ Azure RBAC และระบบตรวจสอบ

การขอสิทธิ์เข้าถึงและการนำโมเดลไปใช้งาน

Azure OpenAI ต้องใช้การสมัครใช้งานที่ได้รับอนุมัติ โดยมีการจำกัดสิทธิ์การเข้าถึงและต้องส่งคำขอผ่านแบบฟอร์ม เมื่อได้รับอนุมัติแล้ว คุณจะสร้างทรัพยากร Azure OpenAI จากนั้นสร้างการนำไปใช้งานภายในทรัพยากรนั้น การนำไปใช้งานจะผูกโมเดล (เช่น gpt-4) เข้ากับชื่อการนำไปใช้งาน (เช่น my-gpt4) และโควตาโทเค็น (ขีดจำกัดโทเค็นต่อนาที) คุณเรียก API โดยใช้ชื่อการนำไปใช้งาน ไม่ใช่ชื่อโมเดลพื้นฐาน ทรัพยากรเดียวสามารถมีการนำไปใช้งานหลายรายการที่ใช้โมเดลหรือโควตาต่างกันได้

# Create an Azure OpenAI resource
az cognitiveservices account create \
  --name myOpenAI \
  --resource-group myRG \
  --kind OpenAI \
  --sku S0 \
  --location eastus

# Create a deployment
az cognitiveservices account deployment create \
  --name myOpenAI \
  --resource-group myRG \
  --deployment-name my-gpt4 \
  --model-name gpt-4 \
  --model-version '0613' \
  --model-format OpenAI \
  --sku-name Standard \
  --sku-capacity 10

API การเติมข้อความแชต

API การเติมข้อความแชต (/openai/deployments/{deployment}/chat/completions) รับรายการข้อความที่มีบทบาท (system, user, assistant) และส่งคืนคำตอบของโมเดล ข้อความ system จะกำหนดพฤติกรรมและบุคลิกของโมเดล ข้อความ user จะมีคำสั่งหรือคำถาม ผลัดก่อนหน้าของการสนทนาจะถูกรวมไว้ในอาร์เรย์ข้อความ เพื่อให้โมเดลรักษาบริบทตลอดบทสนทนาหลายผลัด ค่าอุณหภูมิ (0–2) ใช้ควบคุมความสุ่มของคำตอบ

# Chat completion API call
curl -X POST 'https://myOpenAI.openai.azure.com/openai/deployments/my-gpt4/chat/completions?api-version=2024-02-01' \
  -H 'api-key: <key>' \
  -H 'Content-Type: application/json' \
  -d '{
    "messages": [
      {"role": "system", "content": "You are a helpful Azure expert."},
      {"role": "user", "content": "Explain what a Recovery Services vault is."}
    ],
    "temperature": 0.7,
    "max_tokens": 500
  }'

พื้นฐานวิศวกรรมคำสั่ง

วิศวกรรมคำสั่งคือแนวทางการสร้างข้อความอินพุตที่มีประสิทธิภาพ เพื่อให้ได้ผลลัพธ์ที่ดีที่สุดจากโมเดลภาษา เทคนิคสำคัญ ได้แก่ คำสั่งระบบ — กำหนดบทบาทและข้อจำกัดที่ชัดเจนให้โมเดล ตัวอย่างแบบไม่กี่ตัวอย่าง — แสดงตัวอย่างรูปแบบอินพุต-เอาต์พุตที่ต้องการ 2–5 ตัวอย่างให้โมเดลดู การคิดเป็นลำดับ — ขอให้โมเดลคิดทีละขั้นตอนก่อนให้คำตอบสุดท้าย และข้อจำกัด — สั่งโมเดลอย่างชัดเจนเกี่ยวกับรูปแบบ ความยาว และสิ่งที่ควรหลีกเลี่ยง คำสั่งที่ดีช่วยลดการสร้างข้อมูลเท็จและเพิ่มความสม่ำเสมอ

Embeddings สำหรับการค้นหาเชิงความหมาย

Embeddingsจะแปลงข้อความเป็นเวกเตอร์ตัวเลขหนาแน่นที่เก็บความหมายเชิงความหมายไว้ ข้อความสองส่วนที่มีความหมายคล้ายกันจะมีเวกเตอร์ที่อยู่ใกล้กันในปริภูมิเวกเตอร์ (วัดด้วยความคล้ายคลึงแบบโคไซน์) จุดสิ้นสุด embeddings ของ Azure OpenAI (/embeddings) ใช้โมเดล text-embedding-ada-002 เพื่อสร้างเวกเตอร์ขนาด 1,536 มิติ คุณใช้ embeddings เพื่อสร้างการค้นหาเชิงความหมาย (ค้นหาเอกสารที่คล้ายกับคำค้นหา) RAG (Retrieval-Augmented Generation) และระบบแนะนำ

# Get an embedding vector for a piece of text
curl -X POST 'https://myOpenAI.openai.azure.com/openai/deployments/my-embedding/embeddings?api-version=2024-02-01' \
  -H 'api-key: <key>' \
  -H 'Content-Type: application/json' \
  -d '{
    "input": "Azure Site Recovery replicates VMs to a secondary region."
  }'

การกรองเนื้อหา

Azure OpenAI มีระบบการกรองเนื้อหาหลายชั้นที่ทำงานกับทั้งคำสั่ง (อินพุต) และข้อความเติมเต็ม (เอาต์พุต) ระบบจะตรวจจับและบล็อกเนื้อหาใน 4 หมวดหมู่ ได้แก่ ความเกลียดชัง ทางเพศ ความรุนแรง และการทำร้ายตนเอง แต่ละหมวดหมู่มีระดับความรุนแรง 3 ระดับ (ต่ำ ปานกลาง สูง) และคุณสามารถกำหนดค่าขีดจำกัดการกรองแยกตามหมวดหมู่ได้ ความพยายามฉีดคำสั่ง (การเจลเบรกที่พยายามแทนที่คำสั่งระบบ) จะถูกกรองด้วย การกรองเนื้อหาเปิดใช้งานเป็นค่าเริ่มต้น และไม่สามารถปิดใช้งานกับโมเดลส่วนใหญ่ได้หากไม่มีเหตุผลรองรับกรณีการใช้งาน

การสร้างแบบเสริมด้วยการค้นคืน (RAG)

RAGช่วยให้คำตอบของโมเดลภาษายึดโยงกับข้อมูลของคุณเอง แทนที่จะพึ่งพาเฉพาะความรู้จากการฝึกของโมเดล รูปแบบการทำงานมีดังนี้ (1) จัดทำดัชนีเอกสารของคุณในคลังเวกเตอร์ (เช่น Azure AI Search) (2) เมื่อผู้ใช้ถามคำถาม ให้สร้าง embedding ของคำถามและค้นหาส่วนเอกสารที่เกี่ยวข้องในคลังเวกเตอร์ (3) ใส่ส่วนเอกสารเหล่านั้นไว้ในคำสั่งระบบเป็นบริบท (4) ให้โมเดลตอบโดยอ้างอิงบริบทที่จัดเตรียมไว้ RAG ช่วยลดการสร้างข้อมูลเท็จ และทำให้ LLM ตอบคำถามเกี่ยวกับข้อมูลส่วนตัวและข้อมูลล่าสุดได้โดยไม่ต้องปรับแต่งโมเดล

การปรับแต่งละเอียดเทียบกับ RAG

มีสองแนวทางที่ช่วยเพิ่มความสามารถของโมเดลด้วยข้อมูลแบบกำหนดเอง การปรับแต่งละเอียด คือการฝึกโมเดลเวอร์ชันใหม่ด้วยตัวอย่างของคุณ โดยฝังความรู้ไว้ในค่าน้ำหนักของโมเดล เหมาะที่สุดสำหรับการสอนสไตล์ รูปแบบ หรือพฤติกรรมเฉพาะที่อธิบายได้ยากด้วยพรอมต์ ส่วน RAG จะดึงข้อมูลที่เกี่ยวข้องขณะอนุมาน แล้วส่งข้อมูลนั้นไปในบริบท จึงเหมาะกว่าสำหรับฐานความรู้ขนาดใหญ่ที่เปลี่ยนแปลงบ่อย เพราะคุณเพียงอัปเดตดัชนีเวกเตอร์แทนการฝึกโมเดลใหม่ สำหรับกรณีการใช้งานในองค์กรส่วนใหญ่ นิยมใช้ RAG มากกว่าเนื่องจากมีต้นทุนต่ำกว่าและปรับปรุงซ้ำได้เร็วกว่า

Azure AI Studio (AI Foundry)

สตูดิโอ Azure AI (กำลังเปลี่ยนชื่อแบรนด์เป็น AI Foundry ของ Azure) คือพอร์ทัลแบบรวมศูนย์สำหรับสร้างแอปพลิเคชัน AI เชิงกำเนิดบน Azure โดยมีพื้นที่ทดลองสำหรับทดสอบผลลัพธ์ของโมเดลแบบโต้ตอบ เครื่องมือประเมินคุณภาพโมเดลเทียบกับชุดข้อมูลคำตอบอ้างอิง เครื่องมือออกแบบโฟลว์พรอมต์สำหรับสร้างและปรับใช้ไปป์ไลน์ RAG เป็น API แบบ REST รวมถึงการผสานการทำงานกับ GitHub และ VS Code สำหรับเวิร์กโฟลว์ของนักพัฒนา สตูดิโอ Azure AI ช่วยทำให้เส้นทางตั้งแต่การปรับใช้โมเดลไปจนถึงแอปพลิเคชัน AI ที่พร้อมใช้งานจริงง่ายขึ้น

การกำหนดราคาโทเค็นและการจัดการโควตา

Azure OpenAI คิดค่าบริการตามโทเค็น 1,000 รายการที่ประมวลผล โดยโทเค็นหนึ่งรายการมีความยาวประมาณ 4 อักขระหรือ 0.75 คำ ทั้งโทเค็นขาเข้า (พรอมต์) และโทเค็นขาออก (ผลลัพธ์) จะถูกเรียกเก็บเงิน GPT-4 มีค่าใช้จ่ายต่อโทเค็นสูงกว่า GPT-3.5-turbo อย่างมาก การปรับใช้แต่ละครั้งมีโควตาโทเค็นต่อนาที (TPM)ซึ่งจำกัดอัตราการประมวลผลเพื่อป้องกันการใช้งานในทางที่ผิด หากแอปพลิเคชันของคุณใช้เกินโควตา API จะส่งกลับ 429 TooManyRequests คุณสามารถขอเพิ่มโควตา หรือใช้การหน่วงเวลาแบบทวีคูณและตรรกะการลองใหม่ที่ฝั่งไคลเอ็นต์ได้

AI ที่มีความรับผิดชอบสำหรับ AI เชิงกำเนิด

Microsoft นำหลักการ AI ที่มีความรับผิดชอบมาใช้กับ AI เชิงกำเนิดโดยเฉพาะ ความมีหลักฐานรองรับ — คำตอบควรอ้างอิงข้อมูลที่ตรวจสอบได้ (RAG ช่วยได้) ความโปร่งใส — ผู้ใช้ควรทราบว่ากำลังโต้ตอบกับ AI การป้องกันอันตราย — ตัวกรองเนื้อหาจะบล็อกผลลัพธ์ที่เป็นอันตราย ความเป็นส่วนตัว — ข้อมูลของคุณใน Azure OpenAI จะไม่ถูกใช้เพื่อฝึกโมเดลส่วนกลางของ OpenAI แอปพลิเคชันที่สร้างบน Azure OpenAI ต้องมีการประเมินความเสี่ยงของกรณีการใช้งาน และต้องดำเนินมาตรการลดความเสี่ยงสำหรับอันตรายที่ระบุ ตามที่นโยบายการใช้งานที่ยอมรับได้ของ Microsoft กำหนด

ตรวจสอบความเข้าใจอย่างรวดเร็ว

ทดสอบความเข้าใจแนวคิด Microsoft Azure Fundamentals (AZ-900) จากบทเรียนนี้

สรุปบทเรียน

ในบทเรียนนี้ คุณได้เรียนรู้ว่า Azure OpenAI Service ให้การเข้าถึง GPT-4 และโมเดลอื่น ๆ ในระดับองค์กร พร้อมคุณลักษณะด้านเครือข่ายส่วนตัวและการปฏิบัติตามข้อกำหนด, API การเติมข้อความสนทนารองรับการสนทนาหลายรอบโดยใช้บทบาทข้อความ system/user/assistant และการฝังเวกเตอร์กับ RAGช่วยให้คำตอบของโมเดลอ้างอิงข้อมูลส่วนตัวของคุณเพื่อลดการสร้างข้อมูลหลอน ต่อไปเราจะสำรวจ Azure Arc สำหรับจัดการทรัพยากรแบบไฮบริดและภายในองค์กรผ่านระนาบควบคุมของ Azure

คำถามที่พบบ่อย

บทเรียน “Azure OpenAI Service” ฟรีหรือไม่

ใช่ — ข้อความเต็มของ “Azure OpenAI Service” ฟรีให้อ่านที่นี่บนเว็บ เพื่อปฏิบัติแบบโต้ตอบ (ตัวแก้ไขโค้ดในตัวและติวเตอร์ AI ตลอด 24/7) และปลดล็อคส่วนที่เหลือของคอร์ส Azure Fundamentals ให้อัปเกรดเป็น CoddyKit PRO คอร์ส Azure Fundamentals มีบทเรียนทั้งหมด 4 บทเรียน

คุณจะเรียนรู้อะไรในบทเรียน “Azure OpenAI Service”

นำโมเดล GPT ไปใช้งานใน Azure OpenAI Service เรียกใช้ API การเติมข้อความจากสคริปต์ และทำความเข้าใจหลักการปัญญาประดิษฐ์อย่างมีความรับผิดชอบกับตัวเลือกการกรองเนื้อหา คุณปฏิบัติ Azure Fundamentals ด้วยโค้ดที่ใช้งานได้จริงที่คุณเรียกใช้โดยตรงในเบราว์เซอร์ และติวเตอร์ AI ตลอด 24/7 ตอบคำถามของคุณขณะที่คุณไปผ่านบทเรียน

คุณต้องมีประสบการณ์ก่อนที่จะเริ่มเรียน Azure Fundamentals หรือไม่

ไม่จำเป็นต้องมีประสบการณ์มาก่อน Azure Fundamentals บน CoddyKit ออกแบบมาสำหรับผู้เริ่มต้นไปจนถึงผู้เรียนขั้นสูง คุณสามารถเริ่มต้นที่นี่หรือเริ่มจากตัวแรกและเรียนด้วยความเร็วของคุณเอง นี่คือบทเรียนที่ 4 จากทั้งหมด 4 บทเรียน

บทเรียน “Azure OpenAI Service” ใช้เวลานานแค่ไหน

บทเรียน CoddyKit ส่วนใหญ่ใช้เวลาประมาณ 5–10 นาที แต่ละบทเรียนจึงสั้นและเป็นแบบโต้ตอบ คุณสามารถก้าวหน้าอย่างต่อเนื่องและกลับมาเรียนต่อจากตรงที่เพิ่งหยุดบนเว็บและแอปได้เลย

ฉันเขียนและรันโค้ดในบทเรียน Azure Fundamentals นี้ได้ไหม

ได้ บทเรียน Azure Fundamentals ทุกบทมีตัวแก้ไขโค้ดในตัว คุณจึงเขียนและรันโค้ดจริงได้เลยในเบราว์เซอร์ และได้รับข้อเสนอแนะจาก AI ในทันที — ไม่ต้องติดตั้งในเครื่องของคุณ

บทเรียนทั้งหมดในหลักสูตรนี้

← กลับไปที่ Azure Fundamentals