Parametrelerle Model Davranışını Denetleme
temperature, max_tokens ve top_p değerlerini değiştirerek bunların çıktı biçemini, uzunluğunu ve yaratıcılığını nasıl etkilediğini görün; ardından kullanım senaryonuza uygun ayarları seçin.
Parametrelerle Model Davranışını Denetleme, CoddyKit'te ücretsiz bir AI Engineering Academy dersidir. Bu, 4 dersinin 3. dersidir. Aşağıdan dersin tamamını ücretsiz okuyabilir, sonra tarayıcıda yerleşik kod editörü ve 7/24 yapay zeka koçu ile uygulamalı olarak pratik yapabilirsin. Bu, AI Engineering Academy öğrenme yolunun bir parçasıdır ve ilerlemeniz web ve CoddyKit uygulaması arasında senkronize olur. AI Engineering Academy kursu toplamda 4 dersten oluşur.
Önemli Temel Parametreler
Bir avuç parametre çıktınızı en çok etkiler: temperature, max_tokens, top_p, frequency_penalty ve presence_penalty. Bu beşini öğrenerek model üzerinde kontrol sahibi olursunuz.
Temperature: Rastgeleliği Denetleme
Temperature rastgeleliği denetler. Değer 0'a yakınken model en güvenli kelimeyi seçer ve tutarlı kalır; bu, olgusal bilgiler için idealdir. Değer 0.7-1.0 civarındaysa sonuçlar çeşitlenir ve daha yaratıcı olur. Koda bakın.
from openai import OpenAI
client = OpenAI()
for temp in [0.0, 0.7, 1.5]:
response = client.chat.completions.create(
model='gpt-4o-mini',
messages=[{'role': 'user', 'content': 'Name a color.'}],
temperature=temp,
max_tokens=5
)
print(f'Temp {temp}: {response.choices[0].message.content}')
# Temp 0.0: Red (always most common)
# Temp 0.7: Blue (varied but sensible)
# Temp 1.5: Vermillion (surprising choices)max_tokens: Yanıt Uzunluğunu Denetleme
max_tokens, yanıtın ulaşabileceği uzunluğu sınırlar; bu bir hedef değil, güvenlik sınırıdır. Değer çok düşükse yanıtlar kesilir; çok yüksekse para ve zaman boşa harcanır. Bir pay bırakın ve finish_reason değerini izleyin.
# Different max_tokens for different use cases
# Classification: short answer expected
classification_response = client.chat.completions.create(
model='gpt-4o-mini',
messages=[{'role': 'user', 'content': 'Is this positive or negative? "Great product!"'}],
max_tokens=5 # Only need 1-2 words
)
# Detailed analysis: longer output needed
analysis_response = client.chat.completions.create(
model='gpt-4o-mini',
messages=[{'role': 'user', 'content': 'Analyze the pros and cons of microservices.'}],
max_tokens=800 # Need space for detailed explanation
)top_p: Çekirdek Örnekleme
top_p başka bir rastgelelik ayarıdır: yalnızca olasılıkları toplamı top_p değerine ulaşan en üst belirteçler arasından örnekleme yapar. İpucu: temperature veya top_p değerlerinden yalnızca birini ayarlayın.
# top_p usage example
response_narrow = client.chat.completions.create(
model='gpt-4o-mini',
messages=[{'role': 'user', 'content': 'Continue: The sky is...'}],
top_p=0.1, # only very likely tokens (conservative, predictable)
temperature=1.0 # keep temperature at 1 when using top_p
)
response_wide = client.chat.completions.create(
model='gpt-4o-mini',
messages=[{'role': 'user', 'content': 'Continue: The sky is...'}],
top_p=0.95, # most tokens eligible (creative, varied)
temperature=1.0
)Frequency Penalty: Tekrarı Azaltma
frequency_penalty, modelin aynı kelimeleri tekrarlamasını, bu kelimelerin ne sıklıkta göründüğüne göre caydırır. Uzun yanıtlar tekrara düştüğünde kullanın; 0.3 ile 0.7 arasında bir değer deneyin.
# Frequency penalty to reduce repetition in long outputs
response = client.chat.completions.create(
model='gpt-4o-mini',
messages=[{
'role': 'user',
'content': 'Write 5 tips for better sleep.'
}],
max_tokens=300,
frequency_penalty=0.5 # reduces repeating the same words/phrases
)
print(response.choices[0].message.content)Presence Penalty: Konu Çeşitliliğini Artırma
presence_penalty, modeli yeni konulara yönlendirir: daha önce yalnızca bir kez görünmüş olsa bile her kelimeyi cezalandırır. Yeni ve çeşitli fikirler istediğiniz beyin fırtınaları için idealdir.
# Presence penalty for diverse brainstorming output
response = client.chat.completions.create(
model='gpt-4o-mini',
messages=[{
'role': 'user',
'content': 'List 10 creative ways to use AI in a small business.'
}],
max_tokens=400,
presence_penalty=0.8 # encourages introducing different topics per item
)
print(response.choices[0].message.content)stop Dizileri: Özel Durdurma Noktaları
stop parametresi, göründükleri anda üretimi durduran dizeleri listeler (bu dizeler yanıta eklenmez). Temiz ve tek satırlık bir yanıt almak için yeni satırda durmasını sağlayın. Koda bakın.
# Use stop sequences to get clean single-line output
response = client.chat.completions.create(
model='gpt-4o-mini',
messages=[{
'role': 'user',
'content': 'What is the Python keyword for a function definition?\nAnswer:'
}],
max_tokens=20,
stop=['\n', '.'] # stop at newline or period - gets just the keyword
)
print(repr(response.choices[0].message.content)) # 'def'seed: Tekrarlanabilir Çıktılar
seed parametresi çıktının tekrarlanabilir olmasını sağlar: aynı seed ve temperature 0 birlikte kullanıldığında aynı yanıt alınır. Testler için idealdir; yalnızca arka uç değişikliklerini görmek için system_fingerprint değerini izleyin.
# Reproducible output with seed parameter
response1 = client.chat.completions.create(
model='gpt-4o-mini',
messages=[{'role': 'user', 'content': 'Pick a random number from 1 to 10.'}],
temperature=0,
seed=42
)
response2 = client.chat.completions.create(
model='gpt-4o-mini',
messages=[{'role': 'user', 'content': 'Pick a random number from 1 to 10.'}],
temperature=0,
seed=42
)
print(response1.choices[0].message.content) # same
print(response2.choices[0].message.content) # same
print('Fingerprint:', response1.system_fingerprint)Yaygın Kullanım Senaryoları için Parametre Seçme
Hızlı hazır ayarlarla tahmin yürütmekten kurtulun: sınıflandırma için temperature 0, olgusal soru-cevap için 0.2, yaratıcı yazım için 0.8-1.0 kullanın. Buradan başlayıp görevinize göre ayarlayın. Koda bakın.
# Parameter presets for different task types
PRESETS = {
'classify': {'temperature': 0, 'max_tokens': 20},
'factual_qa': {'temperature': 0.2, 'max_tokens': 400},
'creative': {'temperature': 0.9, 'max_tokens': 1000, 'frequency_penalty': 0.3},
'code': {'temperature': 0.1, 'max_tokens': 2000},
'summary': {'temperature': 0.3, 'max_tokens': 300, 'frequency_penalty': 0.2},
}
def complete(prompt, task_type='factual_qa', **overrides):
params = {**PRESETS[task_type], **overrides}
return client.chat.completions.create(
model='gpt-4o-mini',
messages=[{'role': 'user', 'content': prompt}],
**params
)Logprobs: Modelin Güvenini Anlama
logprobs, modelin her belirteç için ne kadar emin olduğunu ve değerlendirdiği alternatifleri döndürür. Bir olguya ilişkin düşük güven, halüsinasyon uyarısıdır; daha güvenli sistemler oluşturmak için kullanışlıdır.
import math
response = client.chat.completions.create(
model='gpt-4o-mini',
messages=[{'role': 'user', 'content': 'The capital of France is?'}],
max_tokens=3,
logprobs=True,
top_logprobs=3 # show top 3 alternative tokens at each position
)
for token_log in response.choices[0].logprobs.content:
prob = math.exp(token_log.logprob) # convert log prob to probability
print(f'Token: {token_log.token!r} | Probability: {prob:.2%}')
for alt in token_log.top_logprobs:
print(f' Alt: {alt.token!r} -> {math.exp(alt.logprob):.2%}')Parametre Etkilerini Sistematik Olarak Test Etme
Parametreleri tahmin ederek seçmeyin; test edin. Aynı istemi farklı birleşimlerle çalıştıran ve her birini puanlayan küçük bir ızgara araması oluşturun. Böylece ayarlama bir sanattan mühendisliğe dönüşür. Koda bakın.
from itertools import product
# Systematic parameter grid search
temperatures = [0.0, 0.3, 0.7]
max_tokens_options = [100, 300]
test_prompt = 'Summarize the benefits of unit testing in 2 sentences.'
results = []
for temp, max_tok in product(temperatures, max_tokens_options):
resp = client.chat.completions.create(
model='gpt-4o-mini',
messages=[{'role': 'user', 'content': test_prompt}],
temperature=temp,
max_tokens=max_tok
)
results.append({
'temperature': temp,
'max_tokens': max_tok,
'output': resp.choices[0].message.content,
'actual_tokens': resp.usage.completion_tokens
})Hızlı Kontrol
Bu dersteki Yapay Zekâ Mühendisliği kavramlarını ne kadar anladığınızı test edin.
Ders Özeti
Modeli yönlendirmeyi öğrendiniz: temperature rastgeleliği belirler, max_tokens uzunluğu sınırlar (finish_reason değerini izleyin!) ve cezalar tekrarı azaltıp çeşitliliği artırır. Sırada: hata yönetimi.
Sıkça Sorulan Sorular
“Parametrelerle Model Davranışını Denetleme” dersi ücretsiz mi?
Evet — “Parametrelerle Model Davranışını Denetleme” dersin tüm metni burada web'de ücretsiz olarak okunabilir. Etkileşimli olarak pratik yapmak (yerleşik kod editörü ve 7/24 yapay zeka koçu) ve AI Engineering Academy kursunun geri kalanını açmak için CoddyKit PRO'ya yükselt. AI Engineering Academy kursu toplamda 4 dersten oluşur.
“Parametrelerle Model Davranışını Denetleme” dersinde ne öğreneceğim?
temperature, max_tokens ve top_p değerlerini değiştirerek bunların çıktı biçemini, uzunluğunu ve yaratıcılığını nasıl etkilediğini görün; ardından kullanım senaryonuza uygun ayarları seçin. AI Engineering Academy ile uygulamalı kodu tarayıcıda doğrudan çalıştırarak pratik yaparsın ve 7/24 yapay zeka koçu dersi çalışırken sorularını yanıtlar.
AI Engineering Academy öğrenmeye başlamak için deneyim gerekli mi?
Önceden deneyim gerekmez. CoddyKit'te AI Engineering Academy, başlangıçtan ileri seviyeye kadar yapılandırıldığı için buradan başlayabilir veya başından başlayıp kendi hızında ilerleme yapabilirsin. Bu, 4 dersinin 3. dersidir.
“Parametrelerle Model Davranışını Denetleme” dersi ne kadar sürer?
Çoğu CoddyKit dersi yaklaşık 5–10 dakika sürer. Her biri kısa ve etkileşimli olduğu için sabit ilerleme yaparsın ve web ile uygulama arasında tam olarak bıraktığın yerden devam edebilirsin.
Bu AI Engineering Academy dersinde kod yazıp çalıştırabilir miyim?
Evet. Her AI Engineering Academy dersi yerleşik bir kod editörü içerir, bu sayede tarayıcıda gerçek kod yazıp çalıştırabilir ve anlık yapay zeka geri bildirimi alırsın — yerel kurulum gerekli değildir.
Bu kursun tüm dersleri
- Python Ortamınızı Kurma
- Sohbet Tamamlama Uç Noktası
- Parametrelerle Model Davranışını Denetleme
- Hata İşleme ve İstek Hız Sınırları