LangChain / RAG / Vector DBs · Ders

Vektörlerin Nicemlenmesi ve Sıkıştırılması

Doğruluk kaybını kontrol altında tutarken skaler ve ürün nicemlemesiyle vektör depolama alanını küçültün ve aramayı hızlandırın.

4. ders / 413 adım

Vektörlerin Nicemlenmesi ve Sıkıştırılması, CoddyKit'te ücretsiz bir LangChain / RAG / Vector DBs dersidir. Bu, 4 dersinin 4. dersidir. Aşağıdan dersin tamamını ücretsiz okuyabilir, sonra tarayıcıda yerleşik kod editörü ve 7/24 yapay zeka koçu ile uygulamalı olarak pratik yapabilirsin. Bu, LangChain / RAG / Vector DBs öğrenme yolunun bir parçasıdır ve ilerlemeniz web ve CoddyKit uygulaması arasında senkronize olur. LangChain / RAG / Vector DBs kursu toplamda 4 dersten oluşur.

Bu dersin bazı bölümleri henüz çevrilmemiş olup İngilizce olarak gösterilmektedir.

The Memory Problem

A million 1536-dimension vectors stored as 32-bit floats need about 6 GB of RAM. Quantization compresses vectors so they fit in far less memory and search faster.

Float32 Baseline

By default each dimension is a 4-byte float. Storage equals vectors x dims x 4 bytes. Reducing the bytes per dimension is the path to compression.

vectors = 1_000_000
dims = 1536
bytes_total = vectors * dims * 4
print(bytes_total / 1e9, "GB")  # ~6.14 GB

Scalar Quantization

Scalar quantization maps each float to an 8-bit integer using the min and max range of that dimension. This is a 4x reduction with modest accuracy loss.

def quantize(x, lo, hi):
    span = hi - lo
    return round((x - lo) / span * 255)

print(quantize(0.3, -1.0, 1.0))  # 165

Dequantization

To compare vectors you can dequantize back to an approximate float, or compute distances directly in integer space for speed.

def dequantize(q, lo, hi):
    return lo + (q / 255) * (hi - lo)

print(round(dequantize(165, -1.0, 1.0), 3))  # ~0.294

Product Quantization (PQ)

PQ splits each vector into sub-vectors and replaces each with the id of its nearest centroid from a small learned codebook. Compression can reach 16x or more.

How PQ Encodes

For 8 sub-vectors with 256 centroids each, every vector becomes 8 bytes regardless of original dimension. Distances are estimated from precomputed centroid tables.

Binary Quantization

The most aggressive option keeps only the sign of each dimension: positive becomes 1, negative becomes 0. A 1536-dim vector fits in 192 bytes and uses fast Hamming distance.

def binarize(vec):
    return [1 if v > 0 else 0 for v in vec]

print(binarize([0.4, -0.1, 0.9, -2.0]))  # [1, 0, 1, 0]

The Accuracy Tradeoff

More compression means more approximation error. Measure recall against an uncompressed baseline to ensure the quality loss is acceptable for your use case.

Rescoring with Full Vectors

A common pattern: search fast with quantized vectors to get a candidate set, then rescore the top candidates using the original float vectors for precision.

candidates = quantized_search(query, k=100)
rescored = sorted(
    candidates,
    key=lambda c: exact_distance(query, full_vec[c]),
)[:10]

Configuring in a Store

Production stores expose quantization as a collection setting. You pick the type and any rescore depth at index creation.

# pseudo-config
collection.create(
    vectors={"size": 1536, "distance": "Cosine"},
    quantization={"scalar": {"type": "int8"}},
)

Choosing a Strategy

Start with scalar quantization for an easy 4x win. Move to PQ or binary only when memory is critical and you can afford rescoring to recover accuracy.

Quick Check

Test your understanding of vector compression.

Recap

You explored vector compression:

  • Scalar quantization: float to int8, 4x smaller
  • PQ: codebook ids, big compression
  • Binary: sign bits, Hamming distance
  • Rescore with full vectors to regain accuracy
Başlamak ücretsiz

Yapay zeka eğitmeniyle LangChain / RAG / Vector DBs öğren — ücretsiz

Tarayıcında gerçek kod yaz ve çalıştır, 7/24 yapay zeka eğitmeninden anında yardım al; web'de ya da uygulamada kaldığın yerden devam et.

Kurslar
12
Dersler
48

Sıkça Sorulan Sorular

“Vektörlerin Nicemlenmesi ve Sıkıştırılması” dersi ücretsiz mi?

Evet — “Vektörlerin Nicemlenmesi ve Sıkıştırılması” dersin tüm metni burada web'de ücretsiz olarak okunabilir. Etkileşimli olarak pratik yapmak (yerleşik kod editörü ve 7/24 yapay zeka koçu) ve LangChain / RAG / Vector DBs kursunun geri kalanını açmak için CoddyKit PRO'ya yükselt. LangChain / RAG / Vector DBs kursu toplamda 4 dersten oluşur.

“Vektörlerin Nicemlenmesi ve Sıkıştırılması” dersinde ne öğreneceğim?

Doğruluk kaybını kontrol altında tutarken skaler ve ürün nicemlemesiyle vektör depolama alanını küçültün ve aramayı hızlandırın. LangChain / RAG / Vector DBs ile uygulamalı kodu tarayıcıda doğrudan çalıştırarak pratik yaparsın ve 7/24 yapay zeka koçu dersi çalışırken sorularını yanıtlar.

LangChain / RAG / Vector DBs öğrenmeye başlamak için deneyim gerekli mi?

Önceden deneyim gerekmez. CoddyKit'te LangChain / RAG / Vector DBs, başlangıçtan ileri seviyeye kadar yapılandırıldığı için buradan başlayabilir veya başından başlayıp kendi hızında ilerleme yapabilirsin. Bu, 4 dersinin 4. dersidir.

“Vektörlerin Nicemlenmesi ve Sıkıştırılması” dersi ne kadar sürer?

Çoğu CoddyKit dersi yaklaşık 5–10 dakika sürer. Her biri kısa ve etkileşimli olduğu için sabit ilerleme yaparsın ve web ile uygulama arasında tam olarak bıraktığın yerden devam edebilirsin.

Bu LangChain / RAG / Vector DBs dersinde kod yazıp çalıştırabilir miyim?

Evet. Her LangChain / RAG / Vector DBs dersi yerleşik bir kod editörü içerir, bu sayede tarayıcıda gerçek kod yazıp çalıştırabilir ve anlık yapay zeka geri bildirimi alırsın — yerel kurulum gerekli değildir.

Bu kursun tüm dersleri

  1. Vektör DB Depolama Mimarileri
  2. Yakınlık Arama Algoritmaları (HNSW, IVFFlat)
  3. Vektör DB Kalıcılığı ve Ölçeklenebilirlik
  4. Vektörlerin Nicemlenmesi ve Sıkıştırılması
← LangChain / RAG / Vector DBs Sayfasına Dön