0Pricing
LangChain / RAG / Vector DBs · Урок

Квантизация и сжатие векторов

Уменьшите объём хранения векторов и ускорьте поиск с помощью скалярной и продуктовой квантизации, контролируя потерю точности.

«Квантизация и сжатие векторов» — бесплатный урок LangChain / RAG / Vector DBs на CoddyKit. Это урок 4 из 4. Ты можешь прочитать весь урок бесплатно ниже — а потом практиковать его прямо в браузере с встроенным редактором кода и ИИ-репетитором 24/7. Это часть пути обучения LangChain / RAG / Vector DBs, и твой прогресс синхронизируется между веб-версией и приложением CoddyKit. Курс LangChain / RAG / Vector DBs содержит 4 уроков всего.

Части этого урока еще не переведены и отображаются на английском.

The Memory Problem

A million 1536-dimension vectors stored as 32-bit floats need about 6 GB of RAM. Quantization compresses vectors so they fit in far less memory and search faster.

Float32 Baseline

By default each dimension is a 4-byte float. Storage equals vectors x dims x 4 bytes. Reducing the bytes per dimension is the path to compression.

vectors = 1_000_000
dims = 1536
bytes_total = vectors * dims * 4
print(bytes_total / 1e9, "GB")  # ~6.14 GB

Scalar Quantization

Scalar quantization maps each float to an 8-bit integer using the min and max range of that dimension. This is a 4x reduction with modest accuracy loss.

def quantize(x, lo, hi):
    span = hi - lo
    return round((x - lo) / span * 255)

print(quantize(0.3, -1.0, 1.0))  # 165

Dequantization

To compare vectors you can dequantize back to an approximate float, or compute distances directly in integer space for speed.

def dequantize(q, lo, hi):
    return lo + (q / 255) * (hi - lo)

print(round(dequantize(165, -1.0, 1.0), 3))  # ~0.294

Product Quantization (PQ)

PQ splits each vector into sub-vectors and replaces each with the id of its nearest centroid from a small learned codebook. Compression can reach 16x or more.

How PQ Encodes

For 8 sub-vectors with 256 centroids each, every vector becomes 8 bytes regardless of original dimension. Distances are estimated from precomputed centroid tables.

Binary Quantization

The most aggressive option keeps only the sign of each dimension: positive becomes 1, negative becomes 0. A 1536-dim vector fits in 192 bytes and uses fast Hamming distance.

def binarize(vec):
    return [1 if v > 0 else 0 for v in vec]

print(binarize([0.4, -0.1, 0.9, -2.0]))  # [1, 0, 1, 0]

The Accuracy Tradeoff

More compression means more approximation error. Measure recall against an uncompressed baseline to ensure the quality loss is acceptable for your use case.

Rescoring with Full Vectors

A common pattern: search fast with quantized vectors to get a candidate set, then rescore the top candidates using the original float vectors for precision.

candidates = quantized_search(query, k=100)
rescored = sorted(
    candidates,
    key=lambda c: exact_distance(query, full_vec[c]),
)[:10]

Configuring in a Store

Production stores expose quantization as a collection setting. You pick the type and any rescore depth at index creation.

# pseudo-config
collection.create(
    vectors={"size": 1536, "distance": "Cosine"},
    quantization={"scalar": {"type": "int8"}},
)

Choosing a Strategy

Start with scalar quantization for an easy 4x win. Move to PQ or binary only when memory is critical and you can afford rescoring to recover accuracy.

Quick Check

Test your understanding of vector compression.

Recap

You explored vector compression:

  • Scalar quantization: float to int8, 4x smaller
  • PQ: codebook ids, big compression
  • Binary: sign bits, Hamming distance
  • Rescore with full vectors to regain accuracy

Часто задаваемые вопросы

Урок «Квантизация и сжатие векторов» бесплатный?

Да — полный текст урока «Квантизация и сжатие векторов» бесплатно доступен здесь в веб-версии. Чтобы практиковать его интерактивно (встроенный редактор кода и ИИ-репетитор 24/7) и разблокировать остальной курс LangChain / RAG / Vector DBs, подпишись на CoddyKit PRO. Курс LangChain / RAG / Vector DBs содержит 4 уроков всего.

Чему я научусь в уроке «Квантизация и сжатие векторов»?

Уменьшите объём хранения векторов и ускорьте поиск с помощью скалярной и продуктовой квантизации, контролируя потерю точности. Ты практикуешь LangChain / RAG / Vector DBs с помощью реального кода, который запускаешь прямо в браузере, и ИИ-репетитор 24/7 отвечает на твои вопросы во время урока.

Нужен ли мне опыт, чтобы начать LangChain / RAG / Vector DBs?

Предыдущий опыт не требуется. LangChain / RAG / Vector DBs на CoddyKit структурирован для всех уровней — от новичков до продвинутых, поэтому ты можешь начать отсюда или с самого начала и учиться в своем темпе. Это урок 4 из 4.

Сколько времени занимает урок «Квантизация и сжатие векторов»?

Большинство уроков CoddyKit занимают около 5–10 минут. Каждый из них компактный и интерактивный, поэтому ты постоянно делаешь прогресс и продолжаешь с того же места в веб-версии и приложении.

Можно ли писать и запускать код в этом уроке LangChain / RAG / Vector DBs?

Да. Каждый урок LangChain / RAG / Vector DBs включает встроенный редактор кода, поэтому ты пишешь и запускаешь реальный код прямо в браузере и получаешь моментальную обратную связь от AI — локальная установка не требуется.

Все уроки этого курса

  1. Архитектуры хранения векторных баз данных
  2. Алгоритмы поиска ближайших соседей (HNSW, IVFFlat)
  3. Сохранение и масштабирование векторных БД
  4. Квантизация и сжатие векторов
← Назад к LangChain / RAG / Vector DBs