NLP Academy · Урок

Токенизация для моделей Transformer

Субслова, дополнение и маски внимания

«Токенизация для моделей Transformer» — бесплатный урок NLP Academy на CoddyKit. Это урок 2 из 4. Ты можешь прочитать весь урок бесплатно ниже — а потом практиковать его прямо в браузере с встроенным редактором кода и ИИ-репетитором 24/7. Это часть пути обучения NLP Academy, и твой прогресс синхронизируется между веб-версией и приложением CoddyKit. Курс NLP Academy содержит 4 уроков всего.

Части этого урока еще не переведены и отображаются на английском.

Tokens Come First

Before a transformer can learn anything, your text must become numbers. That conversion job belongs to the tokenizer.

Match the Model

Always load the tokenizer that was trained with your model. A mismatched vocabulary produces garbage ids the model never saw.

from transformers import AutoTokenizer
tok = AutoTokenizer.from_pretrained("bert-base-uncased")

Subword Pieces

Modern tokenizers split rare words into smaller chunks called subwords, so even unknown text stays representable.

print(tok.tokenize("tokenization"))

Why Subwords Win

Subwords keep the vocabulary small while still handling typos and new words. The model rarely meets a true unknown token.

From Tokens to Ids

Each subword maps to an integer id. Calling the tokenizer on text returns those ids ready for the model.

enc = tok("Fine-tuning is fun")
print(enc["input_ids"])

Special Tokens

Tokenizers add markers like CLS and SEP so the model knows where a sequence starts and ends. These are the special tokens.

Padding to Equal Length

Batches need same-length rows, so shorter texts get filler tokens. This step is called padding.

tok(texts, padding=True)

Truncation for Long Text

Models cap input length, so very long text is cut to fit. Enabling truncation keeps every example within the limit.

tok(texts, truncation=True, max_length=128)

The Attention Mask

An attention mask marks real tokens as 1 and padding as 0, so the model ignores the filler positions.

print(enc["attention_mask"])

Return Tensors

Ask the tokenizer for framework tensors directly so the output drops straight into training without extra conversion.

tok("hello", return_tensors="pt")

Decode Back to Text

To read predictions, run ids through decode and the tokenizer rebuilds the original text, special tokens stripped.

print(tok.decode(enc["input_ids"]))

Quick Check

What is the job of the attention mask during batching?

Recap

Tokenizers turn text into subword ids, add special tokens, then handle padding, truncation, and the attention mask for clean batches. ✅

Часто задаваемые вопросы

Урок «Токенизация для моделей Transformer» бесплатный?

Да — полный текст урока «Токенизация для моделей Transformer» бесплатно доступен здесь в веб-версии. Чтобы практиковать его интерактивно (встроенный редактор кода и ИИ-репетитор 24/7) и разблокировать остальной курс NLP Academy, подпишись на CoddyKit PRO. Курс NLP Academy содержит 4 уроков всего.

Чему я научусь в уроке «Токенизация для моделей Transformer»?

Субслова, дополнение и маски внимания Ты практикуешь NLP Academy с помощью реального кода, который запускаешь прямо в браузере, и ИИ-репетитор 24/7 отвечает на твои вопросы во время урока.

Нужен ли мне опыт, чтобы начать NLP Academy?

Предыдущий опыт не требуется. NLP Academy на CoddyKit структурирован для всех уровней — от новичков до продвинутых, поэтому ты можешь начать отсюда или с самого начала и учиться в своем темпе. Это урок 2 из 4.

Сколько времени занимает урок «Токенизация для моделей Transformer»?

Большинство уроков CoddyKit занимают около 5–10 минут. Каждый из них компактный и интерактивный, поэтому ты постоянно делаешь прогресс и продолжаешь с того же места в веб-версии и приложении.

Можно ли писать и запускать код в этом уроке NLP Academy?

Да. Каждый урок NLP Academy включает встроенный редактор кода, поэтому ты пишешь и запускаешь реальный код прямо в браузере и получаешь моментальную обратную связь от AI — локальная установка не требуется.

Все уроки этого курса

← Назад к NLP Academy