Биграммы и триграммы
Скользящие окна по токенам
«Биграммы и триграммы» — бесплатный урок NLP Academy на CoddyKit. Это урок 2 из 4. Ты можешь прочитать весь урок бесплатно ниже — а потом практиковать его прямо в браузере с встроенным редактором кода и ИИ-репетитором 24/7. Это часть пути обучения NLP Academy, и твой прогресс синхронизируется между веб-версией и приложением CoddyKit. Курс NLP Academy содержит 4 уроков всего.
Части этого урока еще не переведены и отображаются на английском.
Naming the N-Grams
The n in n-gram is just a number. Pick n and you decide how many neighboring words each feature bundles together.
Meet the Bigram
A bigram is an n-gram of size two, every adjacent pair of words. It is the most common upgrade over plain single words. 👍
Bigrams in Action
From four words you get three overlapping pairs. Notice how each bigram shares one word with the next one.
words = "i love clean code".split()
bigrams = list(zip(words, words[1:]))
print(bigrams)Meet the Trigram
A trigram takes three words at a time. It captures even more context, like is not good as one unit.
words = "this is not good".split()
trigrams = list(zip(words, words[1:], words[2:]))
print(trigrams)How Many Do You Get?
For a sentence of N words, you get N minus n plus one n-grams. So 4 words give 3 bigrams and 2 trigrams.
The Window Slides
Each n-gram comes from a small window moving one word forward. Overlap is the point, since shared words stitch context together.
A Reusable Helper
You can build any n-gram with one tidy function using zip. Change the value of n and the same code handles bigrams or trigrams.
def ngrams(words, n):
return list(zip(*[words[i:] for i in range(n)]))Bigger N, More Context
Higher values of n hold longer phrases, so they capture context more precisely. That power comes with a cost you will meet soon.
Bigger N, Rarer Grams
The longer the run, the less often that exact sequence repeats. Large n-grams become rare, appearing in few documents.
Why Bigrams Are Popular
Bigrams hit a sweet spot: enough context to catch not bad, common enough to repeat across texts. That balance makes them a reliable default.
Mixing Sizes
You rarely use one size alone. Most pipelines combine unigrams and bigrams so the model sees both single words and their key pairs.
Quick Check
How many bigrams come from the sentence text is just data, which has four words?
Recap: Bigrams and Trigrams
A bigram joins two words, a trigram joins three. Bigger n holds more context but appears less often. Next you will let scikit-learn build them. ⚙️
Часто задаваемые вопросы
Урок «Биграммы и триграммы» бесплатный?
Да — полный текст урока «Биграммы и триграммы» бесплатно доступен здесь в веб-версии. Чтобы практиковать его интерактивно (встроенный редактор кода и ИИ-репетитор 24/7) и разблокировать остальной курс NLP Academy, подпишись на CoddyKit PRO. Курс NLP Academy содержит 4 уроков всего.
Чему я научусь в уроке «Биграммы и триграммы»?
Скользящие окна по токенам Ты практикуешь NLP Academy с помощью реального кода, который запускаешь прямо в браузере, и ИИ-репетитор 24/7 отвечает на твои вопросы во время урока.
Нужен ли мне опыт, чтобы начать NLP Academy?
Предыдущий опыт не требуется. NLP Academy на CoddyKit структурирован для всех уровней — от новичков до продвинутых, поэтому ты можешь начать отсюда или с самого начала и учиться в своем темпе. Это урок 2 из 4.
Сколько времени занимает урок «Биграммы и триграммы»?
Большинство уроков CoddyKit занимают около 5–10 минут. Каждый из них компактный и интерактивный, поэтому ты постоянно делаешь прогресс и продолжаешь с того же места в веб-версии и приложении.
Можно ли писать и запускать код в этом уроке NLP Academy?
Да. Каждый урок NLP Academy включает встроенный редактор кода, поэтому ты пишешь и запускаешь реальный код прямо в браузере и получаешь моментальную обратную связь от AI — локальная установка не требуется.
Все уроки этого курса
- Почему отдельные слова теряют смысл
- Биграммы и триграммы
- Признаки N-грамм в scikit-learn
- Выбор подходящего диапазона N-грамм