Почему контекст меняет значение слова
Bank как берег реки и bank как банк
«Почему контекст меняет значение слова» — бесплатный урок NLP Academy на CoddyKit. Это урок 1 из 4. Ты можешь прочитать весь урок бесплатно ниже — а потом практиковать его прямо в браузере с встроенным редактором кода и ИИ-репетитором 24/7. Это часть пути обучения NLP Academy, и твой прогресс синхронизируется между веб-версией и приложением CoddyKit. Курс NLP Academy содержит 4 уроков всего.
Части этого урока еще не переведены и отображаются на английском.
One Word, Many Meanings
The word bank can mean a river edge or a place for money. Its meaning depends entirely on the context around it.
Static Vectors Fall Short
word2vec and GloVe give each word one fixed vector. So bank gets a single static meaning, no matter the sentence it appears in.
See the Problem
These two sentences use bank in opposite ways, yet a static model hands them the very same vector for the word.
s1 = "sit on the bank of the river"
s2 = "deposit cash at the bank"Humans Read Context
You instantly know which bank is meant because you read the surrounding words. Meaning lives in context, not in the word alone.
Enter Contextual Embeddings
A contextual model gives bank a different vector in each sentence. The embedding now shifts to fit its context every time. ✨
Meet BERT
BERT is a transformer that reads a whole sentence at once and produces context-aware vectors. It is built around attention over all the words.
Reading Both Directions
BERT looks at words on the left and the right of each token together. That two-way view is what bidirectional means.
Same Token, New Vector
Feed both river and money sentences to BERT and bank comes out with two distinct vectors. The embedding tracks the sentence.
Polysemy Solved
Words with many senses, called polysemy, used to confuse static models. Contextual embeddings finally separate those senses cleanly.
Why It Matters
Search, translation, and question answering all improve when a model truly grasps which meaning a word carries right now.
The Big Shift
Moving from one vector per word to one per usage was a turning point. This is the heart of modern NLP.
Quick Check
What makes contextual embeddings different from static ones?
Recap
Static vectors trap each word in one meaning. Contextual embeddings from BERT shift per sentence, capturing the right sense. ✅
Часто задаваемые вопросы
Урок «Почему контекст меняет значение слова» бесплатный?
Да — полный текст урока «Почему контекст меняет значение слова» бесплатно доступен здесь в веб-версии. Чтобы практиковать его интерактивно (встроенный редактор кода и ИИ-репетитор 24/7) и разблокировать остальной курс NLP Academy, подпишись на CoddyKit PRO. Курс NLP Academy содержит 4 уроков всего.
Чему я научусь в уроке «Почему контекст меняет значение слова»?
Bank как берег реки и bank как банк Ты практикуешь NLP Academy с помощью реального кода, который запускаешь прямо в браузере, и ИИ-репетитор 24/7 отвечает на твои вопросы во время урока.
Нужен ли мне опыт, чтобы начать NLP Academy?
Предыдущий опыт не требуется. NLP Academy на CoddyKit структурирован для всех уровней — от новичков до продвинутых, поэтому ты можешь начать отсюда или с самого начала и учиться в своем темпе. Это урок 1 из 4.
Сколько времени занимает урок «Почему контекст меняет значение слова»?
Большинство уроков CoddyKit занимают около 5–10 минут. Каждый из них компактный и интерактивный, поэтому ты постоянно делаешь прогресс и продолжаешь с того же места в веб-версии и приложении.
Можно ли писать и запускать код в этом уроке NLP Academy?
Да. Каждый урок NLP Academy включает встроенный редактор кода, поэтому ты пишешь и запускаешь реальный код прямо в браузере и получаешь моментальную обратную связь от AI — локальная установка не требуется.
Все уроки этого курса
- Почему контекст меняет значение слова
- Маскированное языковое моделирование
- Создание векторных представлений предложений с помощью BERT
- Выбор подходящей предварительно обученной модели