Умножение матриц с помощью np.matmul и @

Умножение матриц лежит в основе анализа данных и машинного обучения. Оно используется в нейронных сетях, снижении размерности и линейных преобразованиях. В Python NumPy предоставляет два удобных способа перемножать матрицы: функцию np.matmul() и оператор @, появившийся в Python 3.5. Оба способа работают быстро, используют векторизацию и значительно эффективнее вложенных циклов Python.

Для двух матриц A и B произведение A @ B допустимо только тогда, когда число столбцов в A равно числу строк в B. Если A имеет форму (m, n), а B — форму (n, k), результат будет иметь форму (m, k). Это правило называется ограничением внутренних размерностей и действует независимо от используемой функции NumPy.

np.matmul(A, B) и A @ B дают одинаковые результаты для двумерных массивов. Оператор @ — всего лишь синтаксический сахар: за кулисами он вызывает __matmul__, который NumPy реализует с помощью той же процедуры BLAS на уровне C. Используйте @ в обычном коде для удобства чтения, а np.matmul — когда нужно передать функцию как вызываемый объект или явно обработать особые случаи.

В NumPy есть три функции умножения, которые легко перепутать. A * B — это поэлементное умножение (произведение Адамара). np.dot(A, B) ведёт себя как np.matmul для двумерных массивов, но имеет другую семантику для массивов большей размерности. A @ B — это именно матричное умножение, строго соответствующее математическому определению; для работы с матрицами предпочтительнее использовать его, а не np.dot.

В отличие от умножения скаляров, матричное умножение не является коммутативным: A @ B обычно не равно B @ A. Формы матриц могут быть несовместимы даже в одном из направлений. Это важно при записи преобразований: порядок операций меняет результат. Всегда отслеживайте, какая матрица находится слева, а какая — справа.

Когда Ваши массивы имеют более двух измерений, np.matmul и @ рассматривают дополнительные ведущие измерения как пакетные измерения и перемножают матрицы параллельно. Например, умножение массива формы (32, 3, 4) на массив формы (32, 4, 5) даёт результат формы (32, 3, 5) — одновременно выполняются 32 независимых умножения 3×4 @ 4×5. Именно так фреймворки глубокого обучения эффективно обрабатывают мини-пакеты.

Распространённый частный случай — умножение матрицы на вектор. Если A имеет форму (m, n), а v — это одномерный массив длины n, то A @ v создаёт одномерный массив длины m. NumPy автоматически согласует формы, поэтому преобразовывать v в вектор-столбец не нужно. Этот шаблон встречается повсюду: при применении весов в линейной регрессии, проецировании признаков и одновременном вычислении скалярных произведений для каждой строки.

Матричное умножение NumPy вызывает оптимизированные процедуры BLAS/LAPACK и выполняется в скомпилированном коде C. Чистый вложенный цикл Python, реализующий ту же операцию, обычно работает в 100–1000 раз медленнее на больших матрицах. Если в pipeline обработки данных нужны повторяющиеся произведения матриц — для преобразования признаков, проекций PCA или обновления весов, — всегда используйте @ или np.matmul и никогда не реализуйте внутренний цикл самостоятельно.

Можно объединить несколько операций @ в одном выражении: A @ B @ C вычисляется слева направо. NumPy не оптимизирует порядок умножения автоматически (в отличие от MATLAB с его mtimes), поэтому при сильно различающихся размерах матриц порядок может влиять на скорость. Для трёх и более матриц рассмотрите np.linalg.multi_dot([A, B, C]): эта функция автоматически выбирает наиболее эффективную группировку.

Самая распространённая ошибка при умножении матриц — несовпадение форм: ValueError: matmul: Input operand 1 has a mismatch in its core dimension 0. Чтобы исправить её, проверьте формы с помощью A.shape и убедитесь, что внутренние размерности совпадают. Если у Вас есть вектор-строка формы (n,), который нужно рассматривать как вектор-столбец формы (n, 1), используйте v.reshape(-1, 1). Если нужна транспонированная матрица, используйте A.T.

Типичный пример из анализа данных: у Вас есть набор данных X формы (n_samples, n_features) и матрица весов W формы (n_features, n_outputs). Произведение матриц X @ W одновременно применяет линейное преобразование к каждому образцу и создаёт результат формы (n_samples, n_outputs). Это основное вычисление линейного слоя нейронной сети и прогнозирования в линейной регрессии.

Проверьте своё понимание матричного умножения NumPy.

В этом уроке Вы узнали, что np.matmul и @ реализуют настоящее матричное умножение, а не поэлементное; внутренние размерности двух матриц должны совпадать; и @ поддерживает пакетное умножение по ведущим измерениям. Далее мы рассмотрим определители, обратные матрицы и транспонирование — операции, которые показывают, можно ли «отменить» преобразование матрицы.