Определители, обратные матрицы и транспонирование

Транспонирование матрицы отражает её относительно диагонали: строки становятся столбцами, а столбцы — строками. Если A имеет форму (m, n), то A.T имеет форму (n, m). Транспонирование встречается повсюду в линейной алгебре: при вычислении ковариационных матриц, реализации обратного распространения градиента и переходе между соглашениями о векторах-строках и векторах-столбцах. NumPy обращается к транспонированной матрице через атрибут .T: копия не создаётся, это лишь представление с изменёнными шагами.

Часто используется выражение A.T @ A, создающее симметричную квадратную матрицу, которая встречается в регрессии методом наименьших квадратов, PCA и нормальных уравнениях. Если A имеет форму (n, p), то A.T @ A имеет форму (p, p). Результат всегда симметричен, поскольку (A.T @ A)[i,j] == (A.T @ A)[j,i]. Многие численные решатели используют это свойство для повышения эффективности.

Определитель квадратной матрицы — это скалярное значение, содержащее геометрическую информацию: оно показывает, во сколько раз матрица изменяет площади (в двумерном случае) или объёмы (в пространствах большей размерности). Нулевой определитель означает, что матрица вырождена: она отображает пространство в подпространство меньшей размерности и не имеет обратной матрицы. Ненулевой определитель гарантирует, что матрица обратима. NumPy вычисляет его с помощью np.linalg.det().

Обратная матрица матрицы A, обозначаемая как A⁻¹, удовлетворяет условию A @ A⁻¹ = I, где I — единичная матрица. Обратные матрицы существуют только для квадратных невырожденных матриц. np.linalg.inv(A) вычисляет обратную матрицу численно. На практике обратные матрицы следует вычислять явно крайне редко, поскольку это численно неустойчиво; вместо этого для решения систем уравнений используйте np.linalg.solve(). Однако концептуальное понимание обратных матриц крайне важно.

Вычисление обратной матрицы с последующим умножением приводит к накоплению погрешностей вычислений с плавающей точкой. Например, решение с помощью A_inv @ b менее точно, чем непосредственный вызов np.linalg.solve(A, b). Хорошо обусловленная матрица (с определителем, далёким от нуля) менее чувствительна к этим ошибкам. Число обусловленности (np.linalg.cond(A)) показывает, насколько матрица близка к вырожденной: большие числа обусловленности указывают на численные проблемы.

Ортогональные матрицы — это особый класс матриц, для которых выполняется A.T @ A = I. Это означает, что транспонированная матрица является обратной, поэтому обращение ортогональных матриц требует крайне мало вычислений. Матрицы вращения и множитель Q в QR-разложении являются ортогональными. Столбцы ортогональной матрицы образуют ортонормированный базис: длина каждого столбца равна единице, и он перпендикулярен всем остальным столбцам.

Обычная обратная матрица существует только для квадратных матриц, но псевдообратная матрица Мура — Пенроуза обобщает обращение на любую матрицу. np.linalg.pinv(A) вычисляет её с помощью SVD. Она лежит в основе метода наименьших квадратов для переопределённых систем (уравнений больше, чем неизвестных), то есть именно того, что решает линейная регрессия. Если A квадратная и обратимая, pinv(A) равна inv(A).

Знак определителя показывает, сохраняет ли преобразование ориентацию или меняет её на противоположную. Положительный определитель означает, что ориентация сохраняется (как при вращении); отрицательный — что ориентация меняется на противоположную (как при отражении). Абсолютное значение определителя задаёт коэффициент масштабирования объёма. Для матрицы 2×2 [[a,b],[c,d]] выполняется det = a*d - b*c. NumPy эффективно обрабатывает квадратные матрицы произвольного размера.

Для больших матриц определитель может выйти за допустимый диапазон или стать равным нулю из-за потери точности, даже если матрица невырожденная. np.linalg.slogdet(A) возвращает (sign, log_abs_det) — знак и натуральный логарифм абсолютного значения определителя, что позволяет избежать численного переполнения. Этот подход широко используется в вероятностных моделях (например, при работе с гауссовскими правдоподобиями), где вычисления выполняются в логарифмическом пространстве, чтобы значения оставались управляемыми.

Для матрицы 2×2 [[a, b], [c, d]] обратная матрица имеет вид (1/det) * [[d, -b], [-c, a]], где det = ad - bc. Знание этой формулы помогает вручную проверить результат NumPy на простом примере. Для матриц большего размера аналитическое вычисление обратной матрицы непрактично — именно поэтому мы используем np.linalg.inv(). Всегда проверяйте численные результаты с помощью np.allclose(A @ A_inv, np.eye(n)).

Распространённый приём линейной алгебры сочетает транспонирование и обращение: вычисление (A.T @ A)⁻¹ @ A.T даёт проекционную матрицу, используемую в обычном методе наименьших квадратов. В NumPy это можно записать как np.linalg.inv(A.T @ A) @ A.T, но, как и прежде, с точки зрения численной устойчивости предпочтительнее использовать np.linalg.lstsq. Понимание этого базового приёма помогает разобраться в работе решателя и находить ошибки, когда матрицы близки к вырожденным.

Проверьте своё понимание концепций анализа данных из этого урока.

В этом уроке вы узнали, что A.T — это транспонированная матрица, в которой строки и столбцы меняются местами; np.linalg.inv() вычисляет обратную матрицу, но напрямую эту функцию следует использовать редко (предпочтительнее solve или lstsq); а np.linalg.det() возвращает определитель, равный нулю для вырожденных матриц. Далее мы рассмотрим непосредственное решение линейных систем с помощью np.linalg.solve.