Resolução de sistemas lineares

Um sistema de equações lineares pode ser escrito na forma matricial como Ax = b, em que A é a matriz de coeficientes, x é o vetor de incógnitas e b é o vetor do lado direito. Por exemplo, duas equações com duas incógnitas podem ser expressas como uma equação matricial 2×2. Resolver o sistema significa encontrar x tal que A multiplicado por x seja igual a b. O np.linalg.solve(A, b) do NumPy trata isso de maneira eficiente e precisa.

Matematicamente, a solução de Ax = b é x = A⁻¹b. Porém, calcular np.linalg.inv(A) @ b é mais lento e menos preciso do que chamar diretamente np.linalg.solve(A, b). solve() usa internamente a decomposição LU, que exige menos operações e acumula menos erro de ponto flutuante. Regra prática: se você estiver resolvendo x em Ax=b, use sempre solve, nunca inv.

np.linalg.solve(A, b) exige que A seja quadrada e não singular. Se A for singular (o determinante for zero), a função gera np.linalg.LinAlgError: Singular matrix. A é singular quando as linhas são linearmente dependentes — por exemplo, quando uma equação é simplesmente um múltiplo de outra. Verifique sempre se o seu sistema está bem formulado antes de chamar solve. Se A não for quadrada, use np.linalg.lstsq() em vez disso.

np.linalg.solve aplica internamente a decomposição LU: fatora A em uma matriz triangular inferior L e uma matriz triangular superior U, de modo que A = LU. A resolução então se transforma em duas resoluções triangulares mais simples (substituição progressiva e regressiva), que são muito mais eficientes do que repetir a eliminação gaussiana desde o início. Esse é o mesmo algoritmo usado pelo MATLAB, pelo Fortran LAPACK e por praticamente todas as bibliotecas de computação científica.

np.linalg.solve(A, B) pode lidar com uma matriz B com várias colunas, resolvendo cada coluna simultaneamente. Se B tiver dimensão (n, k), o resultado X terá dimensão (n, k), em que cada coluna de X é a solução para a coluna correspondente de B. Isso é útil em simulações físicas e aprendizado de máquina, quando é necessário resolver a mesma matriz de coeficientes com muitos lados direitos diferentes.

Quando o sistema é sobredeterminado (tem mais equações do que incógnitas), não existe uma solução exata. np.linalg.lstsq(A, b) encontra o x que minimiza a soma dos resíduos ao quadrado ||Ax - b||² — exatamente o que a regressão linear calcula. Ele retorna a solução x, os resíduos, o posto e os valores singulares. O argumento rcond=None suprime um aviso de obsolescência e define o limite para tratar valores singulares como zero.

As equações normais dos mínimos quadrados ordinários são A.T @ A @ x = A.T @ b, que formam um sistema quadrado solucionável com np.linalg.solve. Isso produz o mesmo resultado que lstsq quando A.T @ A é bem condicionada. Na prática, lstsq é preferível porque usa SVD e permanece estável mesmo quando as colunas são quase colineares, mas as equações normais ajudam você a compreender a matemática por trás da regressão.

Antes de resolver, é uma boa prática verificar o número de condição com np.linalg.cond(A). Um número de condição próximo de 1 significa que o sistema é bem condicionado e que a solução é confiável. Um número de condição muito grande (por exemplo, 1e12) significa que a matriz está quase singular: pequenas alterações em b produzem grandes alterações em x, e a solução pode não ser numericamente confiável. Nesse caso, considere a regularização (regressão ridge) ou o uso de um solucionador mais robusto.

Para sistemas muito grandes em que A tem principalmente entradas nulas (uma matriz esparsa), armazenar a matriz completa desperdiça memória, e usar np.linalg.solve denso é lento. O SciPy fornece scipy.sparse e scipy.sparse.linalg.spsolve, que exploram a esparsidade para sistemas enormes, como modelos de elementos finitos ou problemas de redes. Entender quando sua matriz é esparsa é uma consideração importante de desempenho na computação científica.

Depois de obter o vetor solução x de np.linalg.solve(A, b), verifique-o sempre calculando A @ x e comparando-o com b usando np.allclose(A @ x, b). Na aritmética de ponto flutuante, raramente se obtém uma igualdade exata — allclose verifica se os valores estão dentro de uma pequena tolerância. O resíduo ||Ax - b|| deve estar próximo de epsilon de máquina vezes a escala do problema em um sistema bem condicionado.

Os resolvedores lineares aparecem em todo o aprendizado de máquina: a regressão linear resolve as equações normais, os processos gaussianos resolvem sistemas de matrizes de núcleo e os filtros de Kalman resolvem equações de atualização de estado. Ao compreender np.linalg.solve e lstsq, você pode implementar esses algoritmos do zero e depurá-los quando os resultados forem inesperados. O módulo linalg do NumPy oferece as mesmas ferramentas numéricas usadas em bibliotecas científicas de produção.

Nesta lição, você aprendeu que np.linalg.solve(A, b) resolve com eficiência sistemas lineares quadrados usando decomposição LU, que np.linalg.lstsq() encontra a solução de mínimos quadrados para sistemas sobredeterminados e que o número de condição mede a estabilidade numérica — valores altos alertam para matrizes quase singulares. A seguir, exploraremos os autovalores e o SVD, que fundamentam o PCA e muitos algoritmos de aprendizado de máquina.