Die Geradengleichung: Steigung, Achsenabschnitt und Vorhersagen

Viele reale Beziehungen sind näherungsweise linear: Mit zunehmender Quadratmeterzahl steigt der Hauspreis proportional; mit steigenden Werbeausgaben steigen die Umsätze. Die lineare Regression modelliert diese Beziehungen, indem sie die Gerade findet, die am besten zu den Daten passt.

Bevor Sie sich mit dem Algorithmus befassen, müssen Sie das mathematische Objekt, das er zu finden versucht, genau verstehen: die Gleichung einer Geraden. Jedes lineare Regressionsmodell ist letztendlich eine Gerade (in 2D) oder eine Hyperebene (in höheren Dimensionen), und die beiden Parameter, die sie definieren – Steigung und Achsenabschnitt –, haben aussagekräftige Interpretationen für das Problem, das Sie lösen.

Die Gleichung einer Geraden in 2D lautet y = mx + b, wobei:

• y — die abhängige Variable (was wir vorhersagen möchten, z. B. Hauspreis)
• x — die unabhängige Variable oder das Merkmal (z. B. Wohnfläche in Quadratfuß)
• m — die Steigung: wie stark sich y bei jeder Erhöhung von x um eine Einheit verändert
• b — der Achsenabschnitt (Intercept): der Wert von y, wenn x null ist

In der Notation des maschinellen Lernens wird dies oft als ŷ = w₁x + w₀ oder ŷ = θ₁x + θ₀ geschrieben, wobei w oder θ die Gewichte (Parameter) sind, die das Modell lernt.

Die Steigung m gibt die Änderungsrate an: Für jede Zunahme von x um eine Einheit verändert sich y um m Einheiten. Das Vorzeichen ist wichtig: Eine positive Steigung bedeutet, dass sich x und y gemeinsam bewegen (positive Korrelation), eine negative Steigung bedeutet, dass sie sich in entgegengesetzte Richtungen bewegen.

In einem Hauspreismodell, in dem x die Quadratmeterzahl und y der Preis in Dollar ist, bedeutet eine Steigung von 150, dass jeder zusätzliche Quadratmeter den vorhergesagten Preis um 150 $ erhöht. Diese Interpretierbarkeit ist eine der größten Stärken der linearen Regression – Sie können genau erklären, was die Vorhersage antreibt.

Der Achsenabschnitt b ist der Wert von y, wenn x gleich Null ist. Er verankert die Gerade an einem bestimmten y-Wert auf der vertikalen Achse. Die Interpretation des Achsenabschnitts erfordert Sorgfalt – manchmal ergibt sie physikalisch Sinn und manchmal nicht.

Im Beispiel mit den Hauspreisen würde ein Achsenabschnitt von 50.000 $ bedeuten, dass ein Haus mit einer Wohnfläche von null Quadratmetern 50.000 $ kostet, was physikalisch keinen Sinn ergibt. Der Achsenabschnitt ist am besten als Kalibrierungskonstante zu verstehen, die die gesamte Gerade nach oben oder unten verschiebt, um sie an die Daten anzupassen, und nicht als Größe mit direktem realen Sinn in jedem Kontext.

Bevor Sie ein Modell anpassen, sollten Sie immer Ihre Daten plotten, um zu bestätigen, dass tatsächlich ein linearer Zusammenhang besteht. Wenn das Streudiagramm ein gekrümmtes oder nichtlineares Muster zeigt, ist ein lineares Modell die falsche Wahl. Das Visualisieren der angepassten Linie über dem Streudiagramm ist der erste Validierungsschritt nach dem Training.

Seaborns regplot() berechnet und plottet die Regressionsgerade mit einem Konfidenzintervall in einem einzigen Aufruf, was es zu einer schnellen Plausibilitätsprüfung während der EDA macht.

Sobald Sie eine Gerade haben (Steigung m und Achsenabschnitt b), ist das Treffen einer Vorhersage für eine neue Eingabe x reine Arithmetik: Setzen Sie x in die Gleichung ein und berechnen Sie y. Dies wird als Inferenz oder Vorhersage bezeichnet.

Die entscheidende Erkenntnis ist, dass das Modell den wahren Ausgang für eine neue Eingabe nicht kennt – es schätzt ihn basierend auf den Mustern, die es aus den Trainingsdaten gelernt hat. Die Qualität dieser Vorhersagen hängt vollständig davon ab, wie gut die Trainingsdata die neuen Eingaben repräsentieren und wie linear der wahre Zusammenhang tatsächlich ist.

Kein echter Datensatz liegt perfekt auf einer Geraden. Das Residuum für jeden Datenpunkt ist die Differenz zwischen dem tatsächlichen Wert und dem vom Modell vorhergesagten Wert: Residuum = y_tatsächlich - y_vorhergesagt. Ein positives Residuum bedeutet, dass das Modell den Wert unterschätzt hat; ein negatives Residuum bedeutet, dass es ihn überschätzt hat.

Residuen sind das Rohmaterial für die Bewertung und Verbesserung eines linearen Modells. Wenn Residuen ein systematisches Muster zeigen (z. B. immer positiv für große x-Werte), ist das ein Beleg dafür, dass die wahre Beziehung nichtlinear ist und ein komplexeres Modell erforderlich ist.

Eine negative Steigung modelliert eine inverse Beziehung: Wenn x zunimmt, nimmt y ab. Zum Beispiel: Je älter ein Auto, desto geringer ist sein Wiederverkaufswert. Oder je mehr Mitbewerber ein Unternehmen hat, desto geringer ist sein Marktanteil.

Die lineare Regression verarbeitet negative Steigungen ganz natürlich – der Algorithm findet genau die Steigung (positiv, negativ oder null), die am besten zu den Trainingsdaten passt. Eine Steigung von genau null würde bedeuten, dass x keine Informationen über y liefert und die beste Vorhersage für jeden Eingang einfach der Mittelwert von y wäre.

In der Realität haben wir fast immer mehrere Eingabemerkmale und nicht nur eines. Wenn Sie die Geradengleichung auf mehrere Merkmale erweitern, wird das Modell zu einer Hyperebene im hochdimensionalen Raum:

ŷ = w₁x₁ + w₂x₂ + ... + wₙxₙ + b

Jedes wᵢ ist ein separater Koeffizient (Gewicht) für das entsprechende Merkmal xᵢ. Die Vorhersage ist nach wie vor nur eine Linearkombination der Eingaben plus einem Bias. Diese Erweiterung – von einer Geraden zu einer Hyperebene – ist alles, was sich ändert, wenn Sie von der einfachen zur multiplen linearen Regression übergehen.

Lineare Regression findet statistische Korrelationen, keine kausalen Zusammenhänge. Eine hohe Steigung zwischen Eisverkäufen und Ertrinkungstoten bedeutet nicht, dass Eiscreme zum Ertrinken führt – beides wird durch heißes Wetter verursacht. Die Steigung eines Modells informiert über die Beziehung in den Trainingsdaten, nicht über den zugrundeliegenden kausalen Mechanismus.

Dieser Unterschied ist von enormer Wichtigkeit, wenn ML-Modelle für die Entscheidungsfindung eingesetzt werden. Ein Modell, das Kreditausfälle vorhersagt, stellt möglicherweise fest, dass die Postleitzahl ein starker Prädiktor ist – aber die Verwendung der Postleitzahl als Entscheidungsfaktor kann rassistische Diskriminierung anstelle eines echten Kreditrisikos verschlüsseln. Hinterfragen Sie immer, warum ein Merkmal eine hohe Vorhersagekraft hat.

Jetzt, da Sie wissen, was eine Gerade ist und was ihre Parameter bedeuten, sind Sie bereit, scikit-learn zu verwenden, um die optimale Steigung und den y-Achsenabschnitt automatisch aus Daten zu lernen. Der Algorithmus minimiert den gesamten Vorhersagefehler über alle Trainingsbeispiele hinweg und findet die Ausgleichsgerade, ohne dass Sie m und b manuell anpassen müssen.

In der nächsten Lektion lernen Sie genau, wie diese Optimierung funktioniert – was „beste Anpassung“ mathematisch bedeutet und wie die Kostenfunktion des mittleren quadratischen Fehlers (Mean Squared Error) das Anpassen einer Geraden in ein Problem der Minimierung eines mathematischen Ausdrucks verwandelt.

Überprüfen Sie Ihr Verständnis der Konzepte zu Machine Learning mit Python aus dieser Lektion.

In dieser Lektion hast du gelernt: die Gleichung y=mx+b definiert eine Gerade mit der Steigung m (Änderungsrate) und dem Achsenabschnitt b (y-Wert bei x=0), Residuen messen den Abstand zwischen tatsächlichen und vorhergesagten Werten, und die multiple lineare Regression erweitert die Gerade auf eine Hyperebene mit einem Gewicht pro Merkmal. Als Nächstes erforschen wir Kostenfunktionen und die Methode der kleinsten Quadrate – das mathematische Framework, das definiert, was „beste Anpassung“ bedeutet und wie der Algorithmus die optimalen Parameter findet.