Methode der kleinsten Quadrate

Die Modellkurve ym(x;p) soll n empirischen Daten y(x_{i}) angepasst werden hierbei sind die Modellparameter p gesucht. Es wird nun angenommen daß Messfehler normalverteilt sind. Dies führt direkt auf folgendes Die Summe der quadratischen Abweichungen zwischen Kurve Daten muss minimiert werden. In Formelschreibweise:

<math>\min_{p}{\sum_{i=1}^{n}([y_m(x_i;p)-y(x_i)]^2)} = \min_{p}\|y_{m}(p)-y\|_{2} </math>

es geht also darum die euklidische Norm des Differenzvektors zu minimieren. Dieser Ansatz von Carl Friedrich Gauß entwickelt und er nutzte ihn um Bahn des Asteroiden Ceres (Asteroid) zu bestimmen der daraufhin wiedergefunden werden

In der Ökonometrie und Statistik sind besonders multivariate lineare Least Squares genannte OLS -Schätzer gebräuchlich die leicht durch das Lösen linearen Gleichungssystems ermittelt werden können.

Die Form des Ausgleichsproblems wird durch Modellfunktion bestimmt. Nimmt man einen linearen Ansatz ym(x;a b)=ax+b wobei a und b die Parameter p sind so erhält man ein lineares Ausgleichsproblem . Dieses kann numerisch durch Lösen der Normalgleichungen gelöst werden. Häufig ist dies keine Herangehensweise da sie fehleranfällig ist. Eine stabilere Alternative bietet die QR-Zerlegung mittels des

Wählt man eine nichtlineare Modellfunktion zum ym(x;a b c)=ax^2+bx+c so heißt auch das Ausgleichsproblem nichtlinear. numerische Lösung erfolgt iterativ mittels des Gauß-Newton-Verfahrens.

Beispiel

Hier soll das Problem anhand eines Beispiels (multiplikative Verknüpfung: Geschwindigkeitsgleichung v = s/t) werden.

Ein Objekt bewegt sich auf einer geraden Strecke mit konstanter Geschwindigkeit. Es werden folgenden Werte gemessen:

Formelzeichen	sm	tm	tm*sm	sm²
Messwert	gemessene Entfernung	gemessene Zeit	Entfernung * Zeit	Entfernung * Entfernung
Einheit>	Kilometer	Sekunden	Kilometer*Sekunden	Kilometer²
1	2.1	5.1	10.71	4.41
2	1.9	4.9	9.31	3.61
3	1.985	5.15	10.2275	3.940225
Summen	5.985	15.15	30.24275	11.960225

Gesucht sei die wahrscheinliche Geschwindigkeit v=s/t die wahrscheinliche Zeit pro Wegeinheit t=s/v=T*s (mit

Die Summe der Fehlerquadrate S _sq ist dann:

<math>S_\mathrm{sq} = \sum_{i=1}^{3} (tm_{i}-t_{i})^{2} = \sum_{i=1}^{3} </math>

Die erste Ableitung der obigen Gleichung T die gleich Null gesetzt wird um Minimum zu suchen lautet:

<math>dS_\mathrm{sq}/dT = \sum_{i=1}^{3}(-2*tm_{i}*sm_{i}+2*sm_{i}^{2}*T)=0</math>

Diese Gleichung wird nach T aufgelöst:

<math>T = \sum_{i=1}^{3}(2*tm_{i}*sm_{i})/\sum_{i=1}^{3}(2*sm_{i}^{2})</math>

Man muss also die Summe der tm und sm durch die Summe der der gemessenen Entfernungen teilen. Das Ergebnis hat Einheit Zeit/Meter (hier 2 528610457 Sekunden/Kilometer) bzw. Kehrwert davon ist die Gesuchte Geschwindigkeit v der Einheit Weg/Zeit (hier 0 395474122 Kilometer/Sekunde).

Bücher zum Thema Methode der kleinsten Quadrate

Dieser Artikel von Wikipedia unterliegt der GNU FDL.