Metoda najmanjših kvadratov primeri reševanja problemov. Najmanjši kvadrati v Excelu

Metoda najmanjših kvadratov se uporablja za oceno parametrov regresijske enačbe.

Ena od metod za proučevanje stohastičnih odnosov med značilnostmi je regresijska analiza.
Regresijska analiza je izpeljava regresijske enačbe, ki se uporablja za iskanje povprečne vrednosti naključne spremenljivke (feature-rezultat), če je znana vrednost druge (ali drugih) spremenljivk (feature-factors). Vključuje naslednje korake:

  1. izbira oblike povezave (tip analitične regresijske enačbe);
  2. ocena parametrov enačbe;
  3. ocena kakovosti analitične regresijske enačbe.
Najpogosteje se linearna oblika uporablja za opis statističnega odnosa značilnosti. Pozornost na linearno razmerje je razloženo z jasno ekonomsko razlago njegovih parametrov, omejeno z variacijo spremenljivk, in z dejstvom, da se v večini primerov nelinearne oblike razmerja pretvorijo (z logaritmiranjem ali spreminjanjem spremenljivk) v linearno obliko za izvajanje izračunov.
V primeru razmerja linearnega para bo regresijska enačba imela obliko: y i =a+b·x i +u i . Parametra te enačbe a in b sta ocenjena iz podatkov statističnega opazovanja x in y. Rezultat takšne ocene je enačba: , kjer je , - oceni parametrov a in b , - vrednost efektivne lastnosti (spremenljivke), dobljene z regresijsko enačbo (izračunana vrednost).

Najpogosteje se uporablja za oceno parametrov metoda najmanjših kvadratov (LSM).
Metoda najmanjših kvadratov daje najboljše (dosledne, učinkovite in nepristranske) ocene parametrov regresijske enačbe. Vendar le, če so izpolnjene določene predpostavke o naključnem členu (u) in neodvisni spremenljivki (x) (glejte predpostavke OLS).

Problem ocenjevanja parametrov enačbe linearnega para z metodo najmanjših kvadratov je sestavljen iz naslednjega: pridobiti takšne ocene parametrov , , pri katerih je vsota kvadratnih odstopanj dejanskih vrednosti efektivne lastnosti - y i od izračunanih vrednosti - minimalna.
Formalno OLS kriterij lahko zapišemo takole: .

Klasifikacija metod najmanjših kvadratov

  1. Metoda najmanjših kvadratov.
  2. Metoda največje verjetnosti (za običajni klasični linearni regresijski model je postulirana normalnost regresijskih ostankov).
  3. Posplošena metoda najmanjših kvadratov GLSM se uporablja v primeru avtokorelacije napak in v primeru heteroskedastičnosti.
  4. Metoda uteženih najmanjših kvadratov (poseben primer GLSM s heteroskedastičnimi ostanki).

Ilustrirajte bistvo klasična metoda najmanjših kvadratov grafično. Da bi to naredili, bomo glede na opazovalne podatke (x i , y i , i=1;n) zgradili pikčasto grafiko v pravokotnem koordinatnem sistemu (tako pikčasto grafiko imenujemo korelacijsko polje). Poskusimo najti ravno črto, ki je najbližje točkam korelacijskega polja. Po metodi najmanjših kvadratov je premica izbrana tako, da je vsota kvadratov navpičnih razdalj med točkami korelacijskega polja in to premico minimalna.

Matematični zapis tega problema: .
Vrednosti y i in x i =1...n so nam znane, to so opazovalni podatki. V funkciji S so konstante. Spremenljivke v tej funkciji so zahtevane ocene parametrov - , . Da bi našli minimum funkcije 2 spremenljivk, je treba izračunati delne odvode te funkcije glede na vsakega od parametrov in jih enačiti na nič, tj. .
Kot rezultat dobimo sistem dveh normalnih linearnih enačb:
Z reševanjem tega sistema najdemo zahtevane ocene parametrov:

Pravilnost izračuna parametrov regresijske enačbe lahko preverimo s primerjavo vsot (možna so odstopanja zaradi zaokroževanja izračunov).
Za izračun ocen parametrov lahko sestavite tabelo 1.
Predznak regresijskega koeficienta b označuje smer povezave (če je b > 0, je povezava direktna, če b<0, то связь обратная). Величина b показывает на сколько единиц изменится в среднем признак-результат -y при изменении признака-фактора - х на 1 единицу своего измерения.
Formalno je vrednost parametra a povprečna vrednost y za x, ki je enak nič. Če faktor predznaka nima in ne more imeti vrednosti nič, potem zgornja interpretacija parametra a ni smiselna.

Ocena tesnosti razmerja med funkcijami se izvede z uporabo koeficienta linearne parne korelacije - r x,y . Lahko se izračuna po formuli: . Poleg tega se lahko korelacijski koeficient linearnega para določi glede na regresijski koeficient b: .
Razpon dopustnih vrednosti linearnega koeficienta parne korelacije je od –1 do +1. Predznak korelacijskega koeficienta kaže smer razmerja. Če je r x, y >0, je povezava neposredna; če je r x, y<0, то связь обратная.
Če je ta koeficient blizu enote v modulu, potem je razmerje med značilnostmi mogoče interpretirati kot precej tesno linearno. Če je njen modul enak ena ê r x , y ê =1, potem je razmerje med značilnostmi funkcionalno linearno. Če sta lastnosti x in y linearno neodvisni, potem je r x,y blizu 0.
Tabelo 1 lahko uporabite tudi za izračun r x,y.

Za oceno kakovosti dobljene regresijske enačbe se izračuna teoretični koeficient determinacije - R 2 yx:

,
kjer je d 2 varianca y, razložena z regresijsko enačbo;
e 2 - rezidualna (nepojasnjena z regresijsko enačbo) varianca y ;
s 2 y - skupna (skupna) varianca y .
Koeficient determinacije označuje delež variacije (razpršenosti) dobljene lastnosti y, razložene z regresijo (in posledično faktorja x), v skupni variaciji (disperziji) y. Koeficient determinacije R 2 yx ima vrednosti od 0 do 1. V skladu s tem vrednost 1-R 2 yx označuje delež variance y, ki je posledica vpliva drugih dejavnikov, ki niso upoštevani v modelu in specifikacijskih napak.
S parno linearno regresijo R 2 yx =r 2 yx .

Izbira vrste regresijske funkcije, tj. vrsta obravnavanega modela odvisnosti Y od X (ali X od Y), na primer linearni model y x = a + bx, je treba določiti specifične vrednosti koeficientov modela.

Za različne vrednosti a in b je mogoče zgraditi neskončno število odvisnosti oblike y x =a+bx, tj. na koordinatni ravnini obstaja neskončno število premic, vendar potrebujemo takšno odvisnost, da na najboljši način ustreza opazovanim vrednostim. Tako se problem zmanjša na izbiro najboljših koeficientov.

Iščemo linearno funkcijo a + bx, ki temelji samo na določenem številu razpoložljivih opazovanj. Za iskanje funkcije, ki se najbolj prilega opazovanim vrednostim, uporabimo metodo najmanjših kvadratov.

Označimo: Y i - vrednost, izračunana z enačbo Y i =a+bx i. y i - izmerjena vrednost, ε i =y i -Y i - razlika med izmerjeno in izračunano vrednostjo, ε i =y i -a-bx i .

Metoda najmanjših kvadratov zahteva, da je ε i, razlika med izmerjenim y i in vrednostmi Y i, izračunanimi iz enačbe, minimalna. Zato najdemo koeficienta a in b tako, da je vsota kvadratov odstopanj opazovanih vrednosti od vrednosti na ravni regresijski črti najmanjša:

Če raziščemo to funkcijo argumentov a in s pomočjo odvodov do ekstrema, lahko dokažemo, da funkcija zavzame minimalno vrednost, če sta koeficienta a in b rešitvi sistema:

(2)

Če obe strani normalnih enačb delimo z n, dobimo:

Glede na to (3)

Dobiti , od tu, z zamenjavo vrednosti a v prvi enačbi, dobimo:

V tem primeru se b imenuje regresijski koeficient; a se imenuje prosti člen regresijske enačbe in se izračuna po formuli:

Dobljena ravna črta je ocena za teoretično regresijsko črto. Imamo:

Torej, je enačba linearne regresije.

Regresija je lahko direktna (b>0) in inverzna (b Primer 1. Rezultati merjenja vrednosti X in Y so podani v tabeli:

x i -2 0 1 2 4
y i 0.5 1 1.5 2 3

Ob predpostavki, da obstaja linearna povezava med X in Y y=a+bx, določite koeficienta a in b z metodo najmanjših kvadratov.

rešitev. Tukaj je n=5
x i =-2+0+1+2+4=5;
x i 2 =4+0+1+4+16=25
x i y i =-2 0,5+0 1+1 1,5+2 2+4 3=16,5
y i =0,5+1+1,5+2+3=8

in normalni sistem (2) ima obliko

Če rešimo ta sistem, dobimo: b=0,425, a=1,175. Zato je y=1,175+0,425x.

Primer 2. Obstaja vzorec 10 opazovanj ekonomskih indikatorjev (X) in (Y).

x i 180 172 173 169 175 170 179 170 167 174
y i 186 180 176 171 182 166 182 172 169 177

Zahtevano je najti vzorčno regresijsko enačbo Y na X. Konstruirati vzorčno regresijsko premico Y na X.

rešitev. 1. Razvrstimo podatke po vrednosti x i in y i . Dobimo novo tabelo:

x i 167 169 170 170 172 173 174 175 179 180
y i 169 171 166 172 180 176 177 182 182 186

Za poenostavitev izračunov bomo sestavili računsko tabelo, v katero bomo vnesli potrebne številske vrednosti.

x i y i x i 2 x i y i
167 169 27889 28223
169 171 28561 28899
170 166 28900 28220
170 172 28900 29240
172 180 29584 30960
173 176 29929 30448
174 177 30276 30798
175 182 30625 31850
179 182 32041 32578
180 186 32400 33480
∑x i =1729 ∑y i =1761 ∑x i 2 299105 ∑x i y i =304696
x=172,9 y=176,1 x i 2 =29910,5 xy=30469,6

Po formuli (4) izračunamo regresijski koeficient

in po formuli (5)

Tako je vzorčna regresijska enačba videti kot y=-59,34+1,3804x.
Na koordinatno ravnino narišemo točke (x i ; y i) in označimo regresijsko premico.


Slika 4

Slika 4 prikazuje, kako se opazovane vrednosti nahajajo glede na regresijsko črto. Za numerično oceno odstopanj y i od Y i , kjer so y i opazovane vrednosti, Y i pa vrednosti, določene z regresijo, bomo naredili tabelo:

x i y i Y i Y i -y i
167 169 168.055 -0.945
169 171 170.778 -0.222
170 166 172.140 6.140
170 172 172.140 0.140
172 180 174.863 -5.137
173 176 176.225 0.225
174 177 177.587 0.587
175 182 178.949 -3.051
179 182 184.395 2.395
180 186 185.757 -0.243

Vrednosti Y i so izračunane v skladu z regresijsko enačbo.

Opazno odstopanje nekaterih opazovanih vrednosti od regresijske črte je razloženo z majhnim številom opazovanj. Pri proučevanju stopnje linearne odvisnosti Y od X se upošteva število opazovanj. Moč odvisnosti je določena z vrednostjo korelacijskega koeficienta.

Približevanje eksperimentalnih podatkov je metoda, ki temelji na zamenjavi eksperimentalno pridobljenih podatkov z analitično funkcijo, ki najbolj prehaja ali sovpada na vozliščih z začetnimi vrednostmi (podatki, pridobljeni med poskusom ali poskusom). Trenutno obstajata dva načina za definiranje analitične funkcije:

S konstruiranjem n-stopenjskega interpolacijskega polinoma, ki prehaja neposredno skozi vse točke dani niz podatkov. V tem primeru je aproksimirajoča funkcija predstavljena kot: interpolacijski polinom v Lagrangeovi obliki ali interpolacijski polinom v Newtonovi obliki.

S konstruiranjem n-stopenjskega aproksimirajočega polinoma, ki prehaja blizu točk iz danega niza podatkov. Tako približevalna funkcija zgladi ves naključni šum (ali napake), ki se lahko pojavijo med poskusom: izmerjene vrednosti med poskusom so odvisne od naključnih dejavnikov, ki nihajo v skladu s svojimi naključnimi zakoni (napake meritev ali instrumentov, netočnost ali eksperimentalni napake). V tem primeru je aproksimirajoča funkcija določena z metodo najmanjših kvadratov.

Metoda najmanjših kvadratov(v angleški literaturi Ordinary Least Squares, OLS) je matematična metoda, ki temelji na definiciji aproksimacijske funkcije, ki je zgrajena v najbližji bližini točk iz danega niza eksperimentalnih podatkov. Bližina začetne in aproksimativne funkcije F(x) je določena z numerično mero, in sicer: vsota kvadratov odstopanj eksperimentalnih podatkov od aproksimativne krivulje F(x) naj bo najmanjša.

Prilegajoča krivulja, izdelana z metodo najmanjših kvadratov

Uporablja se metoda najmanjših kvadratov:

Za reševanje preveč določenih sistemov enačb, ko število enačb presega število neznank;

Iskanje rešitve v primeru navadnih (ne predoločenih) nelinearnih sistemov enačb;

Za aproksimacijo vrednosti točk z neko aproksimacijsko funkcijo.

Približevalna funkcija z metodo najmanjših kvadratov je določena iz pogoja najmanjše vsote kvadratov odstopanj izračunane približevalne funkcije od danega niza eksperimentalnih podatkov. Ta kriterij metode najmanjših kvadratov je zapisan kot naslednji izraz:

Vrednosti izračunane aproksimacijske funkcije v vozliščih,

Določen niz eksperimentalnih podatkov na vozliščih .

Kvadratni kriterij ima številne "dobre" lastnosti, kot je diferenciabilnost, ki zagotavlja edinstveno rešitev aproksimacijskega problema s polinomskimi aproksimacijskimi funkcijami.

Odvisno od pogojev problema je aproksimirajoča funkcija polinom stopnje m

Stopnja aproksimacijske funkcije ni odvisna od števila vozlišč, vendar mora biti njena dimenzija vedno manjša od dimenzije (števila točk) danega niza eksperimentalnih podatkov.

∙ Če je stopnja aproksimirajoče funkcije m=1, potem funkcijo tabele aproksimiramo z ravno črto (linearna regresija).

∙ Če je stopnja aproksimacijske funkcije m=2, potem funkcijo tabele aproksimiramo s kvadratno parabolo (kvadratna aproksimacija).

∙ Če je stopnja aproksimacijske funkcije m=3, potem funkcijo tabele aproksimiramo s kubično parabolo (kubična aproksimacija).

V splošnem primeru, ko je treba konstruirati aproksimacijski polinom stopnje m za dane tabelarične vrednosti, se pogoj za najmanjšo vsoto kvadratov odstopanj po vseh vozliščih prepiše v naslednji obliki:

- neznani koeficienti aproksimirajočega polinoma stopnje m;

Število podanih vrednosti tabele.

Nujen pogoj za obstoj minimuma funkcije je enakost nič njenih delnih odvodov glede na neznane spremenljivke. . Kot rezultat dobimo naslednji sistem enačb:

Transformirajmo nastali linearni sistem enačb: odpremo oklepaje in premaknemo proste člene na desno stran izraza. Posledično bo dobljeni sistem linearnih algebrskih izrazov zapisan v naslednji obliki:

Ta sistem linearnih algebrskih izrazov je mogoče prepisati v matrični obliki:

Kot rezultat smo dobili sistem linearnih enačb dimenzije m + 1, ki je sestavljen iz m + 1 neznank. Ta sistem je mogoče rešiti s katero koli metodo za reševanje linearnih algebrskih enačb (na primer Gaussova metoda). Kot rezultat rešitve bodo najdeni neznani parametri aproksimacijske funkcije, ki zagotavljajo minimalno vsoto kvadratov odmikov aproksimacijske funkcije od izvirnih podatkov, t.j. najboljši možni kvadratni približek. Ne smemo pozabiti, da če se spremeni samo ena vrednost začetnih podatkov, bodo vsi koeficienti spremenili svoje vrednosti, saj so popolnoma določeni z začetnimi podatki.

Aproksimacija začetnih podatkov z linearno odvisnostjo

(linearna regresija)

Kot primer razmislite o metodi za določanje aproksimacijske funkcije, ki je podana kot linearna povezava. V skladu z metodo najmanjših kvadratov se pogoj za najmanjšo vsoto kvadratov odstopanj zapiše takole:

Koordinate vozlišč tabele;

Neznani koeficienti aproksimacijske funkcije, ki je podana kot linearna povezava.

Nujen pogoj za obstoj minimuma funkcije je enakost nič njenih delnih odvodov glede na neznane spremenljivke. Kot rezultat dobimo naslednji sistem enačb:

Transformirajmo nastali linearni sistem enačb.

Rešujemo nastali sistem linearnih enačb. Koeficienti aproksimacijske funkcije v analitični obliki se določijo na naslednji način (Cramerjeva metoda):

Ti koeficienti zagotavljajo konstrukcijo linearne aproksimacijske funkcije v skladu s kriterijem za zmanjšanje vsote kvadratov aproksimacijske funkcije iz danih tabelaričnih vrednosti (eksperimentalni podatki).

Algoritem za implementacijo metode najmanjših kvadratov

1. Začetni podatki:

Podan je niz eksperimentalnih podatkov s številom meritev N

Podana je stopnja aproksimirajočega polinoma (m).

2. Algoritem za izračun:

2.1. Določeni so koeficienti za sestavo sistema enačb z dimenzijo

Koeficienti sistema enačb (leva stran enačbe)

- indeks številke stolpca kvadratne matrike sistema enačb

Prosti členi sistema linearnih enačb (desna stran enačbe)

- indeks številke vrstice kvadratne matrike sistema enačb

2.2. Tvorba sistema linearnih enačb z dimenzijo .

2.3. Rešitev sistema linearnih enačb za določitev neznanih koeficientov aproksimativnega polinoma stopnje m.

2.4 Določitev vsote kvadratov odstopanj aproksimirajočega polinoma od začetnih vrednosti v vseh vozliščih

Ugotovljena vrednost vsote kvadratov odstopanj je najmanjša možna.

Približek z drugimi funkcijami

Upoštevati je treba, da se pri aproksimaciji začetnih podatkov v skladu z metodo najmanjših kvadratov kot aproksimativna funkcija včasih uporabljajo logaritemska funkcija, eksponentna funkcija in potenčna funkcija.

Log približek

Razmislite o primeru, ko je aproksimativna funkcija podana z logaritemsko funkcijo oblike:

3. Približevanje funkcij z metodo

najmanjši kvadrati

Metoda najmanjših kvadratov se uporablja pri obdelavi rezultatov poskusa za približki (približki) eksperimentalni podatki analitično formulo. Posebna oblika formule je praviloma izbrana iz fizikalnih razlogov. Te formule so lahko:

in drugi.

Bistvo metode najmanjših kvadratov je naslednje. Naj rezultate meritev predstavimo v tabeli:

Tabela 4

x n

y n

(3.1)

kjer je f je znana funkcija, a 0 , a 1 , …, a m - neznani konstantni parametri, katerih vrednosti je treba najti. Pri metodi najmanjših kvadratov velja, da je približek funkcije (3.1) eksperimentalni odvisnosti najboljši, če je izpolnjen pogoj

(3.2)

to je zneski a kvadratni odmiki želene analitične funkcije od eksperimentalne odvisnosti morajo biti minimalni .

Upoštevajte, da funkcija Q klical neviskoden.


Od neskladja

potem ima minimum. Nujen pogoj za minimum funkcije več spremenljivk je enakost nič vseh parcialnih odvodov te funkcije glede na parametre. Tako je iskanje najboljših vrednosti parametrov aproksimacijske funkcije (3.1), to je tistih vrednosti, za katere Q = Q (a 0 , a 1 , …, a m ) je minimalen, se zmanjša na reševanje sistema enačb:

(3.3)

Metodi najmanjših kvadratov je mogoče podati naslednjo geometrijsko razlago: med neskončno družino črt dane vrste najdemo eno črto, za katero je vsota kvadratov razlik v ordinatah eksperimentalnih točk in ustreznih ordinatah točk ugotovljeno z enačbo te premice bo najmanjša.

Iskanje parametrov linearne funkcije

Naj bodo eksperimentalni podatki predstavljeni z linearno funkcijo:

Takšne vrednosti je potrebno izbrati a in b , za katerega funkcija

(3.4)

bo minimalen. Potrebni pogoji za minimum funkcije (3.4) so ​​reducirani na sistem enačb:

Po transformacijah dobimo sistem dveh linearnih enačb z dvema neznankama:

(3.5)

pri reševanju katere , najdemo želene vrednosti parametrov a in b.

Iskanje parametrov kvadratne funkcije

Če je aproksimirajoča funkcija kvadratna odvisnost

potem njegovi parametri a , b , c poiščite iz minimalnega pogoja funkcije:

(3.6)

Minimalni pogoji za funkcijo (3.6) so reducirani na sistem enačb:


Po transformacijah dobimo sistem treh linearnih enačb s tremi neznankami:

(3.7)

pri reševanje katerega najdemo želene vrednosti parametrov a, b in c.

Primer . Naj bo naslednja tabela vrednosti pridobljena kot rezultat poskusa x in y:

Tabela 5

y i

0,705

0,495

0,426

0,357

0,368

0,406

0,549

0,768

Eksperimentalne podatke je potrebno aproksimirati z linearnimi in kvadratnimi funkcijami.

rešitev. Iskanje parametrov aproksimacijskih funkcij se zmanjša na reševanje sistemov linearnih enačb (3.5) in (3.7). Za rešitev problema uporabimo procesor za preglednice excel.

1. Najprej povežemo list 1 in 2. Vnesemo eksperimentalne vrednosti x i in y i v stolpce A in B, začenši z drugo vrstico (v prvo vrstico vnesemo naslove stolpcev). Nato izračunamo vsote za te stolpce in jih damo v deseto vrstico.

V stolpcih C–G postavite izračun oziroma seštevek

2. Odstranite liste Nadaljnji izračuni bodo izvedeni na podoben način za linearno odvisnost od lista 1 in za kvadratno odvisnost od lista 2.

3. Pod dobljeno tabelo oblikujemo matriko koeficientov in stolpčni vektor prostih členov. Rešimo sistem linearnih enačb po naslednjem algoritmu:

Za izračun inverzne matrike in množilne matrike uporabljamo Mojster funkcije in funkcije MOBR in MUMNOZH.

4. V celičnem bloku H2: H 9 na podlagi dobljenih koeficientov izračunamo vrednosti aproksimacije polinomy i kalk., v bloku I 2: I 9 - odstopanja D y i = y i exp. - y i kalk., v stolpcu J - odstopanje:

Tabele, pridobljene in izdelane z uporabo Čarovniki za grafikone grafi so prikazani na slikah 6, 7, 8.


riž. 6. Tabela za izračun koeficientov linearne funkcije,

približevanje eksperimentalni podatki.


riž. 7. Tabela za izračun koeficientov kvadratne funkcije,

približevanjeeksperimentalni podatki.


riž. 8. Grafični prikaz rezultatov aproksimacije

eksperimentalni podatki linearne in kvadratne funkcije.

Odgovori. Eksperimentalni podatki so bili aproksimirani z linearno odvisnostjo l = 0,07881 x + 0,442262 z ostankom Q = 0,165167 in kvadratna odvisnost l = 3,115476 x 2 – 5,2175 x + 2,529631 z ostankom Q = 0,002103 .

Naloge. Približaj funkcijo, podano s tabelarnimi, linearnimi in kvadratnimi funkcijami.

Tabela 6

№0

x

0,1

0,2

0,3

0,4

0,5

0,6

0,7

0,8

l

3,030

3,142

3,358

3,463

3,772

3,251

3,170

3,665

1

3,314

3,278

3,262

3,292

3,332

3,397

3,487

3,563

2

1,045

1,162

1,264

1,172

1,070

0,898

0,656

0,344

3

6,715

6,735

6,750

6,741

6,645

6,639

6,647

6,612

4

2,325

2,515

2,638

2,700

2,696

2,626

2,491

2,291

5

1.752

1,762

1,777

1,797

1,821

1,850

1,884

1,944

6

1,924

1,710

1,525

1,370

1,264

1,190

1,148

1,127

7

1,025

1,144

1,336

1,419

1,479

1,530

1,568

1,248

8

5,785

5,685

5,605

5,545

5,505

5,480

5,495

5,510

9

4,052

4,092

4,152

4,234

4,338

4,468

4,599

Metoda najmanjših kvadratov (LSM) vam omogoča, da ocenite različne količine z uporabo rezultatov številnih meritev, ki vsebujejo naključne napake.

Značilen MNC

Glavna ideja te metode je, da se vsota kvadratov napak obravnava kot merilo za natančnost rešitve problema, ki jo želimo čim bolj zmanjšati. Pri uporabi te metode je mogoče uporabiti tako numerične kot analitične pristope.

Zlasti kot numerična izvedba metoda najmanjših kvadratov pomeni izvedbo čim več meritev neznane naključne spremenljivke. Še več, več izračunov, natančnejša bo rešitev. Na tem nizu izračunov (začetni podatki) se pridobi še en niz predlaganih rešitev, iz katerih se nato izbere najboljša. Če je množica rešitev parametrizirana, bo metoda najmanjših kvadratov zmanjšana na iskanje optimalne vrednosti parametrov.

Kot analitični pristop k implementaciji LSM na množici začetnih podatkov (meritev) in predlagani množici rešitev je določena neka (funkcionalna), ki jo lahko izrazimo s formulo, ki jo dobimo kot določeno hipotezo, ki jo je potrebno potrditi. V tem primeru se metoda najmanjših kvadratov zmanjša na iskanje minimuma tega funkcionala na množici kvadratov napak začetnih podatkov.

Upoštevajte, da ne napake same, ampak kvadrati napak. Zakaj? Dejstvo je, da so pogosto odstopanja meritev od točne vrednosti tako pozitivna kot negativna. Pri določanju povprečja lahko preprosto seštevanje privede do napačnega zaključka o kakovosti ocene, saj bo medsebojno izničenje pozitivnih in negativnih vrednosti zmanjšalo moč vzorčenja nabora meritev. In posledično točnost ocene.

Da se to ne bi zgodilo, se kvadratna odstopanja seštejejo. Še več, za izenačitev dimenzije izmerjene vrednosti in končne ocene se za izločanje uporabi vsota kvadratov napak.

Nekatere aplikacije MNC

MNC se pogosto uporablja na različnih področjih. Na primer, v teoriji verjetnosti in matematični statistiki se metoda uporablja za določitev takšne značilnosti naključne spremenljivke kot standardni odklon, ki določa širino razpona vrednosti naključne spremenljivke.