Primjeri rješavanja problema metode najmanjih kvadrata. Metoda najmanjih kvadrata u Excelu

Metoda najmanjeg kvadrata koristi se za procjenu parametara regresione jednadžbe.

Jedna od metoda za proučavanje stohastičkih odnosa između karakteristika je regresiona analiza.
Regresiona analiza je izvođenje regresione jednačine, uz pomoć koje se pronalazi prosječna vrijednost slučajne varijable (atribut rezultata) ako je poznata vrijednost druge (ili druge) varijabli (faktor-atributa). Uključuje sljedeće korake:

  1. izbor oblika veze (vrsta analitičke regresione jednačine);
  2. procjena parametara jednadžbe;
  3. procjena kvaliteta analitičke regresione jednačine.
Najčešće se linearni oblik koristi za opisivanje statističkog odnosa karakteristika. Fokus na linearnim odnosima objašnjava se jasnim ekonomskim tumačenjem njegovih parametara, ograničenom varijacijom varijabli i činjenicom da se u većini slučajeva nelinearni oblici odnosa pretvaraju (logaritmom ili zamjenom varijabli) u linearni oblik za obavljanje proračuna. .
U slučaju linearne parne veze, jednačina regresije će imati oblik: y i =a+b·x i +u i . Parametri a i b ove jednačine su procijenjeni iz statističkih podataka posmatranja x i y. Rezultat takve procjene je jednadžba: , gdje su procjene parametara a i b , je vrijednost rezultirajućeg atributa (varijable) dobijene iz jednačine regresije (izračunata vrijednost).

Najčešće se koristi za procjenu parametara metoda najmanjih kvadrata (LSM).
Metoda najmanjih kvadrata daje najbolje (dosljedne, efikasne i nepristrasne) procjene parametara regresione jednačine. Ali samo ako su ispunjene određene pretpostavke u vezi sa slučajnim članom (u) i nezavisnom varijablom (x) (vidi OLS pretpostavke).

Problem procjene parametara jednadžbe linearnog para metodom najmanjih kvadrata je kako slijedi: da se dobiju takve procjene parametara , , kod kojih je zbroj kvadrata odstupanja stvarnih vrijednosti rezultujuće karakteristike - y i od izračunatih vrijednosti - minimalan.
Formalno OLS kriterijum može se napisati ovako: .

Klasifikacija metoda najmanjih kvadrata

  1. Metoda najmanjeg kvadrata.
  2. Metoda maksimalne vjerovatnoće (za normalan klasični model linearne regresije, postulira se normalnost reziduala regresije).
  3. Generalizirana metoda najmanjih kvadrata OLS se koristi u slučaju autokorelacije grešaka iu slučaju heteroskedastičnosti.
  4. Metoda ponderiranih najmanjih kvadrata (poseban slučaj OLS sa heteroskedastičnim rezidualima).

Hajde da ilustrujemo poentu klasična metoda najmanjih kvadrata grafički. Da bismo to uradili, konstruisaćemo dijagram raspršenja na osnovu podataka posmatranja (x i, y i, i=1; n) u pravougaonom koordinatnom sistemu (takav dijagram raspršenja naziva se korelaciono polje). Pokušajmo odabrati pravu liniju koja je najbliža tačkama korelacionog polja. Prema metodi najmanjih kvadrata, linija se bira tako da zbir kvadrata vertikalnih udaljenosti između tačaka korelacionog polja i ove prave bude minimalan.

Matematička notacija za ovaj problem: .
Poznate su nam vrijednosti y i i x i =1...n; ovo su podaci opservacije. U S funkciji predstavljaju konstante. Varijable u ovoj funkciji su potrebne procjene parametara - , . Da bi se pronašao minimum funkcije dvije varijable, potrebno je izračunati parcijalne izvode ove funkcije za svaki od parametara i izjednačiti ih sa nulom, tj. .
Kao rezultat, dobijamo sistem od 2 normalne linearne jednadžbe:
Rješavajući ovaj sistem, nalazimo potrebne procjene parametara:

Ispravnost proračuna parametara regresione jednačine može se provjeriti poređenjem iznosa (može doći do neslaganja zbog zaokruživanja proračuna).
Da biste izračunali procjene parametara, možete napraviti tabelu 1.
Znak koeficijenta regresije b ukazuje na smjer odnosa (ako je b >0, odnos je direktan, ako je b<0, то связь обратная). Величина b показывает на сколько единиц изменится в среднем признак-результат -y при изменении признака-фактора - х на 1 единицу своего измерения.
Formalno, vrijednost parametra a je prosječna vrijednost y sa x jednakim nuli. Ako faktor-atribut nema i ne može imati nultu vrijednost, onda gornja interpretacija parametra a nema smisla.

Procjena bliskosti odnosa između karakteristika izvršeno korištenjem koeficijenta linearne parne korelacije - r x,y. Može se izračunati pomoću formule: . Osim toga, koeficijent korelacije linearnog para može se odrediti preko koeficijenta regresije b: .
Raspon prihvatljivih vrijednosti koeficijenta linearne korelacije para je od –1 do +1. Znak koeficijenta korelacije ukazuje na smjer odnosa. Ako je r x, y >0, onda je veza direktna; ako je r x, y<0, то связь обратная.
Ako je ovaj koeficijent po veličini blizu jedinice, onda se odnos između karakteristika može tumačiti kao prilično blizak linearni. Ako je njegov modul jednak jednom ê r x , y ê =1, tada je odnos između karakteristika funkcionalno linearan. Ako su karakteristike x i y linearno nezavisne, tada je r x,y blizu 0.
Za izračunavanje r x,y možete koristiti i tabelu 1.

Da biste procijenili kvalitetu rezultirajuće regresione jednačine, izračunajte teoretski koeficijent determinacije - R 2 yx:

,
gdje je d 2 varijansa y objašnjena jednadžbom regresije;
e 2 - rezidualna (neobjašnjena jednadžbom regresije) varijansa y;
s 2 y - ukupna (ukupna) varijansa y.
Koeficijent determinacije karakteriše udio varijacije (disperzije) rezultujućeg atributa y objašnjen regresijom (i, posljedično, faktorom x) u ukupnoj varijaciji (disperziji) y. Koeficijent determinacije R 2 yx ima vrijednosti od 0 do 1. Shodno tome, vrijednost 1-R 2 yx karakterizira udio varijanse y uzrokovane utjecajem drugih faktora koji nisu uzeti u obzir u modelu i greškama u specifikaciji.
Sa uparenom linearnom regresijom, R 2 yx =r 2 yx.

Odabravši tip regresijske funkcije, tj. tip razmatranog modela zavisnosti Y od X (ili X od Y), na primjer, linearni model y x =a+bx, potrebno je odrediti specifične vrijednosti koeficijenata modela.

Za različite vrijednosti a i b moguće je konstruirati beskonačan broj ovisnosti oblika y x = a + bx, tj. postoji beskonačan broj pravih linija na koordinatnoj ravni, ali nam je potrebna ovisnost koja je najbolja odgovara posmatranim vrednostima. Dakle, zadatak se svodi na odabir najboljih koeficijenata.

Tražimo linearnu funkciju a+bx samo na osnovu određenog broja dostupnih zapažanja. Da bismo pronašli funkciju koja najbolje odgovara promatranim vrijednostima, koristimo metodu najmanjih kvadrata.

Označimo: Y i - vrijednost izračunata po jednačini Y i =a+bx i. y i - izmjerena vrijednost, ε i =y i -Y i - razlika između izmjerenih i izračunatih vrijednosti pomoću jednačine, ε i =y i -a-bx i .

Metoda najmanjih kvadrata zahtijeva da ε i, razlika između izmjerenog y i i vrijednosti Y i izračunatih iz jednačine, bude minimalna. Stoga nalazimo koeficijente a i b tako da je zbroj kvadrata odstupanja posmatranih vrijednosti od vrijednosti na pravoj regresijskoj liniji najmanji:

Ispitujući ovu funkciju argumenata a i za ekstrem koristeći derivate, možemo dokazati da funkcija poprima minimalnu vrijednost ako su koeficijenti a i b rješenja sistema:

(2)

Ako obje strane normalne jednadžbe podijelimo sa n, dobićemo:

S obzirom na to (3)

Dobijamo , odavde, zamjenom vrijednosti a u prvu jednačinu, dobijamo:

U ovom slučaju, b se naziva koeficijent regresije; a se naziva slobodnim članom regresione jednadžbe i izračunava se pomoću formule:

Rezultirajuća ravna linija je procjena teorijske linije regresije. Imamo:

dakle, je jednadžba linearne regresije.

Regresija može biti direktna (b>0) i reverzna (b Primjer 1. Rezultati mjerenja vrijednosti X i Y dati su u tabeli:

x i -2 0 1 2 4
y i 0.5 1 1.5 2 3

Uz pretpostavku da postoji linearna veza između X i Y y=a+bx, odredite koeficijente a i b koristeći metodu najmanjih kvadrata.

Rješenje. Ovdje je n=5
x i =-2+0+1+2+4=5;
x i 2 =4+0+1+4+16=25
x i y i =-2 0,5+0 1+1 1,5+2 2+4 3=16,5
y i =0,5+1+1,5+2+3=8

a normalni sistem (2) ima oblik

Rješavajući ovaj sistem dobijamo: b=0,425, a=1,175. Prema tome y=1,175+0,425x.

Primjer 2. Postoji uzorak od 10 opservacija ekonomskih indikatora (X) i (Y).

x i 180 172 173 169 175 170 179 170 167 174
y i 186 180 176 171 182 166 182 172 169 177

Morate pronaći uzorak regresijske jednačine Y na X. Konstruirajte uzorak regresijske linije Y na X.

Rješenje. 1. Razvrstajmo podatke prema vrijednostima x i i y i. Dobijamo novi sto:

x i 167 169 170 170 172 173 174 175 179 180
y i 169 171 166 172 180 176 177 182 182 186

Da bismo pojednostavili proračune, sačinit ćemo proračunsku tablicu u koju ćemo unijeti potrebne numeričke vrijednosti.

x i y i x i 2 x i y i
167 169 27889 28223
169 171 28561 28899
170 166 28900 28220
170 172 28900 29240
172 180 29584 30960
173 176 29929 30448
174 177 30276 30798
175 182 30625 31850
179 182 32041 32578
180 186 32400 33480
∑x i =1729 ∑y i =1761 ∑x i 2 299105 ∑x i y i =304696
x=172,9 y=176,1 x i 2 =29910,5 xy=30469.6

Prema formuli (4) izračunavamo koeficijent regresije

i prema formuli (5)

Dakle, jednačina regresije uzorka je y=-59,34+1,3804x.
Nacrtajmo tačke (x i ; y i) na koordinatnoj ravni i označimo liniju regresije.


Slika 4

Slika 4 pokazuje kako se posmatrane vrednosti nalaze u odnosu na liniju regresije. Za numeričku procjenu odstupanja y i od Y i, gdje se y i promatra, a Y i su vrijednosti određene regresijom, kreiramo tablicu:

x i y i Y i Y i -y i
167 169 168.055 -0.945
169 171 170.778 -0.222
170 166 172.140 6.140
170 172 172.140 0.140
172 180 174.863 -5.137
173 176 176.225 0.225
174 177 177.587 0.587
175 182 178.949 -3.051
179 182 184.395 2.395
180 186 185.757 -0.243

Yi vrijednosti se izračunavaju prema jednadžbi regresije.

Primjetno odstupanje nekih uočenih vrijednosti od linije regresije objašnjava se malim brojem zapažanja. Prilikom proučavanja stepena linearne zavisnosti Y od X, uzima se u obzir broj posmatranja. Jačina zavisnosti je određena vrijednošću koeficijenta korelacije.

Aproksimacija eksperimentalnih podataka je metoda koja se temelji na zamjeni eksperimentalno dobivenih podataka analitičkom funkcijom koja najbliže prolazi ili se podudara u čvornim točkama s izvornim vrijednostima (podaci dobiveni tijekom eksperimenta ili eksperimenta). Trenutno postoje dva načina za definiranje analitičke funkcije:

Konstruisanjem interpolacionog polinoma n stepena koji prolazi direktno kroz sve tačke dati niz podataka. U ovom slučaju, aproksimirajuća funkcija je predstavljena u obliku: interpolacijskog polinoma u Lagrangeovom obliku ili interpolacijskog polinoma u Newtonovom obliku.

Konstruiranjem n-stepenog aproksimiranog polinoma koji prolazi u neposrednoj blizini tačaka iz datog niza podataka. Dakle, aproksimirajuća funkcija izglađuje sav slučajni šum (ili greške) koji se može pojaviti tijekom eksperimenta: izmjerene vrijednosti tijekom eksperimenta zavise od slučajnih faktora koji fluktuiraju prema vlastitim slučajnim zakonima (greške mjerenja ili instrumenta, nepreciznost ili eksperimentalni greške). U ovom slučaju, aproksimirajuća funkcija se određuje metodom najmanjih kvadrata.

Metoda najmanjeg kvadrata(u engleskoj literaturi Ordinary Least Squares, OLS) je matematička metoda zasnovana na određivanju aproksimativne funkcije koja se konstruiše u najbližoj blizini tačaka iz datog niza eksperimentalnih podataka. Bliskost izvorne i aproksimirajuće funkcije F(x) određena je numeričkom mjerom, odnosno: zbir kvadrata odstupanja eksperimentalnih podataka od aproksimirajuće krive F(x) treba da bude najmanji.

Aproksimirajuća kriva konstruirana metodom najmanjih kvadrata

Koristi se metoda najmanjih kvadrata:

Za rješavanje preodređenih sistema jednačina kada broj jednačina premašuje broj nepoznatih;

Naći rješenje u slučaju običnih (ne preodređenih) nelinearnih sistema jednačina;

Za aproksimaciju vrijednosti tačaka nekom aproksimirajućom funkcijom.

Aproksimirajuća funkcija metodom najmanjih kvadrata određena je iz uvjeta minimalnog zbira kvadrata odstupanja izračunate aproksimativne funkcije iz datog niza eksperimentalnih podataka. Ovaj kriterij metode najmanjih kvadrata zapisuje se kao sljedeći izraz:

Vrijednosti izračunate aproksimirajuće funkcije u čvornim točkama,

Dati niz eksperimentalnih podataka na čvornim tačkama.

Kvadratni kriterij ima niz “dobrih” svojstava, kao što je diferencijabilnost, pružajući jedinstveno rješenje problema aproksimacije sa polinomskim aproksimirajućim funkcijama.

U zavisnosti od uslova problema, aproksimirajuća funkcija je polinom stepena m

Stepen aproksimirajuće funkcije ne zavisi od broja čvornih tačaka, ali njena dimenzija uvek mora biti manja od dimenzije (broja tačaka) datog eksperimentalnog niza podataka.

∙ Ako je stepen aproksimirajuće funkcije m=1, tada tabelarnu funkciju aproksimiramo ravnom linijom (linearna regresija).

∙ Ako je stepen aproksimirajuće funkcije m=2, tada tabelu funkciju aproksimiramo kvadratnom parabolom (kvadratna aproksimacija).

∙ Ako je stepen aproksimirajuće funkcije m=3, tada tabelu funkciju aproksimiramo kubnom parabolom (kubična aproksimacija).

U opštem slučaju, kada je potrebno konstruisati aproksimativni polinom stepena m za date vrednosti tabele, uslov za minimum zbira kvadrata odstupanja po svim čvornim tačkama se prepisuje u sledećem obliku:

- nepoznati koeficijenti aproksimirajućeg polinoma stepena m;

Broj navedenih vrijednosti u tabeli.

Neophodan uslov za postojanje minimuma funkcije je jednakost sa nulom njenih parcijalnih izvoda u odnosu na nepoznate varijable . Kao rezultat dobijamo sledeći sistem jednačina:

Hajde da transformišemo rezultirajući linearni sistem jednačina: otvorimo zagrade i pomerimo slobodne članove na desnu stranu izraza. Kao rezultat, rezultujući sistem linearnih algebarskih izraza biće napisan u sledećem obliku:

Ovaj sistem linearnih algebarskih izraza može se prepisati u matričnom obliku:

Kao rezultat, dobijen je sistem linearnih jednadžbi dimenzije m+1, koji se sastoji od m+1 nepoznatih. Ovaj sistem se može riješiti bilo kojom metodom za rješavanje linearnih algebarskih jednadžbi (na primjer, Gausovom metodom). Kao rezultat rješenja naći će se nepoznati parametri aproksimirajuće funkcije koji daju minimalni zbir kvadrata odstupanja aproksimirajuće funkcije od izvornih podataka, tj. najbolja moguća kvadratna aproksimacija. Treba imati na umu da ako se promijeni čak i jedna vrijednost izvornih podataka, svi koeficijenti će promijeniti svoje vrijednosti, jer su u potpunosti određeni izvornim podacima.

Aproksimacija izvornih podataka linearnom zavisnošću

(linearna regresija)

Kao primjer, razmotrimo tehniku ​​za određivanje aproksimirajuće funkcije, koja je specificirana u obliku linearne zavisnosti. U skladu sa metodom najmanjih kvadrata, uslov za minimum zbira kvadrata odstupanja zapisuje se u sledećem obliku:

Koordinate čvorova tablice;

Nepoznati koeficijenti aproksimirajuće funkcije, koja je specificirana kao linearna ovisnost.

Neophodan uslov za postojanje minimuma funkcije je jednakost nuli njenih parcijalnih izvoda u odnosu na nepoznate varijable. Kao rezultat dobijamo sledeći sistem jednačina:

Hajde da transformišemo rezultujući linearni sistem jednačina.

Rešavamo rezultujući sistem linearnih jednačina. Koeficijenti aproksimirajuće funkcije u analitičkom obliku određuju se na sljedeći način (Cramerova metoda):

Ovi koeficijenti osiguravaju konstrukciju linearne aproksimirajuće funkcije u skladu s kriterijem minimiziranja sume kvadrata aproksimirajuće funkcije iz zadanih tabličnih vrijednosti (eksperimentalnih podataka).

Algoritam za implementaciju metode najmanjih kvadrata

1. Početni podaci:

Naveden je niz eksperimentalnih podataka sa brojem mjerenja N

Specificira se stepen aproksimirajućeg polinoma (m).

2. Algoritam proračuna:

2.1. Koeficijenti se određuju za konstruisanje sistema jednačina sa dimenzijama

Koeficijenti sistema jednadžbi (lijeva strana jednadžbe)

- indeks broja kolone kvadratne matrice sistema jednačina

Slobodni članovi sistema linearnih jednačina (desna strana jednačine)

- indeks broja reda kvadratne matrice sistema jednačina

2.2. Formiranje sistema linearnih jednadžbi sa dimenzijom .

2.3. Rješavanje sistema linearnih jednadžbi za određivanje nepoznatih koeficijenata aproksimirajućeg polinoma stepena m.

2.4. Određivanje sume kvadrata odstupanja aproksimirajućeg polinoma od originalnih vrijednosti u svim čvornim točkama

Pronađena vrijednost zbira kvadrata odstupanja je najmanja moguća.

Aproksimacija pomoću drugih funkcija

Treba napomenuti da se prilikom aproksimacije izvornih podataka u skladu s metodom najmanjih kvadrata, ponekad kao aproksimirajuća funkcija koriste logaritamska funkcija, eksponencijalna funkcija i funkcija stepena.

Logaritamska aproksimacija

Razmotrimo slučaj kada je aproksimirajuća funkcija data logaritamskom funkcijom oblika:

3. Aproksimacija funkcija korištenjem metode

najmanjih kvadrata

Metoda najmanjih kvadrata se koristi prilikom obrade eksperimentalnih rezultata za aproksimacije (približne vrijednosti) eksperimentalni podaci analitička formula. Određena vrsta formule bira se, po pravilu, iz fizičkih razloga. Takve formule mogu biti:

i drugi.

Suština metode najmanjih kvadrata je sljedeća. Neka rezultati mjerenja budu prikazani u tabeli:

Table 4

x n

y n

(3.1)

gdje je f - poznata funkcija, a 0 , a 1 , …, a m - nepoznati konstantni parametri čije vrijednosti se moraju pronaći. U metodi najmanjih kvadrata, aproksimacija funkcije (3.1) eksperimentalnoj zavisnosti smatra se najboljom ako je uvjet zadovoljen

(3.2)

to je iznosi a kvadratna odstupanja željene analitičke funkcije od eksperimentalne zavisnosti trebaju biti minimalna .

Imajte na umu da je funkcija Q pozvao rezidualni.


Od neslaganja

onda ima minimum. Neophodan uslov za minimum funkcije od nekoliko varijabli je jednakost nuli svih parcijalnih izvoda ove funkcije s obzirom na parametre. Dakle, pronalaženje najboljih vrijednosti parametara aproksimirajuće funkcije (3.1), odnosno njihovih vrijednosti na kojima Q = Q (a 0, a 1, …, a m ) je minimalan, svodi se na rješavanje sistema jednačina:

(3.3)

Metodi najmanjih kvadrata može se dati sljedeća geometrijska interpretacija: među beskonačnom familijom linija datog tipa nalazi se jedna prava za koju je zbir kvadrata razlika ordinata eksperimentalnih tačaka i odgovarajućih ordinata pronađenih tačaka po jednačini ove linije bit će najmanji.

Pronalaženje parametara linearne funkcije

Neka eksperimentalni podaci budu predstavljeni linearnom funkcijom:

Potrebno je odabrati sljedeće vrijednosti a i b , za koji je funkcija

(3.4)

biće minimalan. Neophodni uslovi za minimum funkcije (3.4) svode se na sistem jednačina:

Nakon transformacija dobijamo sistem od dve linearne jednadžbe sa dve nepoznate:

(3.5)

rješavajući koje, nalazimo tražene vrijednosti parametara a i b.

Pronalaženje parametara kvadratne funkcije

Ako je aproksimirajuća funkcija kvadratna ovisnost

zatim njeni parametri a, b, c pronađeno iz minimalnog uslova funkcije:

(3.6)

Uslovi za minimum funkcije (3.6) svode se na sistem jednačina:


Nakon transformacija dobijamo sistem od tri linearne jednadžbe sa tri nepoznate:

(3.7)

at čije rješenje nalazimo tražene vrijednosti parametara a, b i c.

Primjer . Neka eksperiment rezultira sljedećom tablicom vrijednosti x i y:

Table 5

y i

0,705

0,495

0,426

0,357

0,368

0,406

0,549

0,768

Potrebno je aproksimirati eksperimentalne podatke linearnim i kvadratnim funkcijama.

Rješenje. Pronalaženje parametara aproksimirajućih funkcija svodi se na rješavanje sistema linearnih jednadžbi (3.5) i (3.7). Da bismo riješili problem, koristit ćemo procesor za proračunske tablice Excel.

1. Prvo, spojimo listove 1 i 2. Unesite eksperimentalne vrijednosti x i i y i u kolone A i B, počevši od drugog reda (smestićemo naslove kolona u prvi red). Zatim izračunavamo zbrojeve za ove kolone i stavljamo ih u deseti red.

U kolonama C–G postavite proračun i zbrajanje respektivno

2. Odvojimo listove. Na sličan način ćemo izvršiti daljnje proračune za linearnu zavisnost od lista 1 i za kvadratnu zavisnost od lista 2.

3. Ispod rezultirajuće tabele formiraćemo matricu koeficijenata i vektor kolone slobodnih termina. Rešimo sistem linearnih jednačina koristeći sledeći algoritam:

Za izračunavanje inverzne matrice i množenja matrica koristimo se Gospodaru funkcije i funkcije MOBR I MUMNIFE.

4. U bloku ćelija H2: H 9 na osnovu dobijenih koeficijenata izračunavamo približnu vrijednost polinomy i calc., u bloku I 2: I 9 – odstupanja D y i = y i exp. - y i calc.,u koloni J – ostatak:

Rezultirajuće tablice i one napravljene pomoću Chart Wizards grafikoni su prikazani na slikama 6, 7, 8.


Rice. 6. Tabela za izračunavanje koeficijenata linearne funkcije,

aproksimativno eksperimentalni podaci.


Rice. 7. Tabela za izračunavanje koeficijenata kvadratne funkcije,

aproksimativnoeksperimentalni podaci.


Rice. 8. Grafički prikaz rezultata aproksimacije

eksperimentalne podatke po linearnim i kvadratnim funkcijama.

Odgovori. Eksperimentalni podaci aproksimirani su linearnom ovisnošću y = 0,07881 x + 0,442262 sa ostatkom Q = 0,165167 i kvadratna zavisnost y = 3,115476 x 2 – 5,2175 x + 2,529631 sa ostatkom Q = 0,002103 .

Zadaci. Aproksimirati funkciju zadanu tablicom, linearne i kvadratne funkcije.

Tabela 6

№0

x

0,1

0,2

0,3

0,4

0,5

0,6

0,7

0,8

y

3,030

3,142

3,358

3,463

3,772

3,251

3,170

3,665

1

3,314

3,278

3,262

3,292

3,332

3,397

3,487

3,563

2

1,045

1,162

1,264

1,172

1,070

0,898

0,656

0,344

3

6,715

6,735

6,750

6,741

6,645

6,639

6,647

6,612

4

2,325

2,515

2,638

2,700

2,696

2,626

2,491

2,291

5

1.752

1,762

1,777

1,797

1,821

1,850

1,884

1,944

6

1,924

1,710

1,525

1,370

1,264

1,190

1,148

1,127

7

1,025

1,144

1,336

1,419

1,479

1,530

1,568

1,248

8

5,785

5,685

5,605

5,545

5,505

5,480

5,495

5,510

9

4,052

4,092

4,152

4,234

4,338

4,468

4,599

Metoda najmanjih kvadrata (OLS) omogućava procjenu različitih veličina koristeći rezultate mnogih mjerenja koja sadrže slučajne greške.

Karakteristike MNE

Osnovna ideja ove metode je da se zbir grešaka na kvadrat smatra kriterijem za tačnost rješavanja problema, koji nastoje minimizirati. Pri korištenju ove metode mogu se koristiti i numerički i analitički pristupi.

Konkretno, kao numerička implementacija, metoda najmanjih kvadrata uključuje uzimanje što više mjerenja nepoznate slučajne varijable. Štaviše, što je više proračuna, to će rješenje biti preciznije. Na osnovu ovog skupa proračuna (početnih podataka) dobija se još jedan skup procenjenih rešenja iz kojih se zatim bira najbolje. Ako je skup rješenja parametrizovan, tada će se metoda najmanjih kvadrata svesti na pronalaženje optimalne vrijednosti parametara.

Kao analitički pristup implementaciji LSM-a na skup početnih podataka (mjerenja) i očekivani skup rješenja, određuje se određeno (funkcionalno) koje se može izraziti formulom dobijenom kao određena hipoteza koja zahtijeva potvrdu. U ovom slučaju, metoda najmanjih kvadrata se svodi na pronalaženje minimuma ovog funkcionala na skupu kvadrata grešaka originalnih podataka.

Imajte na umu da to nisu same greške, već kvadrati grešaka. Zašto? Činjenica je da su često odstupanja mjerenja od tačne vrijednosti i pozitivna i negativna. Prilikom određivanja prosjeka, jednostavno zbrajanje može dovesti do pogrešnog zaključka o kvaliteti procjene, jer će poništavanje pozitivnih i negativnih vrijednosti smanjiti snagu uzorkovanja višestrukih mjerenja. I, shodno tome, tačnost procjene.

Da se to ne bi dogodilo, kvadratna odstupanja se zbrajaju. Štaviše, da bi se izjednačila dimenzija izmjerene vrijednosti i konačne procjene, izdvaja se zbir grešaka na kvadrat

Neke MNC aplikacije

MNC se široko koristi u raznim oblastima. Na primjer, u teoriji vjerojatnosti i matematičkoj statistici, metoda se koristi za određivanje takve karakteristike slučajne varijable kao što je standardna devijacija, koja određuje širinu raspona vrijednosti slučajne varijable.