Katseandmete lähendamine. Vähima ruudu meetod

Näide.

Eksperimentaalsed andmed muutujate väärtuste kohta X Ja juures on toodud tabelis.

Nende joondamise tulemusena saadakse funktsioon

Kasutades meetod vähimruudud , ligikaudsed need andmed lineaarne sõltuvus y=kirves+b(leidke parameetrid A Ja b). Uurige, kumb kahest reast paremini (vähimruutude meetodi mõttes) joondab katseandmeid. Tee joonistus.

Vähimruutude meetodi (LSM) olemus.

Ülesandeks on leida lineaarsed sõltuvuskoefitsiendid, mille juures kahe muutuja funktsioon A Ja b võtab vastu väikseim väärtus. See tähendab, et antud A Ja b katseandmete ruuduhälbete summa leitud sirgest on väikseim. See on kogu vähimruutude meetodi mõte.

Seega taandub näite lahendamine kahe muutuja funktsiooni ekstreemumi leidmisele.

Valemite tuletamine koefitsientide leidmiseks.

Koostatakse ja lahendatakse kahest võrrandist koosnev süsteem kahe tundmatuga. Funktsiooni osatuletiste leidmine muutujate suhtes A Ja b, võrdsustame need tuletised nulliga.

Lahendame saadud võrrandisüsteemi mis tahes meetodiga (näiteks asendusmeetodil või ) ja saada valemid koefitsientide leidmiseks vähimruutude meetodil (LSM).

Antud A Ja b funktsiooni võtab väikseima väärtuse. Selle fakti tõestus on esitatud.

See on kogu vähimruutude meetod. Valem parameetri leidmiseks a sisaldab summasid , , , ja parameetrit n- katseandmete hulk. Soovitame nende summade väärtused eraldi välja arvutada. Koefitsient b leitud pärast arvutamist a.

On aeg meenutada algset näidet.

Lahendus.

Meie näites n = 5. Nõutavate koefitsientide valemites sisalduvate summade arvutamise mugavuse huvides täidame tabeli.

Tabeli neljanda rea ​​väärtused saadakse, korrutades iga numbri 2. rea väärtused 3. rea väärtustega i.

Tabeli viienda rea ​​väärtused saadakse iga numbri 2. rea väärtuste ruudustamisel i.

Tabeli viimases veerus olevad väärtused on ridade väärtuste summad.

Koefitsientide leidmiseks kasutame vähimruutude meetodi valemeid A Ja b. Asendame neisse vastavad väärtused tabeli viimasest veerust:

Seega y = 0,165x+2,184- soovitud ligikaudne sirgjoon.

Jääb välja selgitada, milline ridadest y = 0,165x+2,184 või lähendab paremini algandmeid, st teeb hinnangu vähimruutude meetodil.

Vähimruutude meetodi vea hindamine.

Selleks peate arvutama nendest ridadest saadud algandmete ruuduhälbete summa Ja , vastab väiksem väärtus joonele, mis lähendab paremini algandmeid vähimruutude meetodi tähenduses.

Alates , siis otse y = 0,165x+2,184 lähendab paremini algandmeid.

Vähimruutude (LS) meetodi graafiline illustratsioon.

Graafikutelt on kõik selgelt näha. Punane joon on leitud sirgjoon y = 0,165x+2,184, sinine joon on , roosad täpid on algandmed.

Miks seda vaja on, milleks kõik need ligikaudsed hinnangud?

Mina isiklikult kasutan seda andmete silumise, interpoleerimise ja ekstrapoleerimise probleemide lahendamiseks (algses näites võidakse neil paluda leida vaadeldava väärtuse väärtus y juures x=3 või millal x=6 kasutades vähimruutude meetodit). Kuid me räägime sellest hiljem saidi teises jaotises.

Tõestus.

Nii et kui leitakse A Ja b funktsioon võtab väikseima väärtuse, siis on vajalik, et selles punktis funktsiooni teist järku diferentsiaali ruutkuju maatriks oli positiivne kindel. Näitame seda.

100 RUR boonus esimese tellimuse eest

Valige töö tüüp Lõputöö Kursuse töö Abstract Magistritöö Aruanne praktikast Artikkel Aruande ülevaade Test Monograafia Probleemide lahendamise äriplaani vastused küsimustele Loominguline töö Essee Joonistustööd Tõlked Esitlused Tippimine Muu Teksti unikaalsuse suurendamine Magistritöö Laboratoorsed tööd Interneti-abi

Uuri hinda

Vähimruutude meetod on matemaatiline (matemaatilis-statistiline) tehnika, mida kasutatakse aegridade joondamiseks, juhuslike muutujate vahelise korrelatsiooni vormi tuvastamiseks jne. See seisneb selles, et seda nähtust kirjeldav funktsioon on ligikaudne lihtsama funktsiooniga. Veelgi enam, viimane on valitud nii, et funktsiooni tegelike tasemete standardhälve (vt Dispersioon) vaadeldavates punktides joondatud punktidest on väikseim.

Näiteks olemasolevate andmete kohaselt ( xi,yi) (i = 1, 2, ..., n) konstrueeritakse selline kõver y = a + bx, mille juures saavutatakse hälvete ruudu minimaalne summa

st kahest parameetrist sõltuv funktsioon on minimeeritud: a- segment ordinaatteljel ja b- sirgjoone kalle.

Võrrandi andmine vajalikud tingimused funktsioonide minimeerimine S(a,b), kutsutakse normaalvõrrandid. Lähendavate funktsioonidena ei kasutata mitte ainult lineaarset (joondumine piki sirget), vaid ka ruut-, parabool-, eksponentsiaalset jne. Aegrea joondamise näidet piki sirget vt. M.2, kus kauguste ruudu summa ( y 1 – ȳ 1)2 + (y 2 – ȳ 2)2 .... - väikseim ja sellest tulenev sirgjoon parim viis peegeldab mõne näitaja dünaamilise vaatlusseeria suundumust aja jooksul.

Erapooletute OLS-i hinnangute jaoks on see vajalik ja piisav kõige olulisem tingimus regressioonanalüüs: tingimuslik tegurite järgi oodatud väärtus juhuslik viga peaks olema null. Eelkõige on see tingimus täidetud, kui: 1.juhuslike vigade matemaatiline ootus on null ja 2.tegurid ja juhuslikud vead on sõltumatud. juhuslikud muutujad. Konstandiga mudelite puhul võib esimest tingimust lugeda alati täidetuks, kuna konstant võtab vigade suhtes nullist erineva matemaatilise ootuse. Teine tingimus - tegurite eksogeensuse tingimus - on fundamentaalne. Kui see omadus ei ole täidetud, võime eeldada, et peaaegu kõik hinnangud on äärmiselt ebarahuldavad: need pole isegi järjepidevad (st isegi väga suur hulk andmeid ei võimalda meil sel juhul kvaliteetseid hinnanguid saada ).

Kõige tavalisem regressioonivõrrandite parameetrite statistilise hindamise meetod on vähimruutude meetod. See meetod põhineb mitmetel eeldustel andmete olemuse ja mudeli tulemuste kohta. Peamised neist on algsete muutujate selge jaotus sõltuvateks ja sõltumatuteks, võrrandites sisalduvate tegurite korrelatsioonitamatus, seose lineaarsus, jääkide autokorrelatsiooni puudumine, nende matemaatiliste ootuste võrdsus nulliga ja konstant dispersioon.

Üks OLS-i peamisi hüpoteese on hälvete ei dispersioonide võrdsuse eeldus, s.o. nende jaotus rea keskmise (null) väärtuse ümber peaks olema stabiilne väärtus. Seda omadust nimetatakse homoskedastilisuseks. Praktikas on hälvete variatsioonid üsna sageli ebavõrdsed, st täheldatakse heteroskedastilisust. Selle põhjuseks võivad olla erinevad põhjused. Näiteks võib lähteandmetes olla vigu. Aeg-ajalt esinevad ebatäpsused lähteteabes, näiteks vead numbrite järjekorras, võivad tulemusi oluliselt mõjutada. Sageli täheldatakse sõltuva muutuja (muutujate) suurte väärtuste korral kõrvalekallete єi suuremat levikut. Kui andmed sisaldavad olulist viga, siis loomulikult on ka ekslike andmete põhjal arvutatud mudeli väärtuse hälve suur. Sellest veast vabanemiseks peame vähendama nende andmete panust arvutustulemustesse, omistades neile vähem kaalu kui kõigile teistele. Seda ideed rakendatakse kaalutud OLS-is.

Vähima ruudu meetod

Teema viimases tunnis tutvume kuulsaima rakendusega FNP, mis leiab kõige laiemat rakendust erinevates teadusvaldkondades ja praktiline tegevus. See võib olla füüsika, keemia, bioloogia, majandus, sotsioloogia, psühholoogia jne ja nii edasi. Saatuse tahtel pean sageli tegelema majandusega ja seetõttu annan teile täna välja pileti hämmastav riikõigustatud Ökonomeetria=) ...Kuidas sa ei taha seda?! Seal on väga hea – pead lihtsalt otsustama! ...Aga mida sa ilmselt kindlasti tahad, on õppida probleeme lahendama vähimruutude meetod. Ja eriti usinad lugejad õpivad neid lahendama mitte ainult täpselt, vaid ka VÄGA KIIRESTI ;-) Aga enne probleemi üldine avaldus+ lisatud näide:

Uurime teatud ainevaldkonna näitajaid, millel on kvantitatiivne väljend. Samas on põhjust arvata, et näitaja sõltub indikaatorist. See oletus võiks olla selline teaduslik hüpotees ja põhinema elementaarsel tervel mõistusel. Jätame teaduse aga kõrvale ja uurime isuäratavamaid valdkondi – nimelt toidupoode. Tähistame järgmisega:

– toidupoe kaubanduspind, ruutmeetrit,
– toidupoe aastakäive, miljonit rubla.

On täiesti selge, et mida suurem on kaupluse pind, seda suurem on enamikul juhtudel selle käive.

Oletame, et pärast vaatluste/katsete/arvutuste/tantsude läbiviimist tamburiiniga on meie käsutuses numbrilised andmed:

Toidupoodidega on minu arvates kõik selge: - see on 1. poe pindala, - selle aastakäive, - 2. kaupluse pind, - selle aastakäive jne. Muide, salastatud materjalidele ligipääs pole üldse vajalik – üsna täpse hinnangu kaubakäibe kohta saab matemaatiline statistika. Kuid ärgem laske end segada, kommertsspionaaži kursus on juba tasuline =)

Tabeliandmeid saab kirjutada ka punktide kujul ja kujutada tuttaval kujul Descartes'i süsteem .

Meie vastame oluline küsimus: Kui palju punkte on vaja kvalitatiivse uuringu jaoks?

Mida suurem, seda parem. Minimaalne vastuvõetav komplekt koosneb 5-6 punktist. Lisaks, kui andmete hulk on väike, ei saa valimisse kaasata anomaalseid tulemusi. Näiteks võib väike eliitpood teenida suurusjärgus rohkem kui „tema kolleegid”, mis moonutab üldine muster, mida peate leidma!

Väga lihtsalt öeldes peame valima funktsiooni, ajakava mis läbib punktidele võimalikult lähedalt . Seda funktsiooni nimetatakse ligikaudne (ligikaudne – ligikaudne) või teoreetiline funktsioon . Üldiselt ilmub siin kohe ilmne “pretendent” - kõrge astme polünoom, mille graafik läbib KÕIKI punkte. Kuid see valik on keeruline ja sageli lihtsalt vale. (kuna graafik teeb kogu aeg tsüklit ja kajastab halvasti peamist trendi).

Seega peab otsitav funktsioon olema üsna lihtne ja samas adekvaatselt peegeldama sõltuvust. Nagu võite arvata, nimetatakse ühte selliste funktsioonide leidmise meetoditest vähimruutude meetod. Kõigepealt vaatame selle olemust üldine vaade. Olgu mõni funktsioon katseandmete ligikaudne:


Kuidas hinnata selle lähenduse täpsust? Arvutagem välja ka eksperimentaalsete ja funktsionaalsete väärtuste erinevused (hälbed). (uurime joonist). Esimene mõte, mis pähe tuleb, on hinnata summa suurust, kuid probleem on selles, et erinevused võivad olla negatiivsed (Näiteks, ) ja sellisest summeerimisest tulenevad kõrvalekalded tühistavad üksteist. Seetõttu tuleb lähenduse täpsuse hinnanguna võtta summa moodulid kõrvalekalded:

või kokku kukkunud: (juhul kui keegi ei tea: on summa ikoon ja - lisamuutuja "loendur", mis võtab väärtused vahemikus 1 kuni ) .

Katsepunktide lähendamine erinevaid funktsioone, saame kätte erinevaid tähendusi, ja kui see summa on väiksem, on see funktsioon ilmselt täpsem.

Selline meetod on olemas ja seda nimetatakse vähima mooduli meetod. Praktikas on see aga palju laiemalt levinud vähima ruudu meetod, milles võimalikud negatiivsed väärtused ei välista mitte moodul, vaid kõrvalekaldeid ruudustades:

, mille järel püütakse valida funktsioon selliselt, et hälvete ruudu summa oli võimalikult väike. Tegelikult on meetodi nimi pärit siit.

Ja nüüd läheme tagasi millegi muu juurde oluline punkt: nagu eespool märgitud, peaks valitud funktsioon olema üsna lihtne, kuid selliseid funktsioone on ka palju: lineaarne , hüperboolne , eksponentsiaalne , logaritmiline , ruutkeskne jne. Ja loomulikult tahaksin siin kohe "tegevusvaldkonda vähendada". Millise funktsioonide klassi peaksin uurimiseks valima? Primitiivne, kuid tõhus tehnika:

– Lihtsaim viis on punktide kujutamine joonisel ja analüüsida nende asukohta. Kui need kipuvad jooksma sirgjooneliselt, siis tuleks otsida sirge võrrand optimaalsete väärtustega ja . Ehk siis ülesanne on leida SELLISED koefitsiendid, et hälvete ruutsumma oleks kõige väiksem.

Kui punktid asuvad näiteks mööda hüperbool, siis on ilmselgelt selge, et lineaarfunktsioon annab halva lähenduse. Sel juhul otsime hüperboolvõrrandi jaoks kõige soodsamaid koefitsiente – need, mis annavad minimaalse ruutude summa .

Nüüd pange tähele, et mõlemal juhul räägime kahe muutuja funktsioonid, kelle argumendid on otsitud sõltuvusparameetrid:

Ja sisuliselt peame lahendama standardprobleemi – leidma kahe muutuja miinimumfunktsioon.

Meenutagem meie näidet: oletame, et kaupluse punktid kipuvad asuma sirgjooneliselt ja on põhjust arvata, et lineaarne sõltuvus kaubavahetuse käive alates kaubanduspind. Leiame SELLISED koefitsiendid “a” ja “olla” sellised, et hälvete ruudu summa oli väikseim. Kõik on nagu tavaliselt – esiteks I järgu osatuletised. Vastavalt lineaarsuse reegel Saate eristada otse summaikooni all:

Kui soovite kasutada see informatsioon essee või kursusetöö jaoks - olen väga tänulik allikate loendis oleva lingi eest; selliseid üksikasjalikke arvutusi leiate vähestest kohtadest:

Loome standardse süsteemi:

Vähendame iga võrrandit "kahe" võrra ja lisaks "jagame" summad:

Märge : analüüsige iseseisvalt, miks "a" ja "be" saab summaikooni tagant välja võtta. Muide, formaalselt saab seda teha summaga

Kirjutame süsteemi ümber "rakendatud" kujul:

mille järel hakkab ilmnema meie probleemi lahendamise algoritm:

Kas me teame punktide koordinaate? Me teame. Summad kas leiame selle? Kergesti. Teeme kõige lihtsama süsteem kahest lineaarvõrrandid kahe tundmatuga("a" ja "olla"). Lahendame süsteemi nt Crameri meetod, mille tulemusena saame statsionaarse punkti. Kontrollimine ekstreemumi jaoks piisav tingimus, saame kontrollida, et siinkohal on funktsioon ulatub täpselt miinimum. Kontrollimine hõlmab lisaarvutusi ja seetõttu jätame selle kulisside taha (vajadusel saab puuduvat kaadrit vaadataSiin ) . Teeme lõpliku järelduse:

Funktsioon parim viis (vähemalt kõigi teistega võrreldes lineaarne funktsioon) toob katsepunktid lähemale . Jämedalt öeldes läbib selle graafik nendele punktidele võimalikult lähedalt. Traditsiooni järgi ökonomeetria nimetatakse ka saadud lähendusfunktsiooni paaris lineaarse regressiooni võrrand .

Vaadeldav probleem on väga praktilise tähtsusega. Meie näitesituatsioonis on Eq. võimaldab ennustada, millist kaubakäivet ("Igrek") kauplusel on üks või teine ​​müügipinna väärtus (x üks või teine ​​tähendus). Jah, saadud prognoos on ainult prognoos, kuid paljudel juhtudel osutub see üsna täpseks.

Analüüsin ainult ühte probleemi "päris" numbritega, kuna selles pole raskusi - kõik arvutused on tasemel kooli õppekava 7-8 klassi. 95 protsendil juhtudest palutakse teil leida lihtsalt lineaarfunktsioon, kuid artikli lõpus näitan, et optimaalse hüperbooli, eksponentsiaalfunktsiooni ja mõne muu funktsiooni võrrandite leidmine pole enam keeruline.

Tegelikult jääb üle vaid lubatud maiuspalad laiali jagada – et õpiksid selliseid näiteid mitte ainult täpselt, vaid ka kiiresti lahendama. Uurime hoolikalt standardit:

Ülesanne

Kahe näitaja vahelise seose uurimise tulemusena saadi järgmised numbripaarid:

Vähimruutude meetodil leidke lineaarfunktsioon, mis kõige paremini lähendab empiirilist väärtust (kogenud) andmeid. Koostage joonis, millele konstrueerida katsepunktid, ja lähendava funktsiooni graafik ristkülikukujulises koordinaatsüsteemis . Leidke empiiriliste ja teoreetiliste väärtuste vaheliste hälvete ruudu summa. Uurige, kas see funktsioon oleks parem (vähimruutude meetodi seisukohast) tuua katsepunktid lähemale.

Pange tähele, et “x” tähendused on loomulikud ja sellel on iseloomulik tähenduslik tähendus, millest räägin veidi hiljem; kuid need võivad muidugi olla ka murdosalised. Lisaks võivad olenevalt konkreetse ülesande sisust nii "X" kui ka "mäng" väärtused olla täielikult või osaliselt negatiivsed. Noh, meile on antud "näotu" ülesanne ja me alustame sellega lahendus:

Süsteemi lahendusena leiame optimaalse funktsiooni koefitsiendid:

Kompaktsema salvestamise eesmärgil võib muutuja “loendur” ära jätta, kuna on juba selge, et summeerimine toimub vahemikus 1 kuni .

Vajalikud summad on mugavam arvutada tabeli kujul:


Arvutamist saab teha mikrokalkulaatoriga, kuid palju parem on kasutada Excelit - nii kiiremini kui ka vigadeta; vaata lühikest videot:

Seega saame järgmise süsteem:

Siin saate korrutada teise võrrandi 3-ga ja lahutage 1. võrrandist liige liikme haaval 2.. Kuid see on õnn - praktikas pole süsteemid sageli kingitus ja sellistel juhtudel säästab see Crameri meetod:
, mis tähendab, et süsteemil on ainulaadne lahendus.

Kontrollime. Ma saan aru, et te ei taha, aga miks jätta vahele vead, kus neid kindlasti ei saa? Asendame leitud lahenduse vasak pool süsteemi iga võrrand:

Saadakse vastavate võrrandite parempoolsed küljed, mis tähendab, et süsteem on õigesti lahendatud.

Seega soovitud ligikaudne funktsioon: – alates kõik lineaarsed funktsioonid Tema on see, kes kõige paremini läheneb eksperimentaalsetele andmetele.

Erinevalt sirge kaupluse käibe sõltuvus oma pindalast, leitud sõltuvus on tagurpidi (põhimõte "mida rohkem, seda vähem"), ja selle fakti paljastab kohe negatiivne kalle. Funktsioon ütleb meile, et kui teatud näitaja suureneb 1 ühiku võrra, siis sõltuva näitaja väärtus väheneb keskmine 0,65 ühiku võrra. Nagu öeldakse, mida kõrgem on tatra hind, seda vähem seda müüakse.

Lähendava funktsiooni graafiku joonistamiseks leiame selle kaks väärtust:

ja teostage joonis:

Ehitatud sirget nimetatakse trendijoon (nimelt lineaarne trendijoon, st üldiselt ei pruugi trend olla sirgjoon). Kõik on tuttavad väljendiga "trendis olema" ja ma arvan, et see termin ei vaja täiendavaid kommentaare.

Arvutame kõrvalekallete ruudu summa empiiriliste ja teoreetiliste väärtuste vahel. Geomeetriliselt on see vaarika segmentide pikkuste ruutude summa (neist kaks on nii väikesed, et pole isegi näha).

Võtame arvutused kokku tabelis:


Jällegi saab neid käsitsi teha; igaks juhuks toon näite 1. punkti kohta:

kuid palju tõhusam on seda juba teha tuntud viisil:

Kordame veel kord: Mis on saadud tulemuse tähendus? Alates kõik lineaarsed funktsioonid y funktsioon indikaator on väikseim, st oma perekonnas on see parim ligikaudne väärtus. Ja siin, muide, pole probleemi viimane küsimus juhuslik: mis siis, kui pakutud eksponentsiaalne funktsioon kas oleks parem katsepunktid lähemale tuua?

Leiame vastava hälbete ruudu summa - eristamiseks tähistan need tähega “epsilon”. Tehnika on täpselt sama:


Ja jälle igaks juhuks arvutused 1. punkti kohta:

Excelis kasutame standardfunktsiooni EXP (süntaksi leiate Exceli spikrist).

Järeldus: , mis tähendab, et eksponentsiaalfunktsioon lähendab katsepunkte halvemini kui sirgjoon .

Kuid siin tuleb märkida, et "hullem" on ei tähenda veel, Mis on valesti. Nüüd olen koostanud selle graafiku eksponentsiaalne funktsioon– ja läheb ka punktide lähedalt mööda - nii palju, et ilma analüütiliste uuringuteta on raske öelda, milline funktsioon on täpsem.

See lõpetab lahenduse ja ma pöördun tagasi argumendi loodusväärtuste küsimuse juurde. IN erinevaid uuringuid reeglina kasutatakse kuude, aastate või muude võrdsete ajavahemike nummerdamiseks majanduslikke või sotsioloogilisi loomulikke "X-e". Mõelge näiteks järgmisele probleemile:

Kaupluse I poolaasta jaemüügikäibe kohta on saadaval järgmised andmed:

Määrake juulikuu käibe maht analüütilise sirgjoonduse abil.

Jah, pole probleemi: nummerdame kuud 1, 2, 3, 4, 5, 6 ja kasutame tavalist algoritmi, mille tulemusena saame võrrandi - ainuke asi on see, et kui rääkida ajast, siis tavaliselt kasutatakse täht "te" (kuigi see pole kriitiline). Saadud võrrand näitab, et esimesel poolaastal kasvas kaubavahetuskäive keskmiselt 27,74 ühikut. kuus. Vaatame juulikuu prognoosi (kuu nr 7): d.e.

Ja selliseid ülesandeid on lugematu arv. Soovijatel on võimalik kasutada lisateenust, nimelt minu Exceli kalkulaator (demoversioon), mis lahendab analüüsitud probleemi peaaegu koheselt! Programmi tööversioon on saadaval vastutasuks või eest sümboolne tasu.

Tunni lõpus lühike teave o mõnda muud tüüpi sõltuvuste leidmine. Tegelikult polegi palju öelda, kuna põhiline lähenemine ja lahendusalgoritm jäävad samaks.

Oletame, et katsepunktide paigutus meenutab hüperbooli. Seejärel peate parima hüperbooli koefitsientide leidmiseks leidma funktsiooni miinimumi - igaüks saab teha üksikasjalikke arvutusi ja jõuda sarnase süsteemini:

Formaalsest tehnilisest vaatenurgast saadakse see "lineaarsest" süsteemist (tähistagem seda tärniga) asendades "x" -ga. Aga kuidas on summadega? arvutada, mille järel optimaalsete koefitsientideni “a” ja “olla” käeulatuses.

Kui on põhjust arvata, et punktid paiknevad piki logaritmilist kõverat, siis optimaalsete väärtuste leidmiseks leiame funktsiooni miinimumi . Formaalselt tuleb süsteemis (*) asendada järgmisega:

Excelis arvutuste tegemisel kasutage funktsiooni LN. Tunnistan, et mul poleks iga vaadeldava juhtumi jaoks kalkulaatorite koostamine eriti keeruline, kuid siiski oleks parem, kui arvutused ise “programmeeriksid”. Abiks õppetundide videod.

Eksponentsiaalse sõltuvusega on olukord veidi keerulisem. Asja taandamiseks lineaarseks käändeks võtame funktsiooni logaritmi ja kasutame logaritmi omadused:

Nüüd, võrreldes saadud funktsiooni lineaarfunktsiooniga, jõuame järeldusele, et süsteemis (*) tuleb asendada , ja – -ga. Mugavuse huvides märgime:

Pange tähele, et süsteem on lahendatud suhtes ja seetõttu ei tohi pärast juurte leidmist unustada koefitsiendi enda leidmist.

Et katsepunktid lähemale tuua optimaalne parabool , tuleks leida kolme muutuja miinimumfunktsioon . Pärast standardtoimingute tegemist saame järgmise "töötava" süsteem:

Jah, siin on muidugi rohkem summasid, kuid lemmikrakenduse kasutamisel pole raskusi üldse. Ja lõpuks ütlen teile, kuidas Exceli abil kiiresti kontrollida ja soovitud trendijoont luua: looge hajuvusdiagramm, valige hiirega mis tahes punkt ja paremklõpsake valige suvand "Lisa trendijoon". Järgmisena valige diagrammi tüüp ja vahekaardil "Valikud" aktiveerige valik "Näita võrrandit diagrammil". Okei

Nagu alati, tahaksin artikli lõpetada mõnega ilusas lauses ja ma peaaegu kirjutasin "Ole trendikas!" Kuid ta muutis õigel ajal meelt. Ja mitte sellepärast, et see oleks stereotüüpne. Ma ei tea, kuidas see kellelgi on, aga ma ei taha väga järgida propageeritud Ameerika ja eriti Euroopa trendi =) Seetõttu soovin, et te igaüks jääksite oma joone juurde!

http://www.grandars.ru/student/vysshaya-matematika/metod-naimenshih-kvadratov.html

Vähimruutude meetod on selle tõttu üks levinumaid ja enim arenenud lineaarsete ökonomeetriliste mudelite parameetrite hindamise meetodite lihtsus ja tõhusus. Samal ajal tuleks selle kasutamisel olla ettevaatlik, kuna selle abil konstrueeritud mudelid ei pruugi rahuldada mitmeid oma parameetrite kvaliteedinõudeid ja seetõttu ei kajasta need protsesside arendamise mustreid "hästi". piisav.

Vaatleme üksikasjalikumalt lineaarse ökonomeetrilise mudeli parameetrite hindamise protseduuri vähimruutude meetodil. Sellist mudelit saab üldiselt esitada võrrandiga (1.2):

y t = a 0 + a 1 x 1t +...+ a n x nt + ε t.

Algandmed parameetrite a 0, a 1,..., a n hindamisel on sõltuva muutuja väärtuste vektor y= (y 1 , y 2 , ... , y T)" ja sõltumatute muutujate väärtuste maatriks

milles esimene veerg, mis koosneb ühtedest, vastab mudeli koefitsiendile.

Vähimruutude meetod sai oma nime põhimõttel, et selle alusel saadud parameetrite hinnangud peavad vastama: mudeli vea ruutude summa peaks olema minimaalne.

Näited ülesannete lahendamisest vähimruutude meetodil

Näide 2.1. Kaubandusettevõttel on 12 kauplusest koosnev võrgustik, mille tegevuse kohta on teavet tabelis. 2.1.

Ettevõtte juhtkond soovib teada, kuidas sõltub aastakäibe suurus kaupluse kaubanduspinnast.

Tabel 2.1

Kaupluse number	Aastakäive, miljon rubla.	Kaubanduspind, tuh m2
	19,76	0,24
	38,09	0,31
	40,95	0,55
	41,08	0,48
	56,29	0,78
	68,51	0,98
	75,01	0,94
	89,05	1,21
	91,13	1,29
	91,26	1,12
	99,84	1,29
	108,55	1,49

Vähimruutude lahendus. Tähistagem kaupluse aastakäivet, miljonit rubla; - kaupluse kaubanduspind, tuhat m2.

Joonis 2.1. Näite 2.1 hajuvusdiagramm

Muutujate ja muutujate vahelise funktsionaalse seose vormi määramiseks koostame hajusdiagrammi (joonis 2.1).

Hajumisdiagrammi põhjal saame järeldada, et aastane käive on kaubanduspinnast positiivselt sõltuv (st y kasvab koos suurenemisega). Kõige sobivam funktsionaalse ühenduse vorm on lineaarne.

Teave edasiste arvutuste jaoks on esitatud tabelis. 2.2. Vähimruutude meetodit kasutades hindame lineaarse ühefaktorilise ökonomeetrilise mudeli parameetreid

Tabel 2.2

t	y t	x 1t	y t 2	x 1t 2	x 1t y t
	19,76	0,24	390,4576	0,0576	4,7424
	38,09	0,31	1450,8481	0,0961	11,8079
	40,95	0,55	1676,9025	0,3025	22,5225
	41,08	0,48	1687,5664	0,2304	19,7184
	56,29	0,78	3168,5641	0,6084	43,9062
	68,51	0,98	4693,6201	0,9604	67,1398
	75,01	0,94	5626,5001	0,8836	70,5094
	89,05	1,21	7929,9025	1,4641	107,7505
	91,13	1,29	8304,6769	1,6641	117,5577
	91,26	1,12	8328,3876	1,2544	102,2112
	99,84	1,29	9968,0256	1,6641	128,7936
	108,55	1,49	11783,1025	2,2201	161,7395
S	819,52	10,68	65008,554	11,4058	858,3991
Keskmine	68,29	0,89

Seega

Seega, kui kaubanduspind suureneb 1 tuhande m2 võrra, kui muud asjaolud jäävad samaks, kasvab keskmine aastakäive 67,8871 miljoni rubla võrra.

Näide 2.2. Ettevõtte juhtkond märkas, et aastakäive ei sõltu ainult kaupluse müügipinnast (vt näide 2.1), vaid ka keskmisest külastajate arvust. Vastav teave on esitatud tabelis. 2.3.

Tabel 2.3

Lahendus. Tähistagem - keskmine kaupluse külastajate arv päevas, tuhat inimest.

Muutujate ja muutujate vahelise funktsionaalse seose vormi määramiseks koostame hajusdiagrammi (joonis 2.2).

Hajumisdiagrammi põhjal võime järeldada, et aastakäive on positiivselt sõltuv keskmisest külastajate arvust päevas (st y kasvab kasvades ). Funktsionaalse sõltuvuse vorm on lineaarne.

Riis. 2.2. Näite 2.2 hajuvusdiagramm

Tabel 2.4

t	x 2t	x 2t 2	y t x 2t	x 1t x 2t
	8,25	68,0625	163,02	1,98
	10,24	104,8575	390,0416	3,1744
	9,31	86,6761	381,2445	5,1205
	11,01	121,2201	452,2908	5,2848
	8,54	72,9316	480,7166	6,6612
	7,51	56,4001	514,5101	7,3598
	12,36	152,7696	927,1236	11,6184
	10,81	116,8561	962,6305	13,0801
	9,89	97,8121	901,2757	12,7581
	13,72	188,2384	1252,0872	15,3664
	12,27	150,5529	1225,0368	15,8283
	13,92	193,7664	1511,016	20,7408
S	127,83	1410,44	9160,9934	118,9728
Keskmine	10,65

Üldjuhul on vaja määrata kahefaktorilise ökonomeetrilise mudeli parameetrid

y t = a 0 + a 1 x 1t + a 2 x 2t + ε t

Edasiste arvutuste jaoks vajalik teave on esitatud tabelis. 2.4.

Hindame lineaarse kahefaktorilise ökonomeetrilise mudeli parameetreid vähimruutude meetodil.

Seega

Koefitsiendi =61,6583 hinnang näitab, et muude asjaolude muutumisel kasvab kaubanduspindade 1 tuhande m 2 võrra aastane käive keskmiselt 61,6583 miljoni rubla võrra.

Koefitsiendi hinnang = 2,2748 näitab, et muude asjaolude muutumisel on keskmine külastajate arv 1 tuhande inimese kohta kasvanud. päevas kasvab aastakäive keskmiselt 2,2748 miljoni rubla võrra.

Näide 2.3. Kasutades tabelis esitatud teavet. 2.2 ja 2.4, hinnata ühefaktorilise ökonomeetrilise mudeli parameetrit

kus on kaupluse aastakäibe tsentreeritud väärtus, miljonit rubla; - t-nda kaupluse keskmise ööpäevase külastajate arvu keskväärtus, tuhat inimest. (vt näiteid 2.1-2.2).

Lahendus. Lisainformatsioon, mis on vajalik arvutuste tegemiseks, on esitatud tabelis. 2.5.

Tabel 2.5

	-48,53	-2,40	5,7720	116,6013
	-30,20	-0,41	0,1702	12,4589
	-27,34	-1,34	1,8023	36,7084
	-27,21	0,36	0,1278	-9,7288
	-12,00	-2,11	4,4627	25,3570
	0,22	-3,14	9,8753	-0,6809
	6,72	1,71	2,9156	11,4687
	20,76	0,16	0,0348	3,2992
	22,84	-0,76	0,5814	-17,413
	22,97	3,07	9,4096	70,4503
	31,55	1,62	2,6163	51,0267
	40,26	3,27	10,6766	131,5387
Summa			48,4344	431,0566

Kasutades valemit (2.35) saame

Seega

http://www.cleverstudents.ru/articles/mnk.html

Näide.

Eksperimentaalsed andmed muutujate väärtuste kohta X Ja juures on toodud tabelis.

Nende joondamise tulemusena saadakse funktsioon

Kasutades vähima ruudu meetod, lähendage neid andmeid lineaarse sõltuvusega y=kirves+b(leidke parameetrid A Ja b). Uurige, kumb kahest reast paremini (vähimruutude meetodi mõttes) joondab katseandmeid. Tee joonistus.

Lahendus.

Meie näites n = 5. Nõutavate koefitsientide valemites sisalduvate summade arvutamise mugavuse huvides täidame tabeli.

Tabeli neljanda rea ​​väärtused saadakse, korrutades iga numbri 2. rea väärtused 3. rea väärtustega i.

Tabeli viienda rea ​​väärtused saadakse iga numbri 2. rea väärtuste ruudustamisel i.

Tabeli viimases veerus olevad väärtused on ridade väärtuste summad.

Koefitsientide leidmiseks kasutame vähimruutude meetodi valemeid A Ja b. Asendame neisse vastavad väärtused tabeli viimasest veerust:

Seega y = 0,165x+2,184- soovitud ligikaudne sirgjoon.

Jääb välja selgitada, milline ridadest y = 0,165x+2,184 või lähendab paremini algandmeid, st teeb hinnangu vähimruutude meetodil.

Tõestus.

Nii et kui leitakse A Ja b funktsioon võtab väikseima väärtuse, siis on vajalik, et selles punktis funktsiooni teist järku diferentsiaali ruutkuju maatriks oli positiivne kindel. Näitame seda.

Teist järku diferentsiaalil on vorm:

See on

Seetõttu on ruutvormi maatriksil vorm

ja elementide väärtused ei sõltu A Ja b.

Näitame, et maatriks on positiivne kindel. Selleks peavad nurgelised alaealised olema positiivsed.

I järgu nurgeline moll . Ebavõrdsus on range, kuna punktid

Vähimruutude meetod on matemaatiline protseduur lineaarvõrrandi koostamiseks, mis sobib kõige paremini järjestatud paaride komplektiga, leides a ja b väärtused, joone võrrandis olevad koefitsiendid. Vähimruutude eesmärk on minimeerida y ja ŷ väärtuste ruudu koguviga. Kui iga punkti jaoks määrame vea ŷ, minimeerib vähimruutude meetod:

kus n = järjestatud paaride arv ümber joone. andmetele võimalikult lähedale.

Seda kontseptsiooni illustreerib joonis

Joonise põhjal minimeerib andmetega kõige paremini sobiv joon, regressioonisirge, graafiku nelja punkti koguruuduvea. Järgmises näites näitan teile, kuidas seda vähimruutude abil määrata.

Kujutage ette noorpaari, kes on hiljuti kokku kolinud ja jagavad vannitoas tualetilauda. Noormees hakkas märkama, et pool tema toidulauda kahaneb vääramatult, kaotades oma koha juuksevahule ja sojakompleksidele. Viimastel kuudel oli tüüp tähelepanelikult jälginud, kuidas tema lauapoolel olevate objektide arv kasvab. Allolev tabel näitab esemete arvu, mida tüdruk on viimaste kuude jooksul oma vannitoa tualettruumile kogunud.

Kuna meie eesmärk on välja selgitada, kas üksuste arv aja jooksul suureneb, on sõltumatu muutuja "Kuu" ja sõltuv muutuja "Kaubade arv".

Vähimruutude meetodi abil määrame andmetega kõige paremini sobiva võrrandi, arvutades a, y-lõikepunkti ja b väärtused, sirge kalde:

a = y keskm. - bx keskm

kus x avg on sõltumatu muutuja x keskmine väärtus, y avg on sõltumatu muutuja y keskmine väärtus.

Allolev tabel võtab kokku nende võrrandite jaoks vajalikud arvutused.

Meie vanni näite efektikõver oleks antud järgmise võrrandiga:

Kuna meie võrrandi positiivne kalle on 0,976, on mehel tõendeid selle kohta, et esemete arv laual suureneb aja jooksul keskmiselt 1 üksuse võrra kuus. Graafik näitab efektikõverat järjestatud paaridega.

Järgmise kuue kuu (16. kuu) kaubaartiklite arvu ootus arvutatakse järgmiselt:

ŷ = 5,13 + 0,976x = 5,13 + 0,976(16) ~ 20,7 = 21 üksust

Niisiis, meie kangelasel on aeg midagi ette võtta.

Funktsioon TREND Excelis

Nagu te ilmselt juba arvasite, on Excelil funktsioon väärtuste arvutamiseks vähimruutude meetod. Seda funktsiooni nimetatakse TRENDiks. Selle süntaks on järgmine:

TREND ( teadaolevad väärtused Y; X teadaolevad väärtused; uued X väärtused; konst)

teadaolevad Y väärtused - sõltuvate muutujate massiiv, meie puhul tabelis olevate objektide arv

teadaolevad väärtused X – sõltumatute muutujate massiiv, meie puhul on see kuu

uued X väärtused – mille jaoks uued X väärtused (kuud). TREND funktsioon tagastab sõltuvate muutujate eeldatava väärtuse (üksuste arv)

const - valikuline. Boole'i ​​väärtus, mis määrab, kas konstant b peab olema 0.

Näiteks on joonisel näidatud funktsioon TREND, mida kasutatakse vannitoa tualettruumi esemete eeldatava arvu määramiseks 16. kuul.

Vähima ruudu meetod

Vähima ruudu meetod ( OLS, OLS, tavalised vähimruudud) - üks regressioonanalüüsi põhimeetodeid regressioonimudelite tundmatute parameetrite hindamiseks näidisandmete abil. Meetod põhineb regressioonijääkide ruutude summa minimeerimisel.

Tuleb märkida, et vähimruutude meetodit ennast võib nimetada meetodiks ülesande lahendamiseks mis tahes valdkonnas, kui lahendus peitub või vastab mõnele nõutavate muutujate mõne funktsiooni ruutude summa minimeerimise kriteeriumile. Seetõttu saab vähimruutude meetodit kasutada ka antud funktsiooni ligikaudseks esitamiseks (lähendamiseks) teiste (lihtsamate) funktsioonidega, leides suuruste komplekti, mis rahuldavad võrrandeid või piiranguid, mille arv ületab nende suuruste arvu. , jne.

MNC olemus

Olgu antud (seletatud) muutuja vahelise tõenäosusliku (regressiooni) seose (parameetriline) mudel y ja paljud tegurid (selgitavad muutujad) x

kus on tundmatute mudeliparameetrite vektor

- juhuslik mudeli viga.

Olgu ka nende muutujate väärtuste näidisvaatlused. Laskma olema vaatlusnumber (). Siis on vaatluse muutujate väärtused. Seejärel on parameetrite b antud väärtuste puhul võimalik arvutada selgitatud muutuja y teoreetilised (mudel) väärtused:

Jääkide suurus sõltub parameetrite b väärtustest.

Vähimruutude meetodi (tavaline, klassikaline) olemus on leida parameetrid b, mille jääkide ruutude summa (ingl. Ruudude jääksumma) on minimaalne:

Üldjuhul saab selle probleemi lahendada numbrilise optimeerimise (minimeerimise) meetoditega. Sel juhul räägivad nad sellest mittelineaarsed vähimruudud(NLS või NLLS – inglise keel) Mittelineaarsed vähimruudud). Paljudel juhtudel on võimalik saada analüütiline lahendus. Minimeerimisülesande lahendamiseks on vaja leida funktsiooni statsionaarsed punktid, diferentseerides seda tundmatute parameetrite b suhtes, võrdsustades tuletised nulliga ja lahendades saadud võrrandisüsteemi:

Kui mudeli juhuslikud vead on tavaliselt jaotatud, neil on sama dispersioon ja need ei ole korrelatsioonis, on OLS-i parameetrite hinnangud samad, mis maksimaalse tõenäosuse hinnangud (MLM).

OLS lineaarse mudeli puhul

Olgu regressioonisõltuvus lineaarne:

Lase y on selgitatud muutuja vaatluste veeruvektor ja tegurivaatluste maatriks (maatriksi read on antud vaatluse faktoriväärtuste vektorid, veerud on antud teguri väärtuste vektorid kõigis vaatlustes). Lineaarse mudeli maatriksesitus on järgmine:

Siis on seletatava muutuja hinnangute vektor ja regressioonijääkide vektor võrdsed

Vastavalt sellele on regressioonijääkide ruutude summa võrdne

Diferentseerides selle funktsiooni parameetrite vektori suhtes ja võrdsustades tuletised nulliga, saame võrrandisüsteemi (maatriksi kujul):

.

Selle võrrandisüsteemi lahendus annab lineaarse mudeli vähimruutude hinnangute üldvalemi:

Analüütilistel eesmärkidel on kasulik selle valemi viimane esitus. Kui regressioonimudelis andmed tsentreeritud, siis selles esituses on esimene maatriks tegurite valimi kovariatsioonimaatriksi tähendus ja teine ​​on sõltuva muutujaga tegurite kovariatsioonide vektor. Kui lisaks andmed on ka normaliseeritud MSE-le (st lõpuks standarditud), siis esimene maatriks omab tegurite valimi korrelatsioonimaatriksi tähendust, teine ​​vektor - sõltuva muutujaga tegurite valimikorrelatsioonide vektor.

Mudelite OLS-i hinnangute oluline omadus konstantiga- konstrueeritud regressiooni joon läbib näidisandmete raskuskeskme, see tähendab, et võrdsus on täidetud:

Eriti äärmisel juhul, kui ainsaks regressoriks on konstant, leiame, et ainsa parameetri (konstandi enda) OLS-hinnang on võrdne seletatava muutuja keskmise väärtusega. See on aritmeetiline keskmine, mis on tuntud selle poolest head omadused suurte arvude seadustest, on ka vähimruutude hinnang - see rahuldab sellest hälvete miinimumruutsumma kriteeriumi.

Näide: lihtsaim (paaripõhine) regressioon

Paaritud lineaarse regressiooni korral on arvutusvalemid lihtsustatud (saate teha ilma maatriksalgebrata):

OLS-i hinnangute omadused

Esiteks märgime, et lineaarsete mudelite puhul on OLS-i hinnangud lineaarsed hinnangud, nagu ülaltoodud valemist. Erapooletute OLS-hinnangute puhul on vajalik ja piisav regressioonanalüüsi kõige olulisema tingimuse täitmiseks: teguritest sõltuv juhusliku vea matemaatiline ootus peab olema võrdne nulliga. Eelkõige on see tingimus täidetud, kui

1. juhuslike vigade matemaatiline ootus on null ja
2. tegurid ja juhuslikud vead on sõltumatud juhuslikud muutujad.

Teine tingimus - tegurite eksogeensuse tingimus - on fundamentaalne. Kui see omadus ei ole täidetud, võime eeldada, et peaaegu kõik hinnangud on äärmiselt ebarahuldavad: need pole isegi järjepidevad (st isegi väga suur hulk andmeid ei võimalda meil sel juhul kvaliteetseid hinnanguid saada ). Klassikalisel juhul tehakse tugevam eeldus tegurite determinismi kohta, mitte juhuslikule veale, mis tähendab automaatselt, et eksogeensuse tingimus on täidetud. Üldjuhul piisab hinnangute järjepidevuse tagamiseks eksogeensuse tingimuse täitmisest koos maatriksi konvergentsiga mõnele mitteainsuse maatriksile, kui valimi suurus suureneb lõpmatuseni.

Selleks, et lisaks järjepidevusele ja erapooletusele oleksid (tavaliste) vähimruutude hinnangud ka efektiivsed (parimad lineaarsete erapooletute hinnangute klassis), peavad olema täidetud juhusliku vea täiendavad omadused:

Neid eeldusi saab formuleerida juhusliku veavektori kovariatsioonimaatriksi jaoks

Neid tingimusi rahuldavat lineaarset mudelit nimetatakse klassikaline. Klassikalise lineaarse regressiooni OLS-i hinnangud on erapooletud, järjepidevad ja kõige tõhusamad hinnangud kõigi lineaarsete erapooletute hinnangute klassis (ingliskeelses kirjanduses kasutatakse mõnikord lühendit SININE (Parim lineaarne aluseta hindaja) - parim lineaarne erapooletu hinnang; V vene kirjandus Sageli kasutatakse Gaussi-Markovi teoreemi). Nagu on lihtne näidata, on koefitsientide hinnangute vektori kovariatsioonimaatriks võrdne:

Üldine OLS

Vähimruutude meetod võimaldab üldistamist. Selle asemel, et minimeerida jääkide ruutude summat, saab minimeerida jääkide vektori mõnda positiivset kindlat ruutvormi, kus on mingi sümmeetriline positiivne kindla kaaluga maatriks. Tavaline vähimruutude kasutamine on selle lähenemisviisi erijuhtum, kus kaalumaatriks on võrdeline identiteedimaatriksiga. Nagu on teada sümmeetriliste maatriksite (või operaatorite) teooriast, toimub selliste maatriksite puhul lagunemine. Järelikult saab määratud funktsionaalset kujutada järgmiselt, st seda funktsionaalset saab esitada mõne teisendatud “jääkide” ruutude summana. Seega saame eristada vähimruutude meetodite klassi – LS meetodid (Least Squares).

On tõestatud (Aitkeni teoreem), et üldistatud lineaarse regressioonimudeli puhul (milles juhuslike vigade kovariatsioonimaatriksile piiranguid ei seata) on kõige tõhusamad (lineaarsete erapooletute hinnangute klassis) nn hinnangud. generalised Least Squares (GLS – Generalized Least Squares)- LS-meetod kaalumaatriksiga, mis on võrdne juhuslike vigade pöördkovariatsioonimaatriksiga: .

Võib näidata, et lineaarse mudeli parameetrite GLS-hinnangute valemil on vorm

Nende hinnangute kovariatsioonimaatriks on seega võrdne

Tegelikult seisneb OLS-i olemus algandmete teatud (lineaarses) teisenduses (P) ja tavalise OLS-i rakendamises teisendatud andmetele. Selle teisenduse eesmärk on, et teisendatud andmete juhuslikud vead rahuldaksid juba klassikalisi eeldusi.

Kaalutud OLS

Diagonaalse kaalumaatriksi (ja seega juhuslike vigade kovariatsioonimaatriksi) korral on meil nn kaalutud vähimruutud (WLS). IN sel juhul mudeli jääkide kaalutud ruutude summa on minimeeritud, st iga vaatlus saab selle vaatluse juhusliku vea dispersiooniga pöördvõrdelise “kaalu”: . Tegelikult teisendatakse andmeid vaatluste kaalumise teel (jagades eeldatavaga võrdelise summaga standardhälve juhuslikud vead) ja kaalutud andmetele rakendatakse tavalist OLS-i.

Mõned MNC kasutamise erijuhud praktikas

Lineaarse sõltuvuse lähendamine

Vaatleme juhtumit, kui teatud skalaarsuuruse sõltuvuse uurimise tulemusena teatud skalaarsuurusest (Selleks võib olla näiteks pinge sõltuvus voolutugevusest: , kus on konstantne väärtus, takistus juht), viidi läbi nende suuruste mõõtmised, mille tulemusena saadi väärtused ja neile vastavad väärtused. Mõõtmisandmed tuleb fikseerida tabelis.

Tabel. Mõõtmistulemused.

Mõõtmine nr.
1
2
3
4
5
6

Küsimus on: millise koefitsiendi väärtuse saab valida sõltuvuse kõige paremaks kirjeldamiseks? Vähimruutude meetodi kohaselt peaks see väärtus olema selline, et väärtuste väärtustest kõrvalekallete ruudu summa

oli minimaalne

Ruuthälvete summal on üks ekstreemum – miinimum, mis võimaldab seda valemit kasutada. Leiame sellest valemist koefitsiendi väärtuse. Selleks teisendame selle vasaku külje järgmiselt:

Viimane valem võimaldab meil leida koefitsiendi väärtuse, mis on ülesandes nõutav.

Lugu

Enne XIX algus V. teadlastel puudusid kindlad reeglid sellise võrrandisüsteemi lahendamiseks, milles tundmatute arv on võrrandite arvust väiksem; Kuni selle ajani kasutati eratehnikaid, mis sõltusid võrrandite tüübist ja kalkulaatorite nutikusest ning seetõttu jõudsid erinevad kalkulaatorid samade vaatlusandmete põhjal erinevatele järeldustele. Gauss (1795) vastutas meetodi esmakordse rakendamise eest ning Legendre (1805) avastas ja avaldas selle iseseisvalt kaasaegne nimi(fr. Méthode des moindres quarrés ) . Laplace seostas meetodi tõenäosusteooriaga ja Ameerika matemaatik Adrain (1808) käsitles selle tõenäosusteoreetilisi rakendusi. Meetod oli laialt levinud ja seda täiustasid Encke, Besseli, Hanseni jt edasised uuringud.

OLS-i alternatiivsed kasutusvõimalused

Vähimruutude meetodi ideed saab kasutada ka muudel juhtudel, mis pole regressioonanalüüsiga otseselt seotud. Fakt on see, et ruutude summa on üks levinumaid vektorite lähedusmõõte (Eukleidiline meetrika lõplike mõõtmetega ruumides).

Üks rakendus on lineaarvõrrandisüsteemide "lahendus", milles võrrandite arv on suurem kui muutujate arv

kus maatriks ei ole ruudukujuline, vaid ristkülikukujuline.

Sellisel võrrandisüsteemil üldjuhul lahendus puudub (kui auaste on tegelikult suurem muutujate arvust). Seetõttu saab seda süsteemi "lahendada" ainult sellise vektori valimisel, et minimeerida "kaugust" vektorite ja . Selleks saate rakendada süsteemi võrrandite vasaku ja parema külje erinevuste ruutude summa minimeerimise kriteeriumi, st. Lihtne on näidata, et selle minimeerimisülesande lahendamine viib järgmise võrrandisüsteemi lahendamiseni