Kontakty

Najmenšie štvorce v exceli - pomocou trendovej funkcie. Finger Math: Metódy najmenších štvorcov

Ak nejaké fyzikálne množstvo závisí od inej veličiny, potom je možné túto závislosť študovať meraním y pri rôznych hodnotách x. V dôsledku meraní sa získa séria hodnôt:

x 1, x 2, ..., x i, ..., x n;

y 1 , y 2 , ..., y i , ... , y n .

Na základe údajov takéhoto experimentu je možné vykresliť závislosť y = ƒ(x). Výsledná krivka umožňuje posúdiť tvar funkcie ƒ(x). Konštantné koeficienty, ktoré vstupujú do tejto funkcie, však zostávajú neznáme. Metóda vám ich umožňuje určiť najmenších štvorcov. Experimentálne body spravidla neležia presne na krivke. Metóda najmenších štvorcov vyžaduje, aby súčet štvorcových odchýlok experimentálnych bodov od krivky, t.j. 2 bol najmenší.

V praxi sa tento spôsob najčastejšie (a najjednoduchšie) používa v prípade lineárneho vzťahu, t.j. kedy

y=kx alebo y = a + bx.

Lineárna závislosť je vo fyzike veľmi rozšírená. A aj keď je závislosť nelineárna, zvyčajne sa snažia zostaviť graf tak, aby dostali priamku. Napríklad, ak sa predpokladá, že index lomu skla n súvisí s vlnovou dĺžkou λ svetelnej vlny vzťahom n = a + b/λ 2, potom sa závislosť n na λ -2 vynesie do grafu. .

Zvážte závislosť y=kx(priamka prechádzajúca počiatkom). Zostavme hodnotu φ súčet druhých mocnín odchýlok našich bodov od priamky

Hodnota φ je vždy kladná a ukazuje sa, že čím je menšia, čím bližšie sú naše body k priamke. Metóda najmenších štvorcov hovorí, že pre k treba zvoliť takú hodnotu, pri ktorej má φ minimum


alebo
(19)

Výpočet ukazuje, že odmocnina pri určovaní hodnoty k sa rovná

, (20)
kde n je počet rozmerov.

Poďme sa teraz pozrieť na niekoľko ďalších pevné puzdro kedy body musia spĺňať vzorec y = a + bx(priamka neprechádzajúca počiatkom).

Úlohou je nájsť najlepšie hodnoty a a b z danej množiny hodnôt x i, y i.

Opäť zostavíme kvadratickú formu φ rovnajúcu sa súčtu štvorcových odchýlok bodov x i , y i od priamky

a nájdite hodnoty a a b, pre ktoré má φ minimum

;

.

.

Spoločné riešenie týchto rovníc dáva

(21)

Stredná odmocnina chyby určenia a a b sú rovnaké

(23)

.  (24)

Pri spracovaní výsledkov meraní touto metódou je vhodné zhrnúť všetky údaje do tabuľky, v ktorej sú predbežne vypočítané všetky množstvá obsiahnuté vo vzorcoch (19) (24). Formy týchto tabuliek sú uvedené v príkladoch nižšie.

Príklad 1 Bola študovaná základná rovnica dynamiky rotačného pohybu ε = M/J (priamka prechádzajúca počiatkom). Pre rôzne hodnoty momentu M sa meralo uhlové zrýchlenie ε určitého telesa. Je potrebné určiť moment zotrvačnosti tohto telesa. Výsledky meraní momentu sily a uhlového zrýchlenia sú uvedené v druhom a treťom stĺpci stoly 5.

Tabuľka 5
n M, Nm ε, s-1 M2 M ε ε - km (ε - kM) 2
1 1.44 0.52 2.0736 0.7488 0.039432 0.001555
2 3.12 1.06 9.7344 3.3072 0.018768 0.000352
3 4.59 1.45 21.0681 6.6555 -0.08181 0.006693
4 5.90 1.92 34.81 11.328 -0.049 0.002401
5 7.45 2.56 55.5025 19.072 0.073725 0.005435
– – 123.1886 41.1115 – 0.016436

Podľa vzorca (19) určíme:

.

Na určenie strednej hodnoty chyby používame vzorec (20)

0.005775kg- jeden · m -2 .

Podľa vzorca (18) máme

; .

SJ = (2,996 0,005775)/0,3337 = 0,05185 kg m2.

Vzhľadom na spoľahlivosť P = 0,95 podľa tabuľky Studentových koeficientov pre n = 5 zistíme t = 2,78 a určíme absolútnu chybu ΔJ = 2,78 0,05185 = 0,1441 ≈ 0,2 kg m2.

Výsledky zapíšeme v tvare:

J = (3,0 ± 0,2) kg m2;


Príklad 2 Teplotný koeficient odporu kovu vypočítame metódou najmenších štvorcov. Odpor závisí od teploty podľa lineárneho zákona

Rt \u003d R° (1 + α t°) \u003d R° + R° α t°.

Voľný člen určuje odpor R 0 pri teplote 0 ° C a súčin sklonu teplotný koeficientα k odporu R 0 .

Výsledky meraní a výpočtov sú uvedené v tabuľke ( pozri tabuľku 6).

Tabuľka 6
n t°, s r, Ohm t-¯t (t-¯t) 2 (t-¯t)r r-bt-a (r - bt - a) 2,10 -6
1 23 1.242 -62.8333 3948.028 -78.039 0.007673 58.8722
2 59 1.326 -26.8333 720.0278 -35.581 -0.00353 12.4959
3 84 1.386 -1.83333 3.361111 -2.541 -0.00965 93.1506
4 96 1.417 10.16667 103.3611 14.40617 -0.01039 107.898
5 120 1.512 34.16667 1167.361 51.66 0.021141 446.932
6 133 1.520 47.16667 2224.694 71.69333 -0.00524 27.4556
515 8.403 – 8166.833 21.5985 – 746.804
∑/n 85.83333 1.4005 – – – – –

Vzorcami (21), (22) určíme

Ro = ¯ R-αR0¯ t = 1,4005 - 0,002645 85,83333 = 1,1735 Ohm.

Nájdime chybu v definícii α. Od , potom podľa vzorca (18) máme:

.

Pomocou vzorcov (23), (24) máme

;

0.014126 Ohm.

Vzhľadom na spoľahlivosť P = 0,95 podľa tabuľky Studentových koeficientov pre n = 6 zistíme t = 2,57 a určíme absolútnu chybu Δα = 2,57 0,000132 = 0,000338 stupeň -1.

a = (23 ± 4) 10-4 krupobitie-1 pri P = 0,95.


Príklad 3 Je potrebné určiť polomer zakrivenia šošovky z Newtonových prstencov. Zmerali sa polomery Newtonových prstencov r m a určili sa počty týchto prstencov m. Polomery Newtonových prstencov súvisia s polomerom zakrivenia šošovky R a číslom prstenca rovnicou

r2m = mλR - 2d0R,

kde d 0 hrúbka medzery medzi šošovkou a planparalelnou doskou (alebo deformácia šošovky),

λ je vlnová dĺžka dopadajúceho svetla.

A = (600 ± 6) nm;
r2 m = y;
m = x;
XR = b;
-2d 0 R = a,

potom rovnica nadobudne tvar y = a + bx.

.

Vkladajú sa výsledky meraní a výpočtov tabuľka 7.

Tabuľka 7
n x = m y \u003d r 2, 10 -2 mm 2 m-¯m (m-¯m) 2 (m-¯m)y y-bx-a, 10-4 (y - bx - a) 2, 10 -6
1 1 6.101 -2.5 6.25 -0.152525 12.01 1.44229
2 2 11.834 -1.5 2.25 -0.17751 -9.6 0.930766
3 3 17.808 -0.5 0.25 -0.08904 -7.2 0.519086
4 4 23.814 0.5 0.25 0.11907 -1.6 0.0243955
5 5 29.812 1.5 2.25 0.44718 3.28 0.107646
6 6 35.760 2.5 6.25 0.894 3.12 0.0975819
21 125.129 – 17.5 1.041175 – 3.12176
∑/n 3.5 20.8548333 – – – – –

Podstatou metódy najmenších štvorcov je pri hľadaní parametrov trendového modelu, ktorý najlepšie vystihuje trend vývoja nejakého náhodného javu v čase alebo priestore (trend je čiara, ktorá charakterizuje trend tohto vývoja). Úlohou metódy najmenších štvorcov (OLS) je nájsť nielen nejaký trendový model, ale nájsť najlepší alebo optimálny model. Tento model bude optimálny, ak súčet štandardné odchýlky medzi pozorovanými skutočnými hodnotami a zodpovedajúcimi vypočítanými hodnotami trendu bude minimum (najmenšie):

kde - smerodajná odchýlka medzi pozorovanou skutočnou hodnotou

a zodpovedajúcu vypočítanú trendovú hodnotu,

skutočná (pozorovaná) hodnota skúmaného javu,

Odhadovaná hodnota trendového modelu,

Počet pozorovaní skúmaného javu.

MNC sa zriedka používa samostatne. Spravidla sa najčastejšie používa len ako nevyhnutná technika v korelačných štúdiách. Malo by sa pamätať na to, že informačná základňa MNC môže byť iba spoľahlivá štatistický rad a počet pozorovaní by nemal byť menší ako 4, inak môžu postupy vyhladzovania LSM stratiť svoj zdravý rozum.

Sada nástrojov OLS je zredukovaná na nasledujúce postupy:

Prvý postup. Ukazuje sa, či vôbec existuje tendencia meniť výsledný atribút, keď sa mení vybraný faktor-argument, alebo inými slovami, či existuje súvislosť medzi „ pri " a " X ».

Druhý postup. Určuje sa, ktorá línia (trajektória) najlepšie dokáže opísať alebo charakterizovať tento trend.

Tretí postup.

Príklad. Predpokladajme, že máme informácie o priemernej úrode slnečnice pre skúmanú farmu (tabuľka 9.1).

Tabuľka 9.1

Číslo pozorovania

Produktivita, c/ha

Keďže úroveň technológie výroby slnečnice sa u nás za posledných 10 rokov príliš nezmenila, znamená to, že kolísanie úrody v analyzovanom období s najväčšou pravdepodobnosťou veľmi záviselo od kolísania poveternostných a klimatických podmienok. Je to pravda?

Prvý postup MNC. Testuje sa hypotéza o existencii trendu zmeny úrody slnečnice v závislosti od zmien počasia a klimatických podmienok za analyzovaných 10 rokov.

V tomto príklade pre " r » je vhodné vziať úrodu slnečnice a pre « X » je číslo sledovaného roka v analyzovanom období. Testovanie hypotézy o existencii akéhokoľvek vzťahu medzi „ X " a " r » možno vykonať dvoma spôsobmi: ručne a pomocou počítačových programov. Samozrejme, s počítačmi tento problém rieši sám. Aby sme však lepšie porozumeli súprave nástrojov OLS, odporúča sa otestovať hypotézu o existencii vzťahu medzi „ X " a " r » manuálne, keď máte po ruke iba pero a obyčajnú kalkulačku. V takýchto prípadoch je hypotéza o existencii trendu najlepšie overená vizuálne umiestnením grafického obrazu analyzovaného časového radu - korelačným poľom:

Korelačné pole v našom príklade sa nachádza okolo pomaly stúpajúcej čiary. To samo o sebe naznačuje existenciu určitého trendu v zmene úrody slnečnice. O prítomnosti akéhokoľvek trendu nemožno hovoriť iba vtedy, keď korelačné pole vyzerá ako kruh, kruh, striktne vertikálny alebo striktne horizontálny oblak alebo pozostáva z náhodne rozptýlených bodov. Vo všetkých ostatných prípadoch je potrebné potvrdiť hypotézu o existencii vzťahu medzi „ X " a " r a pokračovať vo výskume.

Druhý postup MNC. Určuje sa, ktorá línia (trajektória) najlepšie popíše alebo charakterizuje trend zmien úrod slnečnice za analyzované obdobie.

S dostupnosťou výpočtovej techniky dochádza k výberu optimálneho trendu automaticky. Pri „ručnom“ spracovaní sa voľba optimálnej funkcie spravidla uskutočňuje vizuálnym spôsobom - umiestnením korelačného poľa. To znamená, že podľa typu grafu sa vyberie rovnica priamky, ktorá sa najlepšie hodí k empirickému trendu (k skutočnej trajektórii).

Ako viete, v prírode existuje veľké množstvo funkčných závislostí, takže je mimoriadne ťažké vizuálne analyzovať aj malú časť z nich. Našťastie v reálnej ekonomickej praxi možno väčšinu vzťahov presne opísať buď parabolou, alebo hyperbolou, alebo priamkou. V tomto smere sa pri „manuálnej“ možnosti výberu najlepšej funkcie môžete obmedziť len na tieto tri modely.

Hyperbola:

Parabola druhého rádu: :

Je ľahké vidieť, že v našom príklade trend zmien úrody slnečnice za analyzovaných 10 rokov najlepšie charakterizuje priamka, takže regresná rovnica bude priamka.

Tretí postup. Vypočítajú sa parametre regresnej rovnice, ktorá charakterizuje túto čiaru, alebo inými slovami, určí sa analytický vzorec, ktorý popisuje najlepší trendový model.

Hľadanie hodnôt parametrov regresnej rovnice, v našom prípade parametrov a , je jadrom LSM. Tento proces sa redukuje na riešenie systému normálnych rovníc.

(9.2)

Tento systém rovníc je celkom jednoducho vyriešený Gaussovou metódou. Pripomeňme, že v dôsledku riešenia sa v našom príklade nájdu hodnoty parametrov a. Nájdená regresná rovnica teda bude mať nasledujúci tvar:

Po zarovnaní dostaneme funkciu v nasledujúcom tvare: g (x) = x + 1 3 + 1 .

Tieto údaje môžeme aproximovať lineárnym vzťahom y = a x + b výpočtom príslušných parametrov. Aby sme to dosiahli, budeme musieť použiť takzvanú metódu najmenších štvorcov. Budete tiež musieť urobiť nákres, aby ste skontrolovali, ktorá čiara najlepšie zarovná experimentálne údaje.

Yandex.RTB R-A-339285-1

Čo presne je OLS (metóda najmenších štvorcov)

Hlavná vec, ktorú musíme urobiť, je nájsť také koeficienty lineárnej závislosti, pri ktorých bude hodnota funkcie dvoch premenných F (a, b) = ∑ i = 1 n (y i - (a x i + b)) 2 najmenší. Inými slovami, pre určité hodnoty a a b bude mať súčet štvorcových odchýlok prezentovaných údajov od výslednej priamky minimálnu hodnotu. Toto je význam metódy najmenších štvorcov. Na vyriešenie príkladu nám stačí nájsť extrém funkcie dvoch premenných.

Ako odvodiť vzorce na výpočet koeficientov

Na odvodenie vzorcov na výpočet koeficientov je potrebné zostaviť a vyriešiť sústavu rovníc s dvoma premennými. Na tento účel vypočítame parciálne derivácie výrazu F (a , b) = ∑ i = 1 n (y i - (a x i + b)) 2 vzhľadom na a a b a prirovnáme ich k 0 .

δ F (a, b) δ a = 0 δ F (a, b) δ b = 0 ⇔ - 2 ∑ i = 1 n (y i - (a x i + b)) x i = 0 - 2 ∑ i = 1 n ( y i - (a x i + b)) = 0 ⇔ a ∑ i = 1 n x i 2 + b ∑ i = 1 n x i = ∑ i = 1 n x i y i a ∑ i = 1 n x i + ∑ i = 1 n b = ∇ y i = ∇ y i = ∑ i = 1 n x i 2 + b ∑ i = 1 n x i = ∑ i = 1 n x i y i a ∑ i = 1 n x i + n b = ∑ i = 1 n y i

Na vyriešenie sústavy rovníc môžete použiť ľubovoľné metódy, napríklad substitúciu alebo Cramerovu metódu. V dôsledku toho by sme mali dostať vzorce, ktoré vypočítajú koeficienty pomocou metódy najmenších štvorcov.

n ∑ i = 1 n x i y i - ∑ i = 1 n x i ∑ i = 1 n y i n ∑ i = 1 n - ∑ i = 1 n x i 2 b = ∑ i = 1 n y i - a ∑ x i = 1 n

Vypočítali sme hodnoty premenných, pre ktoré je funkcia
F (a , b) = ∑ i = 1 n (y i - (a x i + b)) 2 nadobudne minimálnu hodnotu. V treťom odseku si ukážeme, prečo je to tak.

Ide o aplikáciu metódy najmenších štvorcov v praxi. Jeho vzorec, ktorý sa používa na nájdenie parametra a, obsahuje ∑ i = 1 n x i , ∑ i = 1 n y i , ∑ i = 1 n x i y i , ∑ i = 1 n x i 2 a parameter
n - označuje množstvo experimentálnych údajov. Odporúčame vypočítať každú sumu samostatne. Hodnota koeficientu b sa vypočíta bezprostredne po a .

Vráťme sa k pôvodnému príkladu.

Príklad 1

Tu máme n rovné päť. Aby sme uľahčili výpočet požadovaných súm zahrnutých vo vzorcoch koeficientov, vyplníme tabuľku.

i = 1 i = 2 i = 3 i = 4 i = 5 ∑ i = 1 5
x i 0 1 2 4 5 12
y i 2 , 1 2 , 4 2 , 6 2 , 8 3 12 , 9
x i y i 0 2 , 4 5 , 2 11 , 2 15 33 , 8
x i 2 0 1 4 16 25 46

Riešenie

Štvrtý riadok obsahuje údaje získané vynásobením hodnôt z druhého riadku hodnotami tretieho pre každú jednotlivú i . Piaty riadok obsahuje údaje z druhého štvorca. Posledný stĺpec zobrazuje súčty hodnôt jednotlivých riadkov.

Na výpočet koeficientov a a b, ktoré potrebujeme, použijeme metódu najmenších štvorcov. Za toto nahrádzame požadované hodnoty z posledného stĺpca a vypočítajte sumy:

n ∑ i = 1 n x i y i - ∑ i = 1 n x i ∑ i = 1 n y i n ∑ i = 1 n - ∑ i = 1 n x i 2 b = ∑ i = 1 n y i - a ∑ i 3 a = n 8 - 12 12, 9 5 46 - 12 2 b = 12, 9 - a 12 5 ⇒ a ≈ 0, 165 b ≈ 2, 184

Dostali sme, že požadovaná aproximačná priamka bude vyzerať ako y = 0, 165 x + 2, 184. Teraz musíme určiť, ktorá čiara bude najlepšie aproximovať údaje - g (x) = x + 1 3 + 1 alebo 0 , 165 x + 2 , 184 . Urobme odhad pomocou metódy najmenších štvorcov.

Na výpočet chyby potrebujeme nájsť súčty kvadrátov odchýlok údajov od priamok σ 1 = ∑ i = 1 n (y i - (a x i + b i)) 2 a σ 2 = ∑ i = 1 n (y i - g (x i)) 2, minimálna hodnota bude zodpovedať vhodnejšej čiare.

σ 1 = ∑ i = 1 n (y i - (a x i + b i)) 2 = = ∑ i = 1 5 (y i - (0, 165 x i + 2, 184)) 2 ≈ 0, 019 σ 2 = ∑ i = 1 n (y i - g (x i)) 2 = = ∑ i = 1 5 (y i - (x i + 1 3 + 1)) 2 ≈ 0 , 096

odpoveď: keďže σ 1< σ 2 , то прямой, наилучшим образом аппроксимирующей исходные данные, будет
y = 0,165 x + 2,184.

Metóda najmenších štvorcov je jasne znázornená na grafickom znázornení. Červená čiara označuje priamku g (x) = x + 1 3 + 1, modrá čiara označuje y = 0, 165 x + 2, 184. Nespracované údaje sú označené ružovými bodkami.

Vysvetlíme, prečo sú potrebné práve aproximácie tohto typu.

Môžu byť použité v problémoch, ktoré vyžadujú vyhladzovanie údajov, ako aj v tých, kde je potrebné údaje interpolovať alebo extrapolovať. Napríklad v probléme diskutovanom vyššie je možné nájsť hodnotu pozorovanej veličiny y pri x = 3 alebo pri x = 6 . Takýmto príkladom sme venovali samostatný článok.

Dôkaz metódy LSM

Aby funkcia nadobudla minimálnu hodnotu pri výpočte a a b, je potrebné, aby v danom bode matica kvadratického tvaru diferenciálu funkcie tvaru F (a, b) = ∑ i = 1 n (y i - (a x i + b)) 2 byť pozitívne určité. Poďme si ukázať, ako by to malo vyzerať.

Príklad 2

Máme diferenciál druhého rádu v nasledujúcom tvare:

d 2 F (a ; b) = δ 2 F (a ; b) δ a 2 d 2 a + 2 δ 2 F (a ; b) δ a δ b d a d b + δ 2 F (a ; b) δ b 2 d 2b

Riešenie

δ 2 F (a ; b) δ a 2 = δ δ F (a ; b) δ a δ a = = δ - 2 ∑ i = 1 n (y i - (a x i + b)) x i δ a = 2 ∑ i = 1 n (x i) 2 δ 2 F (a ; b) δ a δ b = δ δ F (a ; b) δ a δ b = = δ - 2 ∑ i = 1 n (y i - (a x i + b) ) x i δ b = 2 ∑ i = 1 n x i δ 2 F (a ; b) δ b 2 = δ δ F (a ; b) δ b δ b = δ - 2 ∑ i = 1 n (y i - (a x i + b)) δ b = 2 ∑ i = 1 n (1) = 2 n

Inými slovami, možno to zapísať takto: d 2 F (a ; b) = 2 ∑ i = 1 n (x i) 2 d 2 a + 2 2 ∑ x i i = 1 n d a d b + (2 n) d 2 b .

Získali sme maticu kvadratickej formy M = 2 ∑ i = 1 n (x i) 2 2 ∑ i = 1 n x i 2 ∑ i = 1 n x i 2 n .

V tomto prípade sa hodnoty jednotlivých prvkov nezmenia v závislosti od a a b . Je táto matica pozitívna definitívna? Aby sme odpovedali na túto otázku, skontrolujme, či sú jeho uhlové neplnoleté osoby pozitívne.

Vypočítajte uhlovú minor prvého rádu: 2 ∑ i = 1 n (x i) 2 > 0 . Keďže body x i sa nezhodujú, nerovnosť je prísna. To budeme mať na pamäti pri ďalších výpočtoch.

Vypočítame uhlovú minor druhého rádu:

d e t (M) = 2 ∑ i = 1 n (x i) 2 2 ∑ i = 1 n x i 2 ∑ i = 1 n x i 2 n = 4 n ∑ i = 1 n (x i) 2 - ∑ i = 1 n x i 2

Potom pristúpime k dôkazu nerovnosti n ∑ i = 1 n (x i) 2 - ∑ i = 1 n x i 2 > 0 pomocou matematickej indukcie.

  1. Pozrime sa, či táto nerovnosť platí pre ľubovoľné n . Vezmime si 2 a vypočítame:

2 ∑ i = 1 2 (x i) 2 - ∑ i = 1 2 x i 2 = 2 x 1 2 + x 2 2 - x 1 + x 2 2 = = x 1 2 - 2 x 1 x 2 + x 2 2 = x 1 + x 2 2 > 0

Dostali sme správnu rovnosť (ak sa hodnoty x 1 a x 2 nezhodujú).

  1. Predpokladajme, že táto nerovnosť bude platiť pre n , t.j. n ∑ i = 1 n (x i) 2 - ∑ i = 1 n x i 2 > 0 – pravda.
  2. Teraz dokážme platnosť pre n + 1 , t.j. že (n + 1) ∑ i = 1 n + 1 (x i) 2 - ∑ i = 1 n + 1 x i 2 > 0, ak n ∑ i = 1 n (x i) 2 - ∑ i = 1 n x i 2 > 0 .

Vypočítame:

(n + 1) ∑ i = 1 n + 1 (x i) 2 - ∑ i = 1 n + 1 x i 2 = = (n + 1) ∑ i = 1 n (x i) 2 + x n + 1 2 - ∑ i = 1 n x i + x n + 1 2 = = n ∑ i = 1 n (x i) 2 + n x n + 1 2 + ∑ i = 1 n (x i) 2 + x n + 1 2 - - ∑ i = 1 n x i 2 + 2 x n + 1 ∑ i = 1 n x i + x n + 1 2 = = ∑ i = 1 n (x i) 2 - ∑ i = 1 n x i 2 + n x n + 1 2 - x n + 1 ∑ i = 1 n x i + 1 ∑ i n (x i) 2 = = ∑ i = 1 n (x i) 2 - ∑ i = 1 n x i 2 + x n + 1 2 - 2 x n + 1 x 1 + x 1 2 + + x n + 1 2 - 2 x n + 1 x 2 + x 2 2 + . . . + x n + 1 2 - 2 x n + 1 x 1 + x n 2 = = n ∑ i = 1 n (x i) 2 - ∑ i = 1 n x i 2 + + (x n + 1 - x 1) 2 + (x n + 1 - x 2) 2 + . . . + (x n - 1 - x n) 2 > 0

Výraz uzavretý v zložených zátvorkách bude väčší ako 0 (na základe toho, čo sme predpokladali v kroku 2) a ostatné výrazy budú väčšie ako 0, pretože sú to všetky druhé mocniny čísel. Dokázali sme nerovnosť.

odpoveď: nájdené a a b sa budú zhodovať najmenšia hodnota funkcie F (a , b) \u003d ∑ i \u003d 1 n (y i - (a x i + b)) 2, čo znamená, že ide o požadované parametre metódy najmenších štvorcov (LSM).

Ak si všimnete chybu v texte, zvýraznite ju a stlačte Ctrl+Enter

3. Aproximácia funkcií pomocou metódy

najmenších štvorcov

Metóda najmenších štvorcov sa používa pri spracovaní výsledkov experimentu pre aproximácie (približné údaje) experimentálne údaje analytický vzorec. Konkrétna forma vzorca sa spravidla vyberá z fyzikálnych hľadísk. Tieto vzorce môžu byť:

a ďalšie.

Podstata metódy najmenších štvorcov je nasledovná. Výsledky merania sú uvedené v tabuľke:

Tabuľka 4

x n

y n

(3.1)

kde f je známa funkcia, a 0 , a 1 , ..., a m - neznáme konštantné parametre, ktorých hodnoty je potrebné nájsť. V metóde najmenších štvorcov sa aproximácia funkcie (3.1) k experimentálnej závislosti považuje za najlepšiu, ak je splnená podmienka

(3.2)

to jest sumy a štvorcové odchýlky požadovanej analytickej funkcie od experimentálnej závislosti by mali byť minimálne .

Všimnite si, že funkcia Q volal inviscid.


Od nezrovnalosti

potom má minimum. Nevyhnutnou podmienkou pre minimum funkcie viacerých premenných je nulová rovnosť všetkých parciálnych derivácií tejto funkcie vzhľadom na parametre. Nájdenie najlepších hodnôt parametrov aproximačnej funkcie (3.1), teda tých hodnôt, pre ktoré Q = Q (a0, a1, ..., am ) je minimálny, redukuje sa na riešenie sústavy rovníc:

(3.3)

Metódu najmenších štvorcov možno poskytnúť nasledujúcu geometrickú interpretáciu: medzi nekonečnou rodinou čiar daného typu sa nájde jedna čiara, pre ktorú je súčet štvorcov rozdielov v súradniciach experimentálnych bodov a zodpovedajúcich súradníc bodov. nájdená rovnicou tejto priamky bude najmenšia.

Hľadanie parametrov lineárnej funkcie

Nech sú experimentálne údaje reprezentované lineárnou funkciou:

Takéto hodnoty je potrebné zvoliť a a b , pre ktorú funkciu

(3.4)

bude minimálny. Nevyhnutné podmienky minimá funkcie (3.4) sú redukované na sústavu rovníc:

Po transformáciách dostaneme systém dvoch lineárne rovnice s dvoma neznámymi:

(3.5)

pri riešení ktorých nájdeme požadované hodnoty parametrov a a b.

Hľadanie parametrov kvadratickej funkcie

Ak je aproximačná funkcia kvadratickou závislosťou

potom jeho parametre a , b , c nájdite z minimálnej podmienky funkcie:

(3.6)

Minimálne podmienky pre funkciu (3.6) sú redukované na sústavu rovníc:


Po transformáciách dostaneme systém troch lineárnych rovníc s tromi neznámymi:

(3.7)

pri pri riešení ktorého nájdeme požadované hodnoty parametrov a, b a c.

Príklad . Nech sa ako výsledok experimentu získa nasledujúca tabuľka hodnôt x a y:

Tabuľka 5

y i

0,705

0,495

0,426

0,357

0,368

0,406

0,549

0,768

Je potrebné aproximovať experimentálne údaje lineárnymi a kvadratickými funkciami.

Riešenie. Hľadanie parametrov aproximačných funkcií sa redukuje na riešenie sústav lineárnych rovníc (3.5) a (3.7). Na vyriešenie problému používame tabuľkový procesor excel.

1. Najprv prepojíme hárky 1 a 2. Zadajte experimentálne hodnoty x i a y i do stĺpcov A a B, počnúc druhým riadkom (v prvom riadku umiestnime nadpisy stĺpcov). Potom vypočítame súčty pre tieto stĺpce a vložíme ich do desiateho riadku.

V stĺpcoch C–G umiestnite výpočet a súčet

2. Odpojte hárky Ďalšie výpočty sa vykonajú podobným spôsobom pre lineárnu závislosť na hárku 1 a pre kvadratickú závislosť na hárku 2.

3. Pod výslednou tabuľkou vytvoríme maticu koeficientov a stĺpcový vektor voľných členov. Vyriešme sústavu lineárnych rovníc podľa nasledujúceho algoritmu:

Kalkulovať inverzná matica a maticové násobenie, používame Majster funkcie a funkcie MOBR a MUMNOZH.

4. V bunkovom bloku H2: H 9 na základe získaných koeficientov vypočítame hodnoty aproximácie polynómy i calc., v bloku I 2: I 9 - odchýlky D y i = y i exp. - y i calc., v stĺpci J - nesúlad:

Tabuľky získané a zostavené pomocou Sprievodcovia grafmi grafy sú zobrazené na obrázkoch 6, 7, 8.


Ryža. 6. Tabuľka na výpočet koeficientov lineárnej funkcie,

aproximácia experimentálne údaje.


Ryža. 7. Tabuľka na výpočet koeficientov kvadratickej funkcie,

aproximáciaexperimentálne údaje.


Ryža. 8. Grafické znázornenie výsledkov aproximácie

experimentálne údaje lineárne a kvadratické funkcie.

Odpoveď. Experimentálne údaje boli aproximované lineárnou závislosťou r = 0,07881 X + 0,442262 so zvyškovým Q = 0,165167 a kvadratická závislosť r = 3,115476 X 2 – 5,2175 X + 2,529631 so zvyškovým Q = 0,002103 .

Úlohy. Aproximujte funkciu danú tabuľkovými, lineárnymi a kvadratickými funkciami.

Tabuľka 6

№0

X

0,1

0,2

0,3

0,4

0,5

0,6

0,7

0,8

r

3,030

3,142

3,358

3,463

3,772

3,251

3,170

3,665

1

3,314

3,278

3,262

3,292

3,332

3,397

3,487

3,563

2

1,045

1,162

1,264

1,172

1,070

0,898

0,656

0,344

3

6,715

6,735

6,750

6,741

6,645

6,639

6,647

6,612

4

2,325

2,515

2,638

2,700

2,696

2,626

2,491

2,291

5

1.752

1,762

1,777

1,797

1,821

1,850

1,884

1,944

6

1,924

1,710

1,525

1,370

1,264

1,190

1,148

1,127

7

1,025

1,144

1,336

1,419

1,479

1,530

1,568

1,248

8

5,785

5,685

5,605

5,545

5,505

5,480

5,495

5,510

9

4,052

4,092

4,152

4,234

4,338

4,468

4,599

ktorá nájde najviac široké uplatnenie v rôznych oblastiach vedy a praktické činnosti. Môže to byť fyzika, chémia, biológia, ekonómia, sociológia, psychológia a tak ďalej a tak ďalej. Z vôle osudu sa často musím popasovať s ekonomikou, a preto vám dnes vybavím letenku do úžasnej krajiny tzv. Ekonometria=) ... Ako to nechceš?! Je to tam veľmi dobré - stačí sa rozhodnúť! ...Ale to, čo pravdepodobne určite chcete, je naučiť sa riešiť problémy najmenších štvorcov. A hlavne usilovní čitatelia sa ich naučia riešiť nielen presne, ale aj VEĽMI RÝCHLO ;-) Ale najskôr všeobecné vyjadrenie problému+ súvisiaci príklad:

Nech sa študujú ukazovatele v nejakej tematickej oblasti, ktoré majú kvantitatívne vyjadrenie. Zároveň existujú všetky dôvody domnievať sa, že ukazovateľ závisí od ukazovateľa. Tento predpoklad môže byť vedeckou hypotézou aj založenou na elementárnom zdravom rozume. Nechajme však vedu bokom a preskúmajme chutnejšie oblasti – menovite obchody s potravinami. Označiť podľa:

– obchodný priestor predajne potravín, m2,
- ročný obrat obchodu s potravinami, milióny rubľov.

Je celkom jasné čo viac plochy tým väčší má vo väčšine prípadov obrat.

Predpokladajme, že po vykonaní pozorovaní / experimentov / výpočtov / tanca s tamburínou máme k dispozícii číselné údaje:

Pri obchodoch s potravinami je myslím všetko jasné: - toto je plocha 1. predajne, - jej ročný obrat, - plocha 2. predajne, - jej ročný obrat atď. Mimochodom, nie je vôbec potrebné mať prístup k utajovaným materiálom - pomerne presné vyhodnotenie obratu možno získať pomocou matematickej štatistiky. Nenechajte sa však rozptyľovať, kurz komerčnej špionáže je už zaplatený =)

Tabuľkové údaje môžu byť zapísané aj vo forme bodov a zobrazené pre nás obvyklým spôsobom. karteziánsky systém .

Odpovieme dôležitá otázka: koľko bodov je potrebných na kvalitatívnu štúdiu?

Čím väčšie, tým lepšie. Minimálny prípustný set pozostáva z 5-6 bodov. Okrem toho pri malom množstve údajov by do vzorky nemali byť zahrnuté „abnormálne“ výsledky. Takže napríklad malý elitný obchod môže pomôcť rádovo viac ako „ich kolegovia“, čím skresľuje všeobecný vzorec, ktorý je potrebné nájsť!

Ak je to celkom jednoduché, musíme vybrať funkciu, harmonogram ktorý prechádza čo najbližšie k bodom . Takáto funkcia sa nazýva aproximácia (aproximácia - aproximácia) alebo teoretická funkcia . Vo všeobecnosti sa tu okamžite objaví zrejmý "žiadateľ" - polynóm vysoký stupeň, ktorej graf prechádza VŠETKÝMI bodmi. Táto možnosť je však komplikovaná a často jednoducho nesprávna. (pretože graf sa bude neustále „navíjať“ a zle odráža hlavný trend).

Požadovaná funkcia teda musí byť dostatočne jednoduchá a zároveň primerane odrážať závislosť. Ako asi tušíte, jedna z metód na nájdenie takýchto funkcií je tzv najmenších štvorcov. Najprv analyzujme jeho podstatu všeobecný pohľad. Nechajte nejakú funkciu aproximovať experimentálne údaje:


Ako vyhodnotiť presnosť tejto aproximácie? Vypočítajme aj rozdiely (odchýlky) medzi experimentálnymi a funkčnými hodnotami (študujeme kresbu). Prvá myšlienka, ktorá príde na myseľ, je odhadnúť, aká veľká je suma, ale problém je, že rozdiely môžu byť negatívne. (napríklad, ) a odchýlky v dôsledku takéhoto súčtu sa navzájom vyrušia. Preto sa ako odhad presnosti aproximácie navrhuje použiť súčet modulov odchýlky:

alebo v zloženom tvare: (zrazu, kto nevie: je ikona súčtu a je to pomocná premenná - „počítadlo“, ktoré nadobúda hodnoty od 1 do ).

Približovanie sa k experimentálnym bodom rôzne funkcie, dostaneme rôzne významy a samozrejme, kde je tento súčet menší, je táto funkcia presnejšia.

Takáto metóda existuje a volá sa metóda najmenšieho modulu. V praxi sa však výrazne rozšíril. metóda najmenších štvorcov, v ktorom možné záporné hodnoty nie sú eliminované modulom, ale kvadratúrou odchýlok:

, po ktorom úsilie smeruje k výberu takej funkcie, aby súčet kvadrátov odchýlok bol čo najmenší. Odtiaľ vlastne pochádza aj názov metódy.

A teraz sme späť pri ďalšej dôležitý bod: ako je uvedené vyššie, zvolená funkcia by mala byť pomerne jednoduchá - existuje však aj veľa takýchto funkcií: lineárne , hyperbolický, exponenciálny, logaritmický, kvadratický atď. A, samozrejme, tu by som okamžite rád „zmenšil pole pôsobnosti“. Akú triedu funkcií zvoliť pre výskum? Primitívne ale efektívny príjem:

- Najjednoduchší spôsob kreslenia bodov na výkrese a analyzovať ich umiestnenie. Ak majú tendenciu byť v priamej línii, mali by ste hľadať priamka rovnica s optimálnymi hodnotami a . Inými slovami, úlohou je nájsť TAKÉTO koeficienty – tak, aby súčet kvadrátov odchýlok bol najmenší.

Ak sú body umiestnené napr hyperbola, potom je jasné, že lineárna funkcia poskytne zlú aproximáciu. V tomto prípade hľadáme „najpriaznivejšie“ koeficienty pre rovnicu hyperboly - tie, ktoré dávajú minimálny súčet štvorcov .

Teraz si všimnite, že v oboch prípadoch hovoríme o funkcie dvoch premenných, ktorých argumenty sú hľadal možnosti závislosti:

A v podstate potrebujeme vyriešiť štandardný problém – nájsť minimálne funkcie dvoch premenných.

Pripomeňme si náš príklad: Predpokladajme, že body „obchodu“ majú tendenciu byť umiestnené v priamej línii a existuje každý dôvod domnievať sa, že existuje lineárna závislosť obrat z maloobchodný priestor. Nájdite TAKÉTO koeficienty "a" a "be" tak, aby bol súčet kvadrátov odchýlok bol najmenší. Všetko ako obvykle - prvé parciálne deriváty 1. rádu. Podľa pravidlo linearity môžete rozlišovať priamo pod ikonou sumy:

Ak chcete použiť tieto informácie na esej alebo semestrálnu prácu, budem veľmi vďačný za odkaz v zozname zdrojov, nikde nenájdete také podrobné výpočty:

Urobme štandardný systém:

Každú rovnicu zredukujeme o „dvojku“ a navyše „rozdelíme“ súčty:

Poznámka : nezávisle analyzovať, prečo je možné z ikony súčtu vyňať „a“ a „byť“. Mimochodom, formálne sa to dá urobiť so sumou

Prepíšme systém do „aplikovanej“ formy:

potom sa začne kresliť algoritmus na riešenie nášho problému:

Poznáme súradnice bodov? Vieme. Sumy môžeme nájsť? Jednoducho. Skladáme to najjednoduchšie sústava dvoch lineárnych rovníc s dvoma neznámymi("a" a "beh"). Systém riešime napr. Cramerova metóda, výsledkom čoho je stacionárny bod . Kontrola postačujúca podmienka pre extrém, môžeme overiť, že v tomto bode je funkcia dosiahne presne minimálne. Overenie je spojené s dodatočnými výpočtami a preto ho necháme v zákulisí. (v prípade potreby je možné zobraziť chýbajúci rámček). Vyvodzujeme konečný záver:

Funkcia najlepšia cesta (aspoň v porovnaní s akoukoľvek inou lineárnou funkciou) približuje experimentálne body . Zhruba povedané, jeho graf prechádza čo najbližšie k týmto bodom. V tradícii ekonometrie sa nazýva aj výsledná aproximačná funkcia párová lineárna regresná rovnica .

Uvažovaný problém má veľký praktický význam. V situácii s naším príkladom, rovnica umožňuje predpovedať, aký druh obratu ("yig") bude v predajni s jednou alebo druhou hodnotou predajnej plochy (jeden alebo iný význam "x"). Áno, výsledná predpoveď bude len predpoveďou, no v mnohých prípadoch sa ukáže ako celkom presná.

Budem analyzovať iba jeden problém so „skutočnými“ číslami, pretože v ňom nie sú žiadne ťažkosti - všetky výpočty sú na úrovni školské osnovy 7-8 ročník. V 95 percentách prípadov budete vyzvaní, aby ste našli len lineárnu funkciu, ale na samom konci článku ukážem, že nájsť rovnice pre optimálnu hyperbolu, exponent a niektoré ďalšie funkcie nie je o nič zložitejšie.

V skutočnosti zostáva rozdávať sľúbené dobroty – aby ste sa naučili takéto príklady riešiť nielen presne, ale aj rýchlo. Starostlivo študujeme štandard:

Úloha

Ako výsledok štúdia vzťahu medzi dvoma ukazovateľmi sa získali nasledujúce dvojice čísel:

Pomocou metódy najmenších štvorcov nájdite lineárnu funkciu, ktorá najlepšie aproximuje empirickú funkciu (skúsený)údajov. Vytvorte výkres, na ktorom v karteziánskom pravouhlom súradnicovom systéme nakreslite experimentálne body a graf aproximačnej funkcie . Nájdite súčet štvorcových odchýlok medzi empirickými a teoretickými hodnotami. Zistite, či je funkcia lepšia (v zmysle metódy najmenších štvorcov) približné experimentálne body.

Všimnite si, že hodnoty „x“ sú prirodzené hodnoty a to má charakteristický zmysluplný význam, o ktorom budem hovoriť o niečo neskôr; ale, samozrejme, môžu byť zlomkové. Okrem toho v závislosti od obsahu konkrétnej úlohy môžu byť hodnoty „X“ aj „G“ úplne alebo čiastočne záporné. Dostali sme „netvárnu“ úlohu a začíname s ňou Riešenie:

Nájdeme koeficienty optimálnej funkcie ako riešenie systému:

Na účely kompaktnejšieho zápisu možno premennú „counter“ vynechať, pretože už je jasné, že sčítanie sa vykonáva od 1 do .

Je vhodnejšie vypočítať požadované množstvá v tabuľkovej forme:


Výpočty je možné vykonávať na mikrokalkulačke, ale oveľa lepšie je použiť Excel - rýchlejšie a bez chýb; pozrite si krátke video:

Dostávame teda nasledovné systému:

Tu môžete vynásobiť druhú rovnicu 3 a odčítajte 2. od 1. rovnice člen po člene. Ale to je šťastie - v praxi systémy často nie sú nadané a v takýchto prípadoch šetrí Cramerova metóda:
, takže systém má unikátne riešenie.

Urobme kontrolu. Chápem, že to nechcem, ale prečo preskakovať chyby tam, kde si ich nemôžete nechať ujsť? Nahraďte nájdené riešenie v ľavá strana každá rovnica systému:

Získajú sa správne časti zodpovedajúcich rovníc, čo znamená, že systém je vyriešený správne.

Požadovaná aproximačná funkcia: – od všetky lineárne funkcie najlepšie sa ním priblížia experimentálne údaje.

Na rozdiel od rovno závislosť obratu predajne od jej plochy, zistená závislosť je obrátene (zásada „čím viac – tým menej“), a túto skutočnosť okamžite odhalí negatív uhlový koeficient. Funkcia nás informuje, že so zvýšením určitého ukazovateľa o 1 jednotku sa hodnota závislého ukazovateľa znižuje priemer o 0,65 jednotky. Ako sa hovorí, čím vyššia je cena pohánky, tým menej sa predáva.

Na vykreslenie aproximačnej funkcie nájdeme dve jej hodnoty:

a vykonajte kreslenie:


Vybudovaná čiara je tzv trendová čiara (konkrétne lineárna trendová čiara, t. j. vo všeobecnom prípade trend nemusí byť nevyhnutne priamka). Výraz „byť v trende“ pozná každý a myslím si, že tento výraz nepotrebuje ďalší komentár.

Vypočítajte súčet štvorcových odchýlok medzi empirickými a teoretickými hodnotami. Geometricky ide o súčet druhých mocnín dĺžok „karmínových“ segmentov (dve z nich sú také malé, že ich ani nevidíte).

Zhrňme si výpočty do tabuľky:


Môžu byť opäť vykonané ručne, len v prípade, že uvediem príklad pre 1. bod:

ale oveľa efektívnejšie je urobiť už známy spôsob:

Zopakujme si: aký je zmysel výsledku? Od všetky lineárne funkcie funkciu exponent je najmenší, to znamená, že je to najlepšia aproximácia vo svojej rodine. A tu, mimochodom, posledná otázka problému nie je náhodná: čo ak navrhovaná exponenciálna funkcia bude lepšie aproximovať experimentálne body?

Nájdite zodpovedajúci súčet štvorcových odchýlok - aby som ich rozlíšil, označím ich písmenom "epsilon". Technika je úplne rovnaká:


A opäť pre každý výpočet požiaru pre 1. bod:

V Exceli používame štandardnú funkciu EXP (Syntax nájdete v Pomocníkovi programu Excel).

Záver: , takže exponenciálna funkcia aproximuje experimentálne body horšie ako priamka .

Tu však treba poznamenať, že „horšie“ je ešte neznamená, čo je zle. Teraz som vytvoril graf tejto exponenciálnej funkcie - a tiež prechádza blízko k bodom - natoľko, že bez analytickej štúdie je ťažké povedať, ktorá funkcia je presnejšia.

Tým je riešenie dokončené a vraciam sa k otázke prirodzených hodnôt argumentu. V rôznych štúdiách sú spravidla ekonomické alebo sociologické mesiace, roky alebo iné rovnaké časové intervaly očíslované prirodzeným „X“. Zvážte napríklad takýto problém.

Páčil sa vám článok? Zdieľaj to