Funktion sovitus, virheen pienennys?

[Lakrankki]

Kultaisella 90-luvulla olin opiskelemassa ja harjoittelimme Mathematica-softan käyttöä. Ihan alkeiskurssi. Opettaja teki jonkun esimerkin, missä oli monimutkainen funktio ja sitten oli helpompi funktio jolla estimoitiin/approksimoitiin tätä monimutkaista. Lopuksi laskettiin joku kokonaisvirhe.

Sen jälkeen hän näytti tempun, missä tehtiin joku yksinkertainen temppu jolla saadaan kokonaisvirhe puolittumaan/pienenemään ja ainoa hankala vaihe oli jonkun virhefunktion integrointi (???). No sujuihan se Mathematicalla ja virhe pieneni.

Mutta ... mitä ihmettä me oikein opiskelimme silloin? Kaikki tuohon liittyvä on jo hämärtynyt muistista. En keksi edes sopivia hakusanoja miten tuon voisi etsiä netistä.

Haluaisin tehdä tuon asian nyt uudestaan paremman ajan ja motivaation kanssa.

[SHT]

Minä opiskelin matematiikkaa 80-luvulla. Ja matematiikkaa tietokoneelle-kurssilla oli käytössä joku ohjelmisto. Se ei kuitenkaan liene ollut Mathematica, sillä sen ensimmäinen versio ilmeistyi 1988 eli vuonna jolloin valmistuin.
Kokonaisvirhe on monimutkaisen funktion ja sen yksinkertaisemman funktion etäisyys toisistaan- Ehkä se temppu oli näiden kahden funktion (R->R2) käyrien väliin jäävä pinta-alan minimointi.

[MooM]

Yleisin tapa sovittaa tuntemattomaan dataan joku funktio lienee edelleen neliösumman minimointi. Eli lasketaan summa siitä, miten funktion arvot eroavat datasta kussakin datan pisteessä. Ennen summasta erotus neliöidään.

Vastaavaa voi tietysti soveltaa niin, että data on se monimutkaisemman funktion arvojen joukko sopivalla näytteistyksellä.

[Vanha jäärä]

Polynomin sovitus pistejoukkoon onnistuu helposti Vandermonden matriisilla. Matriisiyhtälö ratkaisemalla saadaan pienimmän neliösumman sovitus. Tosin ratkaisumenetelmä kannattaa valita tarkoin, koska yhtälöryhmän ratkaisu saattaa mennä helposti numeerisesti epästabiiliksi.

[HuuHaata]

Onko jossain tehty näitä vastaavia tarkemmin? Siis sanoo suomeksi sitä, että numeeriset menetelmät valitaan niin, että ne nopeasti antavat jonkun tuloksen. Useimpien jättäessä huomiotta, ettei ollakaan tarkassa tekemisessä.

Onko olemassa parempia tapoja, joissa esimerkiksi vaadittava laskenta-aika räjähtäisi?

[Neutroni]

Onko jossain tehty näitä vastaavia tarkemmin? Siis sanoo suomeksi sitä, että numeeriset menetelmät valitaan niin, että ne nopeasti antavat jonkun tuloksen. Useimpien jättäessä huomiotta, ettei ollakaan tarkassa tekemisessä.

Onko olemassa parempia tapoja, joissa esimerkiksi vaadittava laskenta-aika räjähtäisi?

Pienin neliösumma yrittää olla jonkinlainen yleinen sovituksen hyvyyden mitta, joka on helppo ymmärtää, edullinen laskea ja sopii moneen käyttöön. Varmasti monille erityisongelmille on parempiakin sovituksia, mutta se mitä paremmuus silloin tarkoittaa pitää määritellä ja sovitusfunktiot ratkaista kyseiselle ongelmalle erikseen.

[Stalker]

Tekoäly tuumas notta
"Yes, there are various methods to approximate functions with simpler or lower-degree functions. These approximation techniques are widely used in mathematics, numerical analysis, and engineering to make complex functions more manageable for analysis, computation, or visualization. Here are some common methods for approximating functions:

Taylor Series Approximation: The Taylor series expansion is a method to represent a function as an infinite sum of terms, where each term is derived from the function's derivatives evaluated at a particular point. By truncating the series at a certain degree, we can approximate the original function with a polynomial. The higher the degree of the polynomial, the closer the approximation will be to the original function within a certain range.

Least Squares Approximation: This method aims to find the best-fitting lower-degree polynomial or linear combination of functions that minimizes the sum of the squares of the differences between the original function and the approximation. This is often used when the approximation function is not a polynomial but can be represented as a linear combination of other functions.

Piecewise Approximation: Instead of using a single function to approximate an entire domain, piecewise approximation divides the domain into smaller regions and approximates the function using different lower-degree functions within each region. This approach is useful when the function has different behaviors in different parts of its domain.

Interpolation: Interpolation is a method of constructing a polynomial or piecewise function that passes through a given set of data points. The resulting function approximates the original function at these specific points and can be used to estimate the function's behavior in between the data points.

Fourier Series: The Fourier series is used to represent periodic functions as an infinite sum of sine and cosine functions with specific coefficients. Truncating the series at a certain point provides a lower-degree approximation of the original function.

Chebyshev Approximation: Chebyshev polynomials are often used for approximating functions because they provide good uniform approximations on specific intervals. This method is especially useful for functions that are hard to approximate using standard polynomial approximations.

Regression Analysis: In statistical modeling, regression analysis is used to find the best-fitting relationship between a dependent variable and one or more independent variables. This can lead to approximating a function with a lower-degree polynomial or a combination of functions.

The choice of approximation method depends on the nature of the function, the desired accuracy, and the available resources for computation. Each method has its strengths and limitations, and the appropriate choice will depend on the specific problem at hand."

[KultaKikkare]

Mutta ... mitä ihmettä me oikein opiskelimme silloin? Kaikki tuohon liittyvä on jo hämärtynyt muistista. En keksi edes sopivia hakusanoja miten tuon voisi etsiä netistä.

Numeerista analyysiä ja integrointia.

https://fi.wikipedia.org/wiki/Numeerinen_analyysi

[Eusa]

Onko jossain tehty näitä vastaavia tarkemmin? Siis sanoo suomeksi sitä, että numeeriset menetelmät valitaan niin, että ne nopeasti antavat jonkun tuloksen. Useimpien jättäessä huomiotta, ettei ollakaan tarkassa tekemisessä.

Onko olemassa parempia tapoja, joissa esimerkiksi vaadittava laskenta-aika räjähtäisi?

Pienin neliösumma yrittää olla jonkinlainen yleinen sovituksen hyvyyden mitta, joka on helppo ymmärtää, edullinen laskea ja sopii moneen käyttöön. Varmasti monille erityisongelmille on parempiakin sovituksia, mutta se mitä paremmuus silloin tarkoittaa pitää määritellä ja sovitusfunktiot ratkaista kyseiselle ongelmalle erikseen.

Miten halutaan painottaa mittauksen ja sovitefunktion arvon erotusta? Neliöön korotus tarkoittaa "suomennettuna" sitä, että painotetaan mittauksen ja sovitearvon etäisyyttä vuorovaikutuksena.

Joskus mittauksen luonne voi olla vaikka sellainen, että mittauksen laatu vaihtelee "tähtäyksen" perusteella - silloin on perustellumpaa painottaa vähemmän etäisten arvojen sovittumista; erotus saatetaan korottaa esim. potenssiin 3/2. Toisaalta, jos on odotettavissa fluktuoiva sovitekäyrä, karkeassa sovittamisessa voi kokeilla vaikka potenssia 3.

Viimeistelty julkaisu yleensä edellyttää mitta-aineiston suodatusta niin, että heikkolaatuisimmat mitat voidaan jättää pois hajamittoina. Mikäpä olisi luotettavan tasalaatuisen aineiston parempi sovite kuin erotusten neliöiden pienin summa?...

[Vanha jäärä]

Joskus mittauksen luonne voi olla vaikka sellainen, että mittauksen laatu vaihtelee "tähtäyksen" perusteella - silloin on perustellumpaa painottaa vähemmän etäisten arvojen sovittumista; erotus saatetaan korottaa esim. potenssiin 3/2. Toisaalta, jos on odotettavissa fluktuoiva sovitekäyrä, karkeassa sovittamisessa voi kokeilla vaikka potenssia 3.

Ja ainahan kannattaa miettiä, voisiko tai pitäisikö mittauspisteisiin vielä käyttää jotakin painotusfunktiota eli korvata f(xᵢ) tulolla w(xᵢ)·f(xᵢ), missä w(x) painotusfunktio. Tosin painotusfunktiolle pitää olla jokin järkiperuste, esimerkiksi mittaustarkkuuden riippuvuus ajasta tai paikasta.

[HuuHaata]

Voiko noissa päätyä ajatuskulkuihin, joissa päädyttäisiin monimutkaisempaan tekemisiin perustellusti? Eli vaikkapa niin, että minimointiin jollain perustellulla syyllä otettaisiinkin mukaan naapureiden vuorovaikutus? Jossa mennään siihen, että kone raksuttaa pidempää, ja antaa arviota sinnepäin minimoinnista.

Eli se pointtini näissä on, että onko käytetty matematiikka seurausta jossain määrin jostain 70-luvun tietokoneista, vai onko kyseessä tekeminen, jossa nyt vaan ei ole kunnolla perusteltua käyttää tietokonetta niiden äärirajoillaan?

[Lakrankki]

Yritin nyt muistella kovasti mitä silloin tehtiin. Ensin oli vaikea funktio ja helpompi approksimointifunktio. Sitten kun katsottiin virheen kuvaajaa, niin se aaltoili nollan molemmin puolin. Ja sitten virhe korotettiin jotenkin toiseen potenssiin jotta se virheen kuvaaja oli vain nollan yläpuolella.

Ja sitten se temppu oli jotenkin, että nyt kun siirretään vain nollan yläpuolella aaltoilevaa virhettä pieni pätkä alaspäin, niin että osa virheestä on taas nollan alapuolella ja osa yläpuolella, niin virheen suuruus on pienentynyt lähtötilanteeseen verrattuna.

Saako kukaan kiinni tästä, että mitä tehtiin? Auttaisiko kuva asiaan ... Virhe=sininen, Virhe^2=oranssi, Virhe^2-jotakin=harmaa

[HuuHaata]

Insinöörin slowlife dervointi nykykoneilla puoli vuotta, ja integrointi vie vuoden. Mutta tulokset ovat kyllä sitten erittäin hyviä, kun saapuvat niitä voi ihastella useamman viikon.

[Lakrankki]

En muista enää mitä laskimme noin 30 vuotta sitten, mutta se ei ollut fourier tai mitään semmoista vaikeaa vaan Mathematica alkeiskurssi, pääasiana softan käytön opettelu ja joku esimerkkitehtävä. Tuon ajan jälkeen on tullut tehtyä kaikenlaista, mutta tuohon temppuun, jota en silloin oikein ymmärtänyt, en ole koskaan törmännyt missään uudestaan. Siksi jäin miettimään, että puuttuuko minulta jokin tärkeä perus-temppu työkalupakista.

[Tauko]

En muista enää mitä laskimme noin 30 vuotta sitten, mutta se ei ollut fourier tai mitään semmoista vaikeaa vaan Mathematica alkeiskurssi, pääasiana softan käytön opettelu ja joku esimerkkitehtävä. Tuon ajan jälkeen on tullut tehtyä kaikenlaista, mutta tuohon temppuun, jota en silloin oikein ymmärtänyt, en ole koskaan törmännyt missään uudestaan. Siksi jäin miettimään, että puuttuuko minulta jokin tärkeä perus-temppu työkalupakista.

Mathematicasta en tiedä, en tunne, mutta ymmärsin, että kyse olisi funktion approksimaatiosta toisella funktiolla (eikä kyseessä olisi mitatun havaintodatan sovituksesta).

Silloin esimerkkinä funktioiden y=e^x ja y=x^2 erotus välillä [0, 2] voidaan laskea integroimalla erotus funktio. Erotusfunktio F(x) = e^x - x^2, joka on kokonaispoikkeama ko. välillä.