Matemaattiset kirjastot ja AI

[SHT]

Katselin erään tekoälyn esittelyvideota. Käyttäjä kirjoitti kysymyksen Generate Python function to do Quick Sort ja sen jälkeen näytölle ilmaantui Python-koodi.
Kyseisen tekoälyn kerrottiin osaavan kahtakymmentä ohjelmointikieltä.
Käytetäänkö Open Source matemaattisia kirjastoja tekoälyn kehittämisessä ? Kirjastoissa on valmiita koodeja moniin matemaattisiin ongelmiin. Eli voisiko tekoäly saatuaan ylläolevan käskyn Generate Python function to do Quick Sort siten, että haettaisiin open source kirjastosta esim. Fortranilla kirjoitettu Quick Sortin koodi ja sitten Google Translaten tapaisella tekoälyllä käännetään Fortran-koodi Pythoniksi.

[KultaKikkare]

Kyllä se olisi mahdollista noinkin toteuttaa.

ChatGPT saa syötteenä kirjaimia, ja tuottaa ulostulona kirjaimia. Ulostulevan tekstin oikeellisuus suhteessa sisääntulevaan pyritään optimoimaan mahdollisimman hyvin sopivaksi, eli opetusdataa vastaavaksi. ChatGPT:ssä on 100miljardia neuronia, joista jokainen ajaa tämän funktion:

Capture.JPG (10.68 KiB) Katsottu 846 kertaa

https://paperswithcode.com/method/gelu

X on opetusvaiheessa säädetty painotus, niitä on 100miljardia kappaletta.

Ehkä vois siis sanoa (tää ei ole täysin validia, mut koitan muodostaa kokomaisuuden informaatio virran kuvausta), että se muuttaa netistä lukemansa opensource java QuickSort toteutuksen numeroiksi, käyttäen toisia numeroita joiden avulla se osaa lukea Java koodia, ja sitten kolmansia numeroita - niitä jotka säädettiin sen opiskellessa Pythonia - hyödyntäen muuttaa nämä java koodin lukemisesta syntyneet numerot python koodiksi.

[KultaKikkare]

Mutta ei siellä ole olemassa mitään dedikoituja lohkoja java koodin lukemiselle ja python koodin kirjoittamiselle, muuta kuin lohkottumista jota on muodostunut opetusprosessin aikana.

Kuvantunnistustekoälyjen parametreista on selvästi nähtävissä että selkeää parametrien kategorisoitumista tapahtuu.

ChatGPT:n parametrit lienee aikamoisen satunnaisen näköistä höttöä jos niitä ihmisaivojen neuronit yrittää tulkita.

[KultaKikkare]

Mutta ChatGPT ei ymmärrä lukemastaan tai tuottamastaan koodista, tai ylipäänsä mistään tekstistä tuon taivaallista. Se pyrkii ainoastaan jatkamaan tekstiä optimaalisesti opetusdatansa perusteella. Opetusdata on massiivinen määrä tekstiä jota internetistä löytyy, mukaanlukien sorsakoodit yms.

[KultaKikkare]

Ja on oikeastaan aika mindblowing miten hyvin se toimii. Miten hyvin se konvertoi esim. jollain ohjelmointikiellä tehdyn funktion toiselle kielelle ymmärtämättä tai edes tietämättä mistään mitään, ihan vaan apinoimalla ja minimoimalla virheen suhteessa opetusdataan. Sen tekemisessä on matkittu luonnon luomaa mallia.

[KultaKikkare]

Ja niille joiden mielestä chatgpt on vaan tyhmä hakukone, niin hei, se on vaan tietokoneohjelma. Niinkuin kaikki tekoälyt. Jotain suhteellisuudentajua.

Tehkää ite parempi.

[Varaktori]

Tehkää ite parempi.

Ok.

[KultaKikkare]

Tehkää ite parempi.

Ok.

Kirjota parempi aktivointifunktio nii mä koodaan.

En tiedä millaisia geneettisiä algoritmeja tossa on käytössä. Satunnaisuus ei toimi tollasilla datamäärillä.

[SHT]

Kyllä se olisi mahdollista noinkin toteuttaa.

ChatGPT saa syötteenä kirjaimia, ja tuottaa ulostulona kirjaimia. Ulostulevan tekstin oikeellisuus suhteessa sisääntulevaan pyritään optimoimaan mahdollisimman hyvin sopivaksi, eli opetusdataa vastaavaksi. ChatGPT:ssä on 100miljardia neuronia, joista jokainen ajaa tämän funktion:

Capture.JPG
https://paperswithcode.com/method/gelu

X on opetusvaiheessa säädetty painotus, niitä on 100miljardia kappaletta.

Ehkä vois siis sanoa (tää ei ole täysin validia, mut koitan muodostaa kokomaisuuden informaatio virran kuvausta), että se muuttaa netistä lukemansa opensource java QuickSort toteutuksen numeroiksi, käyttäen toisia numeroita joiden avulla se osaa lukea Java koodia, ja sitten kolmansia numeroita - niitä jotka säädettiin sen opiskellessa Pythonia - hyödyntäen muuttaa nämä java koodin lukemisesta syntyneet numerot python koodiksi.

Kiitos, en ajatellutkaan, että syöte ja ulostulo ovat vain jono kirjaimia.

[SHT]

X on opetusvaiheessa säädetty painotus, niitä on 100miljardia kappaletta.

Ehkä vois siis sanoa (tää ei ole täysin validia, mut koitan muodostaa kokomaisuuden informaatio virran kuvausta), että se muuttaa netistä lukemansa opensource java QuickSort toteutuksen numeroiksi, käyttäen toisia numeroita joiden avulla se osaa lukea Java koodia, ja sitten kolmansia numeroita - niitä jotka säädettiin sen opiskellessa Pythonia - hyödyntäen muuttaa nämä java koodin lukemisesta syntyneet numerot python koodiksi.

Mielestäni ei riitä, että opetusdatassa on kerran kysymys Create a Python function that does the Quicksort ja koodi. Pareja kysymys ja koodi on oltava useampia, ennenkuin tekoäly oppii vastaamaan kysymykseen.