Onko tekoäly hyvä isäntä vai huono renki ?

[KultaKikkare]

Kesällä sosiaalisessa mediassa levisi graafi, josta tuli monelle pöyristelyn aihe. Siinä näytettiin lähteet, joista ChatGPT hakee vastauksiinsa aineistoa.

Markkinointiyritys Semrushin selvitykseen perustuvaan graafiin oli analysoitu 150 000 ChatGPT:n lähdettä kesäkuun aikana.

40,1 prosentissa vastauksista lähteenä oli Reddit-keskustelupalsta.

Siis Reddit! Kuulostaa silkalta alkemialta, jossa keskustelupalstan sisältö on muutettu satojen miljardien bisnekseksi, jumalalliseksi viisaudeksi, jota kaikki janoavat

Huh. Monesti huomannut kun oon tarkastanut Googlella chatgpt:n antamia vastauksia, että löytyy paljon reddit lankoja joissa on samankaltaisia neuvoja.

Määrä yllätti kyllä. Tarvii suhtautua vielä nykyistäkin skeptisemmin.

Onko se tulevaisuudessa välttämättä ongelma jos AI käyttää AI:n tuottamaan tietoa? Sehän voi olla myös uusi kehitystä nopeuttava kierre, kun erilaiset AI:t iteroivat toistensa ja omiakin vastauksia.

Samaanhan on perustunut ihmiskunnan tiedon jalostuminen.

Kielimallit eivät ole läheskään vain "sanojen todennäköisyyksiin" perustuvia, kyllä siellä on monelaista loogistakin mallia mukana ja kaikki kehittyy warp-nopeuksilla paremmiksi. Kun puhumme nyt kielimallien ongelmista, niin puhumme niiden ongelmista historiassa, nykyiset mallit kun ovat jo niin paljon parempia, että on vaikea pysyä kärryillä kehityksessä vaikka seuraisi sitä aktiivisesti.

Kyl sitä yleisesti pidetään ongelmana, koska neuroverkot tekee aina pieniä virheitä ja responssit on biased. Jos kielimalleja koulutetaan toisten kielimallien tekstillä virheet kertaantuu.

Neuroverkot on aina pohjimmiltaan vain todennäköisyyksiin perustuvia monimutkaisia tilastollisia laskukoneita. Toki uusissa kielimalleissa on paljon muutakin, vaikkapa itsekritiikki jossa neuroverkon responssille tehdään sanity checkkejä ennen julkaisua, mutta sen tsekin tekee toinen neuroverkko joka on ihan samalla tavalla vain.todennäköisyyksiin perustuva laskukone.

Ongelma on fundamentaalinen eikä sitä voi korjata millään lisäkilkkeillä mitkä kyllä muuten parantaa noiden luotettavuutta

Jos täysin erilaiset kielimallit kpuluttaa toisiaan niin mallien romahdus tapahtuu varmasti hitaampaa mutta kuitenkin väistämättä.

Ihminen on paljon muutakin kuin kielimalli ja ihmiskunnan tiedon jalostuminen perustuu kokeisiin ja käytännön trial and erroriin, ihminen kehittyy ja kehittää tietoa kun tutkii konkreettisesti ympäristöä ja erilaisia ilmiöitä, ei sanoja pyörittelemällä.

[KultaKikkare]

Mallin romahdusnsiis tarkoittaa sitä että koulutuksessa käytettävän geneettisen algoritmin tuottamat seuraavat sukupolvet on huonompia kuin edeltäjät.

Sama voi tapahtua kyllä luonnossakin, ihminen voi lajitasolla taantua jos vaikkapa geenipooli supistuu liikaa.

[KultaKikkare]

Kielen opiskeluun joku reddit on varmasti ihan jees lähde mut sen jälkeen kun malli osaa kielen, näkisin mielelläni haaroja joika jatkokoulutetaan ainoastaan jostain hyvistä luotettavista lähteistä.

[Deimos]

Opetusdata sisältää vain näkyvän netin, ei dark webbiä. Eli jokaiselta tekoälyltä pimitetään olennainen osa mitä ihminen oikeasti on. Näin siis tekoäly vastasi minulle. Oletan että myös tekoäly kykenee kirjoittamaan (Tai puhumaan) puppua.

[Kissatäti]

Tekoälyohjaaja on tehnyt elokuvan, jota tähdittävät tekoälynäyttelijät – katso traileri

[Tauko]

AI oli "hyvä" isäntä, ainakin kova isäntä, kun se Al oli, Al Capone.