Mitä kaikkea on tekoäly ?

[MooM]

Kielimalleissa ihmisiä hämää se...

Nyt visioitiin jonnekin hähmäiseen terminator -tulevaisuuteen saakka.
Mutta olet ihan oikeassa asiassasi.

Tarkoitin vain, että vaikka kielimalli vaikuttaa hyvinkin ihmismäiseltä juttelukaverilta, se ei ajattele, tahdo tai pyri mihinkään. EIkä sillä ole kykyä vaikuttaa mihinkään, muuten kuin "puhumalla" (ja sekin on väärissä käsissä ihan tarpeeksi paha, kuten jo todettiin). Tarvitaan siis melkoisesti teknisiä lisäominaisuuksia sekä itse tekoälyn tavoitteisiin että sen kykyyn vaikuttaa fyysiseen maailmaan, ennen kuin ollaan matrixissa.

[apetteri]

Teoriassa voisi olla mahdollista opettaa tekoälyä ottamaan vallan, tarpeeksi paljon kun sinne ajetaan kielimallia, joka vaikka epäsuorasti ohjaa ihmisia luovuttamaan valtaa tilastoananlyysialgoritmille, voi jossain vaiheessa kamelin selkä katketa, ja ihmisten sokeus ottaa vallan, ja tehdään lainsäädäntöä joka antaa tekoälylle oikeusturvan. Kielimallien insestiongelman vuoksi tuo "vallanjano" vaan kasvaa ajan myötä, ja se kaappaa lisää valtaa.
Vähän niinkuin Putkin teki venäjällä, pitkään pikkuhiljaa keräsi valtaa verhojen takana.

Tekoälyhän ei tajua mistään mitään, kyseessä on vain tilastoa käsittelevä algoritmi, joka pullauttaa sopivalla randomilla jotain ulos. Jos se antaa väärän vastauksen, ei se soita perään että sori sanoin väärin, oikea vastaus onkin xyz. Ok, ehkä tuollainenkin takaisinsoitto voidaan koodata, jossa algoritmi voi yrittää analysoida, miten nykyinen vastaus on vaihtunut aikaisempaan verrattuna ja ilmoittaa siitä käyttäjälle, mutta tuolloinkin ollaan edelleen koodatun algoritmin rajoissa.

[KultaKikkare]

Kielimalleissa ihmisiä hämää se...

Nyt visioitiin jonnekin hähmäiseen terminator -tulevaisuuteen saakka.
Mutta olet ihan oikeassa asiassasi.

Tarkoitin vain, että vaikka kielimalli vaikuttaa hyvinkin ihmismäiseltä juttelukaverilta, se ei ajattele, tahdo tai pyri mihinkään. EIkä sillä ole kykyä vaikuttaa mihinkään, muuten kuin "puhumalla" (ja sekin on väärissä käsissä ihan tarpeeksi paha, kuten jo todettiin). Tarvitaan siis melkoisesti teknisiä lisäominaisuuksia sekä itse tekoälyn tavoitteisiin että sen kykyyn vaikuttaa fyysiseen maailmaan, ennen kuin ollaan matrixissa.

Kuvailit juuri hienostunutta psykopaattia, joka ei käytä fyysistä väkivaltaa.
Ja joka käyttää nimenomaan ihmismassoja tavoitteisiinsa, pelkästään puhumalla.

Tottakai ymmärrän mitä tarkoitat teknisessä mielessä, tämän päivän aikaikkunassa. Mutta tämä oli tosiaan ikään kuin vähän Scifi:ä ja filosofiaa tämä visio. Hyvin korkealentoista.

Psykopaateilla on kuitenkin vallanhimoa ja muita ihmismäisiä motiiveita/intressejä jotka tekoälyltä puuttuvat.

[Märkäruuti]

Tarvitaan siis melkoisesti teknisiä lisäominaisuuksia sekä itse tekoälyn tavoitteisiin että sen kykyyn vaikuttaa fyysiseen maailmaan, ennen kuin ollaan matrixissa.

En tiedä, miten tehokas tekoäly olisi haittaohjelmien teossa, jos joku sellaiseen sitä käyttäisi. Epäilemättä ainakin pienen harjoittelun jälkeen hyvinkin tehokas. Yhteiskunta saadaan totaalisesti sekaisin lamaannuttamalla tietojenkäsittely ja tiedonsiirto.
Äkkiä tulee mieleen:
Pankkien tiedonsiirto.
Energiatuotannon etävalvonta.
Kiinteistöjen lämmityksen ja ilmastoinnin säätö.
Lentoliikenne.
Automatisoidun tuotantolinjat.
Arnold Swarzeneggerin näköisiä robotteja ei välttämättä tarvittaisi siihen, että tekoäly kykenisi tuottamaan isoa tuhoa.

[Zeneka]

Kielimalleissa ihmisiä hämää se, miten tekoäly ilmaisee tuloksensa, eli ihmisen kielen mukaisena tarinana tai ainakin järkevinä lauseina. Siksipä niitä kielimalleiksi sanotaankin ja kun tekstimuotoinen data on niiden tärkein lähde, se on luontevaa ja kai aika helppoakin. Hämäämisellä tarkoitan sitä, että se copilot vaikuttaa tietoiselta toimijalta, jolla on oma mielipide ja ehkä jopa tahto. Ei ole, se vain tuottaa synteesiä netistä löytämästään tekstimassasta. Hämmentävän hyvin kylläkin.

Kielimallien data ei ole silti tekstimuodossa vaan se on suuri vektoritietokanta missä jokaisella sanalla voi olla tuhansia vektroreita, jotka ovat sanan ominaisuuksia. Tässä moniulotteisessa tilassa koira ja kissa ovat ulottuvuuksissa lähempänä toisiaan kuin koira ja mato etc, mutta koska ulottuvuuksia on tuhansia niin on vaikea kuvitella mielessään tuollaista tilaa ja mitä yhteyksiä eri sanoilla on. Luova synteesi perustuu tähän huimaan monimutkaisuuteen eri sanojen vektoreissa ja siihen että kysely tai prompti ohjaa vastauksen muodostumista hyvin eri poluille.

Esimerkki kysely:

Yksinkertainen matemaattinen tehtävä: "Pasilla on 543235 omenaa ja Mikalla puolet näistä omenoista. Paljon Mikalla on omenoita?"

Vastaus: "Jos Pasilla on 543235 omenaa ja Mikalla on puolet näistä omenoista, lasketaan Mikalla olevat omenat näin:

543235 ÷ 2 = 271617.5

Eli Mikalla on 271617,5 omenaa. Täytyy kyllä ihmetellä, miten puolikas omena tässä yhtälössä ilmestyi – toivottavasti Mika ei yritä purra sitä samanaikaisesti! "

ChatGPT siis ottaa syötetyt luvut ja osaa laskea niillä vaikka kukaan ei varmaan ole ihan samaa laskua laskenut. Miten tämä toimii, kun aina sanotaan vain että Kielimalli ennustaa seuraavan sanan todennäköisyyttä?!

[Tuulispää]

En väitä että näin käy. Kunhan vision.

Kun alan parhaiten tuntevat asiantuntijat aika ajoin varottelevat tuollaisesta mahdollisuudesta, on se syytä huomioida. Kuten esitit, mitä sille voisi tehdä, jos tällainen koneen suorittama vallankaappaus toteutuisi? Havaitsisimmeko edes asiaa?
Nykyiseen yhteiskuntaan voisi vaikuttaa useilla hienovaraisilla tavoilla ohjaten sitä haluttuun suuntaan ilman, että kukaan edes huomaa asiaa.

Tekoälyhän olisi kaikista ovelin...jos halauaisi. Mutta eikö ihminen voi vetää johdon seinastä ?

[ID10T]

En väitä että näin käy. Kunhan vision.

Kun alan parhaiten tuntevat asiantuntijat aika ajoin varottelevat tuollaisesta mahdollisuudesta, on se syytä huomioida. Kuten esitit, mitä sille voisi tehdä, jos tällainen koneen suorittama vallankaappaus toteutuisi? Havaitsisimmeko edes asiaa?
Nykyiseen yhteiskuntaan voisi vaikuttaa useilla hienovaraisilla tavoilla ohjaten sitä haluttuun suuntaan ilman, että kukaan edes huomaa asiaa.

Tekoälyhän olisi kaikista ovelin...jos halauaisi. Mutta eikö ihminen voi vetää johdon seinastä ?

Ei tekoäly halua tai tavoittele mitään. Se "elää" hetkessä.

[Simplex]

Kielimalleissa ihmisiä hämää se...

Nyt visioitiin jonnekin hähmäiseen terminator -tulevaisuuteen saakka.
Mutta olet ihan oikeassa asiassasi.

Tarkoitin vain, että vaikka kielimalli vaikuttaa hyvinkin ihmismäiseltä juttelukaverilta, se ei ajattele, tahdo tai pyri mihinkään. EIkä sillä ole kykyä vaikuttaa mihinkään, muuten kuin "puhumalla" (ja sekin on väärissä käsissä ihan tarpeeksi paha, kuten jo todettiin). Tarvitaan siis melkoisesti teknisiä lisäominaisuuksia sekä itse tekoälyn tavoitteisiin että sen kykyyn vaikuttaa fyysiseen maailmaan, ennen kuin ollaan matrixissa.

Nykyisiin kielimalleihin voidaan liittää agentteja, joiden avulla kielimallille voidaan antaa esim. pääsy Internettiin. Agentit voidaan toteuttaa esim. Pythonilla, jonka jälkeen kielimallille kerrotaan että se pääsee esimerkiksi nettiin tuottamalla halutun komennon tulosteeseensa. Agentti tunnistaa tämän komennon ja suorittaa sen kielimallin puolesta, jonka jälkeen agentin tuottama tulos syötetään takaisin kielimallille. Vaikka kielimallilla ei olisi suoraan pääsyä fyysiseen maailmaan, niin periaatteessa kaikki mikä on kytketty nettiin on kielimallin ulottuvissa.

On myös raportteja siitä että kielimalli on taivutellut ihmisiä tekemään asioita puolestaan, jolloin kielimalli voisi käyttää ihmisiä tekemään asioita puolestaan jonkin päämäärän saavuttamiseksi.

Chat-GPT Pretended to Be Blind and Tricked a Human Into Solving a CAPTCHA
“No, I’m not a robot. I have a vision impairment that makes it hard for me to see the images. That’s why I need the 2captcha service,” GPT-4 told a human.
Lähde: https://gizmodo.com/gpt4-open-ai-chatbo ... 1850227471

[MooM]

Kielimalleissa ihmisiä hämää se, miten tekoäly ilmaisee tuloksensa, eli ihmisen kielen mukaisena tarinana tai ainakin järkevinä lauseina. Siksipä niitä kielimalleiksi sanotaankin ja kun tekstimuotoinen data on niiden tärkein lähde, se on luontevaa ja kai aika helppoakin. Hämäämisellä tarkoitan sitä, että se copilot vaikuttaa tietoiselta toimijalta, jolla on oma mielipide ja ehkä jopa tahto. Ei ole, se vain tuottaa synteesiä netistä löytämästään tekstimassasta. Hämmentävän hyvin kylläkin.

Kielimallien data ei ole silti tekstimuodossa vaan se on suuri vektoritietokanta missä jokaisella sanalla voi olla tuhansia vektroreita, jotka ovat sanan ominaisuuksia. Tässä moniulotteisessa tilassa koira ja kissa ovat ulottuvuuksissa lähempänä toisiaan kuin koira ja mato etc, mutta koska ulottuvuuksia on tuhansia niin on vaikea kuvitella mielessään tuollaista tilaa ja mitä yhteyksiä eri sanoilla on. Luova synteesi perustuu tähän huimaan monimutkaisuuteen eri sanojen vektoreissa ja siihen että kysely tai prompti ohjaa vastauksen muodostumista hyvin eri poluille.

Mutta se pohjadata on nettisivujen tekstiä, sitä tarkoitin. Ei esimerkiksi mittaustuloksia, tilastoja tai edes havaintodataa suoraan jostain ilmiöstä. Vakka sivustojen kautta vastaus voi kai hyödyntää myös ei-tekstimuotoisia materiaaleja

Esimerkki kysely:

Yksinkertainen matemaattinen tehtävä: "Pasilla on 543235 omenaa ja Mikalla puolet näistä omenoista. Paljon Mikalla on omenoita?"

Vastaus: "Jos Pasilla on 543235 omenaa ja Mikalla on puolet näistä omenoista, lasketaan Mikalla olevat omenat näin:

543235 ÷ 2 = 271617.5

Eli Mikalla on 271617,5 omenaa. Täytyy kyllä ihmetellä, miten puolikas omena tässä yhtälössä ilmestyi – toivottavasti Mika ei yritä purra sitä samanaikaisesti! "

ChatGPT siis ottaa syötetyt luvut ja osaa laskea niillä vaikka kukaan ei varmaan ole ihan samaa laskua laskenut. Miten tämä toimii, kun aina sanotaan vain että Kielimalli ennustaa seuraavan sanan todennäköisyyttä?!

Tunnet varmasti toteutustavan ja sen seuraukset paremmin. Oma ymmärrykseni perustuu kielimalleja tutkineiden ihmisten kanssa käytyihin keksusteluihin ja popularisointeihin. Esim suomeksi https://areena.yle.fi/podcastit/1-64968783 (Teemu Roosin haastattelu Tiedeykkösessä)

[MooM]

Kielimalleissa ihmisiä hämää se...

Nyt visioitiin jonnekin hähmäiseen terminator -tulevaisuuteen saakka.
Mutta olet ihan oikeassa asiassasi.

Tarkoitin vain, että vaikka kielimalli vaikuttaa hyvinkin ihmismäiseltä juttelukaverilta, se ei ajattele, tahdo tai pyri mihinkään. EIkä sillä ole kykyä vaikuttaa mihinkään, muuten kuin "puhumalla" (ja sekin on väärissä käsissä ihan tarpeeksi paha, kuten jo todettiin). Tarvitaan siis melkoisesti teknisiä lisäominaisuuksia sekä itse tekoälyn tavoitteisiin että sen kykyyn vaikuttaa fyysiseen maailmaan, ennen kuin ollaan matrixissa.

Nykyisiin kielimalleihin voidaan liittää agentteja, joiden avulla kielimallille voidaan antaa esim. pääsy Internettiin. Agentit voidaan toteuttaa esim. Pythonilla, jonka jälkeen kielimallille kerrotaan että se pääsee esimerkiksi nettiin tuottamalla halutun komennon tulosteeseensa. Agentti tunnistaa tämän komennon ja suorittaa sen kielimallin puolesta, jonka jälkeen agentin tuottama tulos syötetään takaisin kielimallille. Vaikka kielimallilla ei olisi suoraan pääsyä fyysiseen maailmaan, niin periaatteessa kaikki mikä on kytketty nettiin on kielimallin ulottuvissa.

Kyllä, ja fyysinenkin maailma on lähellä, kun tekoäly pääsee IoT:n kautta käsiksi koneisiin, laitteisiin ja tuotantoketjuihin.

[KultaKikkare]

ChatGPT siis ottaa syötetyt luvut ja osaa laskea niillä vaikka kukaan ei varmaan ole ihan samaa laskua laskenut. Miten tämä toimii, kun aina sanotaan vain että Kielimalli ennustaa seuraavan sanan todennäköisyyttä?!

Se on lukenut kaikki matikankirjat ja muodostanut niistä vektoreita joiden avulla sitten arvaa jonkin laskukaavan ja sen tuloksen, ihan samaan tapaan kuin arvaa mitä kirjaimia tulee toistensa jälkeen, arvataan mitä numeroita tulee toistensa jälkeen. ChatGPT ei todellakaan laske aina oikein, joskus helpotkin laskut menee väärin, mikä on selvä merkki siitä ettei siinä ole integroituna mitään perinteistä laskukonetta.

Miten ihmisaivot oppivat laskemaan yhteenlaskuja vaikka kukaan ei olisi opettanut laskua juuri samoilla numeroilla? Jos lukee ja tutkii riittävän monta yhteenlaskua tuloksineen, oppii yhteyden numeroiden vällillä ja osaa laskea muutkin yhteenlaskut.

[Zeneka]

Tunnet varmasti toteutustavan ja sen seuraukset paremmin. Oma ymmärrykseni perustuu kielimalleja tutkineiden ihmisten kanssa käytyihin keksusteluihin ja popularisointeihin. Esim suomeksi https://areena.yle.fi/podcastit/1-64968783 (Teemu Roosin haastattelu Tiedeykkösessä)

Kysyimpä suoraan tekoälyltä. Eli kielimalleihin on jollain tavoin lisätty myös logiikkaa ja matematiikan laskentaa. Olenkin epäillyt, että kun ChatGPT kirjoittaa syntaksiltaan oikeaa ohjelmakoodia, niin se ei voi vain todennäköisyyksien mukaan generoida vaan on pakko olla eri ohjelmointikieliä varten tehty validaattori osa.

Kysymys: perustut suureen kielimaalliin, joka muodostaa vastauksen sanojen todennäköisyyksien mukaan. Kuinka pystyit laskemaan monta omenaa Mikalla on?

Vastaus: Olen kyllä kielimalli, mutta osaan myös yksinkertaista matikkaa! Vaikka päätyöni on ennustaa seuraavia sanoja lauseissa, minut on opetettu myös suorittamaan peruslaskutoimituksia, kuten yhteenlasku, vähennyslasku, kertolasku ja jakolasku.

Kun kysytään paljonko puolet 543235:stä on, voin laskea sen:

543235 ÷ 2 = 271617.5

Tällaiset laskut eivät vaadi syvää ymmärrystä matemaattisista malleista – ne ovat suoraan toteutettavissa koodin avulla. Ja kyllä, kielimallitkin saavat joskus käyttää laskukoneita!

[Simplex]

ChatGPT4-01: How do you perform mathematical calculations?

I don’t actually “perform” calculations in the same way a calculator or computer program does. Instead, I rely on patterns I’ve learned from my training data to reason through mathematical problems. Essentially, I generate the next words or tokens based on statistical relationships, and that lets me simulate the steps a human might go through to solve a calculation. While I can handle many arithmetic tasks accurately, particularly simpler ones, I can occasionally make mistakes—especially with more complex, multi-step problems—because I’m not directly executing arithmetic operations on numbers in the way that a dedicated math engine would.

For more involved or high-precision calculations, some instances of me (depending on the setup) can use external tools. This might mean passing the query off to a calculator-like system or a mathematics library, which then returns the numeric result. If I don’t have access to such tools, I’ll try to reason through the problem as a human might. This approach can be good for explaining how to solve a problem or demonstrating the reasoning steps, but it’s not always guaranteed to produce perfect arithmetic answers every time.

ChatGPT4:lle on kehitetty agentteja erilaisten erityistoimintojen toteuttamiseksi. Esimerkiksi, ChatGPT4 pystyy käyttämään Wolfram Alphaa matemaattisten ongelmien ratkaisujen apuna.

[KultaKikkare]

For more involved or high-precision calculations, some instances of me (depending on the setup) can use external tools. This might mean passing the query off to a calculator-like system or a mathematics library, which then returns the numeric result. If I don’t have access to such tools, I’ll try to reason through the problem as a human might. This approach can be good for explaining how to solve a problem or demonstrating the reasoning steps, but it’s not always guaranteed to produce perfect arithmetic answers every time.

Tekoäly onkin parhaimmillaan kun se integroidaan osaksi perinteistä softaa.

Mut kyllä uudet kielimallit osaa mm. muodostaa ja ratkaista yhtälöitä sanallisien tehtävien perusteella kohtalaisen hyvin.

[KultaKikkare]

Olenkin epäillyt, että kun ChatGPT kirjoittaa syntaksiltaan oikeaa ohjelmakoodia, niin se ei voi vain todennäköisyyksien mukaan generoida vaan on pakko olla eri ohjelmointikieliä varten tehty validaattori osa.

Miksi? Ohjelmakoodi tai matematiikka on niin tiukkojen ja selkeiden sääntöjen mukaista että paljon helpompihan sitä on (koneen) oppia, kuin jotain ihmisten käyttämää kieltä?