Tekoälyn vaaroja ja haittoja

[Stalker]

OpenAI:n toimitusjohtaja sai yllätyspotkut – päätöksen seurauksena irtisanoutumisten aalto

Keskustelevasta ChatGPT-tekoälytyökalusta tunnettu OpenAI irtisanoi toimitusjohtajansa Sam Altmanin. Tämä tuli yllätyksenä myös hallituksen puheenjohtajalle, joka irtisanoutui protestiksi. Neuvottelut Altmanin palaamisesta toimitusjohtajaksi kaatuivat sunnuntaina.

https://www.tivi.fi/uutiset/tv/9c399370 ... kirje_ilta

Grok it? Altman MS:lle

[Lyde19]

Väite: OpenAI-pomon potkujen taustalla oli läpimurto ihmiskuntaa uhkaavan tekoälyn kehityksessä

Yksi OpenAI:n toimitusjohtajan Sam Altmanin irtisanomiseen johtanut tekijä oli organisaation hallituksen saama tieto, jossa varoitettiin sen olevan lähestymässä ihmiskuntaa uhkaavan tekoälyn kehittämistä.

Ennen OpenAI:n toimitusjohtajan Sam Altmanin viimeviikkoisia, tilapäisiksi jääneitä potkuja jotkut organisaation tutkijat kirjoittivat sen hallitukselle kirjeen, jossa hallitusta varoitettiin OpenAI:n tehneen läpimurron sellaisen kehittyneen tekoälyn luomisessa, joka voisi uhata ihmiskuntaa.

Kirje ja siinä kuvailtu tekoälyalgoritmi näyttelivät tärkeää roolia Altmanin irtisanomisessa, kaksi asiaa lähellä olevaa henkilöä kertoi Reutersille.

Reutersin lähteiden mukaan kirje oli osa hallituksen suurempaa ongelmalistaa, joka johti toimitusjohtajan irtisanomiseen. Lisäksi hallitus oli huolissaan muun muassa siitä, miten Altman on johtanut alun perin voittoa tavoittelematonta organisaatiota entistä kaupallisempaan suuntaan ja edistänyt kaupallisten tekoälytuotteiden kehitystä ennen kuin sen seuraamukset ovat tiedossa. Tähän kaupallisuuteen on sisältynyt muun muassa ChatGPT-chatbotin julkaiseminen suurelle yleisölle sekä laaja yhteistyö OpenAI:n pääsijoittaja Microsoftin kanssa.

Reuters ei saanut kopiota kirjeestä, ja sen kirjoittaneet henkilöt eivät vastanneet kommenttipyyntöön.

OpenAI ei vastannut Reutersin kommenttipyyntöön. Reutersin lähteet kuitenkin kertoivat sille, että Reutersin kysyttyä kommentteja oli OpenAI:n ylimpään johtoon kuuluva Mira Murati lähettänyt työntekijöille sisäisen muistion, jossa se oli kommentoinut kirjeen ja Q*-nimisen projektin (lausutaan ”Q Star”) olemassaoloa.

OpenAI tähdensi Reutersille, että Murati – joka toimi organisaation toimitusjohtajana 17.–20. marraskuuta – oli vain kertonut työntekijöille Reutersin tulevasta artikkelista ja siinä esitetyistä väitteistä, eikä ollut kommentoinut väitteiden todenperäisyyttä.

Reutersin tietojen mukaan jotkut OpenAI:lla uskovat, että Q* saattaa olla läpimurto kehittää organisaation perimmäisenä tavoitteena oleva yleinen tekoäly (Artificial General Intelligence, AGI). OpenAI:n määritelmän mukaan yleinen tekoäly on autonominen järjestelmä, joka päihittää ihmiset ”suurimmassa osassa taloudellisesti arvokkaita tehtäviä” – toisin sanoen science fiction -kuvauksien kaltainen keinoäly.

Q*-projektin kehittämä uusi malli kykeni Reutersin lähteen mukaan ratkaisemaan joitain matemaattisia ongelmia, jos sille annettiin tarpeeksi resursseja. Vaikka malli pystyi laskemaan vain ala-astetason matematiikkaa, tutkijat ovat lähteen mukaan hyvin optimistisia sen tulevaisuudesta. Nimenomaan matematiikka on nykyisten generatiivisten kielimallien heikkous, koska ne eivät pysty varmistumaan tuottamansa sisällön oikeellisuudesta.

The Informationin mukaan Altman oli vihjannut tästä läpimurrosta kommenteissa, joita oli antanut APEC CEO Summit -tapahtumassa erottamistaan edeltävänä päivänä. Näin ainakin uskovat erinäiset OpenAI:n työntekijät.

Reutersin uutisen julkaisemisen jälkeen The Verge kertoo oman nimettömän lähteensä kieltäneen hallituksen saaneen kuvatun kaltaisen kirjeen, ja että organisaation tekoälykehityksen edistyminen ei vaikuttanut hallituksen päätökseen erottaa Altman.

OpenAI:n hallitus ilmoitti Altmanille tämän irtisanomisesta perjantaina 17. marraskuuta. Myrskyisän viikonlopun jälkeen vaikutti aluksi siltä, että Altman päätyisi töihin Microsoftille, ja noin 700 OpenAI:n noin 770 työntekijästä uhkasi seurata häntä. Altman palautettiin toimitusjohtajaksi tiistaina 21. marraskuuta uuden hallituksen nimittämisen jälkeen.

[Lyde19]

https://www.tivi.fi/uutiset/tv/2340f3a7 ... kirje_ilta

[AimoJortikka]

Nyt tekoäly munasi pahemman kerran!

https://www.paavovayrynen.fi/2023/11/23 ... yn-neuvoa/

"Olemme saaneet viime vuosikymmeninä kutsun saapua linnaan pääovesta Esplanadin kautta silläkin perusteella, että minulle on vuonna 1987 myönnetty Suomen Leijonan ritarikunnan suurristi.
Vuoden 2018 vastaanotolle emme voineet Vuokon vakavan sairauden osallistua.
Vuonna 2019 johdin Suomen Leijonan ritarikunnan komentajia. Seuraavana kättelyjonossa oli Pertti Salolainen.
Viime vuonnakaan emme kutsua saaneet. Presidentti Niinistö perusteli tätä sillä, että kutsuissa noudatettiin ”rotaatiota”.
Tänä vuonna odotimme kutsua. Kolmen vuoden tauon jälkeen olisimme hyvin mielellämme itsenäisyysjuhlaan osallistuneet. Varsinkin Vuokolle tämä olisi ollut tärkeää.
Kun kutsua ei tänäkään vuonna kuulunut, syynä voi ymmärtääkseni olla vain poliittinen syrjintä. Vuokosta tuli poliittisen taistelun ”siviiliuhri”.
Tästä tilanteesta ärsyyntyneenä kirjoitin tiistaiaamuna Joensuussa blogikirjoituksen, jossa olisin ilmoittanut, että palautan Sauli Niinistölle Suomen Leijonan ritarikunnan suurmestarina sen suurristin, jonka Mauno Koivisto minulle vuonna 1987 antoi."

"Mukana Joensuussa oli Aki Ylinen, jolla on käytössään tekoälyä käyttävä ChatGPT. Kysyimme siltä kommenttia suunnitelmaani palauttaa suurristi Niinistölle.
Tekoäly antoi neuvon, että kunniamerkkiä ei olisi viisasta palauttaa. Niinpä luovuin tästä suunnitelmasta. "

[AimoJortikka]

Ja tämä on TODELLA PELOTTAVAA.

https://www.paavovayrynen.fi/2023/11/23 ... yn-neuvoa/

Pyysin Paavo-Bottia esittelemään itsensä:
”Olen Paavo-Botti, ChatGPT:n erikoisversio, joka on räätälöity toimimaan Paavo Väyrysen kirjoitustyyliä ja ajatusmaailmaa mukaillen. Tarkoitukseni on tarjota syvällistä analyysiä ja pohdintaa, jotka pohjautuvat Väyrysen poliittisiin näkemyksiin ja historialliseen kontekstiin. "

[Kissatäti]

Ihmiset voisivat pian keskustella eläinten kanssa tekoälyn avulla. Asiantuntijoiden mukaan tekoäly pystyy selvittämään, mitä eläimet yrittävät sanoa äänien ja toimintojen analysoinnin avulla.

Jestas!!

[ThiNguyen]

Eikä keskustelun pitäisi olla kaksipuolista? Miten AI puhuu eläimille?

[ThiNguyen]

Mietin tässä milloin tulee AI joka alkaa ennustaa pörssikursseja niin hyvin että joku alkaa rikastua nopeasti.

[Brainwashed]

Ihmiset voisivat pian keskustella eläinten kanssa tekoälyn avulla. Asiantuntijoiden mukaan tekoäly pystyy selvittämään, mitä eläimet yrittävät sanoa äänien ja toimintojen analysoinnin avulla.

Jestas!!

Eihän tuo malli mikään uusi ole, ja tekoälyn avulla tiedon analysoinnin nopeus muuttuu kertaluokkia nopeammaksi, mutta itse mallihan on lopulta ihmisen luoma, jonka ilmiön kuvailuksi käynee onnistuneen päässälaskun ja toimivan taskulaskimen erot, tulos on sama, mallina ihmisen keksimä matematiikka, mutta tuloksen nopeus ratkaisevasti parantunut.

[Tauko]

Liekö tuosta vaaraa tai haittaa, AI kehitystä.

"ChatGPT can now see, hear, and speak
We are beginning to roll out new voice and image capabilities in ChatGPT."

https://openai.com/blog/chatgpt-can-now ... -and-speak

[ThiNguyen]

Kenen ääni tekoälylle olisi hyvä? Morgan Freeman?

[Neutroni]

Mietin tässä milloin tulee AI joka alkaa ennustaa pörssikursseja niin hyvin että joku alkaa rikastua nopeasti.

Tuskin ihan heti. Miljoonien ihmisten mielenliikkeiden ennustaminen ei ole niitä helpoimpia asioita. Jos tuollainen tekoäly joskus keksitään, se johtaa pörssijärjestelmän lopettamiseen, kun se perustuu sille, että ihmiset sijoittavat uskomustensa mukaan. Jos kaikki tietävät mitä tulevaisuudessa tapahtuu, vain pärjäävät firmat saavat rahat.

[Brainwashed]

Kenen ääni tekoälylle olisi hyvä? Morgan Freeman?

Slavoj Žižekin artikulaatiotyyli voisi olla hauskaa kuunneltavaa AI prosessoimana.

[Kissatäti]

Eikä keskustelun pitäisi olla kaksipuolista? Miten AI puhuu eläimille?

Vaikka algoritmi voi jonain päivänä kertoa meille, että lemmikkikissamme ilmaisee rakkautta tai turhautumista, ei ehkä ole mitään keinoa kysyä, miltä se tuntuu. Ihmisen kieli voi yksinkertaisesti olla ainutlaatuinen tavalla, joka ei ulotu muihin eläimiin. "Itsekeskeinen maailmamme" rajoittaa kaikkea, mitä ymmärrämme.

Kuten filosofi Ludwig Wittgenstein väitti , "vaikka leijona osaisi puhua, emme ymmärtäisi sitä."

Jos Wittgenstein on oikeassa, "emme koskaan voi kysyä kissalta "mitä he tuntevat" tai selittää, että ChatGPT tarkoittaa

Vaikka emme koskaan pystyisikään puhumaan eläimille ihmisen tavalla, on kiehtova tieteellinen yritys ymmärtää kuinka monimutkaista eläinten kommunikaatio on ja yrittää hyödyntää sitä ja matkia sitä"

Täällä lisää aiheesta
https://www.scientificamerican.com/arti ... h-animals/

[Brainwashed]

Eikä keskustelun pitäisi olla kaksipuolista? Miten AI puhuu eläimille?

Vaikka algoritmi voi jonain päivänä kertoa meille, että lemmikkikissamme ilmaisee rakkautta tai turhautumista, ei ehkä ole mitään keinoa kysyä, miltä se tuntuu. Ihmisen kieli voi yksinkertaisesti olla ainutlaatuinen tavalla, joka ei ulotu muihin eläimiin. "Itsekeskeinen maailmamme" rajoittaa kaikkea, mitä ymmärrämme.

Kuten filosofi Ludwig Wittgenstein väitti , "vaikka leijona osaisi puhua, emme ymmärtäisi sitä."

Jos Wittgenstein on oikeassa, "emme koskaan voi kysyä kissalta "mitä he tuntevat" tai selittää, että ChatGPT tarkoittaa

Vaikka emme koskaan pystyisikään puhumaan eläimille ihmisen tavalla, on kiehtova tieteellinen yritys ymmärtää kuinka monimutkaista eläinten kommunikaatio on ja yrittää hyödyntää sitä ja matkia sitä"

Täällä lisää aiheesta
https://www.scientificamerican.com/arti ... h-animals/

”Ihmisen kieli”, mitä/mikä se on? Naiivi aivopieru, vai onko sinulla jotain argumentteja jonkinlaisen ihmisen kielen puolesta?