Suuri tekoälykeskustelu

[KultaKikkare]

Tää on vähän hankala hahmottaa, mut ihan samaan tapaan ihminenkin oppii käytöksensä. Katsoo vaikka noita susilauman kasvattamia lapsia mitä on löydetty, ei niiden käytös ole ihmismäistä vaan susimaista.

[jester]

Ihmismäinen tekoäly vaatii tunteet.

Niin, vaatiiko tunteet subjektiivisina kokemuksina, vai, kuten Neutroni kirjoittaa, simuloituina ihmisten reaktioina. On kai avoin kysymys, mitä tekoälyn kehittämisellä tavoitellaan. On tekoälyn kohtelun kannalta kuitenkin olennaista, onko aito tekoäly tietoinen, vai vain ihmisen toiminnan simuloija. Ei-tietoinen tekoäly on itsessään arvoton työkalu, tietoiselle tekoälylle pitäisi ehkä myöntää jonkinlaisia oikeuksia.

[Neutroni]

Niin, vaatiiko tunteet subjektiivisina kokemuksina, vai, kuten Neutroni kirjoittaa, simuloituina ihmisten reaktioina. On kai avoin kysymys, mitä tekoälyn kehittämisellä tavoitellaan. On tekoälyn kohtelun kannalta kuitenkin olennaista, onko aito tekoäly tietoinen, vai vain ihmisen toiminnan simuloija. Ei-tietoinen tekoäly on itsessään arvoton työkalu, tietoiselle tekoälylle pitäisi ehkä myöntää jonkinlaisia oikeuksia.

Tekoälyn kehittämisellä tavoitellaan ihmisen kanssa kommunikoivia ja yhteistyökykyisiä järjestelmiä. Yleensä sellaisessa toiminnassa ihmisellä on tunteet mukana ja kone, joka toimii uskottavasti ihmisen tavoin koetaan luontevammaksi, paitsi ehkä jotkut täysin tekniseen työhön liittyvät asiantuntijajärjestelmät.

Ei sillä ole mitään merkitystä tekoälyn kohtelun kannalta miten se sisäisesti toimii. Vain sillä on mitä tunteita se ihmisissä herättää. Luultavasti tunteita simuloivat koneet koetaan niin tiedostaviksi ja tunteviksi, että ihmiset alkavat haluta suojella niitä samoin kuin eläimiä ja ehkä myöhemmin kuin ihmisiä ihan riippumatta siitä miten kone sisäisesti toimii, koska koneet aktivoivat ihmisen sosiaalisen tunnejärjestelmän samoin kuin toinen ihminen. Tunteet määräävät ihmisten toiminnan, ei tieto tai järki.

En ihmettelisi, jos törmäisimme jossain vaiheessa sellaiseen ongelmaan, että ihmisten tunteita paremmin mallittavat ja manipuloivat koneet koetaan parempina yhteistyökumppaneina ja sosiaalisina seuralaisina kuin toiset ihmiset, joilla on aina omat lehmät ojassa.

[MooM]

Tuo sosiaalisesti vuorovaikuttava tekoäly on vain yksi kehityssuunta, joka kieltämättä on noussut nyt esiin näiden kielimallien käyttöliittymien kanssa. Vähän sama kuin roboteissa ajatellaan aina ensin ns sosiaalisia robotteja, ei mitään aivokirurgiaa tai koneiden kasausta suorittavia.

Tekoäly lisääntyy koko ajan mm. erilaisissa profiloinneissa ja päätöksenteossa. Niissä uhka ei ole mikään tekoälyn tietoinen maailmanherruus, vaan mm. mallien pysyminen vääristymättöminä ja "reiluina".

[Neutroni]

Tekoäly lisääntyy koko ajan mm. erilaisissa profiloinneissa ja päätöksenteossa. Niissä uhka ei ole mikään tekoälyn tietoinen maailmanherruus, vaan mm. mallien pysyminen vääristymättöminä ja "reiluina".

Sanoisin, että monissa tuollaisissakin sovelluksissa tietty inhimillisyys parantaa tuloksia. Ainakin, kun tarkoitus on toimia muiden kuin insinöörien tai tutkijoiden työkaluna. Esim. auton ohjausavustimet hyötyvät paljon, jos osaavat olla provosoimatta kuljettajia aggressiivisuuteen tai mieluummin tunnistavat agressiivisuuden kehittämisen ja manipuloivat jotenkin niitä tunteita lievemmiksi. Johtamisjärjestelmät hyötyvät samoin käyttäjiensä liian optimismin ja riskinoton hillitsemisestä. Ja kodinkoneet pidentävät kummasti elinaikaa, jos osaavat hieman hillitä käyttöohjeita halveksivia kuumakalleja. Tuskin tuo on ensimmäinen ja tärkein kehityskohde, mutta ennen kuin tekoäly tulee miljardien apinoiden arkielämään, siihenkin pitänee jotain keksiä. Tai sanotaan niin, että jos joku keksii hieman inhimillisemmät algoritmit, se koetaan miellyttävämmäksi ja saa markkinaedun.

[Kohina]

Jos teitä pelottaa tekoäly, niin te voitte antaa 7 biljoonaa minulle niin varmistan ettei puhelimesi tee sinusta orjaa tuhlaamalla sen kolikkopeleihin ja kaljaan

[OlliS]

Tunteet ja tarpeet kyetään kyllä ohjelmoimaan ajattelun lisäksi vähitellen, jolloin roboteista tulee ihan ihmismäisiä.

Nimenomaan tunteita, aistimuksia tai muitakaan subjektiivisia kokemuksia ei voi ohjelmoida. Ne syntyvät tekoälyn toiminnan sivutuotteena, jos syntyvät. Onkin minusta ihmeellistä, että uskovana pidät koneen "sielullisia" ominaisuuksia itsestään selvyytenä.

Tottakai ne ovat vain simulaatioita, mutta koneen ja robotin kanssa keskustelevalle ne menevät täydestä. Kone se on ja koneena pysyy ja toimii juuri niin kuin se on ohjelmoitu toimimaan. Ei tule mitään koneiden vallankumousta vaan kuuliasia koneita.

[OlliS]

Ei tule mitään koneiden vallankumousta vaan kuuliasia koneita.

Kyllä. Jos koneisiin ei ohjelmoida vallankumouksen ja aggression riskiä, ja ne eivät osallistu yhteiskuntaan esim. äänestämällä tai esittämällä mielipiteitä, ne jäävät alamaisiksi. Eli erittäin epäkiinnostaviksi apuvälineiksi, joiden täydellisyyteen tullaan kyllästymään.

Niin, ja väärin niitä tietysti voidaan käyttää, kuten mitä tahansa asiaa. Kyllä niistä valtava hyöty tulee ja vallankumous siinä mielessä, kuten koneista, TVstä ja älypuhelimesta.

[Tauko]

Psykologit eivät suostu ohjelmoimaan armeijoille tekoälyyn psykologista sodankäyntiä,

Ei kyse ole suostumisesta, päätös on poliitikkojen käsissä, ei tiedemiesten käsissä.

kuten fyysikot suostuivat valmistamaan atomipommin.

Päätös oli poliittinen, ei tieteellinen.

Tiedemaailma on herännyt, kaikkea tietoa ei enää anneta armeijoille,

Tieteellinen tieto on avointa, sotilaallinen tieto salattua.

vain lääketieteeseen, parantamiseen, teollisuuteen jne.

Et kyllä elä tässä ajassa ja maailmassa.

Tunteet ja tarpeet kyetään kyllä ohjelmoimaan ajattelun lisäksi vähitellen, jolloin roboteista tulee ihan ihmismäisiä.

Ehkä tunteet ja tarpeet kyetään koneelle ohjelmoimaan, mutta miksi yrittää rakentaa tekoihminen, kun ihminen on jo olemassa, mieluummin jotain parempaa. Paitsi ongelmia siitäkin seuraisi, kun ihminen ei sellaista otusta sietäisi.

[OlliS]

Tekoäly on kone ja koneena pysyy. Muu on scifiä, ei todellisuutta.

Geenimanipulaatiolla kyllä pystymme luomaan toisenlaisia ihmisiä, mutta tuleeko niihin kuolematon sielu ja minkälainen, sitä puolta ei ihminen voi päättää, eikä edes tietää vielä sen enempää kuin itsestäänkään. Sellaiset ja kuborgit ovat eri juttu. Demokraattinen lainsäädäntö tulee ne kieltämään, diktatoorinen sallimaan.

[OlliS]

Sotilaat eivät saa tietää eivätkä tiedä enää, mitä huipputiedemiehet tietävät ja mitä eivät tiedä. Atomipommin jälkeen on käynyt selväksi, ettei heille enää kerrota. Niin on pakko tehdä. Ne jotka he saavat tutkimuslaitoksiinsa, eivät tiedä enää mitään, siis kaikkea tarpeellista.

[Naturalisti]

Ensinnäkin, kysyt miksi "metodologinen" individualismi? Ihan sen takia, että on olemassa ontologinen, epistemologinen ja metodologinen individualismi, (...)

Ihmettelin vain sitä, että eikö ontologinen ja epistemologinen individualismi riitä?

Mihin metodologista individualismia tarvitaan, jos se on tutkimusstrategia, joka noudattaa muuten epistemologista individualismia, mutta ei välttämättä edellytä ontologista individualismia, vaan voi tunnustaa yhteiskunnan objektiivisen olemassaolon, kunhan se ei ole yksilöistä riippumaton. Pidetäänkö näin vain ovea auki henkimaailmaan kuuluvalle sielulle?

Olen ontologinen realisti vain materian objektien ja niiden vuorovaikutusprosessien suhteen ja olen tietoteoreettisen epäsuoran realismin eli representationismin kannattaja. Niinpä ontologinen ja epistemologinen individualismi on minusta ok, mutta se ettei edellytetä ontologista individualismia, on ristiriidassa ontologisen materialismin kanssa.

Eli kyse on siitä metodologiasta, jolla yksilöiden käyttäytymistä ja vuorovaikutusta selitetään. Ontologinen individualismi taas lähtee siitä, että vain yksilöitä on olemassa. Nää kulkee monesti käsi kädessä, mutta ne on silti eri asioita.

Tämä on ok sillä täsmennyksellä, että edellytetään myös ontologista individualismia. Reduktiivisen emergentismin mukaan merkityksiä kokevat ja toimijuutta synnyttävät mielet ovat olemassa materian prosesseina. Mitään henkimaailman sielua ei tarvitse olettaa olevaksi. Tämä on tärkeää vahvan tekoälyn kehittämisen näkökulmasta, koska se on rakennettava tämän materiaalisen maailman aineksista.

Kirjassa muuten on hyvää keskustelua ns. Itävaltalaisesta taloustieteestä, jonka edustajista esim. Ludwig von Mises ja Friedrich von Hayek olivat metodologisia individualisteja. Kirja käsittelee myös vuorovaikutuksen sosiologiaa ja siitä symbolista interaktionismia sekä etnometodologiaa.

Mä löysin netistä tämmöisen linkin:
https://plato.stanford.edu/entries/meth ... vidualism/
Käsitelekö se asiaa samoin kuin tuo Lars Udehnin kirja?

Kirja käsittelee myös lyhyesti sun ajattelulle keskeistä Popperin tekemää jakoa kolmeen maailmaan. Ensimmäinen maailma on fysikaalinen maailma, toisen yksilöiden psyykkinen maailma, ja kolmas yhteinen kulttuuri.

Popperilaiset maailmat ovat erillisiä olemisen piirejä. Laajennetun memeettisen teorian mukaan maailmat taas ovat sisäkkäisiä:
- Maailma 1 (fysikaalinen ja biologinen maailma) sisältää kaiken olevan (materian objektit ja niiden vuorovaikutusprosessit).
- Maailma 2, subjektiivisten mielten maailma eli yksilöiden psyykkinen maailma on maailman 1 prosessien osajoukko. Subjektiiviset mielet ovat materiaalisesti olemassa aivojen neuraalisten prosessien käynnissä olona ja subjektiivisten mielten olemassaolo päättyy aivokuolemaan näiden prosessien pysähtyessä. Biologinen materia sisältyy maailmaan 1.
- Maailma 3 eli kulttuuri on olemassa vain näennäisesti subjektiivisten mlelten horisonttina ja intersubjektiivisten prosessien vuorovaikutussysteeminä.

Kirja lähtee itse asiassa siitä että tuo toinen maailma on yhtenevä metodologisen individualismin kanssa, mutta kolmas maailma eli emergentti kulttuuri on jo holistinen käsitys maailmasta. Eli jos haluat pitäytyä metodologisessa individualismissa tiukasti, niin sun on määriteltävä kulttuuri Popperin toisen tason eli ihmisten mielten tasolla, ja unohdettava tuo emergentti kulttuurin kolmas taso. Ihan siitä syystä, että se on verrattavissa ulkoisten yksilöiden mielistä riippumattomien instituutioiden olemassaoloon.

Näin siis itse tulkitsen tuota sun käyttämää Popperin jakoa kolmeen maailmaan näin äkkiseltään. Tai ainakin se tuntuisi näyttävän tuolta.

Kuvasin asian edellä juuri näin. Mitään holistista kollektiivista suoraan jaettua käsitystä todellisuudesta ei ole; se on vain subjektiivisten käsitysten näennäinen horisontti. Todellisuudessa se on maailman 2 prosessivesien osajoukko (intessubjektiiviset prosessit). Maailma 3 sisältyy maailmaan 2, joka sisältyy maailmaan 1. Maailma 2 (sisältäen maailman 3) on maailman 1 emergentti memeettinen toiminnallisuuden taso.

Jos taas haluat käsitellä kulttuuria sillä tavalla kuin ajattelen, että haluat sitä käsitellä, eli että kulttuuri on yksilöiden mielissä ja mitään yhtä yhteistä intersubjektiivista totuutta ei ole olemassa, niin silloin sun on ilmeisesti hylättävä tuo Popperin kolmas maailma; siis ainakin siinä merkityksessä kuin Popper sen hahmotti. Ja siis ajateltava ja käsitettävä kulttuuri Popperin toisen maailman kautta.

Juuri näin teen. Hylkään Popperin maailman 3 siinä muodossa kuin hän sitä käyttää, kuten jo edellä selitin. Mitään yhtä intersubjektiivisia todellisuutta ei ole olemassa. Sen sijaan olemassa on subjektiivisten mielen intersubjektiivisten prosessien sosiaalinen vuorovaikutussysteemi, jonka toiminnan ylläpitämässä memeettisessä evoluutiossa subjektiivisten mielten käsitykset kehittyvät kuin evoluutioalgoritmien ratkaisujoukko ilman, että suoraan jaettua kollektiivista käsitystä on missään.

[Tauko]

Sotilaat eivät saa tietää eivätkä tiedä enää, mitä huipputiedemiehet tietävät ja mitä eivät tiedä. Atomipommin jälkeen on käynyt selväksi, ettei heille enää kerrota. Niin on pakko tehdä. Ne jotka he saavat tutkimuslaitoksiinsa, eivät tiedä enää mitään, siis kaikkea tarpeellista.

Tieteellinen tutkimustieto on avointa.

[Naturalisti]

Mitään henkimaailman sielua ei tarvitse olettaa olevaksi.

Ymmärsin hiukan mutta monet käsitteet ovat minulle edelleen tuntemattomia. Yritän kommentoida silti.

Jos olen ymmärtänyt oikein aikaisemmista keskusteluista ja tästäkin, esität että ei ole kuin subjekteja ja niiden vuorovaikutusten verkosto. Vuorovaikutuksesta syntyy ilmiöitä, kuten kulttuuri. Jos subjekti otetaan pois, mitään kulttuuria ei ole löydettävissä mistään.

Näin ajattelen memeettisen tason ilmiöistä.

Haluan vähän haastaa tätä.

Otan esimerkin fysiikan maailmasta.
Jos meillä on erilaisia valonlähteitä ja laitamme ne samaan tilaan, valoaallot interferoivat keskenään ja syntyy valoaaltoja (valoilmiöitä). Yksikään valonlähde ei pysty tuottamaan yksinään tätä samaa yhteisvaukutusta.
Jos valot viedään pois, mitään ilmiötä ei tilassa ole. Mutta interferenssin lainalaisuudet säilyvät. Ne ovat olemassa ilman valonlähteitä. Sama ilmiö toistuu heti kun valot tuodaan takaisin tilaan.

Tämä fysikaalinen ilmiö syntyy aina samanlaisissa tilanteissa. Mutta missä ajattelet sen olevan muistissa? Ihmisten selitykset eli todellisuuden efektiiviset teoriat taas voivat säilyvä subjektiivisten mielten meemeinä, kullakin omalla tavallaan, kenellä nyt mitenkään. Nämä käsitykset ovat kuitenkin vain todellisuuden representaatioita; ei subjektiivisten mielten ulkopuolista todellisuutta.

Mille perustuu se, että ihmisten välisessä vuorovaikutuksessa ei ole olemassa tällaisia vastaavia lainalaisuuksia?
Jos nimittäin ei olisi, niin testihenkilöiden asettaminen samaan vuorovaikutustilanteeseen kahdesti, tuottaisi molemmilla kerroilla eri tuloksen.
En ymmärrä mille tämä perustuu.
Testiastelma on tietysti mahdoton toteuttaa täydellisen. Mutta viitteitä siihen suuntaan on, että tiettyjä saman tyyppisiä lopputuloksia seuraa, samojen subjektin vuorovaiktustilanteita tarkasteltaessa. Eli jopa ennustettavuuttakin on, kun on tietoa.

Mielestäni nämä esimerkki tapaukset eivät ole analogisesti vertailukelpoisia.

Fysikaalisessa esimerkissäsi ei ollu mitään muistissa näiden tapahtumien välillä. Ilmiöt syntyivät kussakin tapauksessa aina uudelleen.

Tuossa analogiaeksi ajattelemassasi tapauksessa ihmisillä on muistissa yhteisiä kokemuksia kullakin tavallaan, mutta yhteisen geneettisen ja memeettisen perimämme ansiosta koemme usein hyvin samankaltaisesti (emme koskaan identtisesti). Ihmisten välillä on kuvaamaasi kaltaista keskinäistä ymmärrystä enemmän tai vähemmän tilanteista ja yksilöistä riippuen.

[OlliS]

Sotilaat eivät saa tietää eivätkä tiedä enää, mitä huipputiedemiehet tietävät ja mitä eivät tiedä. Atomipommin jälkeen on käynyt selväksi, ettei heille enää kerrota. Niin on pakko tehdä. Ne jotka he saavat tutkimuslaitoksiinsa, eivät tiedä enää mitään, siis kaikkea tarpeellista.

Tieteellinen tutkimustieto on avointa.

Ja asesuunnittelu salaista, eikä tiedemiehet enää auta siinä. Diktatuureissa heidät pakotetaan, mutta ovat ikuisessa hidastuslakossa ja sabotaasissa. Ja näin pitää olla. Asesuunnitteluun suostuvat tiedemiehet ovat toisen luokan tiedemiehiä ja hekin ryhtyvät vakoilijoiksi ja paljastavat aseet aina vastapuolellekin. Tästä on tullut jo traditio.