Tiedepalsta.fi

Enigma kirjoitti: ↑27 Joulu 2022, 20:07

Stadin öljylanne kirjoitti: ↑27 Joulu 2022, 20:03
Kaikki palautuu uuden tekoälyn testaamisvaiheeseen.

Näissä on sellainen ongelma, että mitä jos maapallo tuhoutuu? tekoäly ei kanna minkäänlaista vastuuta, joka puhtaasti tunnetason juttu. Voidaanko valta antaa sinne, missä ei ole vastuuta?

Onko tuossa vaiheessa sillä jotain merkitystä onko vastuussa ihminen vai tekoäly?

ID10T kirjoitti: ↑27 Joulu 2022, 20:12

Stadin öljylanne kirjoitti: ↑27 Joulu 2022, 20:03

ID10T kirjoitti: ↑27 Joulu 2022, 19:54

Stadin öljylanne kirjoitti: ↑27 Joulu 2022, 19:43

En ymmärrä kysymystäsi. Tekoälyllä ei ole tavoitteita. Sitä opetetaan massiivisella aineistolla ja se laitetaan reagoimaan toiseen aineistoon, ja lopputulemana on tekoälyn tulkinta toisesta aineistosta koulutusmateriaalin pohjalta. Jotta tekoäly toimisi halutulla tavalla puolueellisesti, sille pitää syöttää juuri oikealla tavalla biasoitunutta joko opetteluaineistoa tai päätöksenteon yhteydessä aineisto, johon sen pitäisi päätöksen synnyttämiseksi reagoida.

Ei se ollut kysymys, vaan toteamus...

Kuka sen datan syöttää? Maailmasta kun ei löydy ainuttakaan täysin puolueetonta ihmistä.

Kaikki palautuu uuden tekoälyn testaamisvaiheeseen.

Kuka sen testaamisen suorittaa ja kuka hyväksyy testitulokset?

Nähdäkseni kaikki ihmiset, joille tekoälyn toimintaperiaate ei ole pelkkää magiaa.

Nähdäkseni ultimaattinen vastuu on tieteellisellä menetelmällä ja ihmisillä, jotka siitä päättävät, sillä tekoälyn virheet pitäisi voida osoittaa toteen tieteellistä menetelmää apuna käyttäen, jotta mikään pelkkä mielipide, että järjestelmässä on virhe, ei vielä riittäisi.

Stadin öljylanne kirjoitti: ↑27 Joulu 2022, 20:14

ID10T kirjoitti: ↑27 Joulu 2022, 20:12

Stadin öljylanne kirjoitti: ↑27 Joulu 2022, 20:03

ID10T kirjoitti: ↑27 Joulu 2022, 19:54
Ei se ollut kysymys, vaan toteamus...

Kuka sen datan syöttää? Maailmasta kun ei löydy ainuttakaan täysin puolueetonta ihmistä.

Kaikki palautuu uuden tekoälyn testaamisvaiheeseen.

Kuka sen testaamisen suorittaa ja kuka hyväksyy testitulokset?

Nähdäkseni kaikki ihmiset, joille tekoälyn toimintaperiaate ei ole pelkkää magiaa.

Eli tässä vaiheessa kuvaan astuu meritokratia. Ei kuulosta hyvältä.

ID10T kirjoitti: ↑27 Joulu 2022, 20:21

Stadin öljylanne kirjoitti: ↑27 Joulu 2022, 20:14

ID10T kirjoitti: ↑27 Joulu 2022, 20:12

Stadin öljylanne kirjoitti: ↑27 Joulu 2022, 20:03

Kaikki palautuu uuden tekoälyn testaamisvaiheeseen.

Kuka sen testaamisen suorittaa ja kuka hyväksyy testitulokset?

Nähdäkseni kaikki ihmiset, joille tekoälyn toimintaperiaate ei ole pelkkää magiaa.

Eli tässä vaiheessa kuvaan astuu meritokratia. Ei kuulosta hyvältä.

Olisiko meritokratia merkittävästi huonompi systeemi kun nykyinen plutokratia?

Stadin öljylanne kirjoitti: ↑27 Joulu 2022, 20:18 Nähdäkseni ultimaattinen vastuu on tieteellisellä menetelmällä ja ihmisillä, jotka siitä päättävät, sillä tekoälyn virheet pitäisi voida osoittaa toteen tieteellistä menetelmää apuna käyttäen, jotta mikään pelkkä mielipide, että järjestelmässä on virhe, ei vielä riittäisi.

Montako maailmansotaa meillä on vielä varaa sotia? Tarvitseehan se järjestelmä oppiakseen todellisia esimerkkejä.

Enigma kirjoitti: ↑27 Joulu 2022, 20:33

Stadin öljylanne kirjoitti: ↑27 Joulu 2022, 20:18 Nähdäkseni ultimaattinen vastuu on tieteellisellä menetelmällä ja ihmisillä, jotka siitä päättävät, sillä tekoälyn virheet pitäisi voida osoittaa toteen tieteellistä menetelmää apuna käyttäen, jotta mikään pelkkä mielipide, että järjestelmässä on virhe, ei vielä riittäisi.

Montako maailmansotaa meillä on vielä varaa sotia? Tarvitseehan se järjestelmä oppiakseen todellisia esimerkkejä.

Noin ajatelee suurin osa uskonnollisista konservatiiveista jo tälläkin hetkellä. Tosin en ole varma, että tavoitteessaan olisi kyse pelkästään tekoälyn opetusaineiston luomisesta vaan vaakakupissa saattaa painaa myös Jumalan viimeinen tuomio ja se että vihervasemmistolaiset ansaitsevat ohituskaistan sille.

Lyde19 kirjoitti: ↑27 Joulu 2022, 20:42 Tekoäly ohjaa tietysti hallintoa niin että maailmansotaa ei synny. Jos uhkaa syntyä niin persut vangitaan.

Olisipa noin helppoa...

Stadin öljylanne kirjoitti: ↑27 Joulu 2022, 19:43 En ymmärrä kysymystäsi. Tekoälyllä ei ole tavoitteita. Sitä opetetaan massiivisella aineistolla ja se laitetaan reagoimaan toiseen aineistoon, ja lopputulemana on tekoälyn tulkinta toisesta aineistosta koulutusmateriaalin pohjalta. Jotta tekoäly toimisi halutulla tavalla puolueellisesti, sille pitää syöttää juuri oikealla tavalla biasoitunutta joko opetteluaineistoa tai päätöksenteon yhteydessä aineisto, johon sen pitäisi päätöksen synnyttämiseksi reagoida.

Jos nyt ajatellaan tekoälyllä jotain ohjelmaa, joka ehdottaa päätöksiä jonkin data-aineston pohjalta, niin opetus on sitä, että saadaan se tuottamaan päätöksiä, jotka johtavat haluttuihin asioihin. Tekoäly ei voi itse päättää mitä se tavoittelee. Se voidaan vaikka opettaa tavoittelemaan maksimaalista kansantuotetta, maksimoimaan jotain onnellisuusparametrejä, maksimoimaan jotain matemaattiseen muotoon muokattuja eettisyystavoitteita tai mitä vain. Käytännössä sillä on valta, joka päättää nuo tavoitteet. Ihmiset eivät ole ollenkaan yksimielisiä siitä millainen on paras ja tavoiteltavin yhteiskunta. Joku haluaa kovaa kilpailuyhteiskuntaa, jossa on mahdollisuus nousta miljardööriksi hallitsemaan maailmaa ja orjuuttamaan massoja, ja joku toinen leppoisaa hengailua perustarpeet tyydyttäen. Ja kaikkia mahdollisia ja mahdottomia muita vaihtoehtoja, mukaanlukien aivan mielikuvitukselliset, kuten maksimaalisten resurssien kuluttamisen joidenkin myyttisten jumalolentojen palvomiseen.

Kenties tekoälyalgoritmejakin tulee olemaan iso joukko, jotka vastaavat puolueita. Ihmiset voivat sitten äänestää niitä ja ne saavat vaalikaudeksi painoarvon sen mukaan kuinka paljon saavat ääniä. Tuokin varmaan toimisi paremmin kuin puolueet, koska tekoälyillä ei olisi motiivia mainostaa itseään ja haalia äänestäjiä valheellisilla lupauksilla. Pitäisi vain estää se, että ihmiset propagoivat suosikkejaan.

Enigma kirjoitti: ↑27 Joulu 2022, 19:12 Jos palataan Hitleriin tai Putiniin, niin aika vaikea on heidän aivoituksiaan arvata etukäteen. Ihminen osaa olla myös varsin ovela.

Ei ole. Varmaan suurin osa ihmisistä on perusvarovaisia ja olisi osannut ennustaa oikein noiden tyyppien aiheuttavan ongelmia. Yksi ihmisyhteisöjen ongelma on se, että valtaan kipuaa ylioptimistisia ja opportunistisia ihmisiä, jotka tavoittelevat riskillä mahdollisuuksia saada lisää valtaa ja rahaa. Tavis ajattelee, että "ei minusta mitään tule", opiskelee ammatin ja tekee töitä kahdeksasta neljään riskejä minimoiden. Jos tekoäly laittaisi yltiöoptimistit sontaa lapioimaan ja turvallisuushakuiset inhorealistit kekkuleiksi, maailma olisi paljon vakaampi ja terveempi paikka.

Neutroni kirjoitti: ↑27 Joulu 2022, 21:41

Enigma kirjoitti: ↑27 Joulu 2022, 19:12 Jos palataan Hitleriin tai Putiniin, niin aika vaikea on heidän aivoituksiaan arvata etukäteen. Ihminen osaa olla myös varsin ovela.

Ei ole. Varmaan suurin osa ihmisistä on perusvarovaisia ja olisi osannut ennustaa oikein noiden tyyppien aiheuttavan ongelmia. Yksi ihmisyhteisöjen ongelma on se, että valtaan kipuaa ylioptimistisia ja opportunistisia ihmisiä, jotka tavoittelevat riskillä mahdollisuuksia saada lisää valtaa ja rahaa.

Ongelma on siinä, että tuo kaikki selviää vasta jälkikäteen. Ei Putin ollut iso ongelma vielä 5v sitten, vaan sujuvasti G8-pöydissä.

Stadin öljylanne kirjoitti: ↑27 Joulu 2022, 20:26 Olisiko meritokratia merkittävästi huonompi systeemi kun nykyinen plutokratia?

Kyllä olisi, jos siitä puuttuisi demokratian takaisinkytkentä. Vaikka edustuksellinen demokratia on monin tavoin välttävä järjestelmä, se estää tehokkaasti kaikkein sekopäisimmät ideat tai hidastaa niitä niin, etteivät ne aja yhteiskuntaa täystuhoon. Meriitit eivät paljoa auta siinä vaiheessa, kun ihminen sumentuu vallastaan, hurahtaa omiin ideoihinsa ja alkaa ajamaan niitä.

Enigma kirjoitti: ↑27 Joulu 2022, 21:46 Ongelma on siinä, että tuo kaikki selviää vasta jälkikäteen. Ei Putin ollut iso ongelma vielä 5v sitten, vaan sujuvasti G8-pöydissä.

Kyllä se oli ongelma, josta monet huomauttivat. Hälytyskellojen olisi pitänyt soida viimeistään silloin, kun Putler ohitti lait ja asettui kolmannelle presidenttikaudelle. Mutta Euroopan valtaeliitti oli korviaan myöten bisneksissä eikä voinut kuin hymistellä esim. Krimin valtauksesta, kun olisi menettänyt valtavia henkilökohtaisia omaisuuksia. Se on vieläkin iso kivi esim. saksalaisten ja ranskalaisten huippupoliitikkojen ja suurliikemiesten kengissä, että he ovat menettäneet miljardikaupalla henkilökohtaista omaisuutta, ja he tekevät kaikkensa mitätöidäkseen pakotteet ja palauttaakseen vanhan vallan ja edes rippeet rahoistaan ja tuloistaan.

Neutroni kirjoitti: ↑27 Joulu 2022, 21:53
Kyllä se oli ongelma, josta monet huomauttivat. Hälytyskellojen olisi pitänyt soida viimeistään silloin, kun Putler ohitti lait ja asettui kolmannelle presidenttikaudelle.

Kyllä ne soikin, mutta valtiot ovat suvereeneja. Siitä kun lähdetään tinkimään, niin samainen putin on täällä määrämässä meidänkin hallituksemme kokoonpanon.

Lyde19 kirjoitti: ↑27 Joulu 2022, 21:54 Ei se jumalan asemassa oleva tekoäly itse ole "algoritmi".

Kyllä se on kun huomioit kokonaisuuden. Tekoäly opetetaan ja siinä voi vaikuttaa miten se ratkoo asioita.