Tekoälyn etiikka kysyy hermostuneesti, piilottavatko tekoälyharhat salakavalasti yhteiskunnan voimadynamiikkaa, mukaan lukien itseohjautuvat tekoälyautot

Piilossa näkyvissä.

Oletko koskaan kuullut tuota linjaa aiemmin?

Luultavasti niin.

Sillä voi olla erilaisia ​​merkityksiä, vaikka yleisin käsitys näyttää olevan, että joskus emme huomaa jotain, mikä on aivan silmiemme edessä. Olet ehkä kokenut tämän ilmiön.

Esimerkiksi, ehkä äskettäin panikoit lievästi, ettet löytänyt älypuhelintasi, ja sitten yhtäkkiä ja kiusallisesti tajusit, että sitä pidettiin lujasti omassa kädessäsi, mutta kuitenkin unohdit sen. Tämä tapahtui, koska vilkaisit innokkaasti ympäri huonetta löytääksesi, minne olit viimeksi jättänyt älypuhelimesi, mikä häiritsi sinua ymmärtämästä, että vaikeasti arvostettu elektroninen laite oli omissa käsissäsi.

Se tapahtuu meille kaikille.

Asiaan liittyvä ja varsin legendaarinen psykologinen koe 1990-luvun lopulla dokumentoi elävästi tämän tyyppisen inhimillisen valvonnan ja on ajoittain saanut uudelleen julkisen huomion tähän näennäisesti mielettömään tai sanotaanko mielenhäiriöön haavoittuvuuteen. Nykyaikana on paljon online-videoita, jotka esittelevät kokeen ydintä ja kuinka helposti voimme luopua näkemästä jotain, joka on "piilossa" näkyvissä. Hieman muodollisesti asiaa yleisesti kutsutaan usein nimellä inattentional sokeus, vaikka muita luonnehdintoja ja muunnelmia on kuvattu laajasti.

Haluaisin kertoa sinulle kokeesta ja sitä kuvaavista videoista, mutta minun on ensin varoitettava, että jos luet selvitykseni tästä, tempun hauskuus vähenee valitettavasti. Voit verrata tätä taikuuteen. Kun tiedät, kuinka temppu toimii, et koskaan näe taikatemppua samassa valossa. Halusin vain antaa sinulle oikeudenmukaisen huomautuksen.

Oletko valmis?

Yleensä menee näin. Sinua pyydetään katsomaan video, jossa on useita löyhästi ryhmiteltyjä ihmisiä. He heittelevät jonkin verran toimettomana ja satunnaisesti palloa tai jotakin sellaista esinettä edestakaisin toisilleen. Heittämisessä ei ole erityistä kaavaa, ja he vain nauttivat nautinnollista aikaa tehden kevyitä aterioita.

Toistaiseksi niin hyvä.

Käänne tulee seuraavaksi.

Sinua pyydetään laskemaan, kuinka monta kertaa palloa tai esinettä heitetään ympäriinsä. Yleensä tälle tehtävälle annetaan hieman tarkempia tietoja. Laske esimerkiksi kuinka monta kertaa ryhmän jäsenet, joilla on purppura paita, heittelevät palloa, mutta älä laske niitä tapauksia, joissa valkoisessa paidassa pukeutuvat nappaavat pallon. Kuten näette hetken kuluttua, tämä on "ovela" tapa häiritä sinua, tekemällä niin käyttämällä kognitiivisia prosessejasi kapeaan tehtävään.

Sinua pyydetään suorittamaan laskentatehtävä vakavasti ja kokeilemaan sitä sydämellisintäsi. Se on kieltämättä hieman vaikea tehdä ja vaatii intensiivistä keskittymistä, koska pallo liikkuu nopeasti ja ihmiset valitsevat näennäisesti satunnaisesti minne ja milloin heittää pallon. Mielesi yrittää keskittyä purppurapaitaisiin osallistujiin. Mielesi tarkkailee palloa. Mielesi yrittää samanaikaisesti jättää huomioimatta tai pyyhkiä pois valkopaitaiset jäsenet. He ovat tulossa lähes hämmentävästi henkisesti tiellesi. Et halua vahingossa laskea niitä laskentaan (raivostuttava virhe, jos teet).

Heittosarjan lopussa sinulta kysytään, kuinka monta kertaa purppurapaitaiset jäsenet heittivät palloa. Olet omahyväinen henkilökohtaisessa luottamuksessasi ja syvässä vakuutuksessasi siitä, että olet tehnyt tarkan määrän. Todellakin, sinä kiistatta täytyy olla täysin oikeassa laskennan suhteen.

Kokeilu ei kuitenkaan ole valmis (tässä on taikatemppu paljastettu, joten jatka lukemista vain, jos haluat tai haluat tietää).

Sinulta kysytään, oletko kenties huomannut, että gorilla oli kävellyt palloa tai muita esineitä heittelevien osallistujien joukossa.

Mitä sanoit?

Häh?

Tule uudestaan?

Useimmat ihmiset nauravat tai pilkkaavat kysymykselle, oliko kohtauksessa gorilla. Polvi-nykivä vastaus koostuu itsepäisesti väittämisestä, ettei tällaista gorillaa ole koskaan ilmestynyt. Itse asiassa kysymys näyttää omituiselta kyselyltä ja täysin fantastisesti keksitulta.

Minulla on ollut ihmisiä, jotka ovat olleet valmiita laittamaan tonnin taikinaa väittämään, ettei minkäänlaista gorillaa ollut siinä tossukohtauksessa, jota he seurasivat tarkasti ja tarkkaavaisesti. Joskus toivon, että olisin ottanut nuo ihmiset vetoon, koska pyörittäisin tänään käteistä. Se olisi kuitenkin täysin epäreilu veto, ja siitä tulisi todennäköisesti valitettava ystävän kääntyminen viholliselle eräänlainen ontto virhe.

Näetkö, siinä kohtauksessa todellakin käveli gorilla (henkilö gorillapuvussa, joka on käytännössä gorilla sinänsä kokeen luonteen suhteen).

Kun katsot saman tallennetun kohtauksen uudelleen, henkilö, joka ei löytänyt gorillaa, hämmästyy. He kiihtyvät tyypillisesti muutaman sekunnin sisällä kiihkeästi tunnereaktioiden sarjan kautta. Ensinnäkin he hämmästyvät epäuskosta. Toiseksi, he väittävät, että näytät heille toistettua versiota kohtauksesta etkä näytä heille sitä, jonka he katsoivat. Kolmanneksi he tunnustavat vastahakoisesti, että näytät heille todellista kohtausta, mutta väittävät, ettet koskaan käskenyt heitä tarkkailemaan gorillaa. Toisin sanoen teit kuuliaisesti sen, mitä sinua pyydettiin tekemään. Ei enempää eikä vähempää. Sellaisenaan se, huomasitko gorillan vai et, on täysin merkityksetöntä, eikä sillä ole merkitystä tai ansioita käsillä olevaan raitistavaan asiaan.

Varoitan sinua siitä, että tässä on se, että vaarana on menettää ystävä tai mahdollisesti ärsyttää tuttusi ikuisesti, jos kokeilet tätä hänen päällänsä ilman aavistustakaan tai ainakin silmänräpäyksessä hyödyllistä vihjettä siitä, mitä on tapahtumassa. Ole varovainen kokeilemalla tätä. Olen tehnyt velvollisuuteni ja antanut sinulle sopivan varoittavan varoituksen, joten sinun on päätettävä, kohdistatko tämän kenelle tahansa, jonka saatat tuntea.

Minun on kuitenkin mainittava, kuinka tehokas harjoitus tämä on.

Niille, jotka jäävät huomaamatta, on lähes varma tae, että henkilö muistaa "kokeilun" ikuisesti ja muistaa sen aina, ei välttämättä lämmöllä, mutta hän muistaa sen melko vahvasti. Jos et ole koskaan nähnyt tällaista videota ja jos menet katsomaan sellaisen nyt, epäilen, että sinulla on yhtä terävä muisti asiasta. On huomattava ero sen välillä, että jäädään täysin tietämättömäksi tällaisen kognitiivisen sokean kulman kiehtovasta käsityksestä ja sen välillä, että oppii siitä vain toisen käden.

Meillä kaikilla on taipumus olla ylpeitä kognitiivisista kyvyistämme. Gorillon näkemättä jääminen ansaan on valtava alas kognitiivisessa luottamuksessamme. Tästä syystä jotkut ovat niin jyrkästi kieltäytyneet hyväksymästä tapahtumia ja taistelevat kynsin ja hampain kokeellista tulosta vastaan. Jos kerrot jollekulle etukäteen, että hän on todistamassa taikuutta, hän on yleensä kunnossa jälkeenpäin, jos hänet huijataan. Kun pyydät jotakuta tekemään näennäisesti vakavan tehtävän ja sitten päätät vetää maton alta, reaktio voi olla emotionaalisesti ja kognitiivisesti räjähtävää.

Ne teistä, jotka ovat kirjallisia, olette ehkä hieman kokeneet samanlaisen esimerkin tästä mieleen suuntautuneesta hajamielisyydestä lukiessaan Edgar Allen Poen kuuluisaa tarinaa nimeltä "The Purloined Letter" amatööriluovuttajasta, joka pyrkii täysivaltaiseksi etsiväksi. En halua antaa liikaa pois, varsinkin kun olen jo mahdollisesti pilannut gorillakokeen puolestasi, joten sanotaanpa, että tämä vuonna 1844 julkaistu upea tarina liittyy täysin ajatukseen piilottaa jotain näkyvästi ( ehkä se lisää uteliaisuuttasi lukea ihastuttava tarina).

Tehdään nopea yhteenveto aiheesta piilossa näkyvästi mantra.

Tässä muutamia keskeisiä poimintoja:

• Voimme toisinaan emme huomaa asioita, jotka ovat aivan silmiemme edessä
• Tämä on mahdollista erityisesti silloin, kun olet kognitiivisesti huolissaan
• Kognitiivisella huolella ei ehkä ole mitään tekemistä sen kanssa piilossa näkyville ulkomuoto
• On myös mahdollista, että kognitiivinen huoli saattaa liittyä "piilotettuun" aspektiin

Muutama lisäseuraus on huomioimisen arvoinen:

• Jos olet valppaana tällaisen tilan suhteen, saatat pystyä voittamaan väärin havaitun piilottamisen
• Piilollisuuden pitäisi olla kohtuullisesti julkisuudessa, muuten piilottomuus on todella piilossa (tyhjennetty ja epäreilu testi tälle tietylle ilmiölle)
• Kognitiivisesti valmistautumalla on mahdollista selviytyä tilanteesta, vaikka yllätyksiä voi silti tapahtua (erilaisia ​​muita kognitiivisia tekijöitä ilmaantuu)
• Tämä ilmiö on kognitiivisesti leviävä ja koskee yleensä kaikkia

Tämän kiehtovan asian pohjalta, haluan vaihtaa vaihteita ja kertoa teille ehkä yllättävän näkökulman siihen, mukaan lukien sen, että tämä kaikki liittyy poikkeuksellisella tavalla tekoälyn (AI) tuloon.

Lyhyesti sanottuna jotkut väittävät, että tekoälyn harhojen ilmaantuminen piilottaa jotain muuta aivan selvästi. Väite perustuu siihen, että tekoälyn harhakuvat ovat usein enemmän yhteiskunnallisen voimadynamiikan osoittimia kuin pelkkä datan vääristymiä, jotka edellyttävät yksinomaan teknologisesti keskittyvää ratkaisua.

Sallikaa minun selventää tätä hetki.

Tekoälyjärjestelmien harhojen havaitseminen nähdään usein eräänlaisena lyö-mooli-gambiittina. Kun onnistut löytämään upotetun vinoutumisen, jätät sen pois, toivottavasti niin. Tietenkin monia muita tällaisia ​​läpikotaisia ​​ennakkoluuloja saattaa edelleen olla olemassa ja ne lopulta paljastuvat tai, mikä pahempaa, ei ehkä koskaan näe päivänvaloa. Kaikki tämä kuitenkin perustuu huomion kiinnittämiseen itse tekoälyn harhaan. Harvoin ne, jotka pyrkivät poistamaan nämä tekoälyharhat, katsovat paljon syvällisemmin alle saadakseen laajemman kuvan siitä, mitä saattaa tapahtua.

Jotkut väittävät tiukasti, että nämä tekoälyharhat voivat helposti olla vihje taustalla olevasta yhteiskunnallisesta voimadynamiikasta. Eräässä mielessä tekoälyn harhojen kiiltävä luonne häiritsee monia katsomasta lähempää. Jos tekisit syvällisemmän ja paljastavamman arvion, saatat hyvinkin huomata, että kaikenlaiset yhteiskunnalliset valtajärjestelyt ovat olemassa ruumiillistuneiden tekoälypoikkeamien juurella.

Katselit pallon heittämistä edestakaisin, lasket heitot hieman henkisesti mekaanisesti, etkä nähnyt gorillaa, koska olit muuten hajamielinen tai mielesi oli muualla, etkä perimmäisessä syyssä.

Jep, jotkut vastaavat, tämä on hälyttävää. Toiset väittävät, että yhteiskunnallisen voimadynamiikan väitettyä piilotekijää ei oikeastaan ​​ole olemassa ollenkaan. Tai jos se on siellä, sinun ei tehtävänä ole laskea gorilloja, vaan sen sijaan sinun tehtävänä on laskea ja poistaa nämä tekoälyharhat, joten koko gorilla ("voimadynamiikka") ei kuitenkaan tule peliin.

Nyt ne, jotka ovat yhteiskunnallisen vallan dynamiikan asennon suorapuheisia kannattajia, todennäköisesti väittävät, että tällaiset reaktiot tähän yllättävään ja yleisesti toteutumattomaan käsitykseen tekoälyn harhoista hiilikaivoksen kanarialinjoina ovat samat kuin ne, jotka jäävät kiinni. - gorillakokeen vartija. Siten tyypillinen reaktio sisältää värähtelyä epäuskon kesken, lähtökohdan hylkäämistä ja järkyttymistä siitä, että kenties heitä on "huijattu" koko ajan eivätkä he häpeällisesti ymmärtäneet, että he olivat olleet sokeita ymmärtämään tekoälyn harhaa.

Muut, jotka törmäävät tähän hitaasti tunkeutuvaan tekoälyn harhaan liittyvään teoriaan, ovat usein kiinnostuneita siitä. Me kaikki huomaamme varmasti, että tähän asti "en ollut huomannut sitä ennen" -mahdollisuuden olevan avoimen utelias ja mahdollisesti mieltä laajentava. Ehkä tämä on esimerkki jostain piilossa näkyvästä. Niille, jotka uurastavat yrittäessään löytää ja poistaa tekoälyharhoja, saattaa olla hyödyllistä löytää makroskooppinen tapa arvioida ja yrittää jollakin tavalla ratkaista tai estää tällaisia ​​harhoja.

Voisiko tämä väitetty yhteiskunnallisen vallan dynamiikan perusta olla kätevä tapa tarkastella ja ajatella uudelleen selvästi kasvavaa ongelmaa, johon liittyy tekoälyn ennakkoluuloja?

Kuten selitän hetken kuluttua, tekoälyn harhaan liittyy monia tekoälyn etiikkaa ja eettisiä tekoälyn seurauksia. Tämä on synnyttänyt tekoälyn eettisiä periaatteita, kuten yrittää varmistaa, että tekoäly on suunniteltu ja toimii oikeudenmukaisuuden, vastuullisuuden, vastuullisuuden ja muiden vastaavien periaatteiden mukaisesti. Kerron tästä lisää tässä hetken kuluttua. Jatkuva ja laaja kattavuus tekoälyn eettisyydestä ja eettisestä tekoälystä, katso linkki tähän ja linkki tähän, vain muutamia mainitakseni.

Voimme toistaiseksi syventyä tekoälyn harhaan ja yhteiskunnalliseen voimadynamiikkaan innokkaasti kiinnostuneena ja uteliaisina.

Lehdessä julkaistussa artikkelissa luonto, jonka otsikko on "Älä kysy, onko tekoäly hyvä tai reilu, kysy, kuinka se siirtää valtaa", kirjailija Pratyusha Kalluri tarjoaa ratkaisevan näkökohdan tekoälyn harhojen mahdollisuudesta piiloutua näkyvästi yhteiskunnallisen voimadynamiikan ilmaisuun: "Se on ei ole harvinaista, että tekoälyasiantuntijat kysyvät, onko tekoäly "reilua" ja "hyvää". Mutta "reilu" ja "hyvä" ovat äärettömän tilavia sanoja, joihin mikä tahansa tekoälyjärjestelmä voidaan puristaa. Esitettävä kysymys on syvällisempi: kuinka tekoäly siirtää tehoa?

Tehdäkseen tämän vieläkin selvemmäksi tutkija tekee tämän (joillekin) jokseenkin hämmästyttävän ehdotuksen siitä, missä tekoälykenttä saattaa toisinaan huijata itseään (sanotaanko) tekoälyn harhaan liittyvissä asioissa erillisenä näkökohtana: "Kun kenttä Tekoäly uskoo sen olevan neutraali, se ei huomaa puolueellista dataa ja rakentaa järjestelmiä, jotka pyhittävät status quon ja edistävät voimakkaiden etuja."

Jälleen jotkut ovat yllättyneitä näistä ehdotuksista tai ne voitaisiin ehkä tulkita väitteiksi tai jonkinlaiseksi teoriaksi, kun taas toiset sanovat, että heillä oli koko ajan salakavala epäily ja joku on vihdoin laittanut sormensa siihen, mikä on todella pielessä. Sillä välin sinulla on myös joitakin, jotka reagoivat sanomalla, että tämä ei ole erityisen maata järisyttävää. On olemassa eräänlainen "niin mitä?" reaktio ja tunne, että tästä ei saada mitään erityistä tai oivaltavaa.

Yrittääkseen esitellä, miksi oivallus siitä, että yhteiskunnallinen voimadynamiikka on todellakin aito ja elintärkeä piilotekijä tekoälyn harhaan liittyvissä asioissa, on meneillään useita ponnisteluja, jotka auttavat esittelemään surkeita rakentavia askelia, joita voidaan toteuttaa gorillan olemassaolon näkemisen tai hyväksymisen seurauksena. .

Harkitse Milagros Micelin, Julian Posadan ja Tianling Yangin hiljattain tekemää tutkimusta "Studying Up Machine Learning Data: Why Talk About Bias When We Mean Power?" joka tutkii näitä koettelevia huolenaiheita: "Tällä kommentilla pyrimme osallistumaan keskusteluun dataharhasta, datatyöntekijöiden harhasta ja datadokumentaatiosta laajentamalla tutkimuskenttää: harhatutkimuksesta dataa muokkaavien tehoerojen tutkimiseen. Kuten seuraavissa osissa väitämme, harhojen tutkiminen paikantaa ongelman teknisistä järjestelmistä, joko tiedoista tai algoritmeista, ja hämärtää sen perimmäiset syyt. Lisäksi puolueellisuuden ja puolueellisuuden ymmärtäminen on kirjoitettu arvoihin, etuihin ja valtasuhteisiin, jotka kertovat, mikä lasketaan puolueelliseksi ja mikä ei, mihin ongelmiin puolueettomia aloitteita käsitellään ja mitä tavoitteita niillä pyritään saavuttamaan. Sitä vastoin valtasuuntautunut näkökulma tarkastelee teknisiä järjestelmiä, mutta keskittyy laajempiin organisaatio- ja sosiaalisiin konteksteihin. Se tutkii suhteita, jotka puuttuvat datan ja järjestelmän tuotantoon ja pyrkii tekemään näkyviä valtaepäsymmetrioita, jotka kuvaavat niihin tiettyjä arvoja ja mieltymyksiä."ACM Human-Computer Interactions -prosessin eteneminen, 2022. tammikuuta).

Otetaan toisena esimerkkinä Jonne Maasin artikkeli "Machine Learning and Power Relations", joka kattaa tekoälyn moraalisen dilemman, jossa on ennakkoluuloja ja joka saattaa olla ristiriidassa tekoälyn eettisten ohjeiden kanssa, jotka koskevat nimenomaista vastuuvelvollisuutta: "Todellakin, olla yhä riippuvaisempia Tällainen vastuuton vallankäyttö ei ole ongelmallista vain silloin, kun järjestelmä osoittautuu virheelliseksi tuloksissaan, vaan se on ongelmallista yleisemminkin, koska se avaa mahdollisuuden moraaliseen virheeseen, rajoittaa ihmisen kukoistumista luomalla vallan kaksijakoisen kehittäjien ja käyttäjien välille. , toisaalta, ja toisaalta loppukäyttäjät. Siksi meidän tulee vakavasti harkita mahdollista poliittista epäsymmetriaa, jonka ML-sovellusten lisääntynyt käyttö tuo yhteiskuntaan, jossa kehittäjät ja käyttäjät – yhdessä itse ML-järjestelmän kanssa – saavat yhä enemmän valtaa järjestelmän loppukäyttäjiin riittämättömien tilivelvollisuusmekanismien vuoksi. Tekoäly ja yhteiskunta, 2022. helmikuuta).

Kaikki nämä esiin nousevat ponnistelut näyttävät väittävän, että taustalla oleva yhteiskunnallinen voimadynamiikka vaikuttaa merkittävästi siihen, mitä teemme (tai päätämme olla tekemättä) tekoälyharhojen suhteen, mukaan lukien:

• Yhteiskunnallinen voimadynamiikka voi johtaa tekoälyn harhaan
• Yhteiskunnallinen voimadynamiikka voi olennaisesti määrittää, mitä uskomme tekoälyn harhaan
• Yhteiskunnallinen voimadynamiikka voi muokata tapaamme käsitellä tekoälyn harhaa
• Yhteiskunnallinen voimadynamiikka voi ohjata sitä, kuinka tekoälyn vääristyminen tapahtuu
• Yhteiskunnallinen voimadynamiikka vaikuttaa kaikkiin sidosryhmiin, koska se liittyy tekoälyyn ja tekoälyyn
• Yhteiskunnallinen voimadynamiikka voi vaikuttaa haitallisesti erityisesti haavoittuvimpiin sidosryhmiin
• Ja niin edelleen.

Lyhyesti sanottuna saatat ihmetellä, mitä tarkoittaa viitata yhteiskunnallinen voimadynamiikka ja mistä tuo käsitys tulee.

Kääntäkää kello takaisin vuoteen 1640. Saatat epämääräisesti tietää, että Thomas Hobbes loi tunnetusti joitakin olennaisia ​​perustaa yhteiskunnallisen vallan luonteen analysoinnille ja ymmärtämiselle, jota hyödynnetään ahkerasti vielä tänäkin päivänä. Hänet tunnetaan epäilemättä parhaiten Leviatan joka julkaistiin vuonna 1651 ja esitti hänen valtaan ja vallan dynamiikkaa koskevien teorioidensa ytimen. Aiemmin, vuonna 1640, hän oli esittänyt tämän kulmakivihuomautuksen vallan olemuksesta aikaisemmassa teoksessaan nimeltä Lain elementit (Olen näyttänyt kohdan jossain määrin alkuperäisessä muodossaan, joka koostuu nykyisestä vanhasta englannista): "… koska yhden miehen voima vastustaa ja estää toisen voiman vaikutuksia, valtaa ei yksinkertaisesti ole enää, vaan toisen Voiman ylittäminen toisen voiman yläpuolella. Sillä tasavertaiset voimat, jotka vastustavat, tuhoavat toisensa, ja sellaista vastustusta kutsutaan kiistaksi."

Modernistisesti yksinkertaisella tavalla nykypäivän sanakirjoissa on tapana sanoa, että valtaa on se, kun joku voi saada jonkun muun tekemään käskynsä, jota tehtävän saanut ei muuten haluaisi tehdä niin. Siinä mielessä määritelmällisesti ehdotetaan, että valta luo yleensä epäsymmetrisen suhteen. Yhdellä ihmisellä on valtaa toiseen. Voimme kutsua osapuolia agentteiksi. Teho jakautuu epäsymmetrisesti yhden tai useamman agentin kesken.

Lyhenne on merkitty nimellä valta päälle.

Yhteiskunnallisen vallan dynamiikan alalla käydään kiivasta keskustelua siitä, onko tämä ainoa tällaisen vallan muoto. Esimerkiksi toinen näkökanta on, että valta on enemmänkin halutun tuloksen saavuttamista, joka tunnetaan nimellä valtaa. Sinun sanotaan käyttävän valtaa vaikuttaaksesi tiettyyn tavoiteltuun tulokseen. Lopputulokseen liittyy todennäköisesti agentteja, vaikka tämä onkin melko pitkälti keino saavuttaa laajemmin haluamasi tulos.

Lyhytversio tästä on valtaa.

Jos haluat kaivaa syvemmälle yhteiskunnallisen voimadynamiikan aiheeseen, sieltä löytyy runsaasti hyödyllistä materiaalia. Esimerkkinä tämä tutkija tuo esiin makupalan käynnissä olevasta keskustelusta: "Jos ensimmäisellä perinteellä valta koostuu agentin voimasta vaikuttaa tiettyihin tuloksiin, toisessa se on agentin valtaa muihin agentteihin nähden. Entisen perinteen kannattajat väittävät usein, että ylivalta on vain vallan laji; Jälkimmäisen kannattajat sitä vastoin ovat usein sitä mieltä, että kaikki olennainen sosiaalinen valta koostuu ylivallasta, joten sosiaalinen valta pelkistää ylivallan" ja kirjoittaja ehdottaa sitten seitsemän muunnelmaa, mukaan lukien valta-toiset, valta-valta -vaikutustulokset, teho-vastus-vastus, voima-muiden kanssa ja niin edelleen (päiväkirjan mukaan Poliittiset opinnot, "Sosiaalisen voiman kielioppi: valtaa, valtaa, valtaa huolimatta ja valtaa yli", kirjoittanut Arash Abizadeh, 2021).

Siivoushuomautuksena yritän yleensä varovasti todeta, että tässä yhteydessä käytetty sanan "voima" lyhennelmä viittaa yhteiskunnallinen voimadynamiikka (kaikki kolme sanaa yhdistettynä). Teen tämän, koska muuten, jos käytän vain sanaa "teho", saatat ajatella sähkötehoa tai ehkä tietokonetehoa, joka koostuu laskennallisista prosessointiominaisuuksista. Luotan siihen, että tämän keskustelun loppuosan ajan voin yksinkertaisesti käyttää sanaa "valta" ja tiedät, että viittaan yhteiskunnalliseen voimadynamiikkaan, kiitos.

Ennen kuin päästään lisää lihaa ja perunoita roolista teho (yhteiskunnallinen voimadynamiikka) ja piilossa näkyvästi Mitä tulee tekoälyn harhaan, luodaan joitain lisäperusperiaatteita joistakin täysin olennaisista aiheista. Suuri osa tekoälyn harhaan liittyvistä käsityksistä tapahtuu pääasiassa tekoälyn alueella, joka tunnetaan nimellä Machine Learning (ML) ja Deep Learning (DL).

Meidän pitäisi sukeltaa reippaasti AI Ethics- ja ML/DL-areenalle.

Saatat olla hämärästi tietoinen siitä, että yksi tämän päivän kovimmista äänistä tekoälyalalla ja jopa tekoälykentän ulkopuolella on huutaminen eettisen tekoälyn suuremman vaikutelman puolesta. Katsotaanpa, mitä tarkoittaa viitata tekoälyn etiikkaan ja eettiseen tekoälyyn. Tämän lisäksi voimme viedä vaihetta pidemmälle tutkimalla, mitä tarkoitan puhuessani koneoppimisesta ja syvästä oppimisesta.

Eräs tietty AI Ethics -segmentti tai osa, joka on saanut paljon mediahuomiota, koostuu tekoälystä, jossa on epäsuotuisia ennakkoluuloja ja epätasa-arvoa. Saatat olla tietoinen siitä, että kun uusin tekoälyn aikakausi alkoi, vallitsi valtava innostus siitä, mitä jotkut nykyään kutsuvat. AI Hyvä. Valitettavasti aloimme todistaa tuon purskahtavan jännityksen kannoilla AI huono. Esimerkiksi useiden tekoälyyn perustuvien kasvojentunnistusjärjestelmien on paljastettu sisältävän rotu- ja sukupuoliharhaa, joista olen keskustellut osoitteessa linkki tähän.

Pyrkimykset taistella vastaan AI huono ovat aktiivisesti käynnissä. Paitsi äänekäs juridinen väärinkäytösten hillitsemiseen tähtäävät pyrkimykset omaksua tekoälyn etiikka tekoälyn ilkeyden korjaamiseksi. Ajatus on, että meidän pitäisi ottaa käyttöön ja tukea keskeisiä eettisiä tekoälyn periaatteita tekoälyn kehittämisessä ja levittämisessä tehden näin alentaaksemme AI huono ja samanaikaisesti julistaa ja edistää parempaa AI Hyvä.

Tähän liittyvään ajatukseen, kannatan tekoälyn käyttämistä osana tekoälyongelmien ratkaisua ja tulen torjumista tulella tällä ajattelutavalla. Voisimme esimerkiksi upottaa eettisiä tekoälykomponentteja tekoälyjärjestelmään, joka valvoo, kuinka muu AI tekee asioita ja saa siten mahdollisesti kiinni reaaliajassa kaikki syrjivät toimet, katso keskusteluni osoitteessa linkki tähän. Meillä voisi olla myös erillinen tekoälyjärjestelmä, joka toimii eräänlaisena AI Ethics -monitorina. Tekoälyjärjestelmä toimii valvojana, joka seuraa ja havaitsee, kun toinen tekoäly on menossa epäeettiseen kuiluun (katso analyysini tällaisista ominaisuuksista linkki tähän).

Hetken kuluttua kerron teille joitain tekoälyn etiikan taustalla olevia yleisiä periaatteita. Tällaisia ​​listoja kelluu siellä täällä paljon. Voisi sanoa, että ei ole vielä olemassa yksittäistä luetteloa yleismaailmallisesta vetovoimasta ja yhteisymmärryksestä. Se on ikävä uutinen. Hyvä uutinen on, että ainakin AI Ethics -luetteloita on helposti saatavilla ja ne ovat yleensä melko samanlaisia. Kaiken kaikkiaan tämä viittaa siihen, että eräänlaisen perustellun lähentymisen avulla löydämme tiemme kohti yleistä yhteneväisyyttä siitä, mistä tekoälyn etiikka koostuu.

Käydään ensin lyhyesti läpi joitakin yleisiä eettisiä tekoälyohjeita havainnollistaaksemme, minkä pitäisi olla olennaista jokaiselle tekoälyä luovalle, harjoittelevalle tai käyttävälle.

Esimerkiksi, kuten Vatikaani totesi Rooma kutsu tekoälyn etiikkaan ja kuten olen käsitellyt perusteellisesti osoitteessa linkki tähän, nämä ovat heidän tunnistamansa kuusi ensisijaista tekoälyn eettistä periaatetta:

• Avoimuus: Periaatteessa tekoälyjärjestelmien on oltava selitettävissä
• sisällyttäminen: Kaikkien ihmisten tarpeet on otettava huomioon, jotta kaikki voivat hyötyä ja kaikille yksilöille tarjotaan parhaat mahdolliset olosuhteet ilmaista itseään ja kehittyä.
• vastuu: Tekoälyn käyttöä suunnittelevien ja ottavien on edettävä vastuullisesti ja läpinäkyvästi
• Puolueettomuus: Älä luo puolueellisuutta tai toimi sen mukaan turvaten siten oikeudenmukaisuutta ja ihmisarvoa
• Luotettavuus: Tekoälyjärjestelmien tulee pystyä toimimaan luotettavasti
• Turvallisuus ja yksityisyys: Tekoälyjärjestelmien on toimittava turvallisesti ja kunnioitettava käyttäjien yksityisyyttä.

Kuten Yhdysvaltain puolustusministeriö (DoD) totesi Tekoälyn käytön eettiset periaatteet ja kuten olen käsitellyt perusteellisesti osoitteessa linkki tähän, nämä ovat heidän kuusi ensisijaista tekoälyn eettistä periaatetta:

• Vastaava: DoD-henkilöstö käyttää asianmukaista harkintaa ja huolellisuutta samalla kun he ovat vastuussa tekoälyominaisuuksien kehittämisestä, käyttöönotosta ja käytöstä.
• oikeudenmukainen: Osasto ryhtyy tietoisiin toimiin minimoidakseen tahattoman harhan tekoälyominaisuuksissa.
• jäljitettävissä: Osaston tekoälyvalmiuksia kehitetään ja otetaan käyttöön siten, että asiaankuuluvalla henkilöstöllä on asianmukainen ymmärrys tekoälyvalmiuksiin sovellettavista teknologiasta, kehitysprosesseista ja toimintamenetelmistä, mukaan lukien avoimet ja tarkastettavat menetelmät, tietolähteet sekä suunnittelumenettely ja dokumentaatio.
• Luotettava: Osaston tekoälyominaisuuksilla on selkeät, tarkasti määritellyt käyttötarkoitukset, ja tällaisten ominaisuuksien turvallisuus, turvallisuus ja tehokkuus testataan ja varmistetaan määritellyissä käyttötarkoituksissa niiden koko elinkaaren ajan.
• hallinnoitavissa: Osasto suunnittelee ja suunnittelee tekoälyvalmiuksia täyttämään niille aiotut toiminnot samalla kun sillä on kyky havaita ja välttää tahattomia seurauksia sekä kyky kytkeä irti tai deaktivoida käyttöönotetut järjestelmät, jotka osoittavat tahatonta toimintaa.

Olen myös keskustellut erilaisista tekoälyn eettisten periaatteiden kollektiivisista analyyseistä, mukaan lukien tutkijoiden laatiman joukon, joka tutki ja tiivisti lukuisten kansallisten ja kansainvälisten tekoälyn eettisten periaatteiden olemusta artikkelissa "The Global Landscape Of AI Ethics Guidelines" (julkaistu) sisään luonto), ja jota kattamani tutkitaan osoitteessa linkki tähän, joka johti tähän Keystone-luetteloon:

• Läpinäkyvyys
• Oikeus ja oikeudenmukaisuus
• Ei-ilkeäisyys
• vastuu
• yksityisyys
• hyväntekeväisyys
• Vapaus ja autonomia
• Luottamus
• kestävyys
• arvokkuus
• Solidaarisuus

Kuten saatat suoraan arvata, näiden periaatteiden taustalla olevien yksityiskohtien selvittäminen voi olla erittäin vaikeaa. Vielä enemmän, pyrkimys muuttaa nämä laajat periaatteet joksikin täysin konkreettiseksi ja riittävän yksityiskohtaiseksi käytettäväksi tekoälyjärjestelmien luomisessa on myös kova pähkinä. Kokonaisuudessaan on helppo heiluttaa käsin siitä, mitä tekoälyn eettiset ohjeet ovat ja miten niitä yleensä tulisi noudattaa, kun taas tekoälykoodauksessa on paljon monimutkaisempi tilanne, kun tien kohtaamisen täytyy olla todellinen kumi.

Tekoälykehittäjien tulee hyödyntää tekoälyn eettisiä periaatteita sekä tekoälykehitystyötä hallinnoivien ja jopa tekoälyjärjestelmien ylläpitoa tekevien periaatteiden käyttöä. Kaikki sidosryhmät koko tekoälyn kehityksen ja käytön elinkaaren aikana katsotaan eettisen tekoälyn vakiintuneiden normien mukaisesti. Tämä on tärkeä kohokohta, koska tavallinen oletus on, että "vain koodaajien" tai tekoälyn ohjelmoivien on noudatettava tekoälyn etiikkaa. Kuten aiemmin todettiin, tekoälyn suunnittelu ja toteuttaminen vaatii kylän, ja koko kylän on oltava perehtynyt tekoälyn etiikkaan ja noudattaa niitä.

Varmistetaan myös, että olemme samalla sivulla nykypäivän tekoälyn luonteesta.

Nykyään ei ole aistivaa tekoälyä. Meillä ei ole tätä. Emme tiedä, onko aistillinen tekoäly mahdollista. Kukaan ei voi osuvasti ennustaa, saavutammeko aistillisen tekoälyn, eikä syntyykö sentientti tekoäly jotenkin ihmeellisesti spontaanisti laskennallisen kognitiivisen supernovan muodossa (kutsutaan yleensä singulaariseksi, katso artikkelini osoitteessa linkki tähän).

Tekoälytyyppi, johon keskityn, koostuu tuntemattomasta tekoälystä, joka meillä on nykyään. Jos haluamme villisti spekuloida tunteva AI, tämä keskustelu voisi mennä radikaalisti eri suuntaan. Tuntevan tekoälyn oletetaan olevan ihmislaatuista. Sinun on otettava huomioon, että tunteva tekoäly on ihmisen kognitiivinen vastine. Enemmänkin, koska jotkut spekuloivat, että meillä saattaa olla superälykäs tekoäly, on mahdollista, että tällainen tekoäly voisi päätyä älykkäämmäksi kuin ihmiset (superälykkään tekoälyn mahdollisuudesta tutkimisestani, katso ks. kattavuus täällä).

Pidetään asiat maanläheisemmin ja harkitaan nykypäivän laskennallista tuntematonta tekoälyä.

Ymmärrä, että nykypäivän tekoäly ei pysty "ajattelemaan" millään tavalla ihmisen ajattelun tasolla. Kun olet vuorovaikutuksessa Alexan tai Sirin kanssa, keskustelukyvyt saattavat näyttää ihmisiltä, ​​mutta tosiasia on, että se on laskennallista ja siitä puuttuu ihmisen kognitio. Tekoälyn uusin aikakausi on hyödyntänyt laajasti koneoppimista (ML) ja Deep Learningiä (DL), jotka hyödyntävät laskennallista kuvioiden täsmäämistä. Tämä on johtanut tekoälyjärjestelmiin, jotka näyttävät olevan ihmisen kaltaisia ​​taipumuksia. Sitä vastoin nykyään ei ole yhtään tekoälyä, joka näyttäisi olevan tervettä järkeä, eikä siinä ole mitään vankan ihmisen ajattelun kognitiivista ihmettelyä.

ML/DL on eräänlainen laskennallinen mallisovitus. Tavallinen lähestymistapa on, että kokoat dataa päätöksentekotehtävästä. Syötät tiedot ML/DL-tietokonemalleihin. Nämä mallit pyrkivät löytämään matemaattisia malleja. Tällaisten mallien löytämisen jälkeen, jos niin on, tekoälyjärjestelmä käyttää niitä kohdatessaan uutta tietoa. Uutta dataa esitettäessä käytetään "vanhaan" tai historialliseen dataan perustuvia malleja nykyisen päätöksen tekemiseksi.

Luulen, että voit arvata mihin tämä on menossa. Jos ihmiset, jotka ovat tehneet kaavoja päätöksiä, ovat sisällyttäneet epäsuotuisia ennakkoluuloja, on todennäköistä, että tiedot heijastavat tätä hienovaraisella mutta merkittävällä tavalla. Koneoppimisen tai Deep Learningin laskennallinen mallinsovitus yrittää yksinkertaisesti matemaattisesti jäljitellä dataa vastaavasti. Tekoälyn luomassa mallintamisessa ei sinänsä näytä olevan tervettä järkeä tai muita tuntevia puolia.

Tekoälykehittäjät eivät myöskään välttämättä ymmärrä, mitä tapahtuu. ML/DL:n vaikeaselkoinen matematiikka saattaa vaikeuttaa nyt piilossa olevien harhojen paljastamista. Voit oikeutetusti toivoa ja odottaa, että tekoälykehittäjät testaisivat mahdollisesti hautautuneita harhoja, vaikka tämä onkin hankalampaa kuin miltä saattaa näyttää. On olemassa vahva mahdollisuus, että jopa suhteellisen laajalla testauksella ML/DL:n mallinsovitusmalleihin sisältyy edelleen harhaa.

Voisit hieman käyttää kuuluisaa tai pahamaineista sanontaa roskat sisään roskat ulos. Asia on siinä, että tämä muistuttaa enemmän harhoja, jotka infusoituvat salakavalasti tekoälyn upottautuessa harhaan. Tekoälyn päätöksenteko-algoritmi (ADM) on aksiomaattisesti täynnä epätasa-arvoa.

Ei hyvä.

Palataanpa nyt vallan aiheeseen (yhteiskunnallinen voimadynamiikka).

Muista, että julistin aiemmin nämä hypoteesit voiman sekoittumisesta ja tekoälyn harhasta:

• Teho voi johtaa tekoälyn harhaan
• Teho voi pohjimmiltaan määrittää, mitä uskomme tekoälyn harhaan
• Voima voi muokata tapaamme käsitellä tekoälyn harhaa
• Teho voi ohjata kuinka tekoälyn heikentyminen tapahtuu
• Teho voi vaikuttaa kaikkiin sidosryhmiin, koska se liittyy tekoälyyn ja tekoälyyn
• Valta voi vaikuttaa haitallisesti erityisesti haavoittuvimpiin sidosryhmiin
• Ja niin edelleen.

Tämän painavan keskustelun tässä vaiheessa lyön vetoa, että kaipaat havainnollistavia esimerkkejä, jotka voisivat esitellä tätä aihetta. On olemassa erityinen ja varmasti suosittu joukko esimerkkejä, jotka ovat lähellä sydäntäni. Tekoälyn asiantuntijana, mukaan lukien eettiset ja oikeudelliset seuraukset, minua pyydetään usein tunnistamaan realistisia esimerkkejä, jotka tuovat esille tekoälyn eettisiä ongelmia, jotta aiheen jossain määrin teoreettinen luonne voidaan ymmärtää helpommin. Yksi mieleenpainuvimmista alueista, joka esittelee elävästi tämän eettisen tekoälyongelman, on tekoälyyn perustuvien todellisten itseohjautuvien autojen tulo. Tämä toimii kätevänä käyttötapana tai esimerkkinä aiheesta laajalle keskustelulle.

Tässä on sitten huomionarvoinen kysymys, jota kannattaa pohtia: Valoittaako tekoälyyn perustuvien todellisten itseohjautuvien autojen tulo mitään siitä, kuinka tekoälyn ennakkoluulot ovat kiinteästi kietoutuneet mahdolliseen piilotettuun yhteiskunnalliseen voimadynamiikkaan, ja jos on, mitä tämä osoittaa?

Anna minun hetki purkaa kysymys.

Ensinnäkin, huomaa, että todellisessa itseajavassa autossa ei ole ihmiskuljettajaa. Muista, että todellisia itseohjautuvia autoja ajetaan tekoälyjärjestelmän kautta. Rattiin ei tarvita ihmiskuljettajaa, eikä myöskään ole mahdollista, että ihminen voisi ajaa ajoneuvoa. Katso kattava ja jatkuva kattamukseni autonomisista ajoneuvoista (AV) ja erityisesti itseohjautuvista autoista. linkki tähän.

Haluaisin selventää tarkemmin, mitä tarkoitetaan, kun viittaan todellisiin itse ajaviin autoihin.

Ymmärtäminen itse ajavien autojen tasoista

Selvyyden vuoksi todelliset itse ajavat autot ovat sellaisia, joissa tekoäly ajaa autoa kokonaan yksin eikä ajo-tehtävän aikana ole mitään apua.

Näitä kuljettamattomia ajoneuvoja pidetään tasoina 4 ja 5 (katso selitykseni osoitteessa tämä linkki täällä), kun taas autoa, joka edellyttää ihmiskuljettajan yhteistä ajoponnistusta, pidetään yleensä tasolla 2 tai 3. Autoja, jotka jakavat ajotehtävän, kuvataan puoliautonomisina ja sisältävät tyypillisesti erilaisia automaattiset lisäosat, joista käytetään nimitystä ADAS (Advanced Driver-Assistance Systems).

Tasolla 5 ei ole vielä todellista itseajavaa autoa, emmekä vielä edes tiedä, onko se mahdollista saavuttaa tai kuinka kauan sen saavuttaminen kestää.

Samaan aikaan tason 4 ponnistelut yrittävät vähitellen saada jonkin verran pitoa käymällä läpi erittäin kapeita ja valikoivia yleisiä tiekokeita, vaikka onkin kiistaa siitä, pitäisikö tämä testaus sallia sellaisenaan (olemme kaikki elämän tai kuoleman marsuja kokeessa tapahtuu valtateillämme ja sivuteillämme, jotkut väittävät, katso kattaukseni osoitteessa tämä linkki täällä).

Koska osittain itsenäiset autot vaativat ihmisen kuljettajan, tämäntyyppisten autojen omaksuminen ei ole selvästi erilainen kuin tavanomaisten ajoneuvojen ajaminen, joten sinänsä ei ole paljon uutta kattamaan niitä tästä aiheesta (tosin kuten näette hetkessä seuraavia pisteitä voidaan yleensä soveltaa).

Osittain itsenäisten autojen osalta on tärkeää, että kansalaisia ​​on varoitettava viime aikoina esiintyneestä häiritsevästä näkökulmasta, nimittäin siitä, että huolimatta ihmisten kuljettajista, jotka jatkavat videoiden lähettämistä itsensä nukahtamisesta tason 2 tai 3 autolle, , meidän kaikkien on vältettävä johtamasta harhaan uskoaan, että kuljettaja voi viedä huomionsa ajo-tehtävään ajon puoli-autonomisen auton kanssa.

Olet vastuussa ajoneuvon ajotoimista riippumatta siitä, kuinka paljon automaatiota voidaan heittää tasolle 2 tai 3.

Itseajavat autot ja yhteiskunnallisen voimadynamiikan rooli

Tason 4 ja tason 5 itseohjautuvissa ajoneuvoissa ajo-tehtävään ei tule inhimillistä kuljettajaa.

Kaikki matkustajat ovat matkustajia.

AI ajaa.

Yksi näkökohta, josta on keskusteltava välittömästi, merkitsee sitä, että nykypäivän tekoälyjärjestelmiin osallistuva tekoäly ei ole tunteva. Toisin sanoen tekoäly on kokonaisuudessaan tietokonepohjaisen ohjelmoinnin ja algoritmien joukko, eikä varmaankaan kykene perustelemaan samalla tavalla kuin ihmiset.

Miksi tämä korostetaan sitä, että tekoäly ei ole järkevä?

Koska haluan korostaa, että puhuessani tekoälyn ajo-järjestelmän roolista, en omista tekoälylle ihmisen ominaisuuksia. Huomaa, että nykyään on jatkuva ja vaarallinen taipumus antropomorfisoida tekoäly. Pohjimmiltaan ihmiset osoittavat ihmisen kaltaisen tuntemuksen nykyiselle tekoälylle huolimatta kiistattomasta ja kiistattomasta tosiasiasta, että sellaista tekoälyä ei vielä ole.

Tämän selvennyksen avulla voit kuvitella, että tekoälyn ajo-järjestelmä ei luonnostaan ​​jotenkin “tiedä” ajon puolia. Ajo ja kaikki siihen liittyvä on ohjelmoitava osaksi itseajoavan auton laitteistoa ja ohjelmistoa.

Sukelletaan lukemattomiin näkökohtiin, jotka tulevat pelaamaan tästä aiheesta.

Ensinnäkin on tärkeää ymmärtää, että kaikki AI-itse ajavat autot eivät ole samanlaisia. Jokainen autonvalmistaja ja itseajava teknologiayritys suunnittelee itse ajavia autoja. Sellaisenaan on vaikea antaa laajoja lausuntoja siitä, mitä tekoälyjärjestelmät tekevät tai eivät tee.

Lisäksi aina, kun todetaan, että tekoälyohjausjärjestelmä ei tee jotain tiettyä, tämä voi myöhemmin ohittaa kehittäjät, jotka itse ohjelmoivat tietokoneen tekemään juuri sen. AI -ajojärjestelmiä parannetaan ja laajennetaan asteittain. Nykyinen rajoitus ei välttämättä ole enää olemassa tulevassa iteraatiossa tai järjestelmän versiossa.

Toivon, että se tarjoaa riittävän litaania varoituksia taustalla, mitä aion kertoa.

Pohditaan seuraavaksi, kuinka tekoälyn harha ja yhteiskunnallinen voimadynamiikka voivat vaikuttaa tässä itseajavien autojen yhteydessä. Aloitetaan yhdestä läpinäkyvimmistä ja usein siteeratuista "voimapeleistä" autonomisten ajoneuvojen ja erityisesti itseohjautuvien autojen suhteen.

Jotkut asiantuntijat ovat huolissaan siitä, että itseajavat autot ovat vain varakkaiden ja eliittien maakunta. Saattaa olla, että itseajavien autojen käyttökustannukset ovat kohtuuttoman kalliita. Jos sinulla ei ole suuria summia, et ehkä koskaan näe itse ajavan auton sisäpuolta. Niiden, jotka käyttävät itseohjautuvia autoja, on oltava rikkaita, väitetään (en ole samaa mieltä, katso keskusteluni osoitteessa linkki tähän).

Tämä voitaisiin tulkita eräänlaisena yhteiskunnallisen voimadynamiikan muotona, joka läpäisee tekoälyyn perustuvien itseohjautuvien autojen tulon. Yleinen autonominen ajoneuvoteollisuusjärjestelmä kokonaisuutena pitää itseajavat autot poissa köyhien tai vähemmän varakkaiden käsistä. Tämä ei välttämättä johdu ilmeisestä tarkoituksesta, ja vain käy ilmi, että ainoa uskottu tapa saada takaisin itseajavien autojen keksimisestä aiheutuvat raskaita kustannuksia on periä törkeän korkeita hintoja.

Onko tämä yhteiskunnallinen valtadynamiikka vai ei?

Sinä olet tuomari.

Jatketaan, voimme seuraavaksi tarkastella tekoälyyn liittyviä tilastollisia ja laskennallisia harhoja.

Mieti näennäisesti merkityksetöntä kysymystä siitä, missä itseajavat autot vaeltavat hakemaan matkustajia. Tämä tuntuu erittäin viattomalta aiheelta.

Aluksi oletetaan, että tekoälyn itseohjautuvat autot liikkuvat koko kaupungeissa. Jokaisella, joka haluaa pyytää kyytiä itseajavaan autoon, on periaatteessa yhtäläinen mahdollisuus saada sellainen. Vähitellen tekoäly alkaa ensisijaisesti pitää itseajavat autot liikkumassa vain yhdessä kaupunginosassa. Tämä osio tuottaa enemmän rahaa, ja tekoäly on ohjelmoitu yrittämään maksimoida tulot osana käyttöä koko yhteisössä.

Kaupungin köyhien osien yhteisön jäsenet eivät todennäköisesti pääse kyytiin itseajavalla autolla. Tämä johtuu siitä, että itseajavat autot olivat kauempana ja vaelsivat kaupungin korkeamman tulotason osassa. Kun pyyntö tulee kaukaisesta kaupunginosasta, mikä tahansa muu pyyntö lähempänä olevasta paikasta saisi korkeamman prioriteetin. Lopulta itseajavan auton saatavuus muualta kuin kaupungin rikkaimmasta osasta on lähes mahdotonta, mikä on raivostuttavaa niille, jotka asuivat näillä nyt luonnonvarojen nälkäisillä alueilla.

Esiin tulevat kehutut liikkuvuutta kaikille -unelmat, jotka itseohjautuvien autojen oletetaan toteuttavan.

Voisit väittää, että tekoäly joutui melko suurelta osin tilastollisiin ja laskennallisiin harhaan, joka on samanlainen kuin välityspalvelinsyrjintä (kutsutaan usein myös epäsuoraksi syrjinnäksi). Tekoälyä ei ohjelmoitu välttämään näitä köyhempiä kaupunginosia. Sen sijaan se "oppii" tekemään niin ML/DL:n avulla. Katso selitykseni välityspalvelimen syrjinnästä ja tekoälyn harhasta osoitteessa linkki tähän. Lisätietoja tämäntyyppisistä kaupunginlaajuisista ongelmista, joita autonomiset ajoneuvot ja itseohjautuvat autot kohtaavat, on myös artikkelissani osoitteessa tämä linkki täällä, joka kuvaa Harvardin johtamaa tutkimusta, jonka kirjoittajana olin mukana.

Tuleeko yhteiskunnallinen voimadynamiikka esille tässä tapauksessa?

Sinä olet tuomari.

Kolmannen tekoälypoikkeaman tapauksessa käsittelemme esimerkkiä, jossa tekoäly päättää, pysähtyykö se odottamaan jalankulkijoita, joilla ei ole etuoikeutta ylittää katu.

Olet epäilemättä ajanut ja törmännyt jalankulkijoihin, jotka odottavat kadun ylittämistä, mutta heillä ei kuitenkaan ollut etuoikeutta tehdä niin. Tämä tarkoitti sitä, että sinulla oli harkintavaltaa päättää, pysähdytkö ja annatko heidän ylittää. Voit edetä päästämättä heidän ylittää ja noudattaa silti täysin laillisia ajosääntöjä.

Tutkimukset siitä, kuinka ihmiskuljettajat päättävät pysähtyä tai olla pysähtymättä tällaisten jalankulkijoiden puolesta, ovat osoittaneet, että joskus ihmiskuljettajat tekevät valinnan epäsuotuisten ennakkoluulojen perusteella. Ihmiskuljettaja saattaa katsoa jalankulkijaa ja päättää olla pysähtymättä, vaikka hän olisi pysähtynyt, jos jalankulkija olisi ollut ulkonäöltään erilainen, esimerkiksi rodun tai sukupuolen perusteella. Olen tutkinut tätä klo linkki tähän.

Kuvittele, että tekoälyyn perustuvat itseohjautuvat autot on ohjelmoitu käsittelemään kysymystä siitä, pysähtyäkö vai ei, jos jalankulkijalla ei ole etuoikeutta. Näin tekoälykehittäjät voivat päättää ohjelmoida tämän tehtävän. He keräävät tietoja kaupungin videokameroista, jotka on sijoitettu ympäri kaupunkia. Data esittelee ihmiskuljettajia, jotka pysähtyvät jalankulkijoille, joilla ei ole etuettaoikeutta, ja kuvaavat myös videota ihmiskuljettajista, jotka eivät pysähdy. Tämä kaikki on koottu suureksi tietojoukoksi.

Koneoppimisen ja Deep Learningin avulla tiedot mallinnetaan laskennallisesti. AI-ajojärjestelmä käyttää sitten tätä mallia päättääkseen, milloin pysähtyä tai olla pysähtymättä. Yleisesti ajatus on, että riippumatta siitä, mistä paikallinen tapa koostuu, näin tekoäly ohjaa itse ajavaa autoa.

Kuvittele kaupungin johtajien ja asukkaiden yllätykseksi heidän järkytystään, kun tekoäly päättää pysähtyä tai olla pysähtymättä jalankulkijan iän perusteella.

Kuinka se voisi tapahtua?

Tarkasteltaessa lähemmin ML/DL-harjoitustietoja ja videoita ihmiskuljettajan harkinnasta, käy ilmi, että monet tapaukset, joissa ei pysäytetty, johtivat jalankulkijoihin, joilla oli vanhimmalle tyypillinen kävelykeppi. Ihmiskuljettajat eivät ilmeisesti olleet halukkaita pysähtymään ja päästämään vanhimman yli tien, luultavasti johtuen siitä, että matkan tekemiseen saattaa kulua aikaa. Jos jalankulkija näytti siltä, ​​että hän pystyi nopeasti poikimaan kadun poikki ja minimoimaan kuljettajan odotusajan, ihmiskuljettajat pystyivät paremmin päästämään henkilön yli.

Tämä hautautui syvälle tekoälyn ajojärjestelmään ML/DL:n kautta, kun hän "löysi" tämän kuvion harjoitustiedoista ja mallinsi sen mukaisesti laskennallisesti vastuullisesti. Kun ML/DL oli ladattu itseajaviin autoihin OTA (Over-The-Air) -päivitysten avulla, sisäinen AI-ajojärjestelmä siirtyi käyttämään äskettäin toimitettuja ML/DL-malleja.

Näin se toimisi. Itseajavan auton anturit skannasivat odottavan jalankulkijan, syöttäisivät nämä tiedot ML/DL-malliin ja malli lähettäisi tekoälylle, pysähtyykö vai jatkaako se. Kaikkia visuaalisia merkkejä siitä, että jalankulkija saattaa ylittää hidas, kuten kävelykepin käyttöä, käytettiin matemaattisesti määrittämään, pitäisikö tekoälyjärjestelmän päästää odottavan jalankulkijan ylittämään vai ei.

Luuletko, että tämä tekoälyn harha piilottaa yhteiskunnallisen voimadynamiikan?

Sinä olet tuomari.

Yhteenveto

Muutama viimeinen ajatus toistaiseksi.

Katsotaanpa muutamia korkean tason vinkkejä ja tärkeitä varoituksia.

Ensinnäkin selvennyksen vuoksi, kukaan ei erityisesti väitä, että meidän pitäisi jotenkin jättää huomioimatta tekoälyn harha ja siirtyä tarkastelemaan vain yhteiskunnallista voimadynamiikkaa. Mainitsen tämän, koska jotkut näyttävät heittävän vauvan ulos kylpyveden kanssa ja hyppäävän kokonaan voimaelementteihin, ikään kuin tekoälyharhoilla ei olisi merkitystä verrattuna.

Älä tee tuota Grand Canyonin sellaista ylimitoitettua harppausta.

Toiseksi meidän on keskityttävä tekoälyn harhaan. Ja sillä välin meidän pitäisi myös pitää silmämme ja korvamme auki yhteiskunnallisen vallan dynamiikkaan.

Kyllä, voimme tehdä molempia yhtä aikaa, varsinkin nyt kun tiedämme olevansa valppaana. Vakuutan teille, että gorillakokeen kokevat ihmiset ovat omiaan olemaan varpaillaan aina kun he seuraavan kerran näkevät jotain, mikä saattaisi haastaa heidän kognitiivisen ketteryytensä. Kun tiedät, että gorilla voi olla siellä, vaikka se ei välttämättä ilmestykään, varmistat, että tarkkailet mahdollista esiintymistä joka tapauksessa.

Tässä on joitain arvokkaita peukalosääntöjä (tämä herättää kiistaa, vain tiedoksi):

• Tekoälyharha voidaan tulkita yhteiskunnallisen voimadynamiikkaongelman "piilotukseksi" (AI-harha ei ole piilottaja, vaan henkilö, joka on kiinnostunut katsomaan vain tekoälyn harhaa)
• Mutta kaikki tekoälyharhat eivät välttämättä piilota yhteiskunnallista voimadynamiikkaa
• Kaikki yhteiskunnalliset voimadynamiikkakysymykset eivät myöskään välttämättä ole upotettuja vain tekoälyyn
• Tekoälyharha voi olla osa tekoälypoikkeamia, jotka kaikki liittyvät tiettyyn yhteiskunnalliseen voimadynamiikkaan
• Litania yhteiskunnallisia voimadynamiikkakysymyksiä voi olla hämmentävää melkein missä tahansa tekoälyjärjestelmässä, koska tekoälyjärjestelmät heijastavat yhteiskuntaa ja voimadynamiikkaa.

Mieti niitä hetki.

Odotan.

Okei, tässä on vielä muutama nyrkkisääntö, jotka saattavat myös saada mielen mehut käyntiin:

• Kun kohtaat tekoälyn harhaa, kysy, onko sillä mitään yhteyttä yhteiskunnalliseen voimadynamiikkaan
• Kun suunnittelet tekoälyjärjestelmää, kysy, muokkaako yhteiskunnallinen voimadynamiikka tekoälyä ja millä tavoin
• Yritä tutkia, kuinka yhteiskunnallinen voimadynamiikka vaikuttaa tekoälyn sidosryhmiin
• Mieti, mitkä lieventävät keinot voisivat olla tarkoituksenmukaisia ​​tekoälyn ja yhteiskunnallisen voiman dynamiikassa
• Ole aina varovainen gorillan suhteen ja älä unohda, että gorilloja voi olla olemassa (sanoisin, että se herättää elämän hakkerointipeukalosääntöä – älä koskaan joudu gorillan sokeuteen, se voi olla tuskallista ja toivot, että olisit nähnyt se tulee!).

Puhua teho on muistuttanut minua vaikutuksista, joita yhteiskunnallinen valta voi aiheuttaa. Lyön vetoa, että tunnet yhden kuuluisimmista tai surullisen kuuluisista valtaa koskevista linjoista, joka kuuluu Lord Actionin mukaan seuraavasti: "Valta pyrkii turmelemaan ja absoluuttinen valta turmelee ehdottomasti."

Henkeäsalpaava huoli.

Yhteiskunnan on oltava ylöspäin ja ylöspäin, että tekoälyllä tulee olemaan osoittava vaikutus yhteiskunnan voimadynamiikkaan. Tämä näyttää ehkä räikeän ilmeiseltä, mutta asiasta ei kuitenkaan käytetä niin paljon ulkopuolista keskustelua ja suorapuheista keskustelua kuin luulisi olevan perusteltua. Tekoälyn eettisten näkökohtien nousu onneksi siirtää yhteiskuntaa siihen suuntaan. Väistämättä, ellei vastenmielisesti, ja tuskallinen tuuma kerrallaan.

Voimme toistaiseksi antaa viimeisen sanan suurelle Leonardo da Vincille ja pohtia hetki näitä älykkäästi viisaita sanoja: "Mikään ei vahvista auktoriteettia niin paljon kuin hiljaisuus."

Ne, jotka uskaltavat tekoälyn harhaan ja yhteiskunnalliseen voimadynamiikkaan, yrittävät tuoda suoraa auringonvaloa ja kiehtovaa huomiota muuten hiljaiseen tai vaatimattomaan asiaan, joka näennäisesti odottaisi hiljaa. Aloitetaan puhuminen, kuten Leonardo da Vinci oletettavasti kehottaisi meitä tekemään.