Tekoälyn etiikka ja ylistämä tekoäly Uncanny Valley, joka myös helisee tekoälyyn perustuvia itseohjautuvia autoja

Joskus on hieman outoja asioita, jotka kiinnittävät huomiosi ja saavat intuitiivisen mehusi liikkeelle, että jotain on jotenkin vialla. Kummallisuus ei ole räikeä, ei ollenkaan räikeä kasvoissasi. Et ehkä edes pysty heti näkemään sormeasi, mikä on ristiriitaisuutta tai miksi sananlaskun hämähäkkiaisti kihelsee.

Ehkä hienovaraisia ​​vihjeitä havaitaan. Ehkä huomaat sisimmässäsi dissonanssin olemassaolon. Voisi kai sanoa, että siellä on vain pienintäkään aavistus hillittyä aavemaisuutta ja herkkä ihmistutkasi poimii muuten näennäisesti piilossa olevia signaaleja.

Tervetuloa ihmeelliseen laaksoon.

Jos et ole koskaan kuullut ällistyttävästä laaksosta, joka on suhteellisen suosittu tekoälyn ja erityisesti robotiikan alalla, sinulla on pieni herkkupala, koska se on aihe, jota aion käsitellä ja analysoida tässä tiiviisti.

Yleinen käsitys voi koskea monia asioita, joita koemme elämässä, vaikka kulmakiviperiaatteet ja lähtöisin määritelmä sisältävät tekoälyjärjestelmiä ja robotteja. Tutkimme ensin kummallisen laakson alkuperää ja alkuperäistä merkitystä ja jatkamme sitten laajentamiseen nähdäksemme, kuinka ilmiöt näyttävät soveltuvan laajempiin yhteyksiin.

Voisin myös lisätä, että harkitsemme, onko ihmeellistä laaksoa ollenkaan olemassa.

Katsos, jotkut skeptikot ja kyynikot väittävät, että koko asia on vähän sekaisin eikä pidä vettä. Ole varovainen, kun otat aiheen esille asian tunteville. Jotkut hymyilevät iloisesti ja taputtavat sinua selkään, että olet hyvin perehtynyt ihmeelliseen laaksoon, kun taas toiset luennoivat sinulle jyrkästi, että se on sianpesua ja sinun on puhdistettava mielesi suppealla mielenpuhdistussaippualla. .

Hyvä uutinen tässä on se, että saat päättää, onko järjetön laakso todellinen vai ei, sekä onko sillä ansioita tietoiseen soveltamiseen vai pitäisikö se sen sijaan heittää seremoniattomasti teknoideoiden roskakasaan. Siinä mielessä olet kuljettajan paikalla.

Kaikki tämä liittyy läheisesti myös eettisen tekoälyn kasvavaan kenttään ja kasvavaan oivallukseen, että yhteiskunnan on kiinnitettävä vakavasti ja raittiisti huomiota tekoälyn etiikkaan. Teemme sen tasapelin hetkessä.

Paras paikka aloittaa on lainaamalla suoraan professoria, joka keksi järjettömän laakson käsitteen ja nimesi tämän julistetun ilmiön suoraan. Vuonna 1970 Tokion teknillisen korkeakoulun professori Masahiro Mori julkaisi melko pienen artikkelin hieman vähemmän tunnetussa lehdessä nimeltä energia (ei varsinkaan tekoälyn ja robotiikan pesä sinänsä), ja sanoi tämän:

"Olen huomannut, että kiipeäessään kohti tavoitetta saada robotit näyttämään ihmisiltä, ​​affiniteettimme niitä kohtaan kasvaa, kunnes tulemme laaksoon, jota kutsun järjettömäksi laaksoksi."

Huomaa, että yllä oleva lauseke on esitetty englanniksi, vaikka alkuperäinen paperi oli japaniksi. Englanninkielistä käännettyä versiota valvoi kirjoittaja, ja se julkaistiin myöhemmin IEEE Spectrum vuonna 2012, ja sen kirjoittaja on Masahiro Mori. Voit lukea lehden itse, koska se on avoimesti ja vapaasti luettavissa verkossa. Se on selvästi nopea, ehkä noin kymmenen minuutin luku, eikä se sisällä teknistä raskasta terminologiaa.

Tästä huolimatta on mielenkiintoista ja jokseenkin hämmästyttävää, että näin reipas artikkeli, joka julkaistiin vuonna 1970, aloitti lopulta kokonaisen tutkimusareenan ja käynnisti lukemattomia aiheeseen liittyviä tutkimuksia, projekteja, tutkimuksia ja toisinaan kiistan myrskyn siitä, onko käsite kummallisesta laaksosta on todella olemassa. Oletan, että tämä osoittaa, että kiehtovia ja toisinaan näkökulmia muuttavia ideoita ei tarvitse olla massiivisesti mutkaisia ​​tai täynnä ammattikieltä ja ylevyyttä. Lyhyt ajatus voi olla ikään kuin jopa voimakkaampi kuin se saattaa näyttää asioiden edessä.

Uskon, että se rohkaisee sinua yrittämään ja edistämään uusia ideoitasi ymmärtäen, että suloinen ja yksinkertainen voi olla yhtä upeaa tai joskus enemmänkin kuin mutkikasta ja monimutkaista.

Hyppääkäämme takaisin ihmeelliseen laaksoon.

Törmäät robottijärjestelmään, jonka kasvot muistuttavat ihmisen näköisiä kasvoja. Kuvittele, että tämä robottikasvot on suunniteltu useiden iteraatioiden kautta. Tekoälykehittäjät, jotka kokoavat robottipäätä, ovat vähitellen pyrkineet saamaan robottikasvo-osan näyttämään yhä enemmän todellisilta ihmiskasvoilta.

Heidän ensimmäinen yrityksensä oli äärimmäisen primitiivinen. Robotin kasvot olivat saman näköisiä kuin sci-fi-elokuvissa, jotka ovat täysin metallisia ja esittelevät vaihteita ja johtoja. Tiedät heti, kun katsot laitetta, että se on robotti. Sinulla ei ole kysymystä siitä.

Tekoälykehittäjien seuraava yritys käärittiin muoviosien ympärille. Vaikka tämä näyttää hieman ystävällisemmältä, tiedät silti heti, että se on robotin pää ja robottikasvot. Jälleen, helppo havaita.

Tekoälykehittäjät ovat päättäneet jatkaa tätä. Ne muotoilevat muovia ja antavat sille ihon sävyjä. Ne lisäävät ominaisuuksia, jotka näyttävät hyvin samanlaisilta kuin ihmisen kasvot, kuten luomia, hiuksia, epäpuhtauksia ja vastaavia.

Ensi silmäyksellä saatat joutua uskomaan, että tämä on ihmisen kasvot. Jos kuva otettiin robotin kasvoista ja sinua pyydettiin tunnistamaan, kuvaako kuva henkilöä vai robottikasvoja, saatat olla tyrmistynyt heti, kun pystyt sanomaan, kumpi se oli. Toisaalta, jos seisoisit laitteen vieressä, pystyisit todennäköisesti tarkkaan tarkasteltuna huomaamaan, että se ei ole ihminen vaan robottikeino.

Asia on siinä, että ennen kuin sait tilaisuuden tehdä lähikuvaus, kasvoissa oli jotain, joka ei näyttänyt osuvan täysin yhteen. Se näytti varmasti ihmisen kasvoilta. Mutta jotain oli vialla. Sinun täytyi tuijottaa tiiviisti yhä uudelleen ja uudelleen laittaaksesi sormesi siihen, mikä ei näytä aivan oikealta. Ehkä se on todelliset kasvot. Sitten taas, ehkä se ei ole. Mielesi pyörii sen mukaisesti.

Aavemaisuus tulee mieleesi.

Sinulla ei ollut samaa aavellisuuden vaikutelmaa, kun näit kaksi aikaisempaa versiota. Voit ilman taukoa tai epäröintiä havaita, että robotti oli robotti. Vain lapsi voi saada huijatuksi uskomaan, että jompikumpi näistä versioista oli todellinen henkilö.

Tämä uusin versio oli kuitenkin erilainen. Se ei ollut vielä täydellinen näyttämään ihmisen kasvoilta. Se ei myöskään ollut niin kaukana todellisuudesta, että oli ilmeistä, että sen täytyy olla robotti. Eräänlainen sekaisin maaperä oli saavutettu.

Oletetaan, että kehittäjät työnsivät pidemmälle tutkimustyössään ja käänsivät kaiken niin, että robottikasvot olivat melkein mahdottomia erottaa ihmisen kasvoista. Riippumatta siitä, kuinka kauan tuijotat asiaa, et ole varma, onko se ihminen vai ei. Kun sinulle kerrotaan, että se on robottikasvot, hämmästyt. Jumalauta, he ovat tehneet hienoa työtä saadakseen sen näyttämään aidolta.

Huomaa, että olet toistaiseksi pohtinut vain ulkonäköön perustuvia robottinäkökohtia.

Voisimme lisätä liikkeen yhtälöön. Tämä antaa sinulle lisäulottuvuuden erottaaksesi, onko robotti robotti vai ihminen. En halua pitää tätä täysin moniulotteisena ongelmana tässä keskustelussa, koska se tekee tämän aiheen selvennyksestä monimutkaisempaa (moniulottuvuuksia on kuitenkin väistämättä kietoutunut toisiinsa). Kuvittele joka tapauksessa, että et vain nähnyt robotin kasvoja, vaan voisit myös katsoa, ​​kuinka robotti liikuttaa kasvonpiirteitä, kuten suuta, silmiä, nenää jne. Ilmeisesti nämä voivat olla myös lahjoituksia siitä, onko tämä robotti tai ihminen.

Yksi elintärkeä näkökohta, joka pitää yllä hämmentävän laakson eturintamassa, on se, että alkuperäinen käsitys korostaa ihmisläheisyyttä. Väitetty ilmiö on, että affiniteettisi kasvaa, kun näet asteittain parantuvan robotin kasvot, kunnes järjetön variantti syntyy. Tuossa vaiheessa affiniteettituntosi sanotaan laskevan dramaattisesti ja putoavan alas affiniteettikuiluun tai laaksoon.

Tietyn version suhteen, joka sai sinut epäilemään, että jokin on vialla, affiniteettisi on väitetysti laskenut radikaalisti. Lisäksi teorian mukaan affiniteettisi voi nousta pilviin, kun kohtaat kehittyneemmän version, joka on lähes identtinen todella ihmisen muodon kanssa.

Tässä on lisää siitä, mitä kirjoittaja sanoi normaalista taipumuksestamme olettaa, että elämän osa-alueet kasvavat tasaisesti: "Matemaattinen termi monotonisesti kasvava toiminto kuvaa suhdetta, jossa funktio y = ƒ(x) kasvaa jatkuvasti muuttujan mukana x. Esimerkiksi vaivannäönä x kasvaa, tulot y kasvaa tai kun auton kaasupoljinta painetaan, auto liikkuu nopeammin. Tällainen suhde on kaikkialla läsnä ja hyvin helposti ymmärrettävissä. Itse asiassa, koska tällaiset monotonisesti lisääntyvät toiminnot kattavat useimmat arkielämän ilmiöt, ihmiset voivat joutua illuusion alle, että he edustavat kaikkia suhteita. Tämän väärän vaikutelman todistaa myös se tosiasia, että monet ihmiset kamppailevat läpi elämän jatkuvalla työntämisellä ymmärtämättä vetäytymisen tehokkuutta. Siksi ihmiset ovat yleensä ymmällään, kun he kohtaavat jonkin ilmiön, jota tämä toiminto ei voi edustaa." Tämä on lainattu IEEE Spectrum käännetty paperi.

Tämä lähes universaali oletus aina lisääntymisestä voidaan kumota, kun kohtaamme jotain vialla. Aavellisuus ja epäilykset aiheuttavat suhteellisen äkillisen ja dramaattisen affiniteetin pudotuksen, teorian mukaan, kuten robottikäsi, jota päätit ravistaa etkä tuntenut ihmisen käden luista ominaisuutta: "Kun näin tapahtuu, menetämme järkemme. affiniteetti, ja kädestä tulee outo. Matemaattisesti tämä voidaan esittää negatiivisella arvolla."

Jos hyväksyt oletuksen, että on olemassa tämä kummallisen laakson ilmiö, olen varma, että mietit, mitä hyötyä sinulle on tietää, että kummallinen laakso on ilmeisesti olemassa.

Se on kaikkien aikojen klassikko "entä sitten?" käytännöllisyyden testi.

Osoittautuu, että monet ihmiset ovat keksineet monia tulkintoja siitä, mitä meidän pitäisi tai voimme tehdä oudolle laaksolle. Mielipiteitä on tuhansia. Käsittelen joitakin niistä lähiaikoina.

Samaan aikaan Masahiro Mori tarjosi seuraavaa: "Toivomme suunnitella ja rakentaa robotteja ja proteeseja, jotka eivät putoa ihmeelliseen laaksoon. Siksi, koska riski, joka liittyy yrityksiin lisätä ihmisen kaltaisuuden astetta toisen huipun skaalaamiseksi, suosittelen, että suunnittelijat ottavat sen sijaan tavoitteekseen ensimmäisen huipun, mikä johtaa kohtalaiseen ihmisen kaltaisuuteen ja huomattavaan affiniteetin tunteeseen. . Itse asiassa ennustan, että on mahdollista luoda turvallinen affiniteettitaso noudattamalla tarkoituksella ei-inhimillistä suunnittelua. Pyydän suunnittelijoita pohtimaan tätä."

Nopea tiivistys omalta osaltani kahdestatoista kätevästä housujen istuinsäännöstä siitä, mitä tehdä järjettömän laakson suhteen, menee näin erityisesti tekoälykehittäjille:

1) Ole tietoinen kummallisesta laaksosta ja ole varpaillasi sen mukaisesti

2) Oletettavasti haluat saavuttaa ihmisläheisyyden tekoälyäsi kohtaan niin paljon kuin mahdollista

3) Varaudu siihen, että menetät ihmisaffiniteetin, jos tekoälysi putoaa ihmeelliseen laaksoon

4) Pyri välttämään ihmeellinen laakso suunnittelemalla tekoälysi näin

5) On kunnioitettavaa, että sinulla on tavoite, joka on lyhyt järjettömästä laaksosta

6) Kulje sivulle hämmästyttävän laakson reunaan, mutta älä pudota kallion yli

7) Älä ole pakkomielle menemään järjettömän laakson ulkopuolelle

8) On mahdollista, että voit kuitenkin hypätä järjettömän laakson ohi

9) Älä ole huolissasi hyppäämisestä, koska saatat joka tapauksessa pudota laaksoon

10) Suurin ihmisaffiniteetti saavutettaisiin toki ohittamalla järjetön laakso

11) Siitä huolimatta löytyy riittävä ja sopiva affiniteetti ennen järjetöntä laaksoa

12) Ole jatkuvasti tietoinen kummallisesta laaksosta äläkä anna sen luistaa mielessäsi

Nämä tusina ovat kaikki yleisiä ohjeita, joita voidaan pitää kulmakivinä tai ankkurointipisteinä tuntemisessa kummallisesta laaksosta. Myönnän heti, että on muitakin kohtia, joita ei ole lueteltu noissa tusinassa ja joita voidaan pitää yhtä tärkeinä. Myönnän myös mielelläni, että jokaisesta havaitusta kohdasta on varmasti erimielisyyksiä, ja jokaisesta esitetystä seikasta voi syntyä pitkä kiivas keskustelu.

Enemmänkin jotkut sanoisivat, että kaksitoista kohtaa ovat täysin roskaa, koska ne perustuvat aluksi valheeseen. Sellaista asiaa kuin kummallinen laakso ei ole olemassa, he väittävät. Se kaikki on pelkkää sikaania ja keksittyä kekseliäisyyttä, joka vetoaa yksinomaan ja surullisesti heikkoihin mieliin (auts, se sattuu tosissaan!). Kaikki huomio järjettömään laaksoon on hukkaan heitettyä ilmaa, ja jonkun pitäisi tulla mukaan ja laittaa terävä puinen teoreettinen panos asian ytimeen (jotkut tutkijat ovat yrittäneet tehdä niin).

Keskustelun vuoksi mennään virran mukana ja oletetaan, että siellä on kummallinen laakso ja että sen oletetaan yleisesti vastaavan sitä, mitä olen tähän mennessä osoittanut. Ne, jotka ovat eri mieltä järjettömän laakson käsitteellistämisestä, ovat tervetulleita kaavoittamaan tai jatkamaan lukemista hampaitaan ristissä ja älyllinen vihansa kypsymässä ja kiehumassa (anteeksi siitä).

Näin eettinen tekoäly ja keskittyminen eettisen tekoälyn suunnitteluun ja toteuttamiseen tulevat kantamaan. Muuten, katso keskusteluni jatkuvasta ja syvällisestä tekoälyn etiikasta. tämä linkki täällä ja tämä linkki täällä, vain muutamia mainitakseni.

Hämmästyttävä laakso on selkeä viha-rakkaussuhde eettiseen tekoälyyn kiinnostuneille.

Ensin tarvittava tausta. Yksi hiuksia nostavimmista tekoälyyn liittyvistä eettisistä epäilyistä on se, että ihmiset voidaan huijata uskomaan tekoälyjärjestelmän tuntevaksi. Huomaa, että nykypäivänä ei ole yhtään tekoälyä, joka pääsisi etäältä lähelle aistimista. Se ei vain tapahdu tällä hetkellä. Näennäisen "röyhkeä" väitteeni on tehty huolimatta niistä lakkaamattomista ja huutavista otsikoista, jotka julistavat tämän tekoälyn tai että tekoäly on joko tunnollinen tai riittävän lähellä, jotta sitä voidaan pitää sellaisena. Malarkey. Emme ole tekoälyn tunteella.

Emme tiedä kuinka päästä sinne. Emme tiedä, tapahtuuko se. Tekoälyn tuntemus on arvokas unelma ja pyrkimys, vaikka älä hyppää asetta ja luule, että olemme saavuttamassa sen.

Tietenkin monet varoittavat kiihkeästi, että jos onnistumme jollain tavalla saamaan tekoälyn hallintaan, teemme niin suunnitelmallisesti tai puhtaasti sattumalta, kohtaamme eksistentiaalisen riskin. Tällä ajattelutavalla AI-tuntemuksen etsiminen ei ehkä ole niin kannattavaa. Riskinä on, että tämä tunteva tekoäly saattaa päätellä, että ihmiset eivät ole sen arvoisia. Saatamme puristua kuin bugi. Tai joudu tekoälyn orjuuteen. Tämä voi johtua siitä, että tekoäly valitsee avoimesti niin, tai tekoäly voi päätyä omaksi tuomiopäiväkoneeksi, joka tuhoaa meidät omalla epäpätevyydellämme. Katso kattavuuteni tekoälyn tunteen tai singulaarisuuden huolestuttavista seurauksista linkki tähän.

Ratkaisevaa eettisen tekoälyn huolenaiheena on, että tekoälyn kehittäjät ja tekoälyn kehittäjät imevät toisinaan ihmisiä ajattelemaan, että tekoäly on tunteva. Tapa, jolla tekoäly esittelee itseään, kuten robottimuotoilun tai sen keskusteluvuorovaikutteisuuden avulla, voi salakavalasti saada ihmiset olettamaan, että tekoäly on tunteva. Tämä vuorostaan ​​johtaa sinut mahdollisesti likaiselle helokkipolulle.

Jos joudut henkiseen ansaan ajatella, että tekoälyjärjestelmä on tunteva, tulet todennäköisesti luottamaan siihen tehdessään asioita, joita tuntevat olennot tekisivät. Mutta mihinkään tämän päivän tekoälyyn ei ole vielä rakennettu tervettä järkeä ihmisen kaltaisesta laadusta. Tällä hetkellä kokemamme tekoäly on erittäin hauras ja matala, kun on kyse ihmisen kaltaisista kyvyistä. Voit joutua epämiellyttäville ja vaarallisille vesille uskomalla, että tekoälyjärjestelmä on tunteva.

Miten se liittyy ihmeelliseen laaksoon?

Tässä on sopimus.

Muista, että kummallinen laakso näyttää kertovan meille, että ihmisen affiniteetti nousee vähitellen, kun tekoälyjärjestelmä tai robotti tulee lähemmäs ihmisen kaltaista koostumusta. Kohdassa, jossa tekoälyjärjestelmä on lähellä pistettä olla melko lähellä, mutta silti, ei aivan paikalla, saamme aavemaisen tunteen, että jotain on vialla. Siihen asti tiesimme, että tekoäly ei ollut ihminen. Nyt emme ole varmoja. Ihmissuhteemme laskee. Vasta kun tekoäly tai robotti tulee täysin vakuuttuneeksi ihmisen kaltaisista kyvyistä, saamme takaisin vaikutelmamme affiniteetista laitteeseen.

Tekoälykehittäjät, jotka ottavat tämän sydämen, oletettavasti tekisivät tarkoituksella pyrkivät pitämään tekoälynsä poissa oudosta laaksosta ja pyrkimään pysähtymään tekoälyn ominaisuuksien suhteen juuri ennen kuin putoavat oudoon kuiluun (muistakaa, sitä myös Masahiro Mori korosti). Kehittäjät ilmeisesti tekisivät niin varmistamalla, että edelleen on olemassa runsaasti ilmaisimia, jotka tekisivät melko selväksi, että tekoäly on vähemmän kuin tunteva tekoäly eikä siis ihminen tai yhtä lailla.

Tekoälyeettiset asiantuntijat suhtautuisivat yleensä myönteisesti tähän sydämelliseen pyrkimykseen.

Perustelut ovat suoraviivaisia. Ne niin perillä olevat ja omaksuvat tekoälykehittäjät yrittävät varmistaa, että tekoälyjärjestelmä ei johda ihmisiä harhaan liittämään tekoälylle ihmisen kaltaisia ​​tiloja. Se on varmasti hyvä uutinen. Kehittäjät luovat tekoälyn tarkoituksella estääkseen sukelluksen järjettömään laaksoon. Ihmiset ymmärtävät helposti, että tekoäly ei ole tunteva.

Ei ole helppoa yrittää saada tekoälykehittäjät omaksumaan tällainen lähestymistapa. Itse asiassa se voi olla vastoin heidän tavallisia vaistojaan ja ajotavoitteitaan.

Monet väitteet väittävät, että tekoälykehittäjät ja -teknikot ovat yleensä kulutettuja tavoitteista. He näkevät tavoitteen ja pyrkivät usein sokeasti tavoittelemaan sitä suurella innolla. Ei ole aikaa pysähtyä ja tuoksua ruusuja. Kisoihin, mennään. Tekoälyalalla normatiivisena tavoitteena olisi idealisoitu tekoäly, jota ei voi erottaa ihmisistä siinä mielessä, että tekoäly voisi olla älykkäästi tasa-arvoinen. Mutta emme ole vielä siellä. Sellaisenaan järjetön laakso tarjoaa toissijaisen tavoitteen, laskeutuen ennen muuten patoavaa kummallista laaksoa, ja siitä tulee tavoite, joka on kuitenkin hyväksyttävä. Tietenkin, se ei ole kultainen sormus, mutta idea on, että tämä "toissijainen" palkinto on hyvä, kiitos paljon, ja voit olla ylpeä siitä.

Olemme muuttaneet tuhoisaa päämäärää tavoittelevaa ylintä kunnianhimoa ja valjastaneet sen loogiselta kuulostavaksi perustelluksi pohjaksi tehdä ikään kuin oikein.

Hurraa!

Voita tekoälyn etiikka.

Mutta odota toista spoilerivaroitusta, meidän on myös otettava huomioon jotain muuta.

Nyt kun nuo älykkäät tekoälykehittäjät tietävät järjettömästä laaksosta, he saattavat kääntää järkensä ja tekniikansa hyppäämään tarkoituksellisesti kuilun yli ja silti tehdä niin petollisen näköisenä. Saa tekoäly näyttämään ja näyttämään täysin ihmisen kaltaiselta, vaikka kehittäjät tietävätkin tämän olevan totta.

Hullu ajattelu menee näin. Älä anna tekoälyjärjestelmäsi nostaa hattuaan ja saada ihmiset kokemaan vaikeaa aavellisuuden pohjavirtaa. Leikkaa pois puolet, jotka voivat antaa vihjeitä tai vihjeitä siitä, että tekoäly ei ole ihmisen kykyjä. Tee tämä samalla kun salaa tajuat ja anteeksiantamatta tietäen, että tekoäly ei ole ihmisen kykyjä, ja tässä on kyse sen totuuden piilottamisesta niiltä, ​​jotka ovat vuorovaikutuksessa tekoälyn kanssa tai ovat siitä riippuvaisia.

Mitä pirullisia suunnitelmia.

Ironista kyllä, ihmeellinen laakso voisi olla eräänlainen herätys AI-kehittäjille, että jos he haluavat todella huijata ihmisiä, heidän on oltava tarpeeksi fiksuja pakenemaan kuilusta. He eivät tee sitä saavuttamalla täydellistä tekoälyä, vaan pystyttämällä savua ja peilejä saadakseen tekoälyn näyttämään harhaanjohtavalta kuin se olisi ihminen. Jos tekoälyn kehittäjät eivät olisi ymmärtäneet, että tämä kummallinen laakso on olemassa, he olisivat pääsääntöisesti pudonneet siihen. Se on hyvä ihmiskunnalle, koska ihmiset menettäisivät affiniteettinsa tekoälyä kohtaan, koska he eivät luottaisi liikaa tämän päivän tekoälyn laatuun.

Valitettavasti tietäessään, että anso on olemassa, tekoälykehittäjät, jotka haluavat livahtaa sen ympärille, löytävät turmiollisen fiksuja tapoja tehdä niin.

Tee osuma eettisen tekoälyn käskyjä vastaan.

Näetkö, kuinka tämä luo rakkaus-viha-suhteen tekoälyeettisille uskomattomille laaksoille?

Piru jos et, helvetti jos et.

Ymmärrän, että tämä on ollut hieman korkea kulmakarvatutkimus oudosta laaksosta, ja saatat kaipata joitain päivittäisiä esimerkkejä. On olemassa erityinen ja varmasti suosittu joukko esimerkkejä, jotka ovat lähellä sydäntäni. Tekoälyn asiantuntijana, mukaan lukien eettiset ja oikeudelliset seuraukset, minua pyydetään usein tunnistamaan realistisia esimerkkejä, jotka tuovat esille tekoälyn eettisiä ongelmia, jotta aiheen jossain määrin teoreettinen luonne voidaan ymmärtää helpommin. Yksi mieleenpainuvimmista alueista, joka esittelee elävästi tämän eettisen tekoälyongelman, on tekoälyyn perustuvien todellisten itseohjautuvien autojen tulo. Tämä toimii kätevänä käyttötapana tai esimerkkinä aiheesta laajalle keskustelulle.

Tässä on sitten huomionarvoinen kysymys, jota kannattaa pohtia: Valoaako tekoälyyn perustuvien todellisten itseohjautuvien autojen tulo mitään hämmentävästä laaksosta, ja jos näin on, mitä se kehottaa meitä tekemään?

Anna minun hetki purkaa kysymys.

Ensinnäkin, huomaa, että todellisessa itseajavassa autossa ei ole ihmiskuljettajaa. Muista, että todellisia itseohjautuvia autoja ajetaan tekoälyjärjestelmän kautta. Rattiin ei tarvita ihmiskuljettajaa, eikä myöskään ole mahdollista, että ihminen voisi ajaa ajoneuvoa. Katso kattava ja jatkuva kattamukseni autonomisista ajoneuvoista (AV) ja erityisesti itseohjautuvista autoista. linkki tähän.

Haluaisin selventää tarkemmin, mitä tarkoitetaan, kun viittaan todellisiin itse ajaviin autoihin.

Ymmärtäminen itse ajavien autojen tasoista

Selvyyden vuoksi todelliset itse ajavat autot ovat sellaisia, että tekoäly ajaa autoa kokonaan yksin eikä ajo-tehtävän aikana ole mitään apua.

Näitä kuljettamattomia ajoneuvoja pidetään tasoina 4 ja 5 (katso selitykseni osoitteessa tämä linkki täällä), kun taas autoa, joka edellyttää ihmiskuljettajan yhteistä ajoponnistusta, pidetään yleensä tasolla 2 tai 3. Autoja, jotka jakavat ajotehtävän, kuvataan puoliautonomisina ja sisältävät tyypillisesti erilaisia automaattiset lisäosat, joista käytetään nimitystä ADAS (Advanced Driver-Assistance Systems).

Tasolla 5 ei ole vielä aitoa itse ajavaa autoa, jota emme vielä edes tiedä, onko tämä mahdollista saavuttaa ja kuinka kauan sen saavuttaminen vie.

Samaan aikaan tason 4 ponnistelut yrittävät vähitellen saada jonkin verran pitoa käymällä läpi erittäin kapeita ja valikoivia yleisiä tiekokeita, vaikka onkin kiistaa siitä, pitäisikö tämä testaus sallia sellaisenaan (olemme kaikki elämän tai kuoleman marsuja kokeessa tapahtuu valtateillämme ja sivuteillämme, jotkut väittävät, katso kattaukseni osoitteessa tämä linkki täällä).

Koska osittain itsenäiset autot vaativat ihmisen kuljettajan, tämäntyyppisten autojen omaksuminen ei ole selvästi erilainen kuin tavanomaisten ajoneuvojen ajaminen, joten sinänsä ei ole paljon uutta kattamaan niitä tästä aiheesta (tosin kuten näette hetkessä seuraavia pisteitä voidaan yleensä soveltaa).

Osittain itsenäisten autojen osalta on tärkeää, että kansalaisia ​​on varoitettava viime aikoina esiintyneestä häiritsevästä näkökulmasta, nimittäin siitä, että huolimatta ihmisten kuljettajista, jotka jatkavat videoiden lähettämistä itsensä nukahtamisesta tason 2 tai 3 autolle, , meidän kaikkien on vältettävä johtamasta harhaan uskoaan, että kuljettaja voi viedä huomionsa ajo-tehtävään ajon puoli-autonomisen auton kanssa.

Olet vastuussa ajoneuvon ajotoimista riippumatta siitä, kuinka paljon automaatiota voidaan heittää tasolle 2 tai 3.

Itseajavat autot ja Uncanny Valley

Tason 4 ja tason 5 itseohjautuvissa ajoneuvoissa ajo-tehtävään ei tule inhimillistä kuljettajaa.

Kaikki matkustajat ovat matkustajia.

AI ajaa.

Yksi näkökohta, josta on keskusteltava välittömästi, merkitsee sitä, että nykypäivän tekoälyjärjestelmiin osallistuva tekoäly ei ole tunteva. Toisin sanoen tekoäly on kokonaisuudessaan tietokonepohjaisen ohjelmoinnin ja algoritmien joukko, eikä varmaankaan kykene perustelemaan samalla tavalla kuin ihmiset.

Miksi tämä korostetaan sitä, että tekoäly ei ole järkevä?

Koska haluan korostaa, että puhuessani tekoälyn ajo-järjestelmän roolista, en omista tekoälylle ihmisen ominaisuuksia. Huomaa, että nykyään on jatkuva ja vaarallinen taipumus antropomorfisoida tekoäly. Pohjimmiltaan ihmiset osoittavat ihmisen kaltaisen tuntemuksen nykyiselle tekoälylle huolimatta kiistattomasta ja kiistattomasta tosiasiasta, että sellaista tekoälyä ei vielä ole.

Tämän selvennyksen avulla voit kuvitella, että tekoälyn ajo-järjestelmä ei luonnostaan ​​jotenkin “tiedä” ajon puolia. Ajo ja kaikki siihen liittyvä on ohjelmoitava osaksi itseajoavan auton laitteistoa ja ohjelmistoa.

Sukelletaan lukemattomiin näkökohtiin, jotka tulevat pelaamaan tästä aiheesta.

Ensinnäkin on tärkeää ymmärtää, että kaikki AI-itse ajavat autot eivät ole samanlaisia. Jokainen autonvalmistaja ja itseajava teknologiayritys suunnittelee itse ajavia autoja. Sellaisenaan on vaikea antaa laajoja lausuntoja siitä, mitä tekoälyjärjestelmät tekevät tai eivät tee.

Lisäksi aina, kun todetaan, että tekoälyohjausjärjestelmä ei tee jotain tiettyä, tämä voi myöhemmin ohittaa kehittäjät, jotka itse ohjelmoivat tietokoneen tekemään juuri sen. AI -ajojärjestelmiä parannetaan ja laajennetaan asteittain. Nykyinen rajoitus ei välttämättä ole enää olemassa tulevassa iteraatiossa tai järjestelmän versiossa.

Luotan siihen, että se tarjoaa riittävän litanian varoituksia, jotka tukevat sitä, mitä aion kertoa.

Olemme nyt valmiita sukeltamaan syvälle itseohjautuviin autoihin ja eettisiin tekoälykysymyksiin, jotka liittyvät hämmästyttävään laaksoon.

Tähän asiaan liittyy neljä näkökohtaa, jotka käsitellään tässä:

1. Itseajavien autojen yleisilme

2. Kysymys siitä, mistä itseajavat autot "näkevät"

3. Itseajavien autojen tekoälyn ajotoiminnot

4. Robotit, jotka ajavat keinona saavuttaa itseajavia autoja

Muita näkökohtia on myös otettu huomioon, mutta tilanrajoitusten vuoksi nämä neljä aihetta riittävät valaisemaan älyttömän laakson suuntaa, joka liittyy tekoälyyn perustuviin itseohjautuviin autoihin.

1. Itseajavien autojen yleisilme

Veikkaan, että olet nähnyt kuvia tai videoita tämän päivän itseohjautuvien autojen kokeiluista. Sellaisenaan olet ehkä huomannut, että suurin osa ajoneuvoista on perinteisen näköisiä autoja, jotka on varustettu erikoisvarusteilla. Esimerkiksi kattoteline voi sisältää joukon elektronisia antureita. Anturit sisältävät joskus videokameroita, tutkayksiköitä, LIDAR-laitteita, ultraääniantureita ja vastaavia.

Futuristiset mallit viittaavat siihen, että saatamme poiketa perinteisen näköisestä autosta ja suunnitella sen sijaan autot uudelleen sekä sisältä että ulkoa, jotta ne olisivat sulavamman näköisiä autonomisia ajoneuvoja. Tällä hetkellä yleinen ajatus on, että on yksinkertaisempaa käyttää perinteisiä autoja eikä tuhlata energiaa yrittäessään venyttää pyrkimystä samalla puuhailla epätavanomaisen näköisten autojen kanssa (tähän yleiseen näkemykseen on joitain poikkeuksia, katso artikkelini osoitteessa linkki tähän).

Asian ydin on nyt se, että jos ajat tiellä ja törmäät lähellä olevaan itseajavaan autoon, voit melkein aina heti havaita, että kyseessä on todennäköisesti itseajava auto, kun huomaat itseohjautuvaan ajoneuvoon asennettujen antureiden sirpaleen. Tämä on nopea visuaalinen arvonta. Et tietenkään tiedä varmasti, onko se itseajavaa, sillä tässä vaiheessa ajoohjaimet ovat yleensä vielä ehjiä ja varakuljettaja saattaa olla ratissa.

Yhdellä ajattelutavalla voit ehdottaa, että on erityisen kätevää, että itseajavat autot näyttävät fyysisesti erottuvan joukosta ja näkyvät helposti lähistöllä olevissa ihmisautoissa sekä myös jalankulkijoilta. Ymmärtäminen, että itseajava auto vaeltelee lähellä, voi olla kätevä vihje olla varuillasi, mikä saa sinut olemaan valppaana ja tietoisena siitä, että tekoäly on tai saattaa ajaa ajoneuvoa.

Oletetaan, että itse ajavat autot näyttävät identtisiltä perinteisten ihmisten ajamien autojen kanssa. Tämä on realistisesti mahdollista ainakin kahdella tavalla. Ensinnäkin anturit voidaan mahdollisesti piilottaa tai muotoilla niin, etteivät ne ole niin ilmeisiä satunnaiselle silmämääräiselle tarkastukselle. Toiseksi voi olla, että kaikki autot, mukaan lukien tavanomaiset ihmiskäyttöiset autot, varustetaan vähitellen vastaavilla antureilla, vaikka ajoneuvo säilyisikin pääosin ihmisen ohjaamana autona. Katso lisätiedotukseni osoitteessa tämä linkki täällä.

Jos pohdit tietoisesti tätä pohdintaa siitä, voivatko itse ajavat autot olla ulkonäöltään identtisiä tavanomaisten ihmiskäyttöisten autojen kanssa, saatat joutua ajattelemaan, että tässä kastikessa saattaa piilee kummallinen laakso.

Katsos, autoja, jotka näyttävät räikeästi itseajavilta autoilta, saatetaan kuvata olevan risteyksessä, joka on vain lyhyen matkan päässä kummallisesta laaksosta. Periaatteessa "tiedät" sen olevan robotti tai robottityyppinen järjestelmä. Se on tuomio, johon voit hypätä melkein välittömästi.

Kun itseohjautuvat autot katsovat samalla tavalla ihmisten ohjaamien autojen kanssa, tämä ehkä viittaa siihen, että autonomiset ajoneuvot ovat hypänneet yli hämmentävän laakson robottimaisen ulkonäön suhteen. Onko näiden kahden fyysisen esiintymisen välillä kuitenkin keskitie, joka saa meidät käsittämättömään laaksoon?

Ehkä huomaat itse ajavan auton tulevan kadulla ja näyttää siltä, ​​että se luultavasti on itseajava auto, toisaalta ulkonäkö ei ole täysin autonomisen näköinen eikä tiukasti ihmisvetoinen. Voit väittää, että itseajava auto on nyt aavemaisen tai huolestuttavan näköinen.

Itseajava auto on näennäisesti upottanut itsensä järjettömään laaksoon.

Tästä huolimatta kaikki eivät hyväksyisi tätä luokittelua. Jotkut väittävät, että fyysisellä ulkonäöllä ei ole mitään tekemistä kummallisen laakson kanssa. Jotkut tietysti myös väittävät, ettei mitään realistisesti tunneta omituisena laaksona.

Kuten aiemmin mainittiin, voit tehdä oman päätöksensä tästä.

2. Kysymys siitä, mistä itseajavat autot etsivät

Monilla itseohjautuvilla autoilla uhkaava huolenaihe on se, että niistä ei yleensä ole kuljettajan istuimelta ihmiskuljettajaa, ja siksi on vaikea saada selville, mihin "kuljettaja" katsoo autoa ajaessaan.

Yleensä katsot ihmiskuljettajia vakoilemaan minne he katsovat. Saatat esimerkiksi olla jalankulkija suojatiellä ja auto lähestyy risteystä. Katsot tarkasti kuljettajan istuimella istuvaa henkilöä ja yrität erottaa, mihin hänen päänsä on käännetty ja mihin hänen silmänsä katsovat. Jos uskot, että ihmiskuljettaja on nähnyt sinut, saatat olla mukavampi ylittää kadun. Sitä vastoin, jos ihmiskuljettaja ei ole näyttänyt näkevän sinua, olet oikeutetusti huolissasi ylityksestä.

Joissakin kaupungeissa näissä asioissa vallitsee eräänlainen kissa ja hiiri -peli. Erityinen kulttuurinen normi tietyssä kaupungissa saattaa olla, että jos otat katsekontaktin kuljettajaan, kuljettaja "voittaa" ja hänellä on näennäinen oikeus edetä ajotilanteen laillisuudesta riippumatta. Muut kaupungit voivat olla täysin päinvastaisia, nimittäin kulttuurinen normi on, että katsekontaktin yhteydessä jalankulkija "voittaa" ja ihmiskuljettajan oletetaan tyytyä jalankulkijan toimiin.

Olemme ilmeisesti omaksuneet tämän tavan jo suhteellisen pitkään, kun autot ovat olleet kaupunkiemme ja yhteisöidemme keskellä. Itseohjautuvien autojen syntymisen ongelmana on, että kuljettajan istuimella ei ole ihmiskuljettajaa ja näin ollen jokainen jalankulkija tai lähellä oleva ihmiskuljettaja, joka tavallisesti käyttää autoilijan päätä ja silmiä ajoaikomusten kulttuurisena indikaattorina, on nyt. huono tuuri.

Autonvalmistajat ja itse ajavien autojen kehittäjät ovat erittäin tietoisia tästä esiin nousevasta ongelmasta. Eräs ehdotettu ratkaisu on, että itseajava auto vilkuttaa autonomisen ajoneuvon ajovaloja tai mahdollisesti äänittää äänitorvea. Toinen käsitys on, että itseohjautuvassa autossa saattaa olla muunnos kaiuttimesta ja se kertoa lähellä oleville, mitkä ovat tekoälyjärjestelmän "tarkoitukset". Näillä ideoilla on jokaisella merkittäviä varjopuolensa.

Mutta erilainen ehdotus edellyttää sellaisen tekemisen tekemistä, jota saatat aluksi pitää naurettavana. Ehdotus koostuu silmämunan kaltaisten pallojen sijoittamisesta autonomisen ajoneuvon ulkopuolelle. Nämä pallot näyttäisivät melko lailla ihmissilmiltä siltä osin, että ne voisivat kääntyä edestakaisin, antaen sinulle välittömän osoituksen, joka viittaa siihen, että tekoäly "on nähnyt sinut" (sinä tulkitset tämän silmämunien katsomalla tiettyyn suuntaan). Olen analysoinut tätä lähestymistapaa klo linkki tähän.

Mikä olisi sinun reaktiosi, jos näkisit itse ajavan auton tulevan alas tielle ja näiden ylimitoitettujen omituisten silmämunapallojen kiinnittämiseen konepellille tai katolle?

Luulen, että saatat ajatella, että se on pelottavaa, ehkä kammottavaa.

Jotkut väittävät, että aavemaisuus johtuu siitä, että niin varusteltu itseajava auto on järjettömässä laaksossa. Toiset väittävät kiivaasti, ettei tällä ole mitään tekemistä kummallisen laakson kanssa. Noista tällaisista asiantuntijoista jotkut sanoisivat, että on olemassa aavemaisuus, joka voi olla aavemaisuutta ilman, että sen täytyy juurtua oudon laaksoon (eli kauhea laakso näennäisesti tuottaa aina aavemaisuutta, mutta kaikkea aavemaisuutta ei tuoteta yksinomaan järjettömän laakson kautta). Toinen näkökulma on se, että pallot voitaisiin oletettavasti suunnitella vähemmän silmämunan näköisiksi ja näyttämään robottisemmilta, tai että me kaikki hyväksymme väistämättä näiden pallojen ilmestymisen ja alkuperäinen hätkähdyttävä reaktio laantuu.

3. Itseajavien autojen tekoälyn ajotoiminnot

Monet tämän päivän itseohjautuvien autojen kokeiluista ovat osoittaneet, että nykyiset tekoälyjärjestelmät on yleensä ohjelmoitu ajamaan melko haaleilla ja jokseenkin tiukasti lainmukaisilla tavoilla. Tekoälyjärjestelmä pysäyttää tyypillisesti itse ajavan auton stop-merkkien kohdalle. Tekoälyjärjestelmä ei suorita rohkeita juoksuja risteyksissä, kun liikennevalo on pian punainen. Nämä omaperäiset ajokäytännöt ovat ihmiskuljettajien omaisuutta.

Tavallaan voisi melkein arvata, että itseajava auto on itseajava auto sen esittämän ajotyylin perusteella. Vaikka itseohjautuva ajoneuvo näyttäisi visuaalisesti olevan tavanomainen ihmisvetoinen auto, voit tarkkailla ajotoimintoja ja ehkä loogisesti päätellä, että sitä todennäköisesti ajaa tekoälyjärjestelmä.

Jotkut uskovat, että meidän on saatava tekoälyjärjestelmät muistuttamaan enemmän ihmiskuljettajien temppuja, jotta ne sulautuvat tehokkaasti ajon normatiivisiin lähestymistapoihin. Luulen, että voit tulkita tämän tulen torjumiseksi tulella.

Onko siinä järkeä tehdä?

Muista, että suorapuheiset skeptikot ja kriitikot inhoavat ajatusta. He väittävät ankarasti, että haluamme tekoälyjärjestelmien toimivan oikein ja varovasti. Mahdollisesti miljoonien itseohjautuvien autojen lisääminen teille, jotka on ohjelmoitu erehtyneiden ihmiskuljettajien kaltaiseksi, vaikuttaisi valtavalta painajaiselta. Olen keskustellut tästä kiistanalaisesta ehdotuksesta osoitteessa linkki tähän.

Laaditaan dilemma uudelleen hyödyntämällä kummallista laaksoa.

Kun tekoälyn ajojärjestelmä on ajotoimintojensa perusteella ehdottoman laillinen, tämä on kenties osoitus siitä, että kyseessä on todennäköisesti robottijärjestelmä (huolimatta ihmiskuljettajista, jotka toki tekevät niin, vaikka ne näyttävät nykymaailmassa kaukaiselta ja harvalta). Jos tekoälyajojärjestelmien on määrä ajaa yhtä omituisesti kuin ihmiskuljettajat, hyppääkö tämä ihmeellisen laakson yli vai putoaako se kummalliseen laaksoon?

Mieti sitä.

4. Robotit, jotka ajavat keinona hankkia itseajavia autoja

Tämä viimeinen kattavuus on hätkähdyttävin näistä neljästä.

Et ehkä ole täysin tietoinen siitä, että jotkut tekoälykehittäjät yrittävät luoda robotteja, jotka ajaisivat autoja. Robotti näyttää monessa suhteessa ihmiseltä, sillä robottijalat ja robottikädet ovat raajoina. Kun haluat minkä tahansa tavanomaisen ihmiskäyttöisen auton olevan itseajava auto, aseta tämä erikoistunut tekoälyrobotti autosi kuljettajan istuimelle. Katso analyysini tästä käsitteestä osoitteessa linkki tähän.

Miksi haluaisimme ajaa robotteja?

Tällaisen robotin kauneus on se, että kaikista nykyajan ihmisvetoisista autoista voi tulkita tavallaan tulla itseohjautuvia autoja melkein yhdessä yössä. Ostat, vuokraat tai hankit jotenkin itsellesi ajorobotin. Laitat robotin kuljettajan istuimellesi, kun lähdet ajomatkalle. Robotti ajaa sinut määränpäähäsi. Jos haluat siirtyä ajamaan ihmisajoa, ota robotti pois ajoneuvosta, ehkä säilytä se tavaratilassa myöhempää käyttöä varten.

Yhdysvalloissa on nykyään noin 250 miljoonaa perinteistä autoa. Jotkut uskovat, että ne tuhotaan lopulta itseohjautuvien autojen syntyessä. Perinteisten autojen romuttamisen sijaan voisimme ehkä yrittää jälkiasennuttaa niistä itseohjautuvia autoja, vaikka tämä onkin ehkä melko kallis idea. Näennäisesti järkevämpi lähestymistapa olisi tarjota ajorobotteja.

Jos näkisit perinteisen näköisen auton tulevan naapurustosi kadulla ja sen ratissa olisi robotti, mikä olisi reaktiosi?

Todennäköistä aavemaisuutta.

Yksi kiistanalainen väite on, että tämä aavemaisuus johtuu tavallista autoa ajavasta robotista, joka sukeltaa kuuluisaan tai surullisen kuuluisaan oudon laaksoon.

Yhteenveto

Eettisen tekoälyn näkökulmasta käsittämätön laakso on kiehtova ongelma.

Jotkut tekoälyssä uskovat täysin järjettömään laaksoon ja jotkut eivät. Mutta uskotpa ihmeelliseen laaksoon tai et tee niin, aihe itsessään on kuitenkin sekaisin. Et voi piilottaa päätäsi ja teeskennellä, että rakennetta sinänsä ei ole olemassa. Konstruktio ideana elää ja on jossain määrin viruksen voimakas. Viha tai rakasta sitä, kirottu tai ehkä korotettu aihe jatkuu.

Aikaisemmassa keskustelussani älyttömän laakson ansioista tekoälyn etiikan näkökulmasta, siinä on kaksintaistelu rakkauden ja vihan suhde. Pitäisikö eettisen tekoälyn piirissä olevien omaksua outo laakso, hylätä se ytimekkäästi, tai pysyä jonkin verran neutraalina totuuden suhteen ja keskittyä sen sijaan vaikutukseen, joka kasvaa jatkuvasti erilaisten uskomusten vuoksi.

Tämä haaste nostaa esiin maineikkaan taloustieteilijän Adam Smithin, kuten hän kerran sanoi (parafraseeraus), että matkalla Skepticismin kaupungista on kuljettava Epäselvyyden laakson läpi.