Tässä on syy, miksi tekoälyn etiikka mainostaa, että ihmiskeskeinen tekoäly on ratkaisevan tärkeä tekoälyn symbioottiselle olemassaolollemme, kuten itsenäisten itseohjautuvien autojen tulolle

Olet ehkä kuullut tai nähnyt, että maailman oletetaan keskittyvän ihmiskeskeiseen tekoälyyn (HCAI).

Mikä se on? Miksi tarvitsemme sitä? Onko se pitkäaikaista vai vain muotia? Miten se oikein toimii? Useita muita samankaltaisia ​​kysymyksiä herää yleensä niistä, jotka eivät tunne ihmiskeskeisen tekoälyn luonnetta ja sisältöä.

Puretaan asia ja laitetaan tarina suoraan.

Lisäksi annan hyödyllisiä esimerkkejä siitä, kuinka tärkeä HCAI on. Nämä esimerkit perustuvat tekoälyyn perustuvien autonomisten ajoneuvojen, kuten uusimpien ja parhaiden itseohjautuvien autojen, ilmaantumiseen, joita aletaan saada julkisilla teillämme.

Valmistaudu jännittävään ja informatiiviseen matkaan.

Looginen tapa aloittaa tämä keskustelu on puhua siitä, mikä sai aikaan ihmiskeskeisen liikkeen. Yinin tunteminen on välttämätöntä yangin ymmärtämiseksi. Ymmärrä, että en aio vielä mainita tekoälyä, ennen kuin saamme selville, mitä ihmiskeskeisyys tarkoittaa. Laita tekoälyn aihe hetkeksi pois mielestäsi, niin tuomme tekoälyn uudelleen esiin, kun sen aika on oikea.

Väitetty Battle Royale on tapahtunut välillä, mitä jotkut kutsuvat a tekniikkakeskeistä perspektiivi vs. kontrasti ihmiskeskeinen näkökulmasta uuden teknologian kehittämiseen.

Ehkä tietämättäsi kiihkeä uskomus on, että olemme olleet pääasiassa teknologiakeskeisistä ohjeista kiinni aivan liian kauan. Aina kun uusia teknisiä innovaatioita suunniteltiin, huomio kiinnitettiin teknisiin näkökohtiin. Jotkut väittävät, että joudumme usein jumiin teknologiakilpailuun työntääksemme ovesta uusimman tekniikan, riippumatta siitä, miten se toimii ja miten ihmiset voivat reagoida siihen.

On monia Piilaakson trooppeja, jotka sopivat tähän ajattelutapaan. Epäonnistu nopeasti, epäonnistu usein on yksi tyypillisistä tunnuslauseista. Toinen on väärennös, kunnes teet sen. Grandioosinen ajatus on, että valitset vain minkä tahansa välineen ja alat sitten myydä sitä tai saada ihmiset käyttämään sitä. Toki hullulla yhdistelmällä voi olla karkeita reunoja. Ja kyllä, ihmiset voivat hämmentyä laitteesta tai jopa loukkaantua, mutta joka tapauksessa ykkösenä olemista pidetään tekniikkojen suurena ylistyksenä, joten saatana torpedot ja täydellä höyryllä eteenpäin.

Tällaisen tech-first-lähestymistavan taustalla oleva vaara on, että yhtälön inhimillinen puoli alipelataan tai jätetään kokonaan huomiotta. Sen sijaan, että heittäisimme hurjasti uutta teknologiaa yhteiskunnan käsiin, on yhä äänekkäämmin kehotettu hengittämään syvään ja varmistamaan ensin, että se on yhteensopiva ihmisten kanssa. Voivatko ihmiset käyttää laitetta riittävästi ja tehdä niin ilman vahinkoa? Onko uusi tuote helppokäyttöinen vai melkein mahdoton selvittää? Ja niin edelleen.

Jos olemme todellakin olleet näennäisesti teknologiakeskeisiä, on aika siirtyä uuteen ajattelutapaan, nimittäin ihmiskeskeisyyteen. Tekniikka ei voi olla ainoa ihailun määrääjä. Sen sijaan, että tekniikka olisi kaiken loppu, se, voivatko ihmiset hyödyntää teknologiaa ja saada siitä todellista hyötyä, on todellinen merkki kiitettävästä keksinnöstä ja modernisaatiosta. Toiveena oli, että siirtämällä painovoima ihmiskeskeisiin näkökohtiin, teknologiakeskeinen hallitseva ihmiskunnan itsetutkiskelun puute tulisi ympärille näkemään valon. Olen käsitellyt syvällisemmin tätä ajattelutavan muutosta tekoälyanalyysini ja ns kiellettyä tietoaKatso linkki tähän.

Tietysti nykymaailmassa meillä on asiantuntijoita, jotka ovat tietoisia ihmiskeskeisestä näkökulmasta ja omaksuvat sen, kun taas toiset eivät ole tietoisia siitä tai uskovat, että se ei koske heitä. Edessä on siis paljon ja paljon tekniikkakeskeisiä ponnisteluja kuin härkä herkässä lasitavaraliikkeessä. Ei epäilystäkään siitä.

Kiusallinen haaste on, että osa teknologiakeskeisistä ponnisteluista kuitenkin onnistuu, joten teknologiakeskeistä väylää on vaikea jotenkin kokonaan pyyhkiä tai häväistää. Tämän seurauksena jotkut istuvat suoraan ihmiskeskeisessä leirissä ja toiset jäävät tekniikkakeskeiseen leiriin. Pysyvä väite on, että on olemassa useampi kuin yksi tapa nylkeä kissa (hups, vanhentunut sanonta, joka vaatii eläkkeelle siirtymistä).

Toinen käänne on se, että ihmiskeskeinen leiri vakuuttaa vakaasti, että et uhraa teknisiä pisteitä omaksumalla ihmiskeskeisen lähestymistavan. Tekniikkojen, jotka epäröivästi kuvittelevat menevänsä alas huonoon jäniskoloon ryhtymällä ihmiskeskeisiksi, retortti on, että tämä itse asiassa parantaa heidän mahdollisuuksiaan luoda hämmästyttävää teknologiaa. Ajattele sitä yksinkertaisin sanoin. Teknologialla, josta puuttuu ihmiskeskeinen huomio, on luultavasti vaikea omaksua ihmiset. Ihmiset omaksuvat todennäköisesti helposti ja innokkaasti tekniikkaa, joka kattaa ja on muotoiltu ihmiskeskeisten oivallusten avulla.

Voit myös syödä kakkusi ja syödä sen.

Tämä korostaa, että ehkä teknologia- ja ihmiskeskeisyyden välillä ei ole suurta kuilua siinä mielessä, että rinnakkaiselolle on tilaa. Tee molemmat samaan aikaan, jotkut väittävät. Sekoita nämä kaksi niin, että ne ovat yhtä suuria ja ovat yhteensopivia keskenään. Naysayers vaatii, että sinun on valittava jompikumpi. Joko olet teknologiakeskeinen ja asetat ihmiskeskeisyyden sivuun, tai olet ihmiskeskeinen ja shunt-tekniikkakeskeinen koirakodiin.

Joka tapauksessa, otetaan nimellisarvo, että meidän pitäisi vakavasti harkita ihmisiin liittyviä puolia, kun uutta tekniikkaa suunnitellaan. Ja meidän on oltava varovaisia, ettemme aliarvioi ihmisiin liittyvien ominaisuuksien merkitystä keksiessämme uutta teknologiaa. Kätevä tapa vangita tämä on sanoa, että meidän on oltava ihmiskeskeisiä. Ajatus yhden asian keskittämisestä toiseen on toisinaan hyödyllisen houkutteleva ja toisinaan voi olla valitettavan häiritsevää.

Seuraavaksi voimme tutkia, kuinka ihmiskeskeistä filosofiaa voidaan toteuttaa todellisessa reaalimaailmassa.

Oletetaan, että olet aloittamassa uuden järjestelmän suunnittelua ja kehittämistä, joka sisältää uusinta ja parasta teknologiaa. Järjestelmien valmistajat tietävät nykyään yleensä, että suunnittelu- ja kehitysprosessin koko elinkaaren on otettava huomioon. Ennen oli, että paljon huomiota kiinnitettiin vain suunnitteluun tai vain järjestelmän rakentamiseen. Tämän seurauksena meillä oli monia järjestelmiä, jotka lopulta epäonnistuivat, kun ne käynnistettiin hajautuneiden ja riittämättömien kanavanvaihtojen vuoksi järjestelmän suunnittelun lukuisissa toisiinsa liittyvissä vaiheissa. Sinun on ehdottomasti pidettävä silmäsi pallossa järjestelmän koko elinkaaren ajan.

Erilaisia ​​järjestelmien elinkaarimenetelmiä on perustettu ohjaamaan koko järjestelmätyötä. Menetelmät muistuttavat mallipohjaisia ​​keittokirjoja, jotka esittelevät, mitä yleisiä näkökohtia on tehtävä jokaisessa työvaiheessa. Voit soveltaa niitä uudelleen tiettyyn järjestelmäponnisteluisi sopivalla tavalla, mitä tahansa yhdistät.

Olemme nyt valmiita yhdistämään pisteet. On tehty paljon ponnisteluja sellaisten järjestelmien elinkaaren menetelmien luomiseksi, jotka ovat erityisen kiinnostuneita ihmiskeskeisten näkökohtien tärkeydestä. Tämä tunnetaan yleisesti nimellä Human-Centered Design (HCD).

Äskettäisessä National Institute of Standards and Technologyn (NIST) asiakirjassa varsin kätevä ihmiskeskeisen suunnittelun määritelmä tai selitys koostui tästä kohdasta: "HCD on jatkuva, iteratiivinen prosessi, jossa projektitiimit suunnittelevat, testaavat ja jatkuvasti parantavat järjestelmä, mikä asettaa käyttäjät prosessin ytimeen. Ihminen ja heidän tarpeensa ohjaavat prosessia sen sijaan, että he keskittyisivät teknokeskeiseen toimintaan. HCD toimii osana muita kehitysvaiheita, mukaan lukien vesiputous-, spiraali- ja ketterät mallit. Käyttäjäkeskeisellä suunnittelulla, HCD:llä, osallistuvalla suunnittelulla, yhteissuunnittelulla ja arvoherkällä suunnittelulla on keskeisiä yhtäläisyyksiä; Korkeimmalla tasolla ne pyrkivät tarjoamaan ihmisille malleja, jotka ovat viime kädessä hyödyllisiä heidän elämälleen. Lisäksi asettamalla ihmiset tällaisten lähestymistapojen keskipisteeseen, he luonnollisesti voivat keskittyä syvemmin laajempiin yhteiskunnallisiin näkökohtiin, kuten oikeudenmukaisuuteen, ennakkoluuloihin, arvoihin ja etiikkaan. HCD pyrkii luomaan käyttökelpoisempia tuotteita, jotka vastaavat käyttäjiensä tarpeita. Tämä puolestaan ​​vähentää riskiä siitä, että tuloksena oleva järjestelmä ei toimi, aiheuttaa riskejä käyttäjille, aiheuttaa käyttäjävahinkoja tai epäonnistuu" (US Department of Commerce, NIST Special Publication 1270, maaliskuu 2022, Kohti standardia tekoälyn harhan tunnistamiseen ja hallitsemiseen kirjoittajat Reva Schwartz, Apostol Vassilev, Kristen Greene, Lori Perine, Andrew Burt ja Patrick Hall).

NIST-raportissa mainitaan myös sopivasti Kansainvälisen standardointijärjestön (ISO) standardi, joka kattaa ihmiskeskeisen suunnittelun (standardin ISO 9241-210:2019 mukaan), jonka perustana pidetään näitä merkittäviä ominaisuuksia:

• Selkeä ymmärrys käyttäjistä, tehtävistä ja ympäristöistä (käyttökonteksti)
• Käyttäjien osallistuminen suunnitteluun ja kehitykseen
• Suunnitteluvetoinen ja ihmiskeskeisen arvioinnin jalostettu
• Iteratiivinen prosessi, jossa prototyyppi suunnitellaan, testataan ja muutetaan
• Käsittelee koko käyttökokemusta
• Suunnittele tiimit, jotka sisältävät monialaisia ​​taitoja ja näkökulmia

Tehdään nopea yhteenveto siihen, mitä olemme käsitelleet tähän mennessä.

Luotan siihen, että olet nyt tietoinen tästä jatkuvasta liikkeestä kohti ihmiskeskeistä tekniikkaa ja että tätä liikettä voidaan tukea käyttämällä menetelmiä, jotka on tarkoituksella suunniteltu niille, jotka haluavat itse asiassa luoda ihmiskeskeisiä järjestelmiä.

Mihin tekoäly sopii tähän kaikkeen?

Helppo nakki.

Ne, jotka suunnittelevat ja kehittävät tekoälyä, joutuvat usein siihen pitkään jatkuneeseen ansaan, että he ovat liian huolissaan tekniikasta sinänsä. Voit helposti viitata moniin tekoälyjärjestelmiin, jotka olivat ilmeisen teknologiakeskeisiä eivätkä ihmiskeskeisiä (jaan hetken joitakin esimerkkejä itseohjautuvista autoista).

Luonnollisesti oletetaan, että tekoälyn alalla oleminen antaa aksiomaattisesti houkutusta olla teknologiakeskeinen. Kaikki ryntäävät pää edellä yrittääkseen tehdä tekoälystä yhä kehittyneempiä kapasiteettia. Jotkut uskovat, että ehkä voimme saada nykyajan tekoälyn sellaiseen tilaan, että se sitten jollakin tavalla muuttuu eräänlaiseksi laskennalliseksi kognitiiviseksi supernovaksi ja kehittyy tunteeseen (katso artikkelini osoitteessa tämä linkki täällä).

Selvyyden vuoksi meillä ei vielä ole tuntevaa tekoälyä. Emme tiedä, onko mahdollista tuottaa tuntevaa tekoälyä, emmekä sitä, syntyykö sentienttiä tekoälyä ihmeellisesti. Kaikki tämän päivän tekoäly on tuntematonta eikä lähellekään tuntevaa. Haluat tehdä ennätyksen, sillä monet räiskyvät otsikot viittaavat siihen, että meillä on joko tunteva tekoäly tai olemme sen kynnyksellä. Ei niin.

Palatakseni ihmiskeskeiseen suunnitteluun, ydin on, että on erittäin järkevää yrittää saada tekoälyä valmistavat ihmiset lähestymään ihmiskeskeistä näkökulmaa. Myopic-tech-first AI sijaan vaikuttaisi järkevältä ja kaiken kaikkiaan hyödylliseltä pyrkiä ihmiskeskeisen tekoälyn kehittämiseen. Tämä on sama räikeä idea, jota sanotaan sovellettavan kaikenlaiseen tekniikkaan.

Voisimme yhtä hyvin soveltaa näitä kehuttuja ihmiskeskeisiä ohjeita tekoälyjärjestelmiin.

Tämä on synnyttänyt ihmiskeskeisenä tekoälynä tunnetun valtakunnan, josta käytetään usein lyhennettä HCAI tai joskus se lyhennetään HAI:ksi. Tässä on ytimekäs tapa kuvata HCAI:ta: "Human-centered AI (HCAI) on nouseva tieteenala, joka käsittää HCD:n uudelleen tekoälyn kontekstissa tarjoten ihmiskeskeisiä tekoälyn suunnittelumetaforeja ja ehdotettuja hallintorakenteita luotettavien, turvallisten ja luotettavien kehittämiseksi. AI-järjestelmät" (aiemmin siteeratun NIST-raportin mukaan).

HCAI on tekoälyn ja HCD:n sekoitus.

Se saattaa tuntua hieman salaperäiseltä ja lyhenteiden turvotukselta. Laajennettu versio sanoisi, että ihmiskeskeinen tekoäly on sekoitus tekoälyä ja ihmiskeskeisen suunnittelun periaatteita. Haluamme siirtyä pois taipumuksesta suunnitella tekoälyä yksinomaan teknologiakeskeisten ohjeiden perusteella ja rohkaista sen sijaan ihmiskeskeiseen mieltymykseen.

Tiedät nyt, mistä HCAI:ssa on kyse. Meidän on siirryttävä entiseen kysymykseen.

Saammeko tekoälykehittäjät ja heidän yritysjohtajansa ottamaan käyttöön ihmiskeskeisiä tekoälymenetelmiä?

Ehkä kyllä ​​ehkä ei.

Muista, että huomautin aiemmin, että kaikki eivät välttämättä mene mukaan ihmiskeskeiseen keskittymiseen yleensä. Samaa voidaan sanoa ihmiskeskeisen sisällyttämisestä tekoälymaailmaan. Jotkut eivät noudata, koska he eivät tiedä mitä HCAI on. Toiset katsovat pintapuolisesti HCAI:ta ja päättävät mieluummin jatkaa sitä, mitä he jo tekevät. Sinulla on myös kyynikkoja, jotka yrittävät vähätellä ihmiskeskeistä tekoälyä yhdeksi sellaisista herkän tuntuisista hyvänolon lähestymistavoista. Tämä vetoaa usein niihin täysteknologian bittien ja tavujen tyyppeihin, jotka haluaisivat olla tekniikaltaan täynnä eivätkä käsitellä tarpeettomia asioita.

Sallikaa minun hetki selvittää, miksi ihmiskeskeinen tekoäly (HCAI) vahvistuu ja siitä tulee tärkeä osa kaikkia demonstratiivisia tekoälypyrkimyksiä.

Saatat olla tietoinen, että kun tekoälyn uusin aikakausi alkoi, vallitsi valtava innostus siitä, mitä jotkut nykyään kutsuvat. AI Hyvä. Valitettavasti aloimme todistaa tuon purskahtavan jännityksen kannoilla AI huono. Esimerkiksi useiden tekoälyyn perustuvien kasvojentunnistusjärjestelmien on paljastettu sisältävän rotu- ja sukupuoliharhaa, joista olen keskustellut osoitteessa linkki tähän.

Pyrkimykset taistella vastaan AI huono ovat aktiivisesti käynnissä. Paitsi äänekäs juridinen väärinkäytösten hillitsemiseen tähtäävät pyrkimykset omaksua tekoälyn etiikka tekoälyn ilkeyden korjaamiseksi. Ajatus on, että meidän pitäisi ottaa käyttöön ja tukea keskeisiä eettisiä tekoälyn periaatteita tekoälyn kehittämisessä ja levittämisessä tehden näin alentaaksemme AI huono ja samanaikaisesti julistaa ja edistää parempaa AI Hyvä.

Laaja kattaukseni tekoälyn eettisyydestä ja eettisestä tekoälystä löytyy osoitteesta tämä linkki täällä ja tämä linkki täällä, vain muutamia mainitakseni.

Jos luultavasti seurasit tarkasti, kun annoin ihmiskeskeisen suunnittelun (HCD) määritelmän tai selityksen, olisit saattanut tarkkailla tämän lauseen NIST-otteessa: "Lisäksi asettamalla ihmiset tällaisten lähestymistapojen keskiöön, he luonnollisesti Voivat keskittyä syvemmin laajempiin yhteiskunnallisiin näkökohtiin, kuten oikeudenmukaisuuteen, ennakkoluuloihin, arvoihin ja etiikkaan." Näin ollen ihmiskeskeisen tekoälyn tapauksessa voimme auttaa AI-etiikkaa ja eettistä tekoälyä sisällyttämään tekoälyn suunnittelu- ja kehitysprosessiin ottamalla vakavasti HCAI käyttöön tekoälyjärjestelmien menetelmänä.

Voit jokseenkin vakuuttavasti väittää, että paljon AI huono tahatonta on saattanut tapahtua, koska tekoälykehittäjät ja heidän yritysjohtajansa eivät käyttäneet HCAI-lähestymistapaa. Jos he olisivat tehneet niin, todennäköisyys on kasvanut, että he olisivat harkitseneet huolellisesti tekoälyn eettisiä elementtejä ja suunnitellut tekoälyn eettisesti sopivaksi. Voisin lisätä, että tämä tarjoaa harkitusti arvokasta kaksiosaamista siinä mielessä, että jos näin suunniteltu tekoäly on näennäisesti eettisesti järkevä, on todennäköistä, että yritys ja sen tekoälykehittäjät välttävät sen, että heidän tekoälynsä joutuisi toimimaan laittomasti. Tämä on varsin huomattava etu, koska pieleen menevä tekoäly johtaa todennäköisesti oikeusjuttuihin tekijöitä vastaan ​​ja mahdollisesti jopa syytteeseen asettamiseen rikoksista (katso analyysini osoitteessa linkki tähän rikollista vastuuta huonon näyttelijän tekoälystä).

Otetaan hetki aikaa tarkastellaksemme lyhyesti joitakin keskeisiä eettisiä tekoälyohjeita havainnollistaaksemme, minkä pitäisi olla elintärkeä ihmiskeskeinen tai HCAI-painopiste kaikille tekoälyä tekeville, harjoitteleville tai käyttäville.

Esimerkiksi, kuten Vatikaani totesi Rooma kutsu tekoälyn etiikkaan ja kuten olen käsitellyt perusteellisesti osoitteessa linkki tähän, nämä ovat heidän tunnistamansa kuusi ensisijaista tekoälyn eettistä periaatetta:

• Avoimuus: Periaatteessa tekoälyjärjestelmien on oltava selitettävissä
• sisällyttäminen: Kaikkien ihmisten tarpeet on otettava huomioon, jotta kaikki voivat hyötyä ja kaikille yksilöille tarjotaan parhaat mahdolliset olosuhteet ilmaista itseään ja kehittyä.
• vastuu: Tekoälyn käyttöä suunnittelevien ja ottavien on edettävä vastuullisesti ja läpinäkyvästi
• Puolueettomuus: Älä luo puolueellisuutta tai toimi sen mukaan turvaten siten oikeudenmukaisuutta ja ihmisarvoa
• Luotettavuus: Tekoälyjärjestelmien tulee pystyä toimimaan luotettavasti
• Turvallisuus ja yksityisyys: Tekoälyjärjestelmien on toimittava turvallisesti ja kunnioitettava käyttäjien yksityisyyttä.

Kuten Yhdysvaltain puolustusministeriö (DoD) totesi Tekoälyn käytön eettiset periaatteet ja kuten olen käsitellyt perusteellisesti osoitteessa linkki tähän, nämä ovat heidän kuusi ensisijaista tekoälyn eettistä periaatetta:

• Vastaava: DoD-henkilöstö käyttää asianmukaista harkintaa ja huolellisuutta samalla kun he ovat vastuussa tekoälyominaisuuksien kehittämisestä, käyttöönotosta ja käytöstä.
• oikeudenmukainen: Osasto ryhtyy tietoisiin toimiin minimoidakseen tahattoman harhan tekoälyominaisuuksissa.
• jäljitettävissä: Osaston tekoälyvalmiuksia kehitetään ja otetaan käyttöön siten, että asiaankuuluvalla henkilöstöllä on asianmukainen ymmärrys tekoälyvalmiuksiin sovellettavista teknologiasta, kehitysprosesseista ja toimintamenetelmistä, mukaan lukien avoimet ja tarkastettavat menetelmät, tietolähteet sekä suunnittelumenettely ja dokumentaatio.
• Luotettava: Osaston tekoälyominaisuuksilla on selkeät, tarkasti määritellyt käyttötarkoitukset, ja tällaisten ominaisuuksien turvallisuus, turvallisuus ja tehokkuus testataan ja varmistetaan määritellyissä käyttötarkoituksissa niiden koko elinkaaren ajan.
• hallinnoitavissa: Osasto suunnittelee ja suunnittelee tekoälyvalmiuksia täyttämään niille aiotut toiminnot samalla kun sillä on kyky havaita ja välttää tahattomia seurauksia sekä kyky kytkeä irti tai deaktivoida käyttöönotetut järjestelmät, jotka osoittavat tahatonta toimintaa.

Olen myös keskustellut erilaisista tekoälyn eettisten periaatteiden kollektiivisista analyyseistä, mukaan lukien tutkijoiden laatiman joukon, joka tutki ja tiivisti lukuisten kansallisten ja kansainvälisten tekoälyn eettisten periaatteiden olemusta artikkelissa "The Global Landscape Of AI Ethics Guidelines" (julkaistu) sisään luonto), ja jota kattamani tutkitaan osoitteessa linkki tähän, joka johti tähän Keystone-luetteloon:

• Läpinäkyvyys
• Oikeus ja oikeudenmukaisuus
• Ei-ilkeäisyys
• vastuu
• yksityisyys
• hyväntekeväisyys
• Vapaus ja autonomia
• Luottamus
• kestävyys
• arvokkuus
• Solidaarisuus

Kuten saatat suoraan arvata, näiden periaatteiden taustalla olevien yksityiskohtien selvittäminen voi olla erittäin vaikeaa. Vielä enemmän, pyrkimys muuttaa nämä laajat periaatteet joksikin täysin konkreettiseksi ja riittävän yksityiskohtaiseksi käytettäväksi tekoälyjärjestelmien luomisessa on myös kova pähkinä. Kokonaisuudessaan on helppo heiluttaa käsin siitä, mitä tekoälyn eettiset ohjeet ovat ja miten niitä yleensä tulisi noudattaa, kun taas tekoälykoodauksessa on paljon monimutkaisempi tilanne, kun tien kohtaamisen täytyy olla todellinen kumi.

Tekoälykehittäjien tulee hyödyntää tekoälyn eettisiä periaatteita sekä tekoälykehitystyötä hallinnoivien ja jopa tekoälyjärjestelmien ylläpitoa tekevien periaatteiden käyttöä. Kaikki sidosryhmät koko tekoälyn kehityksen ja käytön elinkaaren aikana katsotaan eettisen tekoälyn vakiintuneiden normien mukaisesti. Tämä on tärkeä kohokohta, koska tavallinen oletus on, että "vain koodaajien" tai tekoälyn ohjelmoivien on noudatettava tekoälyn etiikkaa. Huomaa, että tekoälyn suunnittelu ja toteuttaminen vaatii kylän. Sitä varten koko kylän on pysyttävä varpaillaan tekoälyn eettisyydestä.

Tässä on joitain NIST-raportin huomioita, jotta saat esimakua siitä, mitä nykyaikainen ihmiskeskeinen tekoälymenetelmä voi sisältää:

• Määrittele tekoälyjärjestelmiin liittyvät keskeiset termit ja käsitteet sekä niiden vaikutuksen laajuus
• Käsittele arkaluonteisten tai muuten mahdollisesti riskialttiiden tietojen käyttöä
• Yksityiskohtaiset standardit kokeelliselle suunnittelulle, tietojen laadulle ja mallikoulutukselle
• Selvitä, kuinka harhariskit tulisi kartoittaa ja mitata ja minkä standardien mukaan
• Yksityiskohtaiset prosessit mallin testausta ja validointia varten
• Yksityiskohtaisesti tarkasteluprosessi laki- tai riskitoimintojen mukaan
• Määritä jatkuvan tarkastuksen ja tarkastelun jaksotus ja syvyys
• Esitä muutoksenhallinnan vaatimukset
• Selvitä mahdolliset suunnitelmat, jotka liittyvät tällaisten tapahtumien torjuntaan
• Jne.

Saatavilla on laaja valikoima HCAI-suuntautuneita menetelmiä.

Jotkut niistä ovat ilmaisia ​​ja tarjotaan avoimen lähdekoodin pohjalta, kun taas toiset tällaiset menetelmät on lisensoitu tai myydään niille, jotka haluavat käyttää kyseistä varianttia. Kuten suklaarasia, sinun on oltava tietoinen siitä, mitä HCAI-menetelmää valitset ja mitä se tarkalleen sisältää. Jotkut niistä on suunnattu esimerkiksi tietyntyyppisiin tekoälyjärjestelmiin, kuten esimerkiksi koneoppimiseen tai syväoppimiseen. Lisäksi on olemassa HCAI-menetelmiä, jotka ovat hyviä reaaliaikaisille tekoälyjärjestelmille, kun taas toiset ovat heikkoja tässä suhteessa. Katso keskusteluni osoitteessa tämä linkki täällä.

Kehotan sinua valitsemaan viisaasti toivottavasti sopivan HCAI-metodologian ja varmistamaan, että otat sen viisaasti käyttöön. Älä vain pudota HCAI-metodologiaa pahaa-aavistamattomille tekoälykehittäjille. Älä hanki sitä vain siksi, että voit yksinkertaisesti rastittaa, että sinulla on sellainen. On olemassa monia tapoja alittaa ja myrkyttää lähes mitä tahansa HACI-metodologiaa, jos epäilet sen omaksumista. Tee oikein, oikealla tavalla.

Ole varovainen myös analyysin halvaantuessa valittaessa HCAI-metodologiaa. Jotkut tekoälyryhmät joutuvat turpeen sotaan siitä, mikä HACI-metodologia on "paras", ja lopulta uhraavat valtavasti vaivaa valintaprosessiin. Sillä välin AI-hevonen päästetään ulos navetta. Huono liike.

Tämän keskustelun tässä vaiheessa veikkaan, että kaipaat esimerkkejä, jotka voisivat tuoda esiin ihmiskeskeisen tekoälyn (HCAI) käyttöönoton arvon.

Olen iloinen, että kysyit.

On olemassa erityinen ja varmasti suosittu joukko esimerkkejä, jotka ovat lähellä sydäntäni. Tekoälyn asiantuntijana, mukaan lukien eettiset ja oikeudelliset seuraukset, minua pyydetään usein tunnistamaan realistisia esimerkkejä, jotka tuovat esille tekoälyn eettisiä ongelmia, jotta aiheen jossain määrin teoreettinen luonne voidaan ymmärtää helpommin. Yksi mieleenpainuvimmista alueista, joka esittelee elävästi tämän eettisen tekoälyongelman, on tekoälyyn perustuvien todellisten itseohjautuvien autojen tulo. Tämä toimii kätevänä käyttötapana tai esimerkkinä aiheesta laajalle keskustelulle.

Tässä on sitten huomionarvoinen kysymys, jota kannattaa pohtia: Kertooko tekoälyyn perustuvien todellisten itseohjautuvien autojen tulo mitään ihmiskeskeisestä tekoälystä (HCAI), ja jos on, mitä tämä osoittaa?

Anna minun hetki purkaa kysymys.

Ensinnäkin, huomaa, että todellisessa itseajavassa autossa ei ole ihmiskuljettajaa. Muista, että todellisia itseohjautuvia autoja ajetaan tekoälyjärjestelmän kautta. Rattiin ei tarvita ihmiskuljettajaa, eikä myöskään ole mahdollista, että ihminen voisi ajaa ajoneuvoa. Katso kattava ja jatkuva kattamukseni autonomisista ajoneuvoista (AV) ja erityisesti itseohjautuvista autoista. linkki tähän.

Haluaisin selventää tarkemmin, mitä tarkoitetaan, kun viittaan todellisiin itse ajaviin autoihin.

Ymmärtäminen itse ajavien autojen tasoista

Selvyyden vuoksi todelliset itse ajavat autot ovat sellaisia, joissa tekoäly ajaa autoa kokonaan yksin eikä ajo-tehtävän aikana ole mitään apua.

Näitä kuljettamattomia ajoneuvoja pidetään tasoina 4 ja 5 (katso selitykseni osoitteessa tämä linkki täällä), kun taas autoa, joka edellyttää ihmiskuljettajan yhteistä ajoponnistusta, pidetään yleensä tasolla 2 tai 3. Autoja, jotka jakavat ajotehtävän, kuvataan puoliautonomisina ja sisältävät tyypillisesti erilaisia automaattiset lisäosat, joista käytetään nimitystä ADAS (Advanced Driver-Assistance Systems).

Tasolla 5 ei ole vielä todellista itseajavaa autoa, emmekä vielä edes tiedä, onko se mahdollista saavuttaa tai kuinka kauan sen saavuttaminen kestää.

Samaan aikaan tason 4 ponnistelut yrittävät vähitellen saada jonkin verran pitoa käymällä läpi erittäin kapeita ja valikoivia yleisiä tiekokeita, vaikka onkin kiistaa siitä, pitäisikö tämä testaus sallia sellaisenaan (olemme kaikki elämän tai kuoleman marsuja kokeessa tapahtuu valtateillämme ja sivuteillämme, jotkut väittävät, katso kattaukseni osoitteessa tämä linkki täällä).

Koska osittain itsenäiset autot vaativat ihmisen kuljettajan, tämäntyyppisten autojen omaksuminen ei ole selvästi erilainen kuin tavanomaisten ajoneuvojen ajaminen, joten sinänsä ei ole paljon uutta kattamaan niitä tästä aiheesta (tosin kuten näette hetkessä seuraavia pisteitä voidaan yleensä soveltaa).

Osittain itsenäisten autojen osalta on tärkeää, että kansalaisia ​​on varoitettava viime aikoina esiintyneestä häiritsevästä näkökulmasta, nimittäin siitä, että huolimatta ihmisten kuljettajista, jotka jatkavat videoiden lähettämistä itsensä nukahtamisesta tason 2 tai 3 autolle, , meidän kaikkien on vältettävä johtamasta harhaan uskoaan, että kuljettaja voi viedä huomionsa ajo-tehtävään ajon puoli-autonomisen auton kanssa.

Olet vastuussa ajoneuvon ajotoimista riippumatta siitä, kuinka paljon automaatiota voidaan heittää tasolle 2 tai 3.

Itseajavat autot ja ihmiskeskeinen tekoäly (HCAI)

Tason 4 ja tason 5 itseohjautuvissa ajoneuvoissa ajo-tehtävään ei tule inhimillistä kuljettajaa.

Kaikki matkustajat ovat matkustajia.

AI ajaa.

Yksi näkökohta, josta on keskusteltava välittömästi, merkitsee sitä, että nykypäivän tekoälyjärjestelmiin osallistuva tekoäly ei ole tunteva. Toisin sanoen tekoäly on kokonaisuudessaan tietokonepohjaisen ohjelmoinnin ja algoritmien joukko, eikä varmaankaan kykene perustelemaan samalla tavalla kuin ihmiset.

Miksi tämä korostetaan sitä, että tekoäly ei ole järkevä?

Koska haluan korostaa, että puhuessani tekoälyn ajo-järjestelmän roolista, en omista tekoälylle ihmisen ominaisuuksia. Huomaa, että nykyään on jatkuva ja vaarallinen taipumus antropomorfisoida tekoäly. Pohjimmiltaan ihmiset osoittavat ihmisen kaltaisen tuntemuksen nykyiselle tekoälylle huolimatta kiistattomasta ja kiistattomasta tosiasiasta, että sellaista tekoälyä ei vielä ole.

Tämän selvennyksen avulla voit kuvitella, että tekoälyn ajo-järjestelmä ei luonnostaan ​​jotenkin “tiedä” ajon puolia. Ajo ja kaikki siihen liittyvä on ohjelmoitava osaksi itseajoavan auton laitteistoa ja ohjelmistoa.

Sukelletaan lukemattomiin näkökohtiin, jotka tulevat pelaamaan tästä aiheesta.

Ensinnäkin on tärkeää ymmärtää, että kaikki AI-itse ajavat autot eivät ole samanlaisia. Jokainen autonvalmistaja ja itseajava teknologiayritys suunnittelee itse ajavia autoja. Sellaisenaan on vaikea antaa laajoja lausuntoja siitä, mitä tekoälyjärjestelmät tekevät tai eivät tee.

Lisäksi aina, kun todetaan, että tekoälyohjausjärjestelmä ei tee jotain tiettyä, tämä voi myöhemmin ohittaa kehittäjät, jotka itse ohjelmoivat tietokoneen tekemään juuri sen. AI -ajojärjestelmiä parannetaan ja laajennetaan asteittain. Nykyinen rajoitus ei välttämättä ole enää olemassa tulevassa iteraatiossa tai järjestelmän versiossa.

Luotan siihen, että se tarjoaa riittävän litanian varoituksia, jotka tukevat sitä, mitä aion kertoa.

Olemme nyt valmiita sukeltamaan syvälle itseohjautuviin autoihin ja Human-Center AI:n (HCAI) merkittävään arvoon.

Käytetään helposti suoraviivaista esimerkkiä. Tekoälypohjainen itseajava auto on käynnissä naapurustosi kaduilla ja näyttää ajavan turvallisesti. Aluksi olit kiinnittänyt erityistä huomiota jokaiseen kertaan, kun onnistuit näkemään vilauksen itseohjautuvasta autosta. Autonominen ajoneuvo erottui joukosta elektronisilla antureilla, jotka sisälsivät videokameroita, tutkayksiköitä, LIDAR-laitteita ja vastaavia. Useiden viikkojen itseohjautuvan auton risteilyn jälkeen paikkakunnallasi et enää huomaa sitä. Sinun mielestäsi se on vain toinen auto jo ennestään vilkkaalla yleisellä tiellä.

Jotta itseohjautuvien autojen näkemiseen ei luulisi olevan mahdotonta tai epätodennäköistä tutustua, olen kirjoittanut usein siitä, kuinka itseohjautuvien autojen kokeilujen piirissä olevat paikkakunnat ovat vähitellen tottuneet näkemään koristeltuja ajoneuvoja. Monet paikalliset siirtyivät lopulta suuhunsa ammottavasta ihastuttavasta haukotuksesta nyt levittävään tylsyyden haukotteluun nähdäkseen kiemurtelevia itseohjautuvia autoja.

Todennäköisesti suurin syy tällä hetkellä siihen, että he saattavat huomata autonomiset ajoneuvot, johtuu ärsytys- ja kiihtyvyystekijästä. Tekoälyjärjestelmät varmistavat, että autot noudattavat kaikkia nopeusrajoituksia ja liikennesääntöjä. Hektiset ihmiskuljettajat perinteisissä ihmisvetoisissa autoissaan ärsyyntyvät toisinaan, kun jäävät tiukasti lainkuuliaisten tekoälyyn perustuvien itseohjautuvien autojen taakse.

Se on jotain, johon meidän kaikkien on ehkä totuttava, oikeutetusti tai väärin.

Takaisin tarinaamme.

Osoittautuu, että kourallinen sopimattomia huolia alkaa nousta muuten vaarattomista ja yleisesti tervetulleista tekoälypohjaisista itseohjautuvista autoista, erityisesti:

1) Nouto- ja palautusongelmat (PUDO).

2) Riittämätön itseohjautuvan auton asema matkustajille

3) Vaarallinen hämmennys jalankulkijoille tekoälyjärjestelmän aikomuksista

4) Huoli itseajavien autojen aiheuttamista yksityisyyden loukkauksista

5) Eettisiä epäilyksiä tekoälyn ajamisesta surullisen vaunuongelman mukaisesti

Tarkastellaan tarkasti jokaista näistä tekijöistä. Jokainen niistä edustaa joitain haastavimmista kamppailuista itseajavien autojen kokeilujen jatkuvan laajentamisen puolesta. Selvennykseksi todettakoon, että suurin haaste on varmistaa, että itseajava auto kulkee turvallisesti pisteestä A paikkaan B. Nämä edellä mainitut lisähaasteet ovat tämän ydin- tai perustavanlaatuisten haasteiden lisäksi.

Kuten tulee helposti ilmeiseksi, nämä viisi kysymystä liittyvät kiinteästi ihmiskeskeisen suunnittelun avainkäsitteeseen. Tässä mielessä ne osoittavat, kuinka tärkeää on kiinnittää huomiota ihmiskeskeiseen tekoälyyn (HCAI).

#1: Nouto- ja luovutusvaikeudet (PUDO).

Kun käytät ihmislähtöistä kyydinjakopalvelua, yksi asia, jonka uskot tapahtuvan oikein, on se, että hänet noudetaan kyytiä varten sopivasta paikasta ja samalla pudotetaan sopivaan määränpäähän kyydin päätyttyä (tämä tiedetään kätevä lyhenne sanasta PUDO). Tämä voi olla paljon hankalampaa kuin miltä näyttää. Jos seisot punaisella jalkakäytävällä, pitäisikö ihmiskuljettajan mennä eteenpäin ja pysähtyä hakemaan sinut? Muista, että laissa yleensä sanotaan, että punaiselle jalkakäytävälle ei saa pysähtyä.

Joskus "kätevä" noutopaikka ei välttämättä ole kätevä ajoneuvon kuljettajalle. Olen varma, että olet joskus ylittänyt kadun yrittääksesi helpottaa kyydinjakokuljettajan tapaamista. Voi syntyä eräänlainen tanssi, jossa yrität päästä lähemmäs autoa ja kuljettaja yrittää päästä lähemmäksi missä tahansa oletkin.

Monille yrityksistä, jotka valmistavat tekoälyjärjestelmiä, koko asianmukainen nouto ja palautus jäi suhteellisen alhaiselle prioriteetille tehtäväluettelossa.

Tekoälykehittäjät ajattelivat yleensä, että ihmismatkustajan tulisi aina mennä itse ajavan auton luo. Tämä on matkustajan vastuulla. AI-ajojärjestelmän ei tarvitse olla huolissaan PUDOsta. Tule vain tarpeeksi lähelle ja se on siinä. Tällä ajattelutavalla nouto- ja luovutuspaikoilla ei ole mitään tekemistä sellaisten asioiden kanssa, kuten huono sää (sateessa PUDO on usein sopeutunut vastaavasti) tai liikennetilanteet (ehkä muut autot ohittavat ja mahdolliset matkustajan on ajauduttava vahingon tielle) ja niin edelleen.

Ihmiskuljettajat eivät yleensä ole tätä mieltä. He ymmärtävät, että he eivät saa rahallista tippiä tai saattavat saada virheellisen arvosanan, jos he eivät tee jotain tosissaan saadakseen matkustajalle suhteellisen kätevän PUDOn. Hyödylliseen paikkaan pääseminen voi olla ratkaiseva ajotaito. Tämä edistää myös turvallisuutta siinä mielessä, että jos matkustaja innokkaasti yltyisi epätoivoisesti itseajavaan autoon, osa ihmisistä tekee järjettömiä valintoja ja voi loukkaantua kaikenlaisesta väliin tulevasta liikenteestä.

Itseohjautuvien tekoälyautojen ja tekoälyjärjestelmien osalta, jotka eivät tee PUDO:n vankkaa työtä, voidaan sanoa, että tämä osoittaa tekoälykehittäjien ihmiskeskeisen keskittymisen puutteen. He ilmeisesti kohautivat olkapäitään nouto- ja palautuskohteista. Tämä on sellainen ajattelutapa, jonka perinteinen tekniikkakeskeinen näkökulma saattaisi saavuttaa. Saa ihmiset tulemaan koneen luokse sen sijaan, että kone menisi ihmisten luo.

Ongelma ratkaistu, teknikko saattaa iloisesti ilmoittaa ja sitten pestä kätensä koko jutusta.

Ollakseni rehellinen, tämä ei ole ainoa syy kiihkeän PUDO-fokustuksen puutteelle. Tekoälyjärjestelmiä rakentavien tekoälykehittäjien energia on omistettu sen varmistamiseen, että itseajava auto voi edetä turvallisesti pisteestä A pisteeseen B. Ilman tätä kykyä millään muulla ei ole juurikaan merkitystä. Tästä huolimatta jokainen, joka loukkaantuu tai todistettavasti häiriintyy orastavan itseajavan auton surkean PUDO:n takia, aiheuttaa todennäköisesti paljon julkisuutta ja yhteiskunnallinen reaktio voi olla erittäin kielteinen. Epäilemättä olisi tekoälytekniikkoja, jotka valittaisivat, että kaikista sellaisista vastareaktioista puuttuu tärkeä teko, joka liittyy tekoälyn ajamiseen turvallisesti pisteestä A pisteeseen B. Se olisi huutoa, että yleisö antaa hännän heiluttaa koiraa. Ehkä niin, mutta yhteiskunnalliset reaktiot voivat olla onnea tai suoraa tuhoa nouseville itseajaville autoille.

Jos haluat perusteellisen kattaukseni tämäntyyppisistä hienovaraisista, mutta lopulta itsetoimivia ajoneuvoja koskevista ongelmista, katso keskusteluni osoitteessa linkki tähän joka tarjoaa kohokohtia tutkimuksesta, jonka tein yhdessä Harvardin tiedekunnan jäsenen kanssa.

#2: Riittämätön itse ajavan auton tila matkustajille

Ihmiskuljettaja voi olla puhelias kissa. Tarkoitan, että jotkut kyydinjakokuljettajat juttelevat jatkuvasti koko matkan ajan. Kaikki matkustajat eivät pidä tästä. Jotkut haluavat rauhaa ja hiljaisuutta. Toiset pitävät hauskasta pilailusta.

Yksi ihmiskuljettajan piirteistä on se, että voit melkein varmasti kysyä kuljettajalta kysymyksiä suoritettavista ajotoimista. Miksi kuljettaja kääntyi oikealle niin nopeasti? Miksi kuljettaja ei aja nopeammin? Ymmärrät idean.

Jotkut tekoälykehittäjät olettivat, että itseajavan auton matkustaja vain pääsisi itseohjautuvaan ajoneuvoon ja olisi sitten hiljainen kuin hiiri. Tekoälyn ei tarvitse olla vuorovaikutuksessa matkustajan kanssa. Matkustajat eivät ole muuta kuin savea. He istuvat autoon ja heidät viedään määränpäähänsä. Tarinan loppu.

Joidenkin autonvalmistajien ja itseohjautuvien teknologiayritysten yllätykseksi he huomasivat, että matkustajat haluavat tietää, mitä tapahtuu. Minimaaliseen lähestymistapaan kuuluu LED-näyttö, joka näyttää itseajavan auton reitin. Tämä ei kuitenkaan auta erityisesti käsittelemään asioita, kuten miksi käännettiin nopeasti tai miksi auto hidastaa. Toki sähköisiä viestejä voidaan näyttää, mutta tekoälyn ja matkustajien välillä on vain vähän tai ei ollenkaan vuorovaikutusta.

Jälleen kerran, voit tulkita tämän ihmiskeskeiseksi tekoälyn kehitysongelmaksi. Oletus, että matkustajat ovat kuin matkalaukku tai toimituslaatikko, on tekniikkakeskeinen näkökulma. Ihmiset ovat ihmisiä. Jos aiot kuljettaa ihmisiä, sinun on saatava heidät tuntemaan olonsa mukavaksi ja vastattava heidän tiedusteluihinsa. Nopea ratkaisu joihinkin itse ajavien autojen toimintaan on saada puheyhteys etäpaikalla olevaan ihmisagenttiin, joka valvoo laivaston autoja. Tällä on monia huonoja puolia, kuten olen pitkään analysoinut linkki tähän.

#3: Vaarallinen hämmennys jalankulkijoille tekoälyn ajojärjestelmän aikomuksista

Kuvittele, että kävelet välinpitämättömästi jalkakäytävällä ja haluat ylittää kadun. Huomaat, että auto tulee kadulla sinua kohti. Tavallinen asia, jonka teet, on katsoa ihmiskuljettajaa. Näkeekö kuljettaja minut? Katsooko kuljettaja poispäin? Katsovatko he kissavideota eivätkä kiinnitä huomiota ajorataan?

Itseohjautuvien autojen ongelma on, että siellä ei ole ihmiskuljettajaa. Voisi kai sanoa, että se on plussaa, sillä sen avulla voimme päästä eroon rattijuopumuksesta ja muista ihmisistä epämiellyttävistä ajokäyttäytymisestä. Mutta kun on selvitettävä, mitä auto aikoo tehdä, yrität yleensä nähdä, mitä kuljettaja tekee (pään, silmien, yleisen asennon jne. kautta).

Kun kuljettajan istuimella ei ole kuljettajaa, mistä tiedät, mitä auto aikoo tehdä? Sinulta puuttuu tavalliset vihjeet. Jotkut autonvalmistajat ja itseohjautuvat teknologiayritykset eivät erityisesti laskeneet tätä ongelmaa suunnittelutoimissaan. Heidän mielestään tekoälyjärjestelmä ajaisi aina turvallisesti ja laillisesti. Mitä muuta pitää tehdä?

Voit väittää, että tämä on jälleen yksi esimerkki teknologiakeskeisestä maailmankuvasta verrattuna ihmiskeskeiseen näkökulmaan. Jos uskot, että ihmiset kaikki yksinkertaisesti antavat itseajaville autoille aina etu- tien, ehkä sillä ei ole väliä, että tarvitaan ihmiskuljettajan suuntaviivoja. Toisaalta todellisessa maailmassa on tarjottava jotain.

Kuten olen tutkinut klo linkki tähän, kokeillaan lukuisia ehdotuksia, kuten erityisten hehkulamppujen laittaminen itseohjautuvien autojen konepellille, jotka syttyvät ja osoittavat tavallaan siihen suuntaan, mihin autonominen ajoneuvo on menossa. Toinen ajatus on, että erikoislaitteet tunnustavat jalankulkijalle, että tekoälyjärjestelmä näkee ne. Kaikenlaisia ​​järkeviä vaihtoehtoja, myös toisinaan omituisia lähestymistapoja, tutkitaan.

#4: Huoli itseohjautuvien autojen aiheuttamista yksityisyyden loukkauksista

Olen toistuvasti varoittanut itseohjautuvien autojen tulon aiheuttamasta valtavasta yksityisyyden loukkaamisesta. Kukaan ei kiinnitä asiaan tällä hetkellä paljoa huomiota, koska se ei ole vielä noussut havaittuksi ongelmaksi. Vakuutan teille, että se on lopulta valtava ongelma, jonka olen leimannut itseohjautuvien autojen "vaeltavaksi silmäksi" (katso linkki tähän).

Ensimmäinen ajatuksesi saattaa olla, että tämä koskee varmasti vain matkustajien yksityisyyttä. Tekoäly voisi seurata, mitä ratsastajat tekevät ollessaan itseajavassa autossa. Toki se on selvä huolenaihe. Mutta väitän, että se kalpenee verrattuna vähemmän ilmeiseen vaivaan, jolla on vielä suurempia seurauksia.

Yksinkertaisesti sanottuna itseohjautuvan auton anturit keräävät kaikenlaista dataa autonomisten ajoneuvojen vaeltaessa yleisillä teillämme. Se tallentaa, mitä tapahtuu talojemme edessä nurmikoilla. Se tallentaa, mitä ihmiset tekevät kävellessään paikasta toiseen. Se näyttää, milloin saavuit laitokseen ja milloin poistit siitä. Nämä tiedot voidaan helposti ladata kalustooperaattorin pilveen. Laivastonhoitaja voisi sitten yhdistää nämä tiedot ja saada olennaisesti yksityiskohdat päivittäisestä elämästämme ulkona ja koko yhteisössämme.

Emme näytä välittävän tällä hetkellä mahdollisesta yksityisyyden loukkaamisesta, koska itseohjautuvia autoja kokeillaan vain kourallisesti suhteellisen harvoilla paikoilla. Jonakin päivänä meillä on satoja tuhansia tai miljoonia itseohjautuvia autoja, jotka risteilevät kaikissa suurissa kaupungeissamme. Päivittäistä ulkoelämäämme tallennetaan taukoamatta, 24×7 ja meitä voidaan seurata sen mukaisesti.

Tekniikkakeskeinen AI-kehittäjä todennäköisesti vähättelee tätä. He ehdottavat, että he vain ottavat käyttöön tekoälyteknologian. Jonkun muun on huolehdittava siitä, miten tekniikkaa aiotaan käyttää.

Sitä vastoin ihmiskeskeinen näkökulma jo käsittäisi sitä, kuinka tämä jättimäinen yksityisyyttä tikittävä aikapommi aiotaan käsitellä. Parempi ennemmin kuin myöhemmin. Se on jälleen yksi hyvä syy käyttää ihmiskeskeistä tekoälyä (HCAI) monien asioiden yhdistelmässä.

#5: Eettisiä epäilyksiä tekoälyn ajamisesta surullisen kärry-ongelman mukaan

Tämä viimeinen kohta on hieman monimutkainen. Lyhennän sitä ja kannustan sinua harkitsemaan pitkän analyysini lukemista osoitteessa linkki tähän. Lyhyesti sanottuna, kun ajat autoa tai ajat vain matkustajana autossa, olet aina vaarassa sen suhteen, mitä autolle tapahtuu. Auto saattaa törmätä toiseen autoon. Auto saattaa törmätä lyhtypylvääseen. Kaikenlaista pahaa voi tapahtua.

Miten ihmiskuljettaja päättää, mitä ajotoimia hän tekee?

Esimerkiksi suosikkiesimerkkini oli uutisissa kerrottu tapaus. Ihmiskuljettaja oli laillisesti menossa risteykseen, kun toinen auto ajoi punaista valoa ja oli vaarallisesti tulossa kohti laillisesti sallittua autoa. Kuljettaja kertoi toimittajille, että hänen oli tehtävä vaikea päätös. Hän saattoi jatkaa matkaa ja joutua tunkeutuvan auton jyrsimään, mahdollisesti menehtyessään tai loukkaantua vakavasti. Tai hän saattoi ohjata autonsa pois odotetusta törmäyksestä, mutta lähellä oli jalankulkijoita. Todennäköisyys oli korkea, että hän törmäsi tai tappaisi joitain jalankulkijoita. Se tosin todennäköisesti säästäisi hänen henkensä.

Mitä sinä tekisit?

Asia on, että kohtaamme nämä ajamisen ongelmat koko ajan. Emme erityisesti ajattele niitä ennen kuin asiat menevät huonosti. Vakuutan teille, että jokainen kuljettaja on aina henkisesti sekaantunut siihen, että hänen on päätettävä, mihin ajotoimintoihin hän ryhtyy. Heidän elämänsä riippuu siitä. Ajoneuvossa olevien matkustajien elämä riippuu siitä. Muiden kuljettajien ja lähellä olevien autojen matkustajien elämä riippuu siitä. Jalankulkijat, pyöräilijät ja muut ovat myös riippuvaisia ​​siitä.

Otan tämän esille yksinkertaisen, mutta erittäin vaikean kysymyksen vuoksi.

Mitä tekoälyn pitäisi tehdä, kun joutuu elämään tai kuolemaan ajavia päätöksiä?

Jos olisit matkustaja itseajavassa autossa, joka oli keskellä risteystä ja ihmisen ohjaama auto ajoi punaista valoa, mitä haluat tekoälyjärjestelmän tekevän? Pitäisikö tekoälyn yrittää välttää osuma ja silti mahdollisesti leikata jalankulkijoiden joukkoon? Vai eikö tekoälyn pitäisi ryhtyä erityistoimiin ja vain sallia autonomisen ajoneuvon törmätä? Tällaisia ​​eettisiä pulmia kuvataan usein kuuluisan vaunuongelmana tunnetun ajatuskokeen yhteydessä (ks. linkki tähän).

Tällä hetkellä harvat eivät ota Vaunu-ongelmaa vakavasti. Yleisesti ottaen useimmat tekoälyajojärjestelmät eivät vielä yritä arvioida vältteleviä ajotoimia. Vaikka tekoäly tekisi niin, on avoin ja tuskallinen kysymys siitä, kuinka tekoälyn oletetaan ohjelmoida tekemään nämä haastavat eettiset päätökset.

Teknologiakeskeinen näkökulma sanoisi, että älä huolehdi siitä ennen kuin siitä tulee yhteiskunnallisesti tietoinen ongelma. Jatka vain AI-koodin massaa ja katso mitä tapahtuu.

Ihmiskeskeinen näkökulma todennäköisesti väittäisi, että meidän on päästävä asian ytimeen. Tämä ei kuitenkaan ole asia, jonka jokainen autonvalmistaja ja itseajava teknologiayritys voi päättää yksin. Tarvitaan suurempaa yhteiskunnallista keskittymistä, jotta tämä voidaan selvittää laajasti.

Yhteenveto

Diehard AI -kehittäjät suhtautuvat usein skeptisesti siihen, mitä he pitävät muotina tai pörröisenä hölynpölynä. Minulla on ollut monia tekoälyteknikkoja, jotka ovat kysyneet minulta jyrkän ja jyrkän kysymyksen ylimielisessä ja epäilevässä sävyssä tästä kasvavasta kiinnostuksesta ihmiskeskeistä tekoälyä (HCAI) kohtaan.

He kysyvät tätä: Missä naudanliha on HCAI:ssa?

Vastaukseni on, että liha, perunat ja jälkiruoka löytyvät oivalluksesta, että ihmiskeskeinen lähestymistapa tekoälyyn antaa meille paremmat mahdollisuudet saada tekoäly menestymään ja siitä tulee kaikkialla oleva panos yhteiskunnalle. Ne, jotka haluavat sen sijaan nojautua tekniikkakeskeiseen lähestymistapaan ja pysyä siinä, huomaavat todennäköisesti, että heidän luomansa tekoäly on täysin ongelmallinen ja yhteiskunta tulee siitä todella suuttumaan. Päitä tippuu. Tekoäly voidaan hylätä teknisenä ihmeenä ja siitä voi tulla ilkeä hylkiö.

Äänestän äänekkäästi jotain ihmiskeskeistä ajattelua kohti ihmiskeskeisyyttä tekoälyn suhteen.