Tekoälyn etiikka huutaa kasvavasta kuuman perunan oireyhtymästä, jota tekoälyntekijät yrittävät ilmeisesti välttää vastuuvelvollisuutta elämänsä määräävistä autonomisista järjestelmistään

Me kaikki tiedämme, että sinun on varmistettava, ettet päädy sananlaskun kuumaan perunaan.

Kuuman perunagambitin juuret näyttävät jäljittävän ainakin 1800-luvun lopulle, jolloin sytytettyjä kynttilöitä sisältävä salipeli sai pallon pyörimään. Ihmiset istuisivat tyypillisesti puisten tuolien sarjassa, jotka olivat suhteellisen vierekkäin ja pelasivat tuolloin täysin kiihottavaa peliä. Pelaajat ojensivat sytytettyä kynttilää ihmiseltä ihmiselle, ja se edusti sitä, mitä me myöhemmin päätimme ilmaista kynttilän luovuttamiseksi. kuuma peruna.

Oli tapana, että jokaisen ihmisen piti puhua ääneen suosittu riimi, ennen kuin he saattoivat siirtää asteittain palavaa kynttilää eteenpäin. Riimi meni ilmeisesti näin:

”Jack on elossa ja todennäköisesti elää;

Jos hän kuolee käteesi, sinulla on menetys, jonka annat."

Tämä riimillinen kappale antaisi oletettavasti kynttilän hetken jatkaa palamista kohti lopullista päätöstään. Se, joka jäi jumiin kynttilän kanssa hallussaan luonnollisen sammutuksen jälkeen, oli se, joka hävisi ottelun (pun!).

Riimissä ilmoitettujen sanojen mukaan häviäjän täytyi maksaa "menetys" ja näin ollen hänen oli yleensä poistuttava kaikista pelin lisäkierroksista. Tämä voitaisiin sitten yhdistää siihen, mitä me nykyään pidämme arkipäiväisinä musiikkituoleina, niin että kierroksen hävinnyt henkilö ei enää osallistuisi seuraaviin kierroksiin (ikään kuin musiikki pysähtyisi ja hän ei olisi saanut vapaata paikkaa). Lopulta jäljelle jää vain kaksi henkilöä, jotka ohittivat sytytettyä kynttilää ja sanoivat riimin, kunnes lopullinen voittaja selvisi lopullisessa sammutuksessa.

Saatat ihmetellä, miksi emme enää pelaa tätä peliä sytytetyllä kynttilällä, ja miksi me sen sijaan yleensä kutsumme sitä kuumaksi perunaksi sen sijaan, että kuvattaisiin sitä "sytytettynä kynttilänä". Tutkijat ovat keksineet monia teorioita siitä, kuinka tämä vähitellen tapahtui. Historia näyttää hämärältä ja epäselvältä sen suhteen, miten asiat kehittyivät tässä asiassa. Luulen, että voimme olla helpottuneita siitä, että sytytettyjä kynttilöitä ei yleensä käytetä tällä tavalla, koska mahdollisuudet, että jokin menee tuntuvasti pieleen, vaikuttaisi erittäin huolestuttavalta (joku pudottaa kynttilän ja sytyttää tulen tai joku palaa kynttilästä, kun sitä ojennetaan toiselta pelaajalta jne.).

Mitä tulee kuumaan perunaan mahdollisena sytytetyn kynttilän korvikkeena, voit yleisesti väittää, että peruna on yleisesti ottaen jonkin verran turvallisempi. Ei avotulta. Ei sulavaa vahaa. Perunoiden mahdollinen käyttö tässä yhteydessä on se, että niiden tiedetään säilyttävän helposti lämpöä, kun ne on lämmitetty. Voit levittää perunaa ja se pysyy kuumana jonkin aikaa. Oletetaan, että sen päättäminen, milloin kuuma peruna ei ole enää kuuma ja sen sijaan luokitellaan kylmäksi, olisi kiihkeästi kiistanalainen ehdotus.

Tietenkin sananlaskun kuuma peruna on nykyään enemmän erillinen näkökohta. Kaikki, mikä on luokiteltu kuumaksi perunaksi, on yleensä tosissaan eroon laadukasta. Et halua pitää kuumaa perunaa kädessäsi. Haluat varmistaa, että se menee jonnekin muualle. Jossain määrin et ehkä ole liian huolissaan siitä, minne se menee, yksinkertaisesti siitä, että se ei ole enää hallussasi.

Vaikutat melko tunteelta, jos mahdollisesti ojennat kuuman perunan rakkaalle ystävälle tai vastaavalle tuttavalle. Tämä vaikuttaisi täysin järjettömältä. Ehkä etsi joku muu tai jonnekin muualle tuo kuuma peruna, jos voit tehdä niin. Epätoivoinen toimenpide saattaa olla kuuman perunan pakottaminen ystävällisen kollegan päälle, mutta toivottavasti tämä tehdään vain viimeisenä keinona.

Kolikon toinen puoli on, että saatat iloita luovuttaessasi kuuman perunan jollekin, josta et pidä tai jolle haet kostoa. Kuuma peruna voi toki olla lähes loistavan kätevä, jos aiot alittaa sinua huonosti kohdellutta henkilöä. Anna heidän keksiä, mitä tehdä kuumalle perunalle. Hyvää eroa perunalle ja huonoa onnea henkilölle, jolle olet sen merkinnyt.

Kuuman perunan skenaariossa, jossa on mukana vain kaksi henkilöä, on mahdollisuus nopeaan edestakaisin kiistaan ​​siitä, kumpi henkilö pitää hallussaan epämiellyttävää ja ei-toivottua esinettä. Esimerkiksi minä luovutan kuuman perunan sinulle, ja sinä annat sen kiireesti takaisin minulle. Olettaen, että meidän ei tarvitse julistaa lastenlaulua jokaisen kanavanvaihdon välillä, voimme melkein vain kulkea perunaa pitkin niin nopeasti kuin käsivarremme sallivat.

Saatat olla utelias tietämään, miksi päädyin sukeltamaan syvästi kunnioitettuun ja usein siteerattuihin kuumaan perunaan.

Tässä on miksi.

Osoittautuu, että kuumaa perunaa käytetään yhä enemmän tekoälyn (AI) alalla.

Suurin osa ihmisistä ei tiedä siitä mitään. He eivät ole koskaan kuulleet siitä. He ovat täysin tietämättömiä siitä, mitä se on. Edes monet tekoälykehittäjät eivät ole tietoisia asiasta. Siitä huolimatta se on olemassa ja näyttää tottuvan todella kyseenalaisiin olosuhteisiin, erityisesti elämän tai kuoleman olosuhteisiin liittyvissä tapauksissa.

Viittaan tähän AI Kuuman perunan syndrooma.

Tämän oireyhtymän taustalla on monia vakavia seurauksia, ja meidän on varmistettava, että laitamme tekoälyn eettiset ajattelurajat päälle ja pohdimme, mitä pitäisi tehdä. On raitistavia eettisiä näkökohtia. Niillä on väistämättä myös merkittäviä oikeudellisia seurauksia (jotka eivät ole vielä saavuttaneet yhteiskunnallista näkyvyyttä, vaikka ennustan niiden pian saavuttavan). Jatkuva ja laaja kattaukseni tekoälyn etiikkaan, eettiseen tekoälyyn ja juridisiin tekoälyongelmiin, katso linkki tähän ja linkki tähän, vain muutamia mainitakseni.

Puretaan pakkauksesta AI Hot Potato -syndrooma.

Kuvittele tekoälyjärjestelmä, joka toimii yhdessä ihmisen kanssa. Tekoäly ja ihminen ohittavat jonkin käynnissä olevan toiminnan hallinnan siten, että toisinaan ihminen hallitsee, kun taas toisinaan tekoäly hallitsee. Tämä voidaan aluksi tehdä sanommeko hyvätapaisella tai järkevällä tavalla. Eri syistä, joita käsittelemme hetken, tekoäly saattaa laskennallisesti varmistaa, että ohjaus on kiireesti siirrettävä ihmiselle.

Tämä on kuuma peruna joka vaarantaa elämän todellisessa maailmassa sen sijaan, että se toimisi vain opettavaisena lasten leikkinä.

Ongelmana hallinnan nopeassa siirtymisessä tekoälyltä ihmiselle on, että tämä voidaan tehdä järkevällä tavalla tai se voidaan saavuttaa melko kohtuuttomasti. Jos ihminen ei erityisesti odota luovutusta, tämä on todennäköisesti ongelma. Jos ihminen on yleisesti ottaen ok hallinnan luopumisen kanssa, luovutuksen taustalla olevat olosuhteet voivat olla pelottavia, kun ihmiselle ei anneta riittävästi aikaa tai ei ole riittävästi tietoinen siitä, miksi ohjaus pakotetaan hänen ihmiskäsiinsä.

Tutkimme esimerkkejä siitä, kuinka tämä voi aiheuttaa hengen tai kuoleman vaaran ihmiselle ja mahdollisesti muille lähellä oleville ihmisille. Se on vakava asia. Kausi, piste.

Ennen kuin perehdyt joihinkin villiin ja villallisiin näkökohtiin, jotka ovat taustalla AI Hot Potato -syndrooma, esitellään joitain muita perusteita erittäin olennaisista aiheista. Meidän täytyy sukeltaa lyhyesti tekoälyn etiikkaan ja erityisesti koneoppimisen (ML) ja syväoppimisen (DL) tuloon.

Saatat olla hämärästi tietoinen siitä, että yksi tämän päivän kovimmista äänistä tekoälyalalla ja jopa tekoälykentän ulkopuolella on huutaminen eettisen tekoälyn suuremman vaikutelman puolesta. Katsotaanpa, mitä tarkoittaa viitata tekoälyn etiikkaan ja eettiseen tekoälyyn. Tämän lisäksi tutkimme, mitä tarkoitan puhuessani koneoppimisesta ja syvästä oppimisesta.

Eräs tietty AI Ethics -segmentti tai osa, joka on saanut paljon mediahuomiota, koostuu tekoälystä, jossa on epäsuotuisia ennakkoluuloja ja epätasa-arvoa. Saatat olla tietoinen siitä, että kun uusin tekoälyn aikakausi alkoi, vallitsi valtava innostus siitä, mitä jotkut nykyään kutsuvat. AI Hyvä. Valitettavasti aloimme todistaa tuon purskahtavan jännityksen kannoilla AI huono. Esimerkiksi useiden tekoälyyn perustuvien kasvojentunnistusjärjestelmien on paljastettu sisältävän rotu- ja sukupuoliharhaa, joista olen keskustellut osoitteessa linkki tähän.

Pyrkimykset taistella vastaan AI huono ovat aktiivisesti käynnissä. Paitsi äänekäs juridinen väärinkäytösten hillitsemiseen tähtäävät pyrkimykset omaksua tekoälyn etiikka tekoälyn ilkeyden korjaamiseksi. Ajatus on, että meidän pitäisi ottaa käyttöön ja tukea keskeisiä eettisiä tekoälyn periaatteita tekoälyn kehittämisessä ja levittämisessä tehden näin alentaaksemme AI huono ja samanaikaisesti julistaa ja edistää parempaa AI Hyvä.

Tähän liittyvään ajatukseen, kannatan tekoälyn käyttämistä osana tekoälyongelmien ratkaisua ja tulen torjumista tulella tällä ajattelutavalla. Voisimme esimerkiksi upottaa eettisiä tekoälykomponentteja tekoälyjärjestelmään, joka valvoo, kuinka muu AI tekee asioita ja saa siten mahdollisesti kiinni reaaliajassa kaikki syrjivät toimet, katso keskusteluni osoitteessa linkki tähän. Meillä voisi olla myös erillinen tekoälyjärjestelmä, joka toimii eräänlaisena AI Ethics -monitorina. Tekoälyjärjestelmä toimii valvojana, joka seuraa ja havaitsee, kun toinen tekoäly on menossa epäeettiseen kuiluun (katso analyysini tällaisista ominaisuuksista linkki tähän).

Hetken kuluttua kerron teille joitain tekoälyn etiikan taustalla olevia yleisiä periaatteita. Tällaisia ​​listoja kelluu siellä täällä paljon. Voisi sanoa, että ei ole vielä olemassa yksittäistä luetteloa yleismaailmallisesta vetovoimasta ja yhteisymmärryksestä. Se on ikävä uutinen. Hyvä uutinen on, että ainakin AI Ethics -luetteloita on helposti saatavilla ja ne ovat yleensä melko samanlaisia. Kaiken kaikkiaan tämä viittaa siihen, että eräänlaisen perustellun lähentymisen avulla löydämme tiemme kohti yleistä yhteneväisyyttä siitä, mistä tekoälyn etiikka koostuu.

Käydään ensin lyhyesti läpi joitakin yleisiä eettisiä tekoälyohjeita havainnollistaaksemme, minkä pitäisi olla olennaista jokaiselle tekoälyä luovalle, harjoittelevalle tai käyttävälle.

Esimerkiksi, kuten Vatikaani totesi Rooma kutsu tekoälyn etiikkaan ja kuten olen käsitellyt perusteellisesti osoitteessa linkki tähän, nämä ovat heidän tunnistamansa kuusi ensisijaista tekoälyn eettistä periaatetta:

• Avoimuus: Periaatteessa tekoälyjärjestelmien on oltava selitettävissä
• sisällyttäminen: Kaikkien ihmisten tarpeet on otettava huomioon, jotta kaikki voivat hyötyä ja kaikille yksilöille tarjotaan parhaat mahdolliset olosuhteet ilmaista itseään ja kehittyä.
• vastuu: Tekoälyn käyttöä suunnittelevien ja ottavien on edettävä vastuullisesti ja läpinäkyvästi
• Puolueettomuus: Älä luo puolueellisuutta tai toimi sen mukaan turvaten siten oikeudenmukaisuutta ja ihmisarvoa
• Luotettavuus: Tekoälyjärjestelmien tulee pystyä toimimaan luotettavasti
• Turvallisuus ja yksityisyys: Tekoälyjärjestelmien on toimittava turvallisesti ja kunnioitettava käyttäjien yksityisyyttä.

Kuten Yhdysvaltain puolustusministeriö (DoD) totesi Tekoälyn käytön eettiset periaatteet ja kuten olen käsitellyt perusteellisesti osoitteessa linkki tähän, nämä ovat heidän kuusi ensisijaista tekoälyn eettistä periaatetta:

• Vastaava: DoD-henkilöstö käyttää asianmukaista harkintaa ja huolellisuutta samalla kun he ovat vastuussa tekoälyominaisuuksien kehittämisestä, käyttöönotosta ja käytöstä.
• oikeudenmukainen: Osasto ryhtyy tietoisiin toimiin minimoidakseen tahattoman harhan tekoälyominaisuuksissa.
• jäljitettävissä: Osaston tekoälyvalmiuksia kehitetään ja otetaan käyttöön siten, että asiaankuuluvalla henkilöstöllä on asianmukainen ymmärrys tekoälyvalmiuksiin sovellettavista teknologiasta, kehitysprosesseista ja toimintamenetelmistä, mukaan lukien avoimet ja tarkastettavat menetelmät, tietolähteet sekä suunnittelumenettely ja dokumentaatio.
• Luotettava: Osaston tekoälyominaisuuksilla on selkeät, tarkasti määritellyt käyttötarkoitukset, ja tällaisten ominaisuuksien turvallisuus, turvallisuus ja tehokkuus testataan ja varmistetaan määritellyissä käyttötarkoituksissa niiden koko elinkaaren ajan.
• hallinnoitavissa: Osasto suunnittelee ja suunnittelee tekoälyvalmiuksia täyttämään niille aiotut toiminnot samalla kun sillä on kyky havaita ja välttää tahattomia seurauksia sekä kyky kytkeä irti tai deaktivoida käyttöönotetut järjestelmät, jotka osoittavat tahatonta toimintaa.

Olen myös keskustellut erilaisista tekoälyn eettisten periaatteiden kollektiivisista analyyseistä, mukaan lukien tutkijoiden laatiman joukon, joka tutki ja tiivisti lukuisten kansallisten ja kansainvälisten tekoälyn eettisten periaatteiden olemusta artikkelissa "The Global Landscape Of AI Ethics Guidelines" (julkaistu) sisään luonto), ja jota kattamani tutkitaan osoitteessa linkki tähän, joka johti tähän Keystone-luetteloon:

• Läpinäkyvyys
• Oikeus ja oikeudenmukaisuus
• Ei-ilkeäisyys
• vastuu
• yksityisyys
• hyväntekeväisyys
• Vapaus ja autonomia
• Luottamus
• kestävyys
• arvokkuus
• Solidaarisuus

Kuten saatat suoraan arvata, näiden periaatteiden taustalla olevien yksityiskohtien selvittäminen voi olla erittäin vaikeaa. Vielä enemmän, pyrkimys muuttaa nämä laajat periaatteet joksikin täysin konkreettiseksi ja riittävän yksityiskohtaiseksi käytettäväksi tekoälyjärjestelmien luomisessa on myös kova pähkinä. Kokonaisuudessaan on helppo heiluttaa käsin siitä, mitä tekoälyn eettiset ohjeet ovat ja miten niitä yleensä tulisi noudattaa, kun taas tekoälykoodauksessa on paljon monimutkaisempi tilanne, kun tien kohtaamisen täytyy olla todellinen kumi.

Tekoälykehittäjien tulee hyödyntää tekoälyn eettisiä periaatteita sekä tekoälykehitystyötä hallinnoivien ja jopa tekoälyjärjestelmien ylläpitoa tekevien periaatteiden käyttöä. Kaikki sidosryhmät koko tekoälyn kehityksen ja käytön elinkaaren aikana katsotaan eettisen tekoälyn vakiintuneiden normien mukaisesti. Tämä on tärkeä kohokohta, koska tavallinen oletus on, että "vain koodaajien" tai tekoälyn ohjelmoivien on noudatettava tekoälyn etiikkaa. Kuten aiemmin todettiin, tekoälyn suunnittelu ja toteuttaminen vaatii kylän, ja koko kylän on oltava perehtynyt tekoälyn etiikkaan ja noudattaa niitä.

Varmistetaan myös, että olemme samalla sivulla nykypäivän tekoälyn luonteesta.

Nykyään ei ole aistivaa tekoälyä. Meillä ei ole tätä. Emme tiedä, onko aistillinen tekoäly mahdollista. Kukaan ei voi osuvasti ennustaa, saavutammeko aistillisen tekoälyn, eikä syntyykö sentientti tekoäly jotenkin ihmeellisesti spontaanisti laskennallisen kognitiivisen supernovan muodossa (kutsutaan yleensä singulaariseksi, katso artikkelini osoitteessa linkki tähän).

Tekoälytyyppi, johon keskityn, koostuu tuntemattomasta tekoälystä, joka meillä on nykyään. Jos haluamme villisti spekuloida tunteva AI, tämä keskustelu voisi mennä radikaalisti eri suuntaan. Tuntevan tekoälyn oletetaan olevan ihmislaatuista. Sinun on otettava huomioon, että tunteva tekoäly on ihmisen kognitiivinen vastine. Enemmänkin, koska jotkut spekuloivat, että meillä saattaa olla superälykäs tekoäly, on mahdollista, että tällainen tekoäly voisi päätyä älykkäämmäksi kuin ihmiset (superälykkään tekoälyn mahdollisuudesta tutkimisestani, katso ks. kattavuus täällä).

Pidetään asiat maanläheisemmin ja harkitaan nykypäivän laskennallista tuntematonta tekoälyä.

Ymmärrä, että nykypäivän tekoäly ei pysty "ajattelemaan" millään tavalla ihmisen ajattelun tasolla. Kun olet vuorovaikutuksessa Alexan tai Sirin kanssa, keskustelukyvyt saattavat näyttää ihmisiltä, ​​mutta tosiasia on, että se on laskennallista ja siitä puuttuu ihmisen kognitio. Tekoälyn uusin aikakausi on hyödyntänyt laajasti koneoppimista (ML) ja Deep Learningiä (DL), jotka hyödyntävät laskennallista kuvioiden täsmäämistä. Tämä on johtanut tekoälyjärjestelmiin, jotka näyttävät olevan ihmisen kaltaisia ​​taipumuksia. Sitä vastoin nykyään ei ole yhtään tekoälyä, joka näyttäisi olevan tervettä järkeä, eikä siinä ole mitään vankan ihmisen ajattelun kognitiivista ihmettelyä.

ML/DL on eräänlainen laskennallinen mallisovitus. Tavallinen lähestymistapa on, että kokoat dataa päätöksentekotehtävästä. Syötät tiedot ML/DL-tietokonemalleihin. Nämä mallit pyrkivät löytämään matemaattisia malleja. Tällaisten mallien löytämisen jälkeen, jos niin on, tekoälyjärjestelmä käyttää niitä kohdatessaan uutta tietoa. Uutta dataa esitettäessä käytetään "vanhaan" tai historialliseen dataan perustuvia malleja nykyisen päätöksen tekemiseksi.

Luulen, että voit arvata mihin tämä on menossa. Jos ihmiset, jotka ovat tehneet kaavoja päätöksiä, ovat sisällyttäneet epäsuotuisia ennakkoluuloja, on todennäköistä, että tiedot heijastavat tätä hienovaraisella mutta merkittävällä tavalla. Koneoppimisen tai Deep Learningin laskennallinen mallinsovitus yrittää yksinkertaisesti matemaattisesti jäljitellä dataa vastaavasti. Tekoälyn luomassa mallintamisessa ei sinänsä näytä olevan tervettä järkeä tai muita tuntevia puolia.

Tekoälykehittäjät eivät myöskään välttämättä ymmärrä, mitä tapahtuu. ML/DL:n vaikeaselkoinen matematiikka saattaa vaikeuttaa nyt piilossa olevien harhojen paljastamista. Voit oikeutetusti toivoa ja odottaa, että tekoälykehittäjät testaisivat mahdollisesti hautautuneita harhoja, vaikka tämä onkin hankalampaa kuin miltä saattaa näyttää. On olemassa vahva mahdollisuus, että jopa suhteellisen laajalla testauksella ML/DL:n mallinsovitusmalleihin sisältyy edelleen harhaa.

Voisit hieman käyttää kuuluisaa tai pahamaineista sanontaa roskat sisään roskat ulos. Asia on siinä, että tämä muistuttaa enemmän harhoja, jotka infusoituvat salakavalasti tekoälyn upottautuessa harhaan. Tekoälyn päätöksenteko-algoritmi (ADM) on aksiomaattisesti täynnä epätasa-arvoa.

Ei hyvä.

Palataanpa keskittymään kuumaan perunaan ja sen mahdollisesti tuhoiseen käyttöön tekoälyssä. On myös pirullisuus, joka voi piilee myös kuumassa perunajutussa.

Nopea yhteenveto kuuman perunagambitin tekoälyn ilmentymisestä:

• Tekoäly ja ihminen silmukassa työskentelevät yhdessä tietyn tehtävän parissa
• Tekoäly hallitsee osan ajasta
• Silmukassa oleva ihminen hallitsee osan ajasta
• Tekoälyn ja ihmisen välillä on jonkinlainen kanavanvaihtoprotokolla
• Kanavanvaihto voi olla hyvin näkyvä, tai se voi olla hienovarainen ja melkein piilotettu
• Tämä kaikki tapahtuu yleensä reaaliaikaisessa kontekstissa (jotain on aktiivisesti meneillään)

Pääpaino tässä on silloin, kun kanavanvaihto on pohjimmiltaan kuuma peruna ja tekoäly päättää yhtäkkiä luovuttaa hallinnan ihmiselle. Huomaa, että käsittelen tässä myöhemmin myös toista puolta, nimittäin ihmisen johtamisen luovuttamista tekoälylle kuumana perunana.

Mieti ensin, mitä voi tapahtua, kun tekoäly suorittaa kuuman perunan kanavanvaihdon silmukassa olevalle ihmiselle.

Aion kutsua ihmistä silmukan ihmiseksi, koska sanon, että ihminen on jo olennainen osa käynnissä olevaa toimintaa. Meillä voi olla muitakin skenaarioita, jolloin tekoäly antaa kuuman perunan ihmiselle, joka ei ollut erityisen mukana toiminnassa, ehkä koko asialle tuntematon, joten muistakaa, että tästä miljööstä on olemassa muitakin makuja.

Jos ojentaisin sinulle kuuman perunan ja haluaisin tehdä sen järkevällä tavalla, ehkä ilmoittaisin sinulle, että aion luovuttaa asiat sinulle. Lisäksi yrittäisin tehdä tämän, jos uskoisin vilpittömästi, että sinulla on kuuma peruna kaiken kaikkiaan parempi kuin minulla. Laskin mielessäni, pitäisikö sinun saada se vai pitäisikö minun jatkaa sitä.

Kuvittele koripallopeli. Sinä ja minä olemme samassa joukkueessa. Toivottavasti työskentelemme yhdessä yrittääksemme voittaa pelin. Kellossa on enää muutama sekunti jäljellä ja meidän on kipeästi tehtävä maaleja, muuten häviämme pelin. Saavun asentoon ottaakseni viimeisen laukauksen. Pitäisikö minun tehdä niin, vai pitäisikö minun syöttää pallo sinulle ja sinun on otettava viimeinen laukaus?

Jos olen parempi koripalloilija ja minulla on suurempi mahdollisuus upottaa laukaus, minun pitäisi luultavasti pitää koripallo ja yrittää tehdä laukaus. Jos olet parempi koripalloilija kuin minä, minun pitäisi luultavasti syöttää pallo sinulle ja antaa sinun ottaa laukaus. Muut näkökohdat tulevat esiin, kuten kumpi meistä on paremmassa asemassa kentällä ottamaan laukauksen, sekä onko joku meistä uupunut, koska peli on melkein ohi ja saattaa olla kulunut eikä tasoltaan. heidän ammustaan. Jne.

Kaikkien näiden tekijöiden keskellä ahdistavaa hetkeä minun on päätettävä, pidänkö palloa vai syötänkö sen sinulle.

Ymmärrä innokkaasti, että tässä skenaariossa kello on ratkaiseva. Sinä ja minä kohtaamme molemmat erittäin oikea-aikaisen vastauksen. Koko peli on nyt linjalla. Kun kello loppuu, olemme joko voittaneet, koska joku meistä osui, tai olemme hävinneet, koska emme upottaneet sitä. Voisin ehkä olla sankari, jos upotan korin. Tai voit olla sankari, jos syötän pallon sinulle ja upotat sen.

Tässä on myös omat puolensa tai huonot puolensa. Jos pidän pallon ja missaan laukauksen, kaikki saattavat syyttää minua vuohiksi tai koko joukkueen pettämisestä. Toisaalta, jos syötän pallon sinulle ja missaat laukauksen, sinusta tulee vuohi. Tämä saattaa olla täysin epäreilua sinua kohtaan, koska pakotin sinut olemaan viimeinen ampuja ja ottamaan viimeisen laukauksen.

Tietäisit varmasti, että laitoin sinut tuohon kiusalliseen asemaan. Ja vaikka kaikki näkivät minun tekevän tämän, heidän on pakko keskittyä vain viimeiseen henkilöön, jolla oli viimeinen pallo. Luistelisin ehkä vapaasti. Kukaan ei muistaisi, että syötin sinulle pallon viime hetkellä. He muistaisivat vain, että sinulla oli pallo ja hävisit pelin, koska et tehnyt laukausta.

Okei, joten syötän pallon sinulle.

Miksi tein niin?

Ei ole helppoa tapaa määrittää tätä.

Todellinen tarkoitukseni saattaa olla se, etten halunnut jäädä jumiin vuohiksi, joten päätin painottaa sinua. Kun minulta kysyttiin, miksi syötin pallon, voisin väittää, että tein niin, koska luulin sinun olevan minua parempi ampuja (mutta teeskennetään, että en usko sitä ollenkaan). Tai luulin sinun olevan paremmassa asemassa kuin minä (oletetaan, etten minäkään ajatellut tätä). Kukaan ei koskaan tietäisi, että yritin vain välttää juuttumista kuumaan perunaan.

Ulkopuolelta katsottuna kukaan ei voinut helposti erottaa todellista syytäni syöttää pallo sinulle. Ehkä tein niin viattomasti, koska uskoin sinun olevan parempi pelaaja. Se on yksi kulma. Ehkä tein niin, koska en halunnut kaikkien kutsuvan minua häviäjäksi mahdollisen laukauksen ohittamisesta, joten sain pallon sinulle ja ajattelin, että se oli valtava helpotus minulle. Se, välitinkö sinusta aidosti, on täysin eri asia.

Voimme nyt lisätä joitain lisätietoja tekoälyyn liittyvään hot perunaan:

• Tekoäly päättää antaa hallinnan silmukassa olevalle ihmiselle viime hetkellä
• Viimeinen hetki saattaa olla jo kaukana minkään ihmisen toteuttamiskelpoisen toiminnan ulkopuolella
• Silmukassa olevalla ihmisellä on hallinta, mutta jossain määrin väärin johtuen luovutuksen ajoituksesta

Mieti tätä hetki.

Oletetaan, että tekoälyjärjestelmä ja silmukassa oleva ihminen työskentelevät yhdessä reaaliaikaisessa tehtävässä, joka sisältää suuren koneen käyttämisen tehtaalla. Tekoäly havaitsee, että koneisto menee pieleen. Sen sijaan, että tekoäly jatkaisi hallinnan säilyttämistä, tekoäly luovuttaa äkillisesti hallinnan ihmiselle. Tämän tehtaan koneet ovat kovaa vauhtia menossa kohti puhdasta sekasortoa, eikä ihmisellä ole enää aikaa ryhtyä korjaaviin toimiin.

Tekoäly on luovuttanut kuuman perunan ihmissilmukan käsiin ja tukkinut ihmisen todellisella kuumalla perunalla niin, että olosuhteet eivät ole enää inhimillisesti mahdottomia selviytyä. Tag, olet se, menee vanhaan linjaan pelatessasi tagipelejä lapsena. Sanotaanko, että ihminen on merkitty sotkulla.

Aivan kuten esimerkkini koripallo-ottelusta.

Miksi tekoäly teki luovutuksen?

No, toisin kuin silloin, kun ihminen äkillisesti luovuttaa koripallon ja heiluttaa sitten villiä kättä miksi he tekivät niin, voimme yleensä tutkia tekoälyohjelmointia ja selvittää, mikä johti siihen, että tekoäly teki tällaisen kuuman perunan luovutuksen.

Tekoälykehittäjä on saattanut päättää etukäteen, että kun tekoäly joutuu todella pahaan tilanteeseen, tekoälyn pitäisi edetä antamaan hallinta silmukassa olevalle ihmiselle. Tämä vaikuttaa täysin järkevältä ja järkevältä. Ihminen saattaa olla "parempi pelaaja" kentällä. Ihminen voi käyttää kognitiivisia kykyjään ratkaistakseen minkä tahansa käsillä olevan ongelman. Tekoäly on mahdollisesti saavuttanut ohjelmointinsa rajat, eikä se voi tehdä mitään muuta rakentavaa tilanteessa.

Jos tekoäly olisi suorittanut luovutuksen minuutti jäljellä ennen kuin koneisto meni kablamiin, ehkä minuutti heads-up on tarpeeksi pitkä, jotta silmukassa oleva ihminen voi korjata asiat. Oletetaan kuitenkin, että tekoäly teki vaihdon kolme sekuntia jäljellä. Luuletko, että ihminen voi reagoida tuossa ajassa? Epätodennäköistä. Joka tapauksessa, jotta asiat olisivat vielä vähemmän kiivaita, oletetaan, että kanavanvaihto silmukassa olevalle ihmiselle tapahtui muutaman nanosekunnin kuluttua (nanosekunti on sekunnin miljardisosa, mikä verrattuna siihen on nopea silmänräpäys). silmä on hidas 300 millisekuntia pitkä).

Voisiko ihmissilmukassa oleva ihminen reagoida riittävästi, jos tekoäly on antanut kuuman perunan, kun sekuntia on jäljellä pelkkä teini-ikäinen murto-osa tehdäkseen mitään julkista toimintaa?

Ei.

Kanavanvaihto on enemmän valhetta kuin se muuten näyttäisi olevan.

Todellisuudessa kanavanvaihto ei tee mitään hyvää, kun kyse on vakavasta ahdingosta. Tekoäly on puristanut ihmisen muuttumaan vuohiksi.

Jotkut tekoälykehittäjät eivät ajattele tätä, kun he suunnittelevat tekoälyään. He eivät (väärin) autuaasti ota huomioon, että aika on ratkaiseva tekijä. He vain valitsevat ohjelmoinnin luovutuksen, kun asiat muuttuvat vaikeaksi. Kun tekoälyllä ei ole enää mitään rakentavaa tekemistä, heitä pallo ihmispelaajalle.

Tekoälykehittäjät eivät ehkä ajattele tätä syvällisesti tekoälyä koodaaessaan, ja sitten he usein epäonnistuvat kaksois epäonnistumalla tekemättä testejä, jotka tuovat tämän esiin. Heidän testauksensa osoittaa vain sen, että tekoäly "velvollisuusti" suoritti kanavanvaihdon, kun tekoälyn rajat saavutettiin. Voila, tekoälyn oletetaan olevan hyvä ja käyttövalmis. Testissä ei ollut varsinaista ihmistä, joka oli asetettu tuohon kadehdittavaan ja mahdottomaan asemaan. Ei ollut kunnollista ihmissilmukan testausprosessia, joka olisi voinut vastustaa sitä, että tämä silmänräpäys viimeisellä hetkellä tai jopa viimeisen hetken jälkeen ei tehnyt heille juurikaan tai ei ollenkaan hyvää.

Tietenkin jotkut tekoälykehittäjät ovat viisaasti pohtineet tämän tyyppistä ahdinkoa.

Käsityksen jälkeen he jatkavat ohjelmoimaan tekoälyä toimimaan tällä tavalla.

Miksi?

Koska ei ole muuta tekemistä, ainakaan heidän mielessään. Kun kaikki muu epäonnistuu, ohjaa käsiä ihmiselle. Ehkä ihme tapahtuu. Pääasia kuitenkin on, että tämä ei ole AI-kehittäjän huolenaihe, ja he antavat ihmiselle viimeisen mahdollisuuden selviytyä käsillä olevasta sotkusta. Tekoälykehittäjä pesee kätensä kaikesta, mitä sen jälkeen tapahtuu.

Haluan selventää, että tekoälykehittäjät eivät ole ainoita näiden hot potato -mallien suunnittelijoita. On joukko muita sidosryhmiä, jotka tulevat pöytään tätä varten. Ehkä järjestelmäanalyytikko, joka teki eritelmien ja vaatimusten analyysin, oli todennut, että tämä on tekoälyn tarkoitus. Mukana olleet tekoälykehittäjät loivat tekoälyn vastaavasti. Tekoälyprojektipäällikkö on saattanut suunnitella tämän. Tekoälykehitystä valvovat johtajat ja johto ovat saattaneet suunnitella tämän.

Jokainen tekoälykehityksen koko elinkaaren ajan on voinut viedä samaa kuuman perunan mallia eteenpäin. Huomasiko joku sen, emme voi varmuudella sanoa. Jos he olisivat huomanneet, heidät olisi saatettu leimata vastustajiksi ja siirtää sivuun. Muut olisivat saaneet saada asian tietoonsa, mutta he eivät ymmärtäneet seurauksia. Heidän mielestään se oli tekninen yksityiskohta, joka ei kuulunut heidän soveltamisalaan.

Lisään tähän epäviralliseen "syiden" luetteloon paljon ilkeämmän mahdollisuuden.

Tekoäly Hot Potato -syndroomaa käytetään joskus tarkoituksella, koska tekoälyn tekijät halusivat kiihkeästi väittää uskottavaan kiistämiseen.

Valmistaudu tähän tarinan osaan.

Tehdaskoneiston tapauksessa, joka menee sekaisin, on varmasti paljon sormella osoittamista siitä, kuka on vastuussa tapahtuneesta. Koneiden käytön kannalta meillä oli tekoälyjärjestelmä, joka teki niin ja meillä oli silmukassa oleva ihminen. Nämä ovat kaksi koripalloilijaamme, metaforisesti.

Kello oli käymässä alas ja koneet olivat kabuumin partaalla. Oletetaan, että sinä ja minä tiedämme, että tekoäly luovutti ihmissilmukan, jolloin ihmisellä ei ollut riittävästi aikaa ryhtyä riittäviin toimiin katastrofin korjaamiseksi tai välttämiseksi. Kukaan muu ei tajua, että näin tapahtui.

Tekoälyä valmistava yritys voi joka tapauksessa välittömästi ilmoittaa, että he eivät ole syyllisiä, koska ihminen hallitsi. Heidän moitteettomien tietojensa mukaan tekoäly ei ollut hallinnassa kabuumin aikaan. Ihminen oli. Siksi on selvää, että ihminen on syyllinen.

Valehteleeko tekoälyyritys pohjimmiltaan esittäessään tämän suoran väitteen?

Ei, he näyttävät puhuvan totta.

Kun heiltä kysyttiin, ovatko he varmoja siitä, että tekoäly ei ollut hallinnassa, yritys julisti äänekkäästi ja ylpeänä, että tekoäly ei ollut hallinnassa. He ovat dokumentoineet todisteita tästä väitteestä (olettaen, että tekoäly piti tapauksesta lokia). Itse asiassa tekoälyyritysten johtajat saattavat kohottaa kulmakarvojaan vastenmielisenä siitä, että joku haastaisi heidän rehellisyytensä tässä asiassa. He olisivat valmiita vannomaan pyhän valansa, että tekoäly oli emme hallinnassa. Silmukassa oleva ihminen hallitsi.

Luotan siihen, että näet kuinka harhaanjohtavaa tämä voi olla.

Kyllä, ihmiselle annettiin ohjaus. Teoriassa ihminen hallitsi. Tekoäly ei ollut enää hallinnassa. Mutta käytettävissä olevan ajoituksen ja ilmoitusten puute tekee tästä erittäin onton väitteen.

Tekoälytekijän näkökulmasta tämän kauneus olisi se, että harvat voisivat kyseenalaistaa esitetyt väitteet. Tekoälyn valmistaja ei välttämättä julkaise tapahtuman lokeja. Näin tekemällä vääristelty tilanne voi hävitä. Lokien väitetään olevan henkistä omaisuutta (IP) tai muuten omistusoikeutta ja luottamuksellista. Yritys todennäköisesti väittäisi, että jos lokit näytetään, se paljastaisi heidän tekoälynsä salaisen kastikkeen ja kuluttaisi heidän arvostetun IP-osoitteensa.

Kuvittele köyhän ihmisen ahdinko. He ovat ymmällään siitä, että kaikki syyttävät heitä siitä, että he antavat asioiden riistäytyä käsistä. Tekoäly "toimii oikein" ja luovutti hallinnan ihmiselle. Tämä saattoi olla se, mitä tekniset tiedot sanoivat tekevän (tosin taas tekniset tiedot olivat puutteellisia, koska niissä ei otettu huomioon ajoitus- ja toteutettavuustekijöitä). Lokit, joita ei ole julkaistu, mutta tekoälyn valmistaja väittää olevan rautapäällysteisiä, todistavat ehdottoman tosiasian, että tekoäly oli antanut ihmisen hallintaan.

Voit julistaa tämän säälittäväksi slam-dunkiksi hämmentyneelle ihmiselle, joka melkein varmasti kestää kaatumisen.

Todennäköisyys on, että vain jos tämä menee oikeuteen, tapahtumien todellisuus paljastuu. Jos älykkäät lailliset beaglit ovat tietoisia tämäntyyppisestä keikasta, he yrittäisivät hankkia lokit laillisesti. Heidän olisi hankittava asiantuntijatodistaja (jotain minä olin tehnyt silloin tällöin) lokien tulkitsemiseksi. Pelkät lokit eivät välttämättä riitä. Lokit voidaan kaavuttaa tai muuttaa tai tarkoituksella suunniteltu siten, että yksityiskohdat eivät näy selvästi. Sellaisenaan myös tekoälykoodiin on ehkä syytä perehtyä.

Sillä välin, koko tämän tuskallisen ja pitkän oikeudellisen löydösprosessin ajan, silmukassa oleva ihminen näyttäisi todella huonolta. Tiedotusvälineet maalasivat henkilön vastuuttomaksi, menettäneensä päänsä, epäonnistuivat ahkerasti, ja hänet pitäisi saattaa täysin vastuuseen. Mahdollisesti kuukausia tai vuosia tämän prosessin aikana tämä henkilö olisi edelleen se, jota kaikki osoittivat syyttävällä sormella. Haju ei ehkä koskaan poistu.

Muista myös, että tämä sama tilanne voi helposti toistua. Ja uudelleen. Olettaen, että tekoälyn valmistaja ei muuttanut tekoälyä, aina kun vastaava viime hetken tilanne ilmaantuu, tekoäly tekee tuon no-time-left handoffin. Voisi toivoa, että näitä tilanteita ei tapahdu usein. Niissä harvoissa tapauksissa, joissa se tapahtuu, silmukassa oleva ihminen on edelleen kätevä pudotusmies.

Se on pirullinen temppu.

Haluat ehkä väittää, että tekoälyn valmistaja ei ole tehnyt mitään väärää. He puhuvat totuutta. AI luopui hallinnasta. Sitten ihmisen katsottiin olevan hallinnassa. Nämä ovat tosiasiat. Siitä on turha kiistellä.

Olipa joku viisas ja kysyy vaikeita kysymyksiä ja vastaako tekoälytekijä näihin kysymyksiin suoraviivaisella tavalla, tämä näyttää tapahtuvan harvoin.

Kysymyksiä ovat:

• Milloin tekoäly luovutti silmukan ihmiselle?
• Millä ohjelmoidulla pohjalla tekoäly suoritti luovutuksen?
• Annettiinko silmukan ihmiselle riittävästi aikaa ottaa hallinta haltuunsa?
• Miten tekoäly suunniteltiin ja kehitettiin näitä ongelmia varten?
• Ja niin edelleen.

Jossain määrin siksi tekoälyn etiikka ja eettinen tekoäly ovat niin tärkeä aihe. Tekoälyn etiikan ohjeet saavat meidät pysymään valppaina. Tekoälyteknikot voivat toisinaan olla kiinnostuneita teknologiasta, erityisesti huipputekniikan optimoinnista. He eivät välttämättä ota huomioon suurempia yhteiskunnallisia seurauksia. Tekoälyn eettinen ajattelutapa ja sen integroiminen tekoälyn kehittämiseen ja harjoittamiseen on elintärkeää asianmukaisen tekoälyn tuottamiseksi, mukaan lukien (ehkä yllättäen tai ironisesti) arvioitaessa, kuinka tekoälyn etiikka otetaan käyttöön yrityksissä.

Tekoälyn eettisten ohjeiden yleisen soveltamisen lisäksi on vastaava kysymys, pitäisikö meillä olla lakeja säätelemään tekoälyn eri käyttötapoja. Liittovaltion, osavaltion ja paikallisen tason uudet lait koskevat tekoälyn suunnittelun laajuutta ja luonnetta. Pyrkimys tällaisten lakien laatimiseen ja säätämiseen on asteittaista. Tekoälyn etiikka toimii ainakin harkittuna pysähdyspaikkana, ja se sisällytetään lähes varmasti jossain määrin suoraan näihin uusiin lakeihin.

Huomaa, että jotkut väittävät jyrkästi, ettemme tarvitse uusia tekoälyä koskevia lakeja ja että nykyiset lakimme ovat riittäviä. Itse asiassa he varoittavat, että jos säädämme joitakin näistä tekoälylaeista, tapamme kultaisen hanhen hillitsemällä tekoälyn edistysaskeleita, jotka tarjoavat valtavia yhteiskunnallisia etuja.

Tämän painavan keskustelun tässä vaiheessa veikkaan, että kaipaat muita havainnollistavia esimerkkejä, jotka voisivat esitellä tätä aihetta. On olemassa erityinen ja varmasti suosittu joukko esimerkkejä, jotka ovat lähellä sydäntäni. Tekoälyn asiantuntijana, mukaan lukien eettiset ja oikeudelliset seuraukset, minua pyydetään usein tunnistamaan realistisia esimerkkejä, jotka tuovat esille tekoälyn eettisiä ongelmia, jotta aiheen jokseenkin teoreettinen luonne voidaan ymmärtää helpommin. Yksi mieleenpainuvimmista alueista, joka esittelee elävästi tämän eettisen tekoälyongelman, on tekoälyyn perustuvien todellisten itseohjautuvien autojen tulo. Tämä toimii kätevänä käyttötapana tai esimerkkinä aiheesta laajalle keskustelulle.

Tässä on sitten huomionarvoinen kysymys, jota kannattaa pohtia: Kertooko tekoälyyn perustuvien todellisten itseohjautuvien autojen tulo jotain tekoälyn Hot Potato -oireyhtymästä, ja jos on, mitä tämä esittelee?

Anna minun hetki purkaa kysymys.

Ensinnäkin, huomaa, että todellisessa itseajavassa autossa ei ole ihmiskuljettajaa. Muista, että todellisia itseohjautuvia autoja ajetaan tekoälyjärjestelmän kautta. Rattiin ei tarvita ihmiskuljettajaa, eikä myöskään ole mahdollista, että ihminen voisi ajaa ajoneuvoa. Katso kattava ja jatkuva kattamukseni autonomisista ajoneuvoista (AV) ja erityisesti itseohjautuvista autoista. linkki tähän.

Haluaisin selventää tarkemmin, mitä tarkoitetaan, kun viittaan todellisiin itse ajaviin autoihin.

Ymmärtäminen itse ajavien autojen tasoista

Selvyyden vuoksi todelliset itse ajavat autot ovat sellaisia, joissa tekoäly ajaa autoa kokonaan yksin eikä ajo-tehtävän aikana ole mitään apua.

Näitä kuljettamattomia ajoneuvoja pidetään tasoina 4 ja 5 (katso selitykseni osoitteessa tämä linkki täällä), kun taas autoa, joka edellyttää ihmiskuljettajan yhteistä ajoponnistusta, pidetään yleensä tasolla 2 tai 3. Autoja, jotka jakavat ajotehtävän, kuvataan puoliautonomisina ja sisältävät tyypillisesti erilaisia automaattiset lisäosat, joista käytetään nimitystä ADAS (Advanced Driver-Assistance Systems).

Tasolla 5 ei ole vielä todellista itseajavaa autoa, emmekä vielä edes tiedä, onko se mahdollista saavuttaa tai kuinka kauan sen saavuttaminen kestää.

Samaan aikaan tason 4 ponnistelut yrittävät vähitellen saada jonkin verran pitoa käymällä läpi erittäin kapeita ja valikoivia yleisiä tiekokeita, vaikka onkin kiistaa siitä, pitäisikö tämä testaus sallia sellaisenaan (olemme kaikki elämän tai kuoleman marsuja kokeessa tapahtuu valtateillämme ja sivuteillämme, jotkut väittävät, katso kattaukseni osoitteessa tämä linkki täällä).

Koska osittain itsenäiset autot vaativat ihmisen kuljettajan, tämäntyyppisten autojen omaksuminen ei ole selvästi erilainen kuin tavanomaisten ajoneuvojen ajaminen, joten sinänsä ei ole paljon uutta kattamaan niitä tästä aiheesta (tosin kuten näette hetkessä seuraavia pisteitä voidaan yleensä soveltaa).

Osittain itsenäisten autojen osalta on tärkeää, että kansalaisia ​​on varoitettava viime aikoina esiintyneestä häiritsevästä näkökulmasta, nimittäin siitä, että huolimatta ihmisten kuljettajista, jotka jatkavat videoiden lähettämistä itsensä nukahtamisesta tason 2 tai 3 autolle, , meidän kaikkien on vältettävä johtamasta harhaan uskoaan, että kuljettaja voi viedä huomionsa ajo-tehtävään ajon puoli-autonomisen auton kanssa.

Olet vastuussa ajoneuvon ajotoimista riippumatta siitä, kuinka paljon automaatiota voidaan heittää tasolle 2 tai 3.

Itseajavat autot ja tekoäly Hot Potato -oireyhtymä

Tason 4 ja tason 5 itseohjautuvissa ajoneuvoissa ajo-tehtävään ei tule inhimillistä kuljettajaa.

Kaikki matkustajat ovat matkustajia.

AI ajaa.

Yksi näkökohta, josta on keskusteltava välittömästi, merkitsee sitä, että nykypäivän tekoälyjärjestelmiin osallistuva tekoäly ei ole tunteva. Toisin sanoen tekoäly on kokonaisuudessaan tietokonepohjaisen ohjelmoinnin ja algoritmien joukko, eikä varmaankaan kykene perustelemaan samalla tavalla kuin ihmiset.

Miksi tämä korostetaan sitä, että tekoäly ei ole järkevä?

Koska haluan korostaa, että puhuessani tekoälyn ajo-järjestelmän roolista, en omista tekoälylle ihmisen ominaisuuksia. Huomaa, että nykyään on jatkuva ja vaarallinen taipumus antropomorfisoida tekoäly. Pohjimmiltaan ihmiset osoittavat ihmisen kaltaisen tuntemuksen nykyiselle tekoälylle huolimatta kiistattomasta ja kiistattomasta tosiasiasta, että sellaista tekoälyä ei vielä ole.

Tämän selvennyksen avulla voit kuvitella, että tekoälyn ajo-järjestelmä ei luonnostaan ​​jotenkin “tiedä” ajon puolia. Ajo ja kaikki siihen liittyvä on ohjelmoitava osaksi itseajoavan auton laitteistoa ja ohjelmistoa.

Sukelletaan lukemattomiin näkökohtiin, jotka tulevat pelaamaan tästä aiheesta.

Ensinnäkin on tärkeää ymmärtää, että kaikki AI-itse ajavat autot eivät ole samanlaisia. Jokainen autonvalmistaja ja itseajava teknologiayritys suunnittelee itse ajavia autoja. Sellaisenaan on vaikea antaa laajoja lausuntoja siitä, mitä tekoälyjärjestelmät tekevät tai eivät tee.

Lisäksi aina, kun todetaan, että tekoälyohjausjärjestelmä ei tee jotain tiettyä, tämä voi myöhemmin ohittaa kehittäjät, jotka itse ohjelmoivat tietokoneen tekemään juuri sen. AI -ajojärjestelmiä parannetaan ja laajennetaan asteittain. Nykyinen rajoitus ei välttämättä ole enää olemassa tulevassa iteraatiossa tai järjestelmän versiossa.

Toivon, että se tarjoaa riittävän litaania varoituksia taustalla, mitä aion kertoa.

Täysin autonomisissa ajoneuvoissa ei välttämättä ole mitään mahdollisuutta, että tekoälyn ja ihmisen välillä tapahtuisi yhteysvastuun vaihto, koska on mahdollista, ettei silmukassa ole ihmistä. Monien nykyajan itseohjautuvien autonvalmistajien pyrkimyksenä on poistaa ihmiskuljettaja kokonaan ajotehtävästä. Ajoneuvo ei sisällä edes ihmisten ulottuvilla olevia ajonhallintalaitteita. Siinä tapauksessa ihmiskuljettaja, jos hän on paikalla, ei voi osallistua ajotehtävään, koska heillä ei ole pääsyä mihinkään ajonhallintaan.

Joissakin täysin autonomisissa ajoneuvoissa jotkin mallit sallivat silti ihmisen olla liikkeessä, vaikka ihmisen ei tarvitse olla käytettävissä tai osallistua ajoprosessiin ollenkaan. Ihminen voi siis osallistua ajamiseen, jos henkilö niin haluaa. Tekoäly ei kuitenkaan ole missään vaiheessa riippuvainen siitä, että ihminen suorittaa ajotehtäviä.

Puoliautonomisten ajoneuvojen tapauksessa ihmiskuljettajan ja tekoälyn välillä on käsi kädessä suhde. Joissakin malleissa ihmiskuljettaja voi ottaa ajoohjaimet kokonaan haltuunsa ja olennaisesti estää tekoälyä osallistumasta ajoon. Jos ihmiskuljettaja haluaa palauttaa tekoälyn ajorooliin, hän voi tehdä niin, vaikka tämä joskus pakottaa ihmisen luopumaan ajoohjaimista.

Toinen puoliautonomisen toiminnan muoto tarkoittaisi, että ihmiskuljettaja ja tekoäly työskentelevät yhdessä tiimityöskentelyssä. Tekoäly ajaa ja ihminen ajaa. He ajavat yhdessä. Tekoäly saattaa jäädä ihmiselle. Ihminen saattaa tyytyä tekoälyyn.

Jossain vaiheessa tekoälyn ajojärjestelmä saattaa laskennallisesti varmistaa, että itseajava auto on menossa kestämättömään tilanteeseen ja että itseohjautuva ajoneuvo törmää.

Sivuhuomautuksena, jotkut asiantuntijat väittävät, että itseajavat autot ovat törmämättömiä, mikä on puhdasta hölynpölyä ja törkeää ja väärinpäin sanottavaa, katso uutisointini osoitteessa linkki tähän.

Jatkaen skenaariota itse ajavan auton ajamisesta kohti törmäystä tai kolariin, tekoälyn ajojärjestelmä voidaan ohjelmoida luovuttamaan ajo-ohjaimet ihmiskuljettajalle. Jos ihmiskuljettajalla on riittävästi aikaa väistämiseen, tämä voi todellakin olla järkevää ja asianmukaista tekoälylle.

Mutta oletetaan, että tekoäly suorittaa vaihdon sekunnin murto-osan ollessa jäljellä. Ihmisen kuljettajan reaktioaika ei ole läheskään tarpeeksi nopea reagoimaan riittävästi. Lisäksi, jos ihminen oli ihmeellisesti riittävän nopea, on todennäköistä, että ei ole olemassa toteuttamiskelpoisia väistämistoimia, joita voitaisiin tehdä, kun törmäystä on jäljellä rajoitettu aika. Tämä on kaksinkertaisempi: (1) ihmiskuljettajalle ei ole riittävästi aikaa ryhtyä toimenpiteisiin, (2) ei riitä, että jos toiminto olisi mahdollista ihmiskuljettajan toimesta, toiminto voitaisiin suorittaa annetussa puutteellisessa ajassa.

Kaiken kaikkiaan tämä on samanlainen kuin aikaisempi keskusteluni koripallon summeritilanteesta ja sekaisin menneestä tehdaskoneistosta.

Lisätään tähän ilkeä ainesosa.

Autonvalmistaja tai itse ajava teknologiayritys ei halua saada merkintää erilaisista auto-onnettomuuksista, joita heidän laivastossaan on tapahtunut. Tekoälyajojärjestelmä on ohjelmoitu luovuttamaan hallinta aina ihmiskuljettajalle riippumatta siitä, onko ihmiskuljettajalla riittävästi aikaa tehdä jotain ahdinkotilanteen kanssa. Aina kun tällainen autokolari tapahtuu, autonvalmistaja tai itse ajava teknologiayritys voi äänekkäästi väittää, että kuljettaja oli ohjaimissa, kun taas tekoäly ei.

Heidän ennätyksensä AI-ajojärjestelmissä näyttää olevan loistava.

Tekoälyjärjestelmä ei ole koskaan "syyllinen" näihin auto-onnettomuuksiin. Aina ne kirotut ihmiskuljettajat eivät näytä pitävän silmäänsä tiessä. Meillä saattaa olla taipumus niellä tämä räikeä ja uskoa, että täysin tarkka tekoäly ei todennäköisesti koskaan ole väärässä. Meillä saattaa olla taipumus uskoa (koska tiedämme kokemuksesta), että ihmiskuljettajat ovat huolimattomia ja tekevät paljon ajovirheitä. Looginen johtopäätös on, että ihmiskuljettajien on oltava syyllisiä, ja tekoälyjärjestelmä on täysin syytön.

Ennen kuin jotkut itseajamisen puolestapuhujat järkytyvät tästä luonnehdinnasta, myönnetään ehdottomasti, että ihmiskuljettaja saattaa hyvinkin olla syyllinen ja että heidän olisi pitänyt ryhtyä toimiin aikaisemmin, kuten ottaa ajo-ohjaimet haltuunsa tekoälyltä. On myös mahdollista, että ihmiskuljettaja olisi voinut tehdä jotain merkittävää, kun tekoäly luovutti ajoohjaimet. Jne.

Tässä on keskitytty olosuhteisiin, joissa tekoälyä pidettiin ajoneuvon kuljettajana ja sitten äkillisesti ja vähällä huomiolla siihen, mitä ihmiskuljettaja voi tehdä, heittää kuuman perunan ihmiskuljettajalle. Tästä syystä niin monet ovat huolissaan puoliautonomisten ajoneuvojen kaksoisajoroolista. Voisi sanoa, että ratissa on liikaa kuljettajia. Tavoitteena näyttäisi olevan ratkaista asia siten, että autolla on täysin autonomiset ajoneuvot, joiden ratissa ei ole tarvetta ihmiselle ja tekoäly ohjaa aina ajoneuvoa.

Tämä nostaa esiin liittoutuneen kysymyksen siitä, mikä tai kuka on vastuussa tekoälyn ajamisesta, jota olen käsitellyt monta kertaa kolumneissani, kuten esim. linkki tähän ja linkki tähän.

Yhteenveto

Meidän on oltava varovaisia, kun kuulemme tai luemme puoliautonomisten ajoneuvojen kolareista. Varo niitä, jotka yrittävät huijata meitä julistamalla, että heidän tekoälyjärjestelmänsä on virheetön. Houkutteleva temppu AI Hot Potato -syndrooma saattaa olla sekoituksessa.

Yrityksille, jotka yrittävät olla hankalia näissä asioissa, voimme ehkä pitää lähellä sydäntämme Abraham Lincolnin kuuluisan linjan: ”Voit huijata kaikkia ihmisiä osan ajasta ja joitain ihmisiä koko ajan, mutta et voi huijata. kaikki ihmiset koko ajan."

Olen yrittänyt paljastaa tässä näytön taakse piilotettua ja ajoittain konepellin alle sijoitettua tekoälytaikuutta, jota olen selventänyt, jotta useammat ihmiset eivät tulla huijatuksi useammin.