Salakavala tekoälypohjainen välityspalvelinsyrjintä ihmisiä kohtaan on pelottavan ärsyttävää tekoälyn etiikkalle, jota voi esiintyä jopa itsenäisten tekoälyn itseohjautuvien autojen tapauksessa

Keskustellaan välityssyrjinnästä nykyajan tekoälyn (AI) toimien keskellä.

Jotta voisimme perehtyä tekoälyn puoleen, meidän on ensin asetettava lavalle syrjinnän yleiset näkökohdat ja sitten tutkittava ehkä yllättäviä tapoja, joilla tekoäly juuttuu tähän monimutkaiseen ja toisinaan salakavalaan asiaan. Annan myös esimerkkejä tekoälyyn perustuvasta välityspalvelinsyrjinnästä, mukaan lukien sen, että tämä voi tapahtua jopa tekoälyllä varustetuissa autonomisissa ajoneuvoissa, kuten itseohjautuvissa autoissa.

Aloitetaan.

Syrjinnän sanakirjamääritelmä osoittaisi tyypillisesti, että kyseessä on epäoikeudenmukainen teko, joka kohtelee ihmisiä eri tavalla koettujen luokkien, kuten rodun, sukupuolen, iän ja niin edelleen perusteella (tällaisten kriteerien kuvataan usein koostuvan suojatuista luokista). Eräs syrjinnän muoto, joka tunnetaan nimellä ohjata Syrjintä merkitsee avoimesti kiinnittymistä johonkin näistä luokista, kuten esimerkiksi rodun tai sukupuolen suhteellisen selkeä korostaminen syrjinnän perustana (nämä tulkittaisiin ensimmäisiksi tekijöiksi). Tämä on ehkä läpinäkyvin syrjinnän muoto.

Toinen hieman vähemmän toteutunut mahdollisuus on käyttää epäsuora syrjintää. Saatat ehdottaa, että tämä on monimutkaisempi syrjinnän muoto, koska se katsotaan poistetuksi ja voi olla haastavaa päästää ulos. Epäsuoraan syrjintään liittyy eräänlainen yhden tai useamman porrastetun luokittelun valinta. Tätä kutsutaan yleisesti myös välityspalvelimen syrjinnäksi, koska on olemassa välitekijä, joka toimii taustalla olevan ja yhdistettävän ensimmäisen tekijän välityspalvelimena tai varajäsenenä.

Auttaaksemme selventämään näennäisesti abstraktia ajatusta epäsuorasta tai välityssyrjimyksestä, voimme harkita suoraviivaista esimerkkiä.

Joku hakee asuntolainaa. Oletetaan, että lainanvälittäjä, joka tarkastelee hakemusta, päättää hylätä lainan ja tekee niin hakijan rodun perusteella. Voisi sanoa, että tämä on esimerkki suorasta syrjinnästä. Oletetaan sen sijaan, että lainanvälittäjä käytti hakijan postinumeroa ja päätti kieltäytyä lainasta tämän tekijän perusteella. Ensi silmäyksellä näyttää siltä, ​​että postinumero ei ole yksi niistä tekijöistä, joita yleensä pidetään syrjivänä tai suojattuna luokkana. Sellaisenaan lainaagentti näyttäisi välttyneen syrjivästä päätöksestä.

Ongelmana voi kuitenkin olla, että postinumero on itse asiassa jonkin muun, todellisen suojatun luokan tai luokan välityspalvelin. Ehkä tämä tietty postinumero koostuu pääasiassa tietystä rodusta tai etnisestä alkuperästä, ja epäsuoraa tai välityssyrjintää käytetään. Saatat yleensä tuntea tämän tyyppisen esimerkin redliningin tunnuslauseesta.

Näet, tässä tapauksessa postinumerosta koostuvan tekijän ja rodun syrjivän tekijän välillä on ilmeisesti jonkinlainen yhteys. Postinumero näyttäisi olevan viaton tai neutraali tekijä tässä tilanteessa. Postinumero näyttää useimmista meistä melko harmittomalta tavaralta, eikä se sytytä hälytyskelloja.

Saatat muistaa tilastokurssin päivistäsi, että eri tekijöiden välillä voi syntyä tilastollisia korrelaatioita, jopa sellaisia ​​tekijöitä, jotka eivät sinusta usko loogisesti korreloivan keskenään. Voi olla, että postinumeron ja rodun välillä on selvä korrelaatio. Näin ollen postinumeron valinta näyttää ensi silmäyksellä hyväntahtoiselta, mutta lähemmin tarkasteltuna se on todellakin erottuva suojattu rotuluokka.

Näin eräässä tutkimuspaperissa kuvattiin tällaisten korrelaatioiden käsitettä ja välityssyrjinnän syntyä: "Syrjinnän ei tarvitse sisältää suojatun luokan suoraa käyttöä; luokan jäsenet eivät saa edes osallistua päätöksentekoon. Syrjintää voi tapahtua myös suojatun luokan ja muiden ominaisuuksien välisten korrelaatioiden vuoksi. Erilaisten vaikutusten oikeudellinen kehys käsittelee tällaisia ​​​​tapauksia edellyttämällä ensin merkittävästi erilaisia ​​​​tuloksia suojatulle luokalle riippumatta siitä, miten ne ovat tulleet. Lainapäätösten ja rodun välinen yhteys hakijan osoitteen käytöstä, joka itsessään liittyy rotuun, on esimerkki tällaisesta syrjinnästä” (kuten julkaisussa Välityspalvelinsyrjintä tietopohjaisissa järjestelmissä: teoria ja kokeet koneoppimisohjelmilla, kirjoittaneet Anupam Datta, Matt Fredrikson, Gihyuk Ko, Piotr Mardziel ja Shayak Sen).

Nyt kun välityspalvelimen syrjinnän perusteet on asetettu pöydälle, voimme esitellä näkökohtia siitä, kuinka tekoäly voi olennaisesti upottaa välityspalvelimen syrjinnän laskennallisesti renderoidun version.

Haluaisin keskittyä nykypäivän tekoälyyn enkä johonkin futuristiseen tekoälyyn, jonka jotkut sanovat olevan tunnollisia ja aiheuttavan eksistentiaalisen riskin (se on eri tarina, jota olen käsitellyt osoitteessa linkki tähän). Huolimatta lukemattomista huutavista otsikoista, jotka tällä hetkellä väittävät, että tekoäly on jollain tapaa saavuttanut tajunnan ja ilmentää ihmisten tietoa ja päättelyä, ota huomioon, että tämä liioiteltu tekoälyhyperboli on puhdasta roskaa, koska luotamme edelleen numeroiden murskaamiseen nykypäivän algoritmien päätöksenteossa (ADM). kuten tekoälyjärjestelmät tekevät.

Jopa ylistetty koneoppiminen (ML) ja Deep Learning (DL) koostuvat laskennallisesta mallisovituksesta, mikä tarkoittaa, että numerot ovat edelleen ML/DL:n korkean käytön ytimessä. Emme tiedä, onko tekoäly saavuttaa tuntokyky. Voisi olla, voi olla ei. Kukaan ei voi varmuudella sanoa, kuinka tämä voi syntyä. Jotkut uskovat, että parannamme asteittain laskennallisia tekoälyponnistelujamme siten, että tietynlainen tuntemus syntyy spontaanisti. Toiset ajattelevat, että tekoäly saattaa mennä eräänlaiseen laskennalliseen supernovaan ja saavuttaa tuntokyvyn lähes itsestään (jota kutsutaan tyypillisesti singulariteettiksi). Lisätietoja näistä tekoälyn tulevaisuutta koskevista teorioista on artikkelissani linkki tähän.

Älkäämme siis huijatko itseämme ja uskoko valheellisesti, että nykyaikainen tekoäly kykenee ajattelemaan kuten ihmiset. Voimme yrittää jäljitellä tekoälyssä sitä, mistä uskomme ihmisen ajattelun mahdollisesti koostuvan. Toistaiseksi emme ole kyenneet murtamaan tekoälyn suunnittelun vaikeasti havaittavia elementtejä, jotka voivat upottaa tervettä järkeä ja muita ihmisen ajattelun kulmakiviä.

Saatat olla tietoinen, että kun tekoälyn uusin aikakausi alkoi, vallitsi valtava innostus siitä, mitä jotkut nykyään kutsuvat. AI Hyvä. Valitettavasti aloimme todistaa tuon purskahtavan jännityksen kannoilla AI huono. Esimerkiksi useiden tekoälyyn perustuvien kasvojentunnistusjärjestelmien on paljastettu sisältävän rotu- ja sukupuoliharhaa, joista olen keskustellut osoitteessa linkki tähän.

Pyrkimykset taistella vastaan AI huono ovat aktiivisesti käynnissä. Paitsi äänekäs juridinen väärinkäytösten hillitsemiseen tähtäävät pyrkimykset omaksua tekoälyn etiikka tekoälyn ilkeyden korjaamiseksi. Ajatus on, että meidän pitäisi ottaa käyttöön ja tukea keskeisiä eettisiä tekoälyn periaatteita tekoälyn kehittämisessä ja levittämisessä tehden näin alentaaksemme AI huono ja samanaikaisesti julistaa ja edistää parempaa AI Hyvä.

Laaja kattaukseni tekoälyn eettisyydestä ja eettisestä tekoälystä löytyy osoitteesta tämä linkki täällä ja tämä linkki täällä, vain muutamia mainitakseni.

Saatat olla hämmentynyt siitä, kuinka tekoäly voi saada aikaan samanlaisia ​​haitallisia harhoja ja epätasa-arvoa kuin ihmiset. Meillä on tapana ajatella, että tekoäly on täysin neutraali, puolueeton, yksinkertaisesti kone, jolla ei ole mitään sellaista emotionaalista vaikutusta ja huonoa ajattelua, jota ihmisillä saattaa olla. Yksi yleisimmistä keinoista, joilla tekoäly joutuu harhaan ja epätasa-arvoon, tapahtuu koneoppimista ja syväoppimista käytettäessä, osittain siksi, että luotetaan kerättyihin tietoihin siitä, miten ihmiset tekevät päätöksiä.

Anna minulle hetki tarkentaa.

ML/DL on eräänlainen laskennallinen mallisovitus. Tavallinen lähestymistapa on, että kokoat dataa päätöksentekotehtävästä. Syötät tiedot ML/DL-tietokonemalleihin. Nämä mallit pyrkivät löytämään matemaattisia malleja. Tällaisten mallien löytämisen jälkeen, jos niin on, tekoälyjärjestelmä käyttää niitä kohdatessaan uutta tietoa. Uutta dataa esitettäessä käytetään "vanhaan" tai historialliseen dataan perustuvia malleja nykyisen päätöksen tekemiseksi.

Luulen, että voit arvata mihin tämä on menossa. Jos ihmiset, jotka ovat tehneet kaavoja päätöksiä, ovat käyttäneet epäsuotuisia ennakkoluuloja, on todennäköistä, että tiedot heijastavat tätä hienovaraisella mutta merkittävällä tavalla. Machine Learning- tai Deep Learning -laskentamallin täsmäytys yrittää yksinkertaisesti matemaattisesti jäljitellä dataa vastaavasti. Tekoälyn luomassa mallintamisessa ei sinänsä näytä olevan tervettä järkeä tai muita tuntevia puolia.

Tekoälykehittäjät eivät myöskään välttämättä ymmärrä, mitä tapahtuu. ML/DL:n vaikeaselkoinen matematiikka saattaa vaikeuttaa nyt piilossa olevien harhojen paljastamista. Voit oikeutetusti toivoa ja odottaa, että tekoälykehittäjät testaisivat mahdollisesti hautautuneita harhoja, vaikka tämä onkin hankalampaa kuin miltä saattaa näyttää. On olemassa vahva mahdollisuus, että jopa suhteellisen laajalla testauksella ML/DL:n mallinsovitusmalleihin sisältyy edelleen harhaa.

Voisit hieman käyttää kuuluisaa tai pahamaineista sanontaa roskat sisään roskat ulos. Asia on siinä, että tämä muistuttaa enemmän harhoja, jotka infusoituvat salakavalasti tekoälyn upottautuessa harhaan. Tekoälyn päätöksenteon algoritmi eli ADM tulee aksiomaattisesti täynnä epätasa-arvoa.

Ei hyvä.

Tekoälyjärjestelmiä kehitetään, jotka sisältävät sekä suoraa että salattua epäsuoraa tai välityssyrjintää. Kuten samassa edellä viitatussa tutkimuksessa mainittiin: "Machine Learning -järjestelmät on kuitenkin rakennettu todellisen maailman havainnointitietojen perusteella monine historiallisine tai institutionalisoituneine vinoineen. Seurauksena on, että he perivät tiedoille ominaisia ​​ennakkoluuloja ja syrjiviä käytäntöjä. Tällaisten järjestelmien käyttöönotto johtaa epäreiluihin tuloksiin ja ennakkoluulojen jatkumiseen. Esimerkkejä on runsaasti: rotu liittyy rikosten uusimisen ennusteisiin; sukupuoli vaikuttaa näytettäviin työhön liittyviin mainoksiin; rotu, joka vaikuttaa näytettäviin hakumainoksiin; Bostonin Street Bump -sovellus keskittyy kuoppien korjaamiseen varakkaille kaupunginosille; Amazonin saman päivän toimitus ei ole saatavilla mustissa kaupunginosissa; ja Facebook näyttää joko "valkoisia" tai "mustia" elokuvatrailereita "etnisen kuuluvuuden perusteella". Erilaiset syrjintätapaukset ovat lailla kiellettyjä.

Jos meillä olisi tekoäly, joka olisi vain upotuksen alainen ohjata Syrjintäongelmia, todennäköisyys on, että meillä saattaa olla lisääntynyt taistelumahdollisuus saada sellaiset laskennalliset sairaudet pois. Valitettavasti maailma ei ole niin helppo. Nykypäivän tekoäly on luultavasti aivan yhtä todennäköinen, ellei todennäköisempi, levittää välityspalvelinta tai epäsuoraa syrjintää. Se on surullinen skenaario. Välityspalvelinsyrjinnän taustalla oleva syvempi laskennallinen suo voi olla kova pähkinä murrettavaksi.

Kuten Federal Trade Commissionin (FTC) komissaari totesi: "Kun algoritmiset järjestelmät harjoittavat välityssyrjintää, ne käyttävät yhtä tai useampaa kasvojen suhteen neutraalia muuttujaa edustaakseen laillisesti suojattua ominaisuutta, mikä usein johtaa erilaiseen kohteluun tai erilaisiin vaikutuksiin. suojattuja luokkia tiettyjen taloudellisten, sosiaalisten ja kansalaisyhteiskunnan mahdollisuuksien vuoksi. Toisin sanoen nämä algoritmit tunnistavat näennäisesti neutraaleja ominaisuuksia luodakseen ryhmiä, jotka heijastavat läheisesti suojattua luokkaa, ja näitä "välityspalvelimia" käytetään sisällyttämiseen tai poissulkemiseen" (kuten artikkelissa "Algoritmit ja taloudellinen oikeudenmukaisuus: haittojen taksonomia ja Path Forward for the Federal Trade Commission” -julkaisussa Yale Journal of Law & Technology, komissaari Rebecca Kelly Slaughter, elokuu 2021).

Yksi näkökohta, joka on pidettävä mielessä, on, että tekoäly ei ole jollain tapaa yksin harjoittaessaan välityssyrjintää. Myöskään välityssyrjintä ei ole mikään uusi keksintö. Meillä on ollut välityssyrjintää pitkään, varmasti kauan ennen tekoälyn tuloa. FTC:n komissaari toisti tämän saman tärkeän oivalluksen: "Syrjintä välityspalvelimen avulla ei ole uusi ongelma – syrjiviä tuloksia tuottavien kasvojen suhteen neutraalien tekijöiden käyttö on asia, jonka kanssa yhteiskunta ja kansalaisoikeuksia koskevat lait ovat kamppailleet vuosikymmeniä" (jälleen Yale Journal of Law & Technology).

Suunnittelevatko tekoälykehittäjät tarkoituksella tekoälyjärjestelmänsä estämään välityspalvelinsyrjintää?

Voisit jakaa tekoälytyöt niihin, jotka vahingossa luottavat välityspalvelimen syrjintään, ja niihin, jotka tekevät niin tahallaan. Arvelisin, että suurin osa tekoälyn rakentajista joutuu välityspalvelimen laskennalliseen sotaan vahingossa tai sattuman kautta. Tämä ei kuitenkaan ole tekosyy sille, mitä he tekevät. He ovat edelleen vastuussa tekoälystä, jonka he ovat kehittäneet, eivätkä he voi yksinkertaisesti heiluttaa käsiään ja julistaa, etteivät tienneet mitä tapahtuu. Heidän harteillaan on yrittää varmistaa, ettei heidän tekoälynsä aiheuta tällaista syrjintää. Sillä välin ne, jotka ovelasti ja tarkoituksella rakentavat tekoälyänsä välitysperusteisen syrjinnän avulla, on otettava tehtäväänsä ja asetettava vastuuseen sen mukaisesti.

Haluaisin lisätä kierteen, joka saattaa saada pääsi pyörimään.

Jotkut väittävät, että mitä paremmin pystymme suunnittelemaan tekoälyä, on todennäköistä, että tulemme todistamaan useampia tekoälytapauksia, jotka vaikuttavat välityspalvelimen syrjintään. Saatat ihmetellä, miksi näin on. Toivo ja unelma olisi, että tekoälyn edistyminen vähentäisi laskennallisen painajaisen mahdollisuuksia laskeutua välityspalvelimen sopimattomille vesille.

Tässä julkaisussa julkaistussa tutkimuksessa havaitaan kiehtova näkökulma Iowa Law Review: "Tekoälyt käyttävät sen sijaan harjoitustietoja selvittääkseen itse, mitä ominaisuuksia voidaan käyttää kohdemuuttujan ennustamiseen. Vaikka tämä prosessi jättää täysin huomiotta syy-yhteyden, se johtaa siihen, että tekoälyt väistämättä "etsivät" välityspalvelimia suoraan ennustaville ominaisuuksille, kun näitä ominaisuuksia koskevia tietoja ei anneta tekoälyn saataville lakisääteisten kieltojen vuoksi. Pelkästään tekoälyn epääminen intuitiivisimpien välityspalvelinten käyttöön suoraan ennustaville muuttujille ei juurikaan estä tätä prosessia. Sen sijaan se yksinkertaisesti saa tekoälyt tuottamaan malleja, jotka luottavat vähemmän intuitiivisiin välityspalvelimiin. Näin ollen tämän artikkelin keskeinen argumentti on, että kun tekoälyt tulevat entistä älykkäämmiksi ja big data kasvaa entisestään, välityssyrjintä on yhä perustavampi haaste syrjinnän vastaisille järjestelmille, jotka pyrkivät kieltämään suoraan ennakoiviin piirteisiin perustuvan syrjinnän” (kuten artikkelissa mainitaan) oikeutettu Välityssyrjintä tekoälyn ja suuren datan aikakaudella, kirjoittaneet Anya Prince ja Daniel Schwarcz).

Yritetään hahmotella tämän hyytävän ennustuksen logiikka.

Oletetaan, että tekoälykehittäjät tulevat väistämättä tietoisiksi siitä, että heidän tulisi välttää koneoppimis- ja syväoppimismalliensa pyrkimistä välityspalvelimen syrjintään (toivoisi, että he etsivät jo suoraa syrjintää). Okei, joten tekoälyn rakentajat tekevät kaikkensa välttääkseen laskennallisen kiinnittymisen suojattuihin tekijöihin. Mutta oletetaan, että tämä tehdään jokseenkin ilmeisellä pohjalla, kuten rajoittamalla mitä tahansa yksi-kaksivaiheisia välityspalvelintyyppejä.

Laskennalliset mallit menevät syvemmälle dataan ja löytävät kolmivaiheisen tai ehkä kymmenen askeleen poistetun yhteyden välityspalvelimen syrjintään. Tekoälykehittäjät ovat näennäisesti iloisia siitä, että kaksivaiheinen voidaan osoittaa olevan osa heidän ML/DL-järjestelmäänsä. Sillä välin he eivät ehkä ymmärrä, että kolmiaskelinen tai kymmenen askelta tai jokin muu luikeruusaste on matemaattisesti löydetty. Muista, että tekoäly ei ole tunteva, eikä se yritä tehdä tätä tietoisesti. Tarkoitamme edelleen tekoälyä, joka on tuntematon ja toimii lukujen ja laskelmien perusteella.

Jep, huolestuttava tosiasia, että tekoäly "etenee" ja silti näytämme olevan menossa synkempään tilaan, on melko ärsyttävää ja ehkä raivostuttavaa. Vaikka toisaalta saatamme olla tyytyväisiä siihen, että tietoisuus välityssyrjinnän torjumisesta saa yhä enemmän huomiota, ongelma ei yksinkertaisesti katoa. Pyrkimykset välttää tekoälyyn perustuvaa välityspalvelinsyrjintää voivat työntää syrjiviä laskennallisia löytöjä syvemmälle ja syvemmälle, jotta ihmiset eivät paljasta tai keksi niitä.

Tästä tulee mieleen vanhan ajan sarjakuvia siitä, kun ihminen on joutunut juoksevaan hiekkaan. Mitä enemmän he hyökkäävät, sitä pahemmaksi asiat muuttuvat. Tietyssä mielessä henkilö aiheuttaa oman kuolemansa taistelemalla kiivaasti juoksevaa hiekkaa vastaan. Tämä on varmasti ironista, koska normaalisti odotat, että jotain vastaan ​​taisteleminen johtaisi pakoon tai vapautumiseen.

Ei välttämättä niin.

Asiantuntijat kertovat sinulle, että jos joudut koskaan juoksevaan hiekkaan, järkevä vaihtoehto on yrittää rentoutua ulos vaikeasta tilanteesta. Sinun tulisi yrittää kellua juoksuhiekan päällä, mahdollisesti nojaten taaksepäin ja saada jalat samalle tasolle pään kanssa. Villi pussiminen ei ole toivottavaa, ja se epäilemättä vähentää mahdollisuuksiasi paeta. Parempi todennäköisyys on, että yrität kellua tai uida kevyesti ulos tai ainakin saavuttaa juoksuhiekassa paikan, jossa pääset oksalle tai johonkin muuhun vetääksesi itsesi kauemmaksi.

Voimmeko käyttää tämäntyyppisiä neuvoja taistellaksemme tekoälyn aiheuttamaa välityssyrjintää vastaan?

Eräänlainen.

Ensinnäkin tieto, että välityspalvelinsyrjintää voi tapahtua, on keskeinen tekijä niille, jotka suunnittelevat ja käyttävät tekoälyjärjestelmiä. Kaikkien sidosryhmien on pohdittava tätä. Johdon, joka valvoo tekoälyprojekteja, on oltava tämän huipulla, koska vain "AI-koodaajat" eivät ole osa ahdinkoa. Näemme myös todennäköisesti myös sääntelijöiden painostavan, kuten säätävän uusia lakeja, joilla yritetään rajoittaa tai ainakin saada kiinni tekoälystä, johon on sisällytetty syrjiviä käytäntöjä. Jne.

Kuten kohti Iowa Law Review Tutkimuksessa voisimme pyrkiä luomaan tekoälylakeja ja -asetuksia, jotka velvoittavat esittelemään ML/DL:ssä käytettävää dataa: "Esimerkiksi vaikuttaneet syrjinnän vastaiset järjestelmät voivat sallia ja ehkä jopa vaatia, että ennustavaa tekoälyä käyttävät yritykset keräävät tietoja yksilöiden mahdollinen jäsenyys laillisesti suojattuihin luokkiin. Joissakin tapauksissa nämä tiedot olisi jaettava sääntelyviranomaisten kanssa ja/tai julkistettava tiivistelmänä. Tällaiset tiedot ovat välttämättömiä yrityksille, sääntelijöille, asianosaisille ja muille testatakseen, harjoittaako jokin tietty tekoäly itse asiassa välityssyrjintää" (Anya Princen ja Daniel Schwarczin artikkelin mukaan).

Muita mahdollisuuksia ovat monipuolisemman tiedon ja laajempien tietolähteiden käyttäminen koneoppimis- ja syväoppimismallin suunnittelussa. Toinen on se, että tekoälykehittäjiä voidaan vaatia osoittamaan, että heidän tekoälyjärjestelmänsä ei käytä välityspalvelinsyrjintää. Yrittäminen matemaattisesti esitellä tai todistaa, että tämä on välitysperusteisen syrjinnän puute tai puuttuminen, tulee olemaan vähintäänkin erityisen haastavaa.

Tähän liittyvään ajatukseen, kannatan tekoälyn käyttöä osana tekoälyongelmien ratkaisua, tulen taistelemista tulella tällä ajattelutavalla. Voisimme esimerkiksi upottaa eettisiä tekoälykomponentteja tekoälyjärjestelmään, joka tarkkailee, kuinka muu AI tekee asioita ja saa siten mahdollisesti kiinni reaaliajassa kaikki syrjivät toimet, katso keskusteluni osoitteessa linkki tähän. Meillä voisi olla myös erillinen tekoälyjärjestelmä, joka toimii eräänlaisena AI Ethics -monitorina. Tekoälyjärjestelmä toimii valvojana, joka seuraa ja havaitsee, kun toinen tekoäly on joutumassa välityspalvelimen syrjinnän kuiluun (katso analyysini tällaisista ominaisuuksista osoitteessa linkki tähän).

Tämän keskustelun tässä vaiheessa veikkaan, että kaipaat lisäesimerkkejä, jotka voisivat tuoda esille tekoälyyn perustuvan välityspalvelinsyrjinnän ongelman.

Olen iloinen, että kysyit.

On olemassa erityinen ja varmasti suosittu joukko esimerkkejä, jotka ovat lähellä sydäntäni. Tekoälyn asiantuntijana, mukaan lukien eettiset ja oikeudelliset seuraukset, minua pyydetään usein tunnistamaan realistisia esimerkkejä, jotka tuovat esille tekoälyn eettisiä ongelmia, jotta aiheen jossain määrin teoreettinen luonne voidaan ymmärtää helpommin. Yksi mieleenpainuvimmista alueista, joka esittelee elävästi tämän eettisen tekoälyongelman, on tekoälyyn perustuvien todellisten itseohjautuvien autojen tulo. Tämä toimii kätevänä käyttötapana tai esimerkkinä aiheesta laajalle keskustelulle.

Tässä on sitten huomionarvoinen kysymys, jota kannattaa pohtia: Kertooko tekoälyyn perustuvien todellisten itseohjautuvien autojen tulo jotain tekoälyyn perustuvasta välityspalvelinsyrjinnästä, ja jos on, mitä tämä osoittaa?

Anna minun hetki purkaa kysymys.

Ensinnäkin, huomaa, että todellisessa itseajavassa autossa ei ole ihmiskuljettajaa. Muista, että todellisia itseohjautuvia autoja ajetaan tekoälyjärjestelmän kautta. Rattiin ei tarvita ihmiskuljettajaa, eikä myöskään ole mahdollista, että ihminen voisi ajaa ajoneuvoa. Katso kattava ja jatkuva kattamukseni autonomisista ajoneuvoista (AV) ja erityisesti itseohjautuvista autoista. linkki tähän.

Haluaisin selventää tarkemmin, mitä tarkoitetaan, kun viittaan todellisiin itse ajaviin autoihin.

Ymmärtäminen itse ajavien autojen tasoista

Selvyyden vuoksi todelliset itse ajavat autot ovat sellaisia, että tekoäly ajaa autoa kokonaan yksin eikä ajo-tehtävän aikana ole mitään apua.

Näitä kuljettamattomia ajoneuvoja pidetään tasoina 4 ja 5 (katso selitykseni osoitteessa tämä linkki täällä), kun taas autoa, joka edellyttää ihmiskuljettajan yhteistä ajoponnistusta, pidetään yleensä tasolla 2 tai 3. Autoja, jotka jakavat ajotehtävän, kuvataan puoliautonomisina ja sisältävät tyypillisesti erilaisia automaattiset lisäosat, joista käytetään nimitystä ADAS (Advanced Driver-Assistance Systems).

Tasolla 5 ei ole vielä aitoa itse ajavaa autoa, jota emme vielä edes tiedä, onko tämä mahdollista saavuttaa ja kuinka kauan sen saavuttaminen vie.

Samaan aikaan tason 4 ponnistelut yrittävät vähitellen saada jonkin verran pitoa käymällä läpi erittäin kapeita ja valikoivia yleisiä tiekokeita, vaikka onkin kiistaa siitä, pitäisikö tämä testaus sallia sellaisenaan (olemme kaikki elämän tai kuoleman marsuja kokeessa tapahtuu valtateillämme ja sivuteillämme, jotkut väittävät, katso kattaukseni osoitteessa tämä linkki täällä).

Koska osittain itsenäiset autot vaativat ihmisen kuljettajan, tämäntyyppisten autojen omaksuminen ei ole selvästi erilainen kuin tavanomaisten ajoneuvojen ajaminen, joten sinänsä ei ole paljon uutta kattamaan niitä tästä aiheesta (tosin kuten näette hetkessä seuraavia pisteitä voidaan yleensä soveltaa).

Osittain itsenäisten autojen osalta on tärkeää, että kansalaisia ​​on varoitettava viime aikoina esiintyneestä häiritsevästä näkökulmasta, nimittäin siitä, että huolimatta ihmisten kuljettajista, jotka jatkavat videoiden lähettämistä itsensä nukahtamisesta tason 2 tai 3 autolle, , meidän kaikkien on vältettävä johtamasta harhaan uskoaan, että kuljettaja voi viedä huomionsa ajo-tehtävään ajon puoli-autonomisen auton kanssa.

Olet vastuussa ajoneuvon ajotoimista riippumatta siitä, kuinka paljon automaatiota voidaan heittää tasolle 2 tai 3.

Itseajavat autot ja tekoälyyn perustuva välityspalvelinsyrjintä

Tason 4 ja tason 5 itseohjautuvissa ajoneuvoissa ajo-tehtävään ei tule inhimillistä kuljettajaa.

Kaikki matkustajat ovat matkustajia.

AI ajaa.

Yksi näkökohta, josta on keskusteltava välittömästi, merkitsee sitä, että nykypäivän tekoälyjärjestelmiin osallistuva tekoäly ei ole tunteva. Toisin sanoen tekoäly on kokonaisuudessaan tietokonepohjaisen ohjelmoinnin ja algoritmien joukko, eikä varmaankaan kykene perustelemaan samalla tavalla kuin ihmiset.

Miksi tämä korostetaan sitä, että tekoäly ei ole järkevä?

Koska haluan korostaa, että puhuessani tekoälyn ajo-järjestelmän roolista, en omista tekoälylle ihmisen ominaisuuksia. Huomaa, että nykyään on jatkuva ja vaarallinen taipumus antropomorfisoida tekoäly. Pohjimmiltaan ihmiset osoittavat ihmisen kaltaisen tuntemuksen nykyiselle tekoälylle huolimatta kiistattomasta ja kiistattomasta tosiasiasta, että sellaista tekoälyä ei vielä ole.

Tämän selvennyksen avulla voit kuvitella, että tekoälyn ajo-järjestelmä ei luonnostaan ​​jotenkin “tiedä” ajon puolia. Ajo ja kaikki siihen liittyvä on ohjelmoitava osaksi itseajoavan auton laitteistoa ja ohjelmistoa.

Sukelletaan lukemattomiin näkökohtiin, jotka tulevat pelaamaan tästä aiheesta.

Ensinnäkin on tärkeää ymmärtää, että kaikki AI-itse ajavat autot eivät ole samanlaisia. Jokainen autonvalmistaja ja itseajava teknologiayritys suunnittelee itse ajavia autoja. Sellaisenaan on vaikea antaa laajoja lausuntoja siitä, mitä tekoälyjärjestelmät tekevät tai eivät tee.

Lisäksi aina, kun todetaan, että tekoälyohjausjärjestelmä ei tee jotain tiettyä, tämä voi myöhemmin ohittaa kehittäjät, jotka itse ohjelmoivat tietokoneen tekemään juuri sen. AI -ajojärjestelmiä parannetaan ja laajennetaan asteittain. Nykyinen rajoitus ei välttämättä ole enää olemassa tulevassa iteraatiossa tai järjestelmän versiossa.

Luotan siihen, että se tarjoaa riittävän litanian varoituksia, jotka tukevat sitä, mitä aion kertoa.

Olemme nyt valmiita sukeltamaan syvälle itseohjautuviin autoihin ja eettisiin tekoälymahdollisuuksiin, joihin liittyy tekoälyyn perustuvan välityssyrjinnän tutkiminen.

Kuvittele, että tekoälypohjainen itseajava auto on käynnissä naapurustosi kaduilla ja näyttää ajavan turvallisesti. Aluksi olit kiinnittänyt erityistä huomiota jokaiseen kertaan, kun onnistuit näkemään vilauksen itseohjautuvasta autosta. Autonominen ajoneuvo erottui joukosta elektronisilla antureilla, jotka sisälsivät videokameroita, tutkayksiköitä, LIDAR-laitteita ja vastaavia. Useiden viikkojen itseohjautuvan auton risteilyn jälkeen paikkakunnallasi et enää huomaa sitä. Sinun mielestäsi se on vain toinen auto jo ennestään vilkkaalla yleisellä tiellä.

Jotta ei luulisi olevan mahdotonta tai epätodennäköistä tutustua itseohjautuvien autojen näkemiseen, olen kirjoittanut usein siitä, kuinka itseohjautuvien autojen kokeilujen piirissä olevat paikkakunnat ovat vähitellen tottuneet näkemään koristeltuja ajoneuvoja, katso analyysini osoitteessa tämä linkki täällä. Monet paikalliset siirtyivät lopulta suuhunsa ammottavasta ihastuttavasta haukotuksesta nyt levittävään tylsyyden haukotteluun nähdäkseen kiemurtelevia itseohjautuvia autoja.

Todennäköisesti suurin syy tällä hetkellä siihen, että he saattavat huomata autonomiset ajoneuvot, johtuu ärsytys- ja kiihtyvyystekijästä. Tekoälyjärjestelmät varmistavat, että autot noudattavat kaikkia nopeusrajoituksia ja liikennesääntöjä. Hektiset ihmiskuljettajat perinteisissä ihmisvetoisissa autoissaan ärsyyntyvät toisinaan, kun jäävät tiukasti lainkuuliaisten tekoälyyn perustuvien itseohjautuvien autojen taakse.

Se on jotain, johon meidän kaikkien on ehkä totuttava, oikeutetusti tai väärin.

Takaisin tarinaamme.

Osoittautuu, että muutoin vaarattomista ja yleisesti tervetulleista tekoälypohjaisista itseohjautuvista autoista alkaa nousta kaksi sopimatonta huolta, erityisesti:

a. Siellä missä tekoäly vaeltelee itse ajavia autoja kyytiä varten, oli äänekäs huolenaihe.

b. Se, miten tekoäly kohtelee odottavia jalankulkijoita, joilla ei ole etuoikeutta, nousi esiin kiireellisenä ongelmana

Aluksi tekoäly vaelsi itseajavissa autoissa koko kaupungissa. Jokaisella, joka halusi pyytää kyytiä itseajavaan autoon, oli periaatteessa yhtäläinen mahdollisuus saada sellainen. Vähitellen tekoäly alkoi ensisijaisesti pitää itseajavat autot liikkumassa vain yhdessä kaupunginosassa. Tämä osio tuotti enemmän rahaa, ja tekoälyjärjestelmä oli ohjelmoitu yrittämään maksimoida tulot osana käyttöä yhteisössä.

Kaupungin köyhien osien yhteisön jäsenet eivät pystyneet saamaan kyytiä itseajavalta autolta. Tämä johtui siitä, että itseajavat autot olivat kauempana ja vaelsivat alueen korkeamman tulotason osassa. Kun pyyntö saapui kaukaisesta kaupunginosasta, kaikki pyynnöt lähemmästä paikasta, joka oli todennäköisesti "arvostetussa" kaupunginosassa, saivat korkeamman prioriteetin. Lopulta itseohjautuvan auton saatavuus muualta kuin kaupungin rikkaimmasta osasta oli lähes mahdotonta, mikä oli raivostuttavaa niille, jotka asuivat nykyisillä luonnonvarojen nälkäisillä alueilla.

Voisit väittää, että tekoäly joutui melko pitkälle välityssyrjinnän muotoon (kutsutaan usein myös epäsuoraksi syrjinnäksi). Tekoälyä ei ohjelmoitu välttämään näitä köyhempiä kaupunginosia. Sen sijaan se "oppii" tekemään niin ML/DL:n avulla.

Asia on siinä, että kyytiauton kuljettajat tunnettiin tekevänsä samaa, vaikkakaan ei välttämättä pelkästään rahantekokulman vuoksi. Joillakin kyydissä olevista ihmiskuljettajista oli epäsuotuisa ennakkoluulo ratsastajien poimimisessa tietyistä kaupungin osista. Tämä oli jokseenkin tunnettu ilmiö, ja kaupunki oli ottanut käyttöön valvontamenetelmän saadakseen kiinni ihmiskuljettajista. Ihmiskuljettajat voivat joutua vaikeuksiin suorittaessaan epämiellyttäviä valintakäytäntöjä.

Oletuksena oli, että tekoäly ei koskaan putoaisi samanlaiseen juoksevaan hiekkaan. Mitään erityistä valvontaa ei perustettu, jotta voitaisiin seurata, minne tekoälypohjaiset itseajavat autot olivat menossa. Vasta kun yhteisön jäsenet alkoivat valittaa, kaupungin johtajat ymmärsivät, mitä oli tapahtumassa. Lisätietoja tämän tyyppisistä kaupunginlaajuisista ongelmista, joita autonomiset ajoneuvot ja itseohjautuvat autot aikovat esitellä, katso kattavuus osoitteessa tämä linkki täällä ja joka kuvaa Harvardin johtamaa tutkimusta, jonka olen kirjoittanut aiheesta.

Tämä esimerkki tekoälypohjaisten itseohjautuvien autojen roaming-näkökohdista havainnollistaa aiempaa osoitusta siitä, että voi olla tilanteita, joissa ihmisillä on epätoivottuja ennakkoluuloja, joita varten on otettu käyttöön valvontaa ja että nämä ihmiskuljettajat korvaava tekoäly jää skotlantiin. vapaa. Valitettavasti tekoäly voi vähitellen juuttua samankaltaisiin harhaan ja tehdä niin ilman riittäviä suojakaiteita.

Tämä osoittaa, kuinka tekoälyyn perustuva välityspalvelinsyrjintä voi vahingollisesti syntyä.

Toisessa esimerkissä tekoäly määrittää, pysähtyykö odottaville jalankulkijoille, joilla ei ole etuoikeutta ylittää katu.

Olet epäilemättä ajanut ja törmännyt jalankulkijoihin, jotka odottavat kadun ylittämistä, mutta heillä ei kuitenkaan ollut etuoikeutta tehdä niin. Tämä tarkoitti sitä, että sinulla oli harkintavaltaa päättää, pysähdytkö ja annatko heidän ylittää. Voit edetä päästämättä heidän ylittää ja noudattaa silti täysin laillisia ajosääntöjä.

Tutkimukset siitä, kuinka ihmiskuljettajat päättävät pysähtyä tai olla pysähtymättä tällaisten jalankulkijoiden puolesta, ovat osoittaneet, että joskus ihmiskuljettajat tekevät valinnan epäsuotuisten ennakkoluulojen perusteella. Ihmiskuljettaja saattaa katsoa jalankulkijaa ja päättää olla pysähtymättä, vaikka hän olisi pysähtynyt, jos jalankulkija olisi ollut ulkonäöltään erilainen, esimerkiksi rodun tai sukupuolen perusteella. Olen tutkinut tätä klo linkki tähän.

Kuvittele, että tekoälyyn perustuvat itseohjautuvat autot on ohjelmoitu käsittelemään kysymystä siitä, pysähtyäkö vai ei jalankulkijoille, joilla ei ole etuoikeutta. Näin tekoälyn kehittäjät päättivät ohjelmoida tämän tehtävän. He keräsivät tietoja kaupungin videokameroista, joita on sijoitettu ympäri kaupunkia. Aineisto esittelee ihmiskuljettajia, jotka pysähtyvät jalankulkijoille, joilla ei ole etuoikeutta, ja ihmiskuljettajia, jotka eivät pysähdy. Se kaikki on koottu suureksi tietojoukoksi.

Koneoppimisen ja Deep Learningin avulla tiedot mallinnetaan laskennallisesti. AI-ajojärjestelmä käyttää sitten tätä mallia päättääkseen, milloin pysähtyä tai olla pysähtymättä. Yleisesti ajatus on, että riippumatta siitä, mistä paikallinen tapa koostuu, näin tekoäly ohjaa itse ajavaa autoa.

Kaupungin johtajien ja asukkaiden yllätykseksi tekoäly oli ilmeisesti päättänyt pysähtyä tai olla pysähtymättä jalankulkijan iän perusteella. Miten se saattoi tapahtua?

Kun tarkastellaan lähemmin videota ihmisen kuljettajan harkinnasta, käy ilmi, että monet pysähdyttämistilanteet koskivat jalankulkijoita, joilla oli eläkeläisen kävelykeppi. Ihmiskuljettajat eivät ilmeisesti olleet halukkaita pysähtymään ja päästämään ikääntyneen kadun yli, mikä johtui oletettavasti siitä, että matkaan saattaa kulua aikaa. Jos jalankulkija näytti siltä, ​​että hän pystyi nopeasti pomppaamaan kadun poikki ja minimoimaan kuljettajan odotusajan, kuljettajat pystyivät paremmin päästämään henkilön yli.

Tämä hautautui syvälle tekoälyn ajojärjestelmään. Itseajavan auton anturit skannasivat odottavan jalankulkijan, syöttäisivät nämä tiedot ML/DL-malliin ja malli lähettäisi tekoälylle, pysähtyykö vai jatkaako se. Kaikkia visuaalisia merkkejä siitä, että jalankulkija saattaa ylittää hidas, kuten kävelykepin käyttöä, käytettiin matemaattisesti määrittämään, pitäisikö tekoälyjärjestelmän päästää odottavan jalankulkijan ylittämään vai ei. Voit väittää, että tämä oli eräänlaista ikään perustuvaa valtakirjasyrjintää.

Yhteenveto

On monia tapoja yrittää välttää sellaisen tekoälyn suunnittelua, joka sisältää välityspalvelinsyrjinnän tai joka ajan mittaan havaitsee tällaisia ​​harhoja. Ajatuksena on mahdollisimman paljon saada kiinni ongelmista ennen kuin siirryt korkeaan vaihteeseen ja otat tekoälyn käyttöön. Toivottavasti suora syrjintä tai asiakirjoihin perustuva syrjintä ei pääse ulos niin sanotusti.

Kuten aiemmin huomautettiin, yksi lähestymistapa sisältää sen varmistamisen, että tekoälykehittäjät ja muut sidosryhmät ovat tietoisia tekoälyetiikasta ja kannustavat heitä siten olemaan varpaillaan suunnittelemaan tekoälyä näiden asioiden välttämiseksi. Toinen keino on se, että tekoäly itse valvoo itse epäeettistä käyttäytymistä ja/tai toinen tekoäly, joka tarkkailee muita tekoälyjärjestelmiä mahdollisesti epäeettisen käyttäytymisen varalta. Olen käsitellyt lukuisia muita mahdollisia ratkaisuja kirjoituksissani.

Viimeinen ajatus toistaiseksi.

Saatat tietää, että Lou Gehrig sanoi kuuluisasti, että pesäpallossa ei ole tilaa syrjinnälle. Saman ajattelutavan perusteella voisit rohkeasti julistaa, että tekoälyssä ei ole tilaa syrjinnälle.

Meidän kaikkien on ryhdyttävä vauhtiin ja löydettävä tapoja estää syrjinnän leviäminen tekoälyjärjestelmiin. Meidän kaikkien vuoksi meidän on lyötävä tämä ulos pallokentältä.