Uusin järkyttävä tekoälyn eettinen huoli on se, että tekoäly voi erottamattomasti ilmentää poliittisia ennakkoluuloja, myös tekoälyyn perustuvien itseohjautuvien autojen harmittomassa tapauksessa

Puhutaanpa politiikasta.

No, ymmärrän, että olet todennäköisesti loppuun palanut näennäisesti jatkuvasta keskittymisestä politiikkaan kaikissa saatavilla olevissa tiedotusvälineissä näinä päivinä. Punaiset tilat vs. siniset tilat. Liberaalit vastaan ​​konservatiivit. Demokraatit vastaan ​​tasavallat. Puhuminen poliittisista juonitteluista on ällöttävän loputonta.

Olisit voinut kohtuudella olettaa, että on joitakin aiheita, joiden osalta politiikka ei erityisesti tule kuvaan. Pohjimmiltaan ehkä on olemassa kaksi erillistä aiheluokkaa, nimittäin aiheet, jotka ovat poliittisesti infusoituneita riippumatta siitä, mitä, ja muita banaalimpia aiheita, jotka ohittaisivat poliittisen kentän tai pakenevat sitä.

Vaikuttaa järkevältä, että tulee olemaan niitä silmiinpistäviä leimahdusaiheita, jotka ovat ikuisesti juuttuneet politiikkaan ja poliittisiin raivoihin, kuten pitkä lista, joka sisältää kansallisia terveydenhuoltonäkökohtia, vaalinäkökohtia, asevalvontaa, maahanmuuttoa, ja vastaavat. Sinun tarvitsee vain mainita mikä tahansa näistä aiheista, ja seuraavaksi tapahtuu, että olet uppoutunut poliittiseen myrskyyn. Melko kiivaat väitteet ovat melko taattuja.

Palokolikon toisella puolella on kenties aiheita, jotka eivät aiheuta niin poliittista reaktiota. Haluaisin esitellä yhden sellaisen aiheen edessäsi, saadakseni ensireaktionne.

Oletko valmis?

Autot.

Kyllä, arkipäivän aihe autoista, autoista, moottoriajoneuvoista tai miten sen haluat ilmaista, herättääkö se poliittista meteliä vai yllyttääkö se poliittisesti veloitettua kiusaamista tai sanallisia nyrkkeilyjä?

Pinnalla ei ehkä näytä siltä, ​​että autoihin liittyy lisääntynyt poliittinen huoli. Ne ovat yksinkertaisesti päivittäistä kuljetusmuotoa. Istut autoosi ja ajat töihin. Käytät autoasi asioihin ja käyt ostamassa elintarvikkeita. Jos sinulla on aikaa lomalle, voit suunnata autollasi avoimille metsille tai ehkä käydä joissakin arvostetuissa kansallisissa monumenteissa.

Autot näyttävät olevan epäpoliittisia.

Anteeksi, mutta näin ei useinkaan ole.

Voidaan väittää, että autot ovat tiiviisti politiikan ympäröimiä ja uppoutuneita siihen, kuten mikä tahansa muu ns. leimahduspisteaihe. Ehkä yleinen media ei käsittele autokeskeistä politiikkaa niin paljon kuin voitaisiin tehdä muille houkuttelevammille aiheille, mutta siitä huolimatta poliittiset pohjavirrat ovat edelleen olemassa.

Yksi ilmeinen poliittinen ulottuvuus on se, mistä automme tulisi koostua.

Tarkoitan autojen rakennetta tai koneistumista. Esimerkiksi poliittista keskustelua käydään räjähdysmäisesti siitä, pitäisikö autoissa käyttää ICE-moottoria (sisäpolttomoottoria) verrattuna sähköajoneuvoihin (EV). Tämä on tärkeä keskustelualue, joka liittyy lukuisiin muihin poliittisesti latautuviin aiheisiin, kuten ympäristökysymyksiin ja ilmastonmuutokseen.

Vähemmän tunnettu ja kuitenkin asiaan liittyvä asia koskee autojen kokoa ja niiden kokonaisjalanjälkeä eri suhteissa. Pitäisikö meidän olla isoja autoja vai vain pienempiä? Pitäisikö meidän suunnitella autoja autojen käytön ehkäisemiseksi, jotta ihmiset saataisiin käyttämään joukkoliikennettä ja joukkoliikennettä? Ja niin edelleen.

Tässä on jotain, jota et todennäköisesti tullut ajatelleeksi.

Joissakin tutkimuksissa on selvitetty, perustuuko omistetun auton tyyppi auton omistajan poliittisiin suuntauksiin. Oletettavasti voit löytää tilastollisen korrelaation demokraatiksi julistetun henkilön välillä ostetun auton tyypin suhteen, ja samoin löytää tilastollisen korrelaation republikaanien ja omistetun auton tyypin välillä. En aio syventyä noihin tutkimuksiin tässä, vaikka haluaisinkin mainita, että tällaisia ​​tutkimuksia ja niiden tuloksia tulee tulkita varovaisesti ja mojovan annoksen skeptisyyttä asiaan liittyvän tilastollisen pätevyyden suhteen.

Tilastojen käytöstä puhuttaessa poliittisiin ominaisuuksiin ja autoihin liittyy toinenkin kiehtova näkökulma. On olemassa tutkimusyrityksiä, jotka näyttävät yhdistävän erilaisia ajokäyttäytymistä kuljettajien poliittiseen puolueeseen.

Usein käsiteltyjä kysymyksiä ovat mm.

· Ovatko auto-kolareihin tai törmäyksiin joutuvat kuljettajat todennäköisemmin tai vähemmän todennäköisemmin demokraatteja tai republikaaneja?

· Ovatko rattijuoppoilijat todennäköisemmin liberaaleja vai konservatiiveja?

· Kun niitä hulluja raivokohtauksia tapahtuu, joissa kuljettajat raivoavat ja iskevät toisiaan vastaan, olisivatko nuo hullut raivoavat hullut yleensä liberaaleja vai konservatiiveja?

· Kuka saa enemmän liikennelippuja ja oletettavasti ajaa riskialttiimmin, demokraatit vai republikaanit?

· Jne.

Jälleen kerran, en aio sukeltaa näihin tutkimusponnisteluihin tässä. Ja vielä kerran, muista olla varpaillasi, kun luet tällaisia ​​tutkimuksia tai näet kiihkeitä otsikoita niiden tuloksista. Sanon vain, että vanha linjaus tilastoista on yhä totta nykyäänkin, niin että on valheita, kirottuja valheita ja tilastoja (siivosin sen suolaisen viisauden herkeämmälle yleisölle).

Meillä näyttää siis olevan runsaasti todisteita siitä, että autojen aihe on valitettavasti täynnä poliittisia konnotaatioita.

Valitsen sitten toisen aiheen, sellaisen, joka ehkä todellakin on täysin epäpoliittinen.

Valmiina tällä kertaa?

Tekoäly (AI).

Varmasti, toivoisi, tekoälyn on oltava epäpoliittinen, varsinkin mitä tulee tekoälyjärjestelmien sisäisiin kapasiteettiin. Saatat tietysti epäillä, että politiikkaa on olemassa ympäröivä pitäisikö tekoälyä käyttää vai ei, mutta näennäisesti luulisi, että tekoälyjärjestelmän sisäisyys olisi sellaisenaan minkään poliittisen käymisen ulkopuolella.

Ennen kuin tarkastelemme tätä yleistä oletusta lähemmin, saattaa olla opettavaista pohtia joitain muita tekoälyn puolia, jotka ovat viime aikoina saaneet monet ajattelemaan uudelleen harhaanjohtavaa tarvetta tuottaa ja vaistomaisesti hyväksyä tekoälyjärjestelmiä hatun pisaran päästä.

Näet, kiireessä kohti AI Hyvä Viime vuosien jännityksen vuoksi on ollut nouseva tieto siitä, että kaikki tekoäly ei ole välttämättä hyvää. Olemme nähneet, että mahdollisuuksia on myös runsaasti AI huono nousta. Tämä voi tapahtua tekoälyn kehittäjien tarkoituksenmukaisesta tarkoituksesta ja voi tapahtua myös siksi, että jotkut väittävät jyrkästi, että tekoälykehittäjät ja tekoälyjärjestelmiä levittävät eivät ole valvoneet täysin vastuuttomasti.

Olen käsitellyt monia näistä tekoälyn eettisistä ongelmista kolumnikattauksessani, kuten linkin täällä ja linkin täällä.

Pidä indikaattorina AI huono kasvojentunnistuksesta.

Monet ajattelivat, että kasvojentunnistus tulee olemaan tekoälytekniikoista hienoin (ja monella tapaa se on todellakin eräänlainen AI Hyvä). Pankkiautomaateilla olisi niin helppoa hoitaa pankkiasioita yksinkertaisesti skannaamalla kasvosi tunnistamista varten salaisen pin-koodin ja pankkikortin käyttämisen sijaan. Olisi niin kätevää kävellä ruokakauppaan ja tehdä ostoksia käyttämällä kasvojasi osoittamaan verkkokauppatiliäsi, joka voidaan veloittaa mistä tahansa valitsemastasi tuotteesta.

Tiedät poran.

Seuraavaksi tiedät, että yhteiskunta alkoi havaita, että kasvojentunnistus ei ole vain makeanmakuisia karkkeja ja makealta tuoksuvia ruusuja. Jotkut tekoälyyn perustuvat kasvojentunnistusalgoritmit tekivät surkeaa työtä pystyessään erottamaan ihmiset rodun perusteella. Esiin nousi lukuisia muita hämmentäviä ja suorastaan ​​törkeitä kysymyksiä, mukaan lukien sukupuoleen ja muihin tekijöihin liittyvät luontaiset ennakkoluulot. Katso tästä linkistä artikkelini kasvojentunnistuksen taustalla olevista tekoälyn etiikka-aiheista.

Kaiken kaikkiaan pointti on, että on olemassa vahva mahdollisuus, että mikä tahansa AI Hyvä aikoo kuljettaa myös siihen liittyviä matkatavaroita, jotka koostuvat AI huono. On joitain tilanteita, jolloin AI huono on täysin huono, ja on olemassa vain vähän lunastavia ominaisuuksia, jotka viittaisivat siihen, että niitä on vähän AI Hyvä sisällä. Kaiken kaikkiaan kuitenkin yleensä tekoälyjärjestelmässä on ilmeisesti molemmat AI Hyvä ja AI huono. Ensimmäistä haluaisimme rohkaista, jälkimmäistä ehkäistä, rajoittaa, lieventää, ja kun kaikki muu epäonnistuu, tartu kiinni ja hävitä niin pian kuin mahdollista.

Saatat ajatella, kyllä, kaikki tämä on järkevää, ja meidän pitäisi harkita tekoälyä tietoisesti kaikenlaisten rotujen, sukupuoliharhojen ja kaikenlaisen eriarvoisuuden varalta. Tämä olisi asianmukainen toiminta ja auttaisi yhteiskuntaa välttämään pahaa ja keräämään hedelmällisesti tekoälyn hyvää.

Uskokaa tai älkää, mutta tekoälyyn käärittyjen yllättävien asioiden luetteloon voidaan lisätä toinenkin tekijä, jota monet eivät tienneet olevan tekoälyn kirjavassa muhennuksessa.

Poliittiset taipumukset.

Viimeaikaiset tutkimukset osoittavat, että tekoälyjärjestelmät voivat ilmentää (ikään kuin, vaikkakaan ei antropomorfisesti) lukuisia poliittisia suuntauksia, mielipiteitä, mieltymyksiä ja muita vastaavia poliittisia ominaisuuksia ja infuusioita. Tämä voi puolestaan ​​vaikuttaa tekoälyn toimintaan, kuten siihen, mitä tekoäly "päättää" tekoälyn ohjelmoinnin perusteella.

Jos haet lainaa verkossa ja käytössä on tekoälypohjainen algoritminen päätöksentekojärjestelmä, sinulla ei usein ole aavistustakaan siitä, mistä tekoälyohjelmointi koostuu. Sanomalla, että saat hylätyn lainan, et voi olla varma, että tekoäly vältti käyttämästä rotuasi, sukupuoltasi tai muita vastaavia tekijöitä hylkäysvalintaa tehdessään.

Et voi myöskään olla varma, ettei tekoäly tukahduttanut lainapyyntöäsi poliittisten ennakkoluulojensa vuoksi.

Kun sanon sen näin jyrkästi, älä liioittele käsitystä uskomalla, että tekoäly on tunteva. Kuten mainitsen vielä hetken kuluttua, meillä ei ole nykyään tuntevaa tekoälyä. Piste, piste. Huolimatta siitä, mitä villejä otsikoita näet, muista, että nykyään ei ole mitään lähelläkään tuntevaa tekoälyä. Emme edes tiedä, onko älykkyyden saavuttaminen tekoälyllä mahdollista. Ei myöskään ole viitteitä siitä, milloin se tapahtuu tai tapahtuuko se koskaan.

Takaisin käsillä olevaan asiaan.

Nyt kun olen päässyt pöydälle, että tekoäly voi sisältää poliittisia ennakkoluuloja, voimme tarkastella lähemmin, miten tämä tapahtuu ja millä tavoin poliittiset taipumukset voivat kavalasti ilmaantua.

Jos käsitys siitä, että tekoäly voi sisältyä poliittisiin mieltymyksiin, aiheuttaa sinulle kauhistuttavaa järkytystä tai järkytystä, ota se vielä yksi esimerkki tekoälyn tahrattoman verhon lävistämisestä. Yhteiskunta näyttää tähän asti hyväksyneen tekoälyn brändäyksen, joka sisältää suuren viattomuuden ja neutraalisuuden ja tasapainon koskemattoman auran.

Olemme saaneet siirtää tämän muun tyyppisistä koneista. Leivänpaahtimella ei näytä olevan luontaisia ​​ennakkoluuloja rotuun, sukupuoleen ja niin edelleen. Emme myöskään odottaisi, että leivänpaahdin olisi ikään kuin poliittisesti ajatteleva. Leivänpaahdin on leivänpaahdin. Se tulkitaan vain koneeksi.

Syy siihen, miksi leivänpaahtimen näkökulma ei pidä vettä tekoälyn suhteen, on se, että tekoälyjärjestelmä on ohjelmoitu yrittämään jatkaa kognitiivisia kykyjä. Sellaisenaan tämä työntää koneen kognitiivisten ongelmien, kuten ennakkoluulojen ilmentämisen ja vastaavien, pulaan. Vakuutan teille, että huomaamme tarpeeksi pian, että tekoälypohjaiset leivänpaahtimet ovat täynnä ennakkoluuloja ja ongelmallisia huolenaiheita.

Kätevä tapa avata ovi ymmärtämään, kuinka tekoäly voi tulla poliittisesti läpikyllästetyksi, on pohtia tekoälyn käyttöä tekoälypohjaisten todellisten itseohjautuvien autojen ilmaantuessa. Voimme lyödä kahta kärkeä yhdellä iskulla ja tutkia yleistä ja kattavaa tekoälyä, joka sisältää poliittista ruumiillistumaa, ja tehdä sen esimerkinomaisessa kontekstissa siitä, miten tämä voi syntyä itseohjautuvissa autoissa.

Haluan kuitenkin selventää, että tekoälyn poliittinen rokottaminen on itsenäinen aihe, joka ansaitsee sille omansa. Älä vahingossa yhdistä itseohjautuvien autojen tekoälyä tekoälyn poliittisiin ulottuvuuksiin. Kaikella tekoälyllä on poliittisesti luontaisia ​​mahdollisuuksia, ja sen syvyys ja aste riippuu siitä, miten tekoäly on suunniteltu ja kohdistettu.

Tässä on sitten huomionarvoinen kysymys, jota kannattaa pohtia: Kuinka tekoäly saa sisäisesti ikääntymään poliittisia taipumuksia, ja voiko tätä edes tapahtua näennäisesti epäpoliittisessa tekoälyssä, jota käytetään noissa tekoälypohjaisissa itseohjautuvissa autoissa?

Sallikaa minun avata hetki kysymyksen, joka liittyy itseohjautuviin autoihin.

Ensinnäkin, huomaa, että todellisessa itseajavassa autossa ei ole ihmiskuljettajaa. Muista, että todellisia itseohjautuvia autoja ajetaan tekoälyjärjestelmän kautta. Rattiin ei tarvita ihmiskuljettajaa, eikä myöskään ole mahdollista, että ihminen voisi ajaa ajoneuvoa. Katso tästä linkistä kattava ja jatkuva kattavuus autonomisista ajoneuvoista (AV) ja erityisesti itseohjautuvista autoista.

Haluaisin selventää tarkemmin, mitä tarkoitetaan, kun viittaan todellisiin itse ajaviin autoihin.

Ymmärtäminen itse ajavien autojen tasoista

Selvyyden vuoksi todelliset itse ajavat autot ovat sellaisia, että tekoäly ajaa autoa kokonaan yksin eikä ajo-tehtävän aikana ole mitään apua.

Näitä kuljettajattomia ajoneuvoja pidetään tasoina 4 ja 5 (katso selitykseni tässä linkissä täältä), kun taas autoa, joka vaatii kuljettajaa jakamaan ajoa yhdessä, pidetään yleensä tasolla 2 tai 3. Jaa ajotehtävän kuvataan olevan puoliautonominen, ja ne sisältävät tyypillisesti erilaisia ​​automaattisia lisäosia, joihin viitataan nimellä ADAS (Advanced Driver-Assistance Systems).

Tasolla 5 ei ole vielä aitoa itse ajavaa autoa, jota emme vielä edes tiedä, onko tämä mahdollista saavuttaa ja kuinka kauan sen saavuttaminen vie.

Sillä välin tason 4 ponnisteluilla yritetään vähitellen saada jonkin verran pitoa tekemällä hyvin kapeita ja valikoivia julkisia tieliikennekokeita, vaikka onkin kiistaa siitä, pitäisikö tämän testin sallia sinänsä (olemme kaikki elämässä tai kuolemassa olevia marsuja kokeessa Jotkut väittävät, että katsaukseni tässä linkissä on täällä).

Koska osittain itsenäiset autot vaativat ihmisen kuljettajan, tämäntyyppisten autojen omaksuminen ei ole selvästi erilainen kuin tavanomaisten ajoneuvojen ajaminen, joten sinänsä ei ole paljon uutta kattamaan niitä tästä aiheesta (tosin kuten näette hetkessä seuraavia pisteitä voidaan yleensä soveltaa).

Osittain itsenäisten autojen osalta on tärkeää, että kansalaisia ​​on varoitettava viime aikoina esiintyneestä häiritsevästä näkökulmasta, nimittäin siitä, että huolimatta ihmisten kuljettajista, jotka jatkavat videoiden lähettämistä itsensä nukahtamisesta tason 2 tai 3 autolle, , meidän kaikkien on vältettävä johtamasta harhaan uskoaan, että kuljettaja voi viedä huomionsa ajo-tehtävään ajon puoli-autonomisen auton kanssa.

Olet vastuussa ajoneuvon ajotoimista riippumatta siitä, kuinka paljon automaatiota voidaan heittää tasolle 2 tai 3.

Itseajavat autot ja tekoälyyn sulautetut poliittiset suuntaukset

Tason 4 ja tason 5 itseohjautuvissa ajoneuvoissa ajo-tehtävään ei tule inhimillistä kuljettajaa.

Kaikki matkustajat ovat matkustajia.

AI ajaa.

Yksi näkökohta, josta on keskusteltava välittömästi, merkitsee sitä, että nykypäivän tekoälyjärjestelmiin osallistuva tekoäly ei ole tunteva. Toisin sanoen tekoäly on kokonaisuudessaan tietokonepohjaisen ohjelmoinnin ja algoritmien joukko, eikä varmaankaan kykene perustelemaan samalla tavalla kuin ihmiset.

Miksi tämä korostetaan sitä, että tekoäly ei ole järkevä?

Koska haluan korostaa, että puhuessani tekoälyn ajo-järjestelmän roolista, en omista tekoälylle ihmisen ominaisuuksia. Huomaa, että nykyään on jatkuva ja vaarallinen taipumus antropomorfisoida tekoäly. Pohjimmiltaan ihmiset osoittavat ihmisen kaltaisen tuntemuksen nykyiselle tekoälylle huolimatta kiistattomasta ja kiistattomasta tosiasiasta, että sellaista tekoälyä ei vielä ole.

Tämän selvennyksen avulla voit kuvitella, että tekoälyn ajo-järjestelmä ei luonnostaan ​​jotenkin “tiedä” ajon puolia. Ajo ja kaikki siihen liittyvä on ohjelmoitava osaksi itseajoavan auton laitteistoa ja ohjelmistoa.

Sukelletaan lukemattomiin näkökohtiin, jotka tulevat pelaamaan tästä aiheesta.

Ensinnäkin on tärkeää ymmärtää, että kaikki AI-itse ajavat autot eivät ole samanlaisia. Jokainen autonvalmistaja ja itseajava teknologiayritys suunnittelee itse ajavia autoja. Sellaisenaan on vaikea antaa laajoja lausuntoja siitä, mitä tekoälyjärjestelmät tekevät tai eivät tee.

Lisäksi aina, kun todetaan, että tekoälyohjausjärjestelmä ei tee jotain tiettyä, tämä voi myöhemmin ohittaa kehittäjät, jotka itse ohjelmoivat tietokoneen tekemään juuri sen. AI -ajojärjestelmiä parannetaan ja laajennetaan asteittain. Nykyinen rajoitus ei välttämättä ole enää olemassa tulevassa iteraatiossa tai järjestelmän versiossa.

Luotan siihen, että se tarjoaa riittävän litanian varoituksia, jotka tukevat sitä, mitä aion kertoa.

Meillä on nyt valmiudet sukeltaa syvälle tekoälypolitiikkaan liittyvään dilemmaan.

Jätä lyhyesti syrjään itseajavien autojen näkökohdat ja tutkitaan ensin tekoälyn aihetta sen suhteen, miten se sisältää poliittiset taipumukset. Helpoin tapa tekoälylle päästä poliittisesti lyödäksi on tekoälyohjelmiston luovien tekoälykehittäjien toimet. Ihmisinä he voisivat siirtää henkilökohtaisen poliittisen taipumuksensa siihen, mitä he ohjelmoivat ohjelmiston tekemään.

Kun tekoälyjärjestelmät alkoivat ensimmäisen kerran esitellä erilaisia ​​rotuun ja sukupuoleen liittyviä ennakkoluuloja, syntyi valtava meteli, jonka on täytynyt johtua tekoälykehittäjistä, jotka suunnittelivat kyseiset järjestelmät. Oli syytöksiä, että tämä oli tekoälykehittäjien tarkoituksellinen teko. Toiset kuitenkin ehdottivat, että tekoälykehittäjiltä puuttui monimuotoisuus, ja he antoivat huolimattomasti tai ajattelemattomasti olemassa olevien ennakkoluulojensa siirtyä tekoälyohjelmointitoimiinsa.

Tämä sai monet tekoälytiimit ymmärtämään monimuotoisuuden varmistamisen muiden kehittäjien keskuudessa, myös silloin, kun uusia jäseniä lisättiin heidän ohjelmointiryhmiinsä. Lisäksi luotiin erityisiä opettavia koulutuskursseja lisäämään monimuotoisuustietoisuutta tekoälykehittäjille. On jopa AI-kehitysmenetelmiä, jotka kattavat monimuotoisuusnäkökohdat, jotka ohjaavat tekoälyprojekteja tarkkailemaan harhaa ja epätasa-arvoa järjestelmiinsä.

Vaikka melkein kukaan ei ole vielä tietoinen tekoälyyn liittyvästä poliittisesti sulautuneesta ennakkoluulosta, on todennäköistä, että se lopulta nousee näkyvämmäksi ja seurauksena on äänekäs. Jälleen kerran AI-kehittäjiä seurataan tarkasti. Ehkä jotkut ovat tarkoituksella johtaneet poliittisia taipumuksiaan, kun taas toiset saattavat tehdä niin ymmärtämättä tekevänsä niin.

Uskallan väittää, että painopiste olettaen, että tekoälykehittäjät olivat ainoa lähde, joka tuotti harhaa tekoälyyn, missasi kaiken sen, mistä tekoälyharhaisuus johtui. Vähitellen on alettu tiedostaa, että koneoppimisen (ML) ja syväoppimisen (DL) käytöstä on tullut merkittävä tekijä myös tekoälyn sisäisessä painottumisessa.

Koneoppiminen ja syväoppiminen ovat laskennallisia kuvioiden sovitustekniikoita ja -tekniikoita.

Kokoat tiedot, jotka haluat syöttää ML/DL:ään, joka sitten laskennallisesti etsii matemaattisia kuvioita toimitetusta tietojoukosta. Näiden laskettujen kuvioiden perusteella ML/DL otetaan käyttöön, kuten esimerkiksi kasvojentunnistus. Kasvojentunnistusta varten saatamme syöttää joukkoon kuvia ihmisistä, ja ML/DL laskee kasvojen tunnistettavuuteen liittyvät merkittävät ominaisuudet, kuten nenän muodon ja koon, suun ja huulten muodon ja koon. , otsan muoto ja koko ja niin edelleen.

Tämä laskennallinen lähestymistapa näyttäisi olevan kaiken tyyppisen painottamisen ulkopuolella. Kaikki on vain laskelmia.

Ahaa, mutta muista, että syötämme kuvia (tai mitä tahansa) ML/DL:ään osana "koulutusta" tai laskennallista kuvioiden sovitusta. Jos kasvojentunnistukseen syöttäisimme ensisijaisesti kuvia, joissa näkyy tietyn rodun ihmisiä, on todennäköistä, että laskennallinen kuvioiden yhteensopivuus hioisi näitä kasvojen näkökohtia. Myöhemmin, jos otamme tämän kasvojentunnistusjärjestelmän laajaan käyttöön, niitä, jotka käyttivät sitä ja olivat eri rotua, ei todennäköisesti "tunnisteta" matemaattisesti, koska ML/DL-kuviot on muotoiltu sen rodun ympärille, joka esiintyi pääasiassa koulutuksessa. aseta.

Joten voit selvästi nähdä, kuinka ML/DL:n muutoin "puolueton" matemaattinen lähestymistapa voi vääristyä (on myös muita tapoja, mutta mainitsen vain tämän suuren, tässä). Loivatko tekoälyn kehittäjät tarkoituksella tietojoukon, joka oli rodullisesti epätasapainoinen? Ehdotan, että tämä on harvoin tahallinen teko, vaikka se, että he eivät tajua, että he olivat tehneet niin, ei vieläkään ole riittävä tekosyy.

Nykyään yritetään saada ML/DL:n käyttäjiä harkitsemaan paremmin, mitä tietoja he käyttävät harjoitteluun ja mitä tuloksia tämä tuottaa. Valitettavasti kaikki ovat hypänneet ML/DL:n kelkkaan, ja monet näistä aloittelijoista tai ylilyönneistä, jotka ovat ottaneet ML/DL-vaatteen, tekevät niin tietämättään vääristymistä. Mahdollisesti on myös huonoja näyttelijöitä, jotka saattavat tehdä niin tahallaan, vaikka toivotaan, että heitä on vähän.

Luotan siihen, että edellä mainitut asiat ovat saaneet sinut vauhtiin tekoälyn eettisistä näkökohdista, joihin liittyy puolueellisuuden lisääminen nykypäivän tekoälyyn.

Mene eteenpäin ja toista koko sekaisin korvaamalla yleinen käsitys puolueellisuudesta erityisillä viitteillä poliittisista syistä. Mainitsin jo, että tekoälykehittäjät voivat itse avoimesti tai vahingossa viedä poliittista taipumusta siihen, mitä ohjelmoitu tekoäly tekee. Toinen näkökohta, jonka myös esitin, on se, että koneoppimisen ja syväoppimisen käyttöä varten on mahdollista valita koulutusdataa, joka saattaa tarkoituksella tai vahingossa kantaa tiettyyn poliittiseen ulottuvuuteen sopivia malleja.

No, käytän tätä kolumnia hieman pitkään (hups, TLDR, jotkut sanovat älysti), joten pyrin hahmottamaan lyhyesti esimerkin siitä, kuinka tekoälypohjaisen itseohjautuvan auton tekoäly saattaa joutua näihin. erilaisia ​​poliittisia madonreikiä (katso tästä linkistä laaja kattaukseni tällaisista asioista monissa kolumniviestissäni).

Yksi hyvin tunnettu ja usein keskusteltu mahdollinen pääomakysymys tekoälyn itseohjautuvista autoista koskee robotitaksien käyttöä ja sitä, kenellä on pääsy tähän uuteen liikkuvuuspalveluvaihtoehtoon. Huolenaiheena on, että vain varakkailla on varaa käyttää robotaksia, ja siten alemman tulotason ryhmässä olevat jäävät ilman kuljettajattomien autojen aikakautta (katso perusteellinen raportti tästä linkistä ).

Tästä levottomuudesta seuraa toinenkin käänne.

Kuvittele, että itseajavat autot vaeltavat ympäri kaupunkia ja odottavat kyytipyyntöä. Pyyntö tulee ja lähistöllä oleva itseajava robottitaksi tulee hakemaan ajajan. Kuljettaja ilmoittaa minne hän haluaa mennä, ja tekoälyn ajojärjestelmä suunnittelee tien perille. AI-ajojärjestelmä jatkaa sitten ajamaan autonomista ajoneuvoa haluttuun kohteeseen.

Kaikki tuo näyttää hyvältä.

Tässä on ilmaistu raitistava pelko.

Oletetaan, että AI-ajojärjestelmä päättää suunnitella polun, joka välttää alentuneemmat naapurit. Voit olettaa, että navigointipiirros perustuisi vain optimaaliseen polkuun, kuten pienimpään etäisyyteen tai ehkä lyhimpään aikaan. Ehkä ehkä ei.

Muita tekijöitä voivat olla todennäköisyys, että itseajava auto käy läpi rikollisiksi katsottavilla alueilla. Saattaa olla, että itseohjautuvaan ajoneuvoon ja matkustajiin kohdistuva vaara otetaan huomioon, kumpaa polkua valita.

Käsiä väännetään, että itseajavat autot välttäisivät lähes aina erottamattomasti köyhemmät tai alentuneemmat yhteisöt. Itseohjautuvilla autoilla ajavat ihmiset eivät koskaan näyttäisi ymmärtävän, että tällaisia ​​paikkoja on heidän kaupungeissaan. Tämä vuorostaan ​​oletettavasti tekisi heistä tietämättömiä tällaisten yhteisöjen tarpeista. Tämän lisäksi näillä alueilla asuvat voivat harvoin saada mahdollisuuden käyttää itseajavaa autoa, vaikka se olisi edullista. Heidän keskellään ei vaeltaisi yhtään robotaksia, jotka ovat laskelmien mukaan pitäneet itsensä näiden alueiden ulkopuolella.

Johtuuko tämä harha kehittäjien tahallisesta tekoälyn ohjelmoinnista?

Voi olla, vaikka ei välttämättä niin.

Ehkä tämä harha johtuu koneoppimisen ja syväoppimisen käytöstä?

Toki se on harkittu mahdollisuus.

AI-ajojärjestelmä saattaa perustua ML/DL:ään, joka käytti tietoja koulutukseen siitä, mihin edetä reittiä kartoitettaessa. Jos tiedot olisi muotoiltu tiettyjen alueiden välttämiseksi, ML/DL todennäköisesti havaitseisi tällaisen kuvion ja jatkaisi sitä. Olettaen, että tällaisia ​​tietoja kertyy jatkuvasti, kun itse ajavat autot ovat liikkeellä, päivityksiin ja ylläpitoon myöhemmin käytetyt tiedot vahvistaisivat entisestään samoja keksittyjä kaavoja.

Voisi sanoa, että kuviot sekoittuvat, kun edellisen kuvion käyttö asettuu toistuvasti paikalleen, eräänlainen lumipallo tai jatkuvasti kiertyvä vaikutus.

Tavallaan voisi tulkita, että tämä näennäinen ajatussuunta on esimerkki siitä, kuinka mahdollinen tekoälyyn liittyvä poliittinen taipumus voi syntyä. Yksi näkökulma olisi antaa tekoälyn jatkaa tasaisesti tässä suosiossa. Toinen vaihtoehto olisi muuttaa tekoälyä tietoisesti niille alueille, jotka eivät olleet kaavoja, mikä taas kerran voisi väittää, että tekoälyyn on lisätty ehkä poliittisesti kallistuva asenne.

Kaiken kaikkiaan myös tekoäly Näytteillä poliittinen taipumus tai ainakin sen katsotaan olevan niin, riippumatta siitä, oliko sillä mitään vaikutelmaa (mitä sillä ei aistimielisyydessään ole) asioiden politiikasta.

Yhteenveto

Tällaisia ​​esimerkkejä voidaan nostaa paljon.

Pysyn itse ajavan auton yhteydessä ja annan sinulle toisen nopean esimerkin. Oletetaan, että ratsastaja pyytää nostetta tekoälyautorobottaksilla ja tekee sen päästäkseen keskustan oikeustalossa järjestettävään poliittiseen mielenosoitukseen. AI-ajojärjestelmä kieltäytyy viemästä ratsastajaa sinne.

Miksi?

Kuvittele, että poliittisista mielenosoituksista määränpäänä kerätyt tiedot olivat osoittaneet, että itseajavat autot joutuivat liikenteen murinaan. Oletetaan, että tämä tarkoitti, että itseajavat autot eivät pystyneet tienaamaan rahaa ajajilta, koska liikenteessä oli pitkiä odotusaikoja ja he veloittivat alhaisemman hinnan noista odotusajoista. Tekoälyalgoritmi, kuten ML/DL:n käyttö, saattaa laskennallisesti määrittää, että poliittisiin mielenosoituksiin osallistuminen on hapan rahantekovaihtoehto. Siksi, kun robo-taksia pyydetään menemään poliittiseen mielenosoitukseen, pyyntö hylätään.

Uskon, että voit nähdä, kuinka tämä voidaan nähdä poliittisesti motivoituneena valintana. Vaikka tekoäly ei välttämättä käytä suoraan minkäänlaista poliittista motiivia millään tavalla, se näyttää joka tapauksessa tekevän poliittisen valinnan.

Voit lyödä vetoa pohjasta, että kohtaamme riittävän pian poliittisen vastareaktion tekoälyn poliittisista suuntauksista. Merkitse sanani!

Sanoista puhuttaessa kuuluisa kreikkalainen runoilija ja näytelmäkirjailija Aristophanes väitti, että jokaisen kiven alla piilee poliitikko. Nykymaailmassa jokaisessa tekoälyjärjestelmässä on kiistaton mahdollisuus piilevään poliittiseen taipumiseen, tiesitpä siitä tai et.

Parempi alkaa kääntää niitä kiviä.