Tekoälyn etiikka häiriintynyt viimeisimmän Kiinan suunnitteleman tekoälyn puolueiden uskollisuuden mielenlukemisen kasvojentunnistuksen todistus, joka saattaa ennakoida ahdistavia autonomisia järjestelmiä

Oletko lojaali?

Teoriassa voisi olla mahdollista tarkastella avoimia tekojasi ja varmistaa, osoittaako toimintasi uskollisuutta.

Oletetaan kuitenkin, että sen sijaan yritettiin lukea ajatuksiasi ja sillä välin skannata kasvojasi määrittääksesi uskollisuusosuutesi. Tämä on aavemaisen häiritsevää; saatat helposti kiistää. Kuulostaa yhdeltä niistä hulluista scifi-elokuvista, jotka visioivat tulevaisuuden dystopista yhteiskuntaa.

Onneksi kuiskaat itsellesi salaa, meillä ei ole tänään mitään sellaista.

Oi, pidä hevosistasi kiinni.

Uutisotsikot ovat äskettäin huutaneet, että Kiinassa 1. heinäkuuta 2022 verkossa julkaistu tutkimuspaperi kuvasi tutkimuksen, jonka oletettavasti arvioitiin ihmisten aivoaaltoja ja heidän ilmeensä, jotta voitaisiin laskea, olivatko he uskollisia Kiinan kommunistiselle puolueelle (KKP). . Tulevaisuus on siis lähempänä ja lähempänä, ainakin sen dystooppisen yhteiskunnan saavuttamisessa, jonka olemme pelänneet joskus syntyvän.

Tutkimuspaperi katosi nopeasti verkossa julkaistusta linkistään.

Oletettavasti nopea halveksuminen, joka pyyhkäisi nopeasti Internetissä, riitti paperin poistamiseen. Tai ehkä tutkijat haluavat vain tehdä muutamia sanamuotomuutoksia ja muita harmittomia korjauksia tavoitteenaan tehdä uudelleenpostitus, kun heillä on ollut perusteellisempi tilaisuus varmistaa, että i-kirjaimet ovat katkottuja ja t-kirjaimet on kaikki ylitetty. Meidän on pidettävä silmämme auki nähdäksemme, saako paperi toisen elämän.

Aion mennä eteenpäin ja sukeltaa syvästi siihen, mitä tiedämme tutkimustutkimuksesta, ja yritän yhdistää pisteet siitä, kuinka tällaisella tekoälyyn liittyvällä työllä on merkitystä meille kaikille, ylittäen tämän näkemisen. vain yhteen tiettyyn maahan. Käsitykseni tulee olemaan hieman laajempi kuin muut äskettäiset raportit tästä uutisarvosta, joten ole hyvä ja kärsivällinen.

Korostan myös sitä, että voimme poimia väitetystä paperista lukuisia tärkeitä tekoälyn eettisiä oppitunteja. Jatkuva ja laaja kattavuus tekoälyn eettisyydestä ja eettisestä tekoälystä, katso linkki tähän ja linkki tähän, vain muutamia mainitakseni.

Tässä on mitä tähän mennessä on mainittu tutkimustutkimuksesta.

Ilmeisesti joitain "vapaaehtoisia" värvättiin osallistumaan kokeeseen, joka koski käsityksiä KKP:sta. Ei tiedetä, olivatko he halukkaita vapaaehtoisia vai samanlaisia ​​kuin ohjatut tai ehkä ohjatut vapaaehtoiset. Oletamme keskustelun vuoksi, että he olivat mielellään tutkimuksen kohteena.

Otan tämän esille, jotta se ei olisi vain hämärää. Aina kun tehdään koe, jossa on mukana ihmisiä, on olemassa lukuisia yleisesti hyväksyttyjä käytäntöjä, jotka koskevat tällaisten koehenkilöiden rekrytointia ja tutkimukseen upottamista. Tämä johtuu osittain aikaisemmista tutkimuksista, jotka usein huijasivat tai pakottivat ihmisiä osallistumaan kokeeseen, mikä toisinaan johti haitallisiin psykologisiin seurauksiin tai jopa fyysisiin vaurioihin osallistujille. Tiedeyhteisö on yrittänyt väkivaltaisesti rajoittaa tämäntyyppisiä salakavalaisia ​​tutkimuksia ja vaatii, että ihmisiin liittyviin tutkimuksiin haetaan kaikenlaisia ​​paljastuksia ja varoituksia.

Selvennyksenä on, että kaikki eivät noudata tällaisia ​​varovaisia ​​ja tunnollisia ohjeita.

Jatkossa oli tiedossa 43 aihetta, ja heidän sanottiin olevan Kiinan kommunistisen puolueen jäseniä. Muista, että koehenkilöiden valinta kokeeseen on varsin ratkaisevaa kokeen kannalta ja se on myös otettava huomioon mahdollisissa johtopäätöksissä, joita saatat yrittää tehdä myöhemmin kokeen tuloksista.

Oletetaan, että haluan tehdä kokeen siitä, kuinka ihmiset näkevät ylistetyn Star Wars -sarjan. Jos valitsen etukäteen aiheita, jotka kaikki vihaavat Star Warsia (miten sellaisia ​​ihmisiä voi olla olemassa?), ja näytän heille Star Wars -videopätkiä, on todennäköistä, että he sanovat edelleen, että he eivät pidä Star Warsista. Tämän näennäistieteellisen kokeen perusteella väitän ehkä lujasti, että ihmiset - yleensä - todella vihaavat Star Warsia, mikä "todistettiin" (silmäisku) minun "huolellisesti" valmistelemassani tutkimusympäristössä.

Et ehkä tiedä, että olin ikään kuin väärentänyt rulettipyörän esivalimalla aiheet, joiden odotin tuovan salaa toivomani tulokset. Tietysti, jos olisin tarkoituksella värväänyt sen sijaan ihmisiä, jotka rakastivat Tähtien sotaa ja olivat innokkaita innokkaita faneja, he todennäköisesti ilmoittaisivat olevansa innoissaan katsoessaan noita Star Wars -leikkeitä. Jälleen kaikki johtopäätökset siitä, kuinka ihmiset yleensä reagoivat Tähtien sotaan, lievennetään ennalta valituilla aiheilla, jotka on valittu ponnistelulle.

KKP-painotteisessa tutkimuksessa koehenkilöt ilmeisesti istuivat kioskimaisen videonäytön edessä ja lukivat erilaisia ​​artikkeleita KKP:n politiikasta ja saavutuksista. Tämä on luultavasti se "kokeellinen hoito", jolle koehenkilöt altistuvat. Kun suunnittelet kokeilua, keksit yleensä kokeellisen tekijän tai näkökohdan, jonka haluat nähdä, vaikuttaako se osallistujiin.

Tutkimuskysymys, jota ilmeisesti tutkittiin, oli se, olisiko näiden materiaalien tarkastelulla vaikutusta koehenkilöihin lisäämällä, vähentäen tai neutraalisti heidän myöhempien mielipiteidensä KKP:sta.

Klassisessa nollahypoteesissa voit järjestää tällaisen tutkimuksen toteamaan, että käytetyillä materiaaleilla ei ole vaikutusta koehenkilöiden myöhempään vaikutelmaan. Kun olet vertaillut heidän näkemyksiään CCP:stä ennen ja jälkeen, yrität tilastollisesti selvittää, havaittiinko heidän näyttökerroissaan tilastollisesti merkittävää muutosta.

Voi olla, että ennen ja jälkeen eivät ole tilastollisesti erilaisia, joten voit kohtuudella alustavasti päätellä, että tässä tutkimuksessa näytetyt materiaalit (kokeellinen käsittely) eivät vaikuttaneet vaikuttavan vaikutelmiinsa. Toisaalta, jos ero on tilastollisesti pätevä, katsoisit, onko jälki suurempi kuin edellinen, jolloin voit varovasti ehdottaa, että materiaalit lisäsivät heidän vaikutelmiaan (ja kolikon toisella puolella, jos jälki oli pienempi kuin aikaisempi tämä saattaa tarkoittaa, että materiaalit heikensivät tai alensivat vaikutelmiaan).

On paljon nalkuttavia irtonaisia ​​päitä, jotka olisi käsiteltävä tällaisessa tutkimuksessa.

Esimerkiksi yleensä haluamme ns. kontrolliryhmän, jota voimme verrata kokeellisen hoidon saaviin. Tässä on syy. Oletetaan, että istuminen kioskin edessä lukemassa materiaalia oli todellinen perusta sille, miksi vaikutelmat muuttuivat. Voi olla, että käytettyjen materiaalien luonteella ei ole juurikaan merkitystä vaikutelman vaikutuksen kannalta. Pelkästään istuminen ja lukeminen, esimerkiksi uusimpien tarinoiden lukeminen kissoista, jotka tekevät hauskoja asioita, voi auttaa yksinään. Tästä syystä saatamme järjestää joidenkin aiheiden olevan kontrolliryhmäämme, joka on alttiina jollekin muulle luettavalle materiaalille kuin CCP-käytäntöihin ja saavutuksiin liittyvälle materiaalille.

Emme tiedä, tehtiinkö niin tässä tapauksessa (kukaan ei näytä vielä maininneen tätä puolta).

Ymmärrän, että olet jo nyt suuttumassa tutkimuksen tiedotusvälineiden räjähdysvaarasta. Siirrymme ripeästi siihen osaan.

Kuinka voimme havaita, reagoivatko tämän kokeen koehenkilöt vaikutelmiinsa tai muuttivatko ne vaikutelmiaan näytetyn materiaalin lukemisen seurauksena?

Tavanomainen tapa olisi kysyä heiltä.

Olisit ehkä etukäteen täyttänyt kyselylomakkeen, jossa heiltä kysytään heidän mielipiteitään KKP:sta. Sitten kokeelliselle käsittelylle altistumisen jälkeen, kuten esillä olevien materiaalien lukemisen yhteydessä, voisimme suorittaa toisen kyselylomakkeen. Koehenkilöiden ennen ja jälkeen antamia vastauksia voidaan sitten verrata. Jos käyttäisimme myös kontrolliryhmää, olettaisimme, että kontrolliryhmän vastaukset eivät muuttuisi oleellisesti edellisestä jälkikäteen (uskomalla, että kissojen leikkimistä koskevien tarinoiden katsomisen ei olisi pitänyt vaikuttaa heidän CCP-vaikutelmiinsa).

Tämä tapa kysyä koehenkilöiltä heidän vaikutelmiaan ei välttämättä ole niin suoraviivaista kuin miltä se saattaa näyttää.

Oletetaan, että kokeen kohteet saavat sellaisen tunteen tai yleisen ajautumisen, että haluat heidän reagoivan kokeelliseen hoitoon tietyllä tavalla. Siinä tapauksessa he saattavat tarkoituksella liioitella reaktioitaan kokeellisen annon jälkiosassa. Olet varmasti nähnyt tämän tapahtuvan. Jos teen makutestin markkinoille tulevalle uudelle soodalle, saatan käyttäytyä kuin olisin nauttinut soodasta villisti, toivoen, että pääsisin limsan valmistajan mainokseen ja saan ansaitsemani viisitoista minuuttia kuuluisuutta. .

Pääasia on, että pelkkä ihmisten mielipiteiden kysyminen ei ole varma tapa arvioida muutoksia. Se on yksi lähestymistapa. Muita lähestymistapoja voitaisiin ja usein myös käytetään.

Miten tämä tutkimus päätti mitata koehenkilöiden reaktioita?

Ilmeisesti käytettiin ainakin kahta menetelmää. Yksi menetelmä koostui kasvojen skannauksesta ja tekoälypohjaisen kasvojentunnistusohjelmiston käyttämisestä koehenkilöiden reaktioiden arvioimiseen. Toinen menetelmä oli tiettävästi jonkinlainen aivoaaltojen skannaus. Toistaiseksi ei ole raportoitu, minkä tyyppisiä aivoaaltojen skannauslaitteita käytettiin tai millaista tekoälypohjaista aivoaaltojen analysointiohjelmistoa käytettiin.

Eri raportit ovat osoittaneet, että tutkimus totesi kokeen luonteesta näin: "Yhtäältä se voi arvioida, kuinka puolueen jäsenet ovat ottaneet vastaan ​​ajattelun ja poliittisen kasvatuksen." Ja tutkimuksessa oletettavasti mainittiin myös tämä: "Toisaalta se tarjoaa todellista tietoa ajatteluun ja poliittiseen koulutukseen, jotta sitä voidaan parantaa ja rikastuttaa." Tutkimuksen katsottiin tapahtuneen Kiinan Hefein kattavan kansallisen tiedekeskuksen alaisuudessa.

Median raportit viittaavat siihen, että tutkimus viittasi väitteeseen, että kasvojentunnistusskannaukset ja aivoaaltoskannaukset pystyivät auttamaan havaitsemaan, että jälkivaikutelmat lisääntyivät CCP:stä.

Haluaisin huomauttaa, että ilman, että pystymme tarkastelemaan suoraan käytettyjä järjestelmiä ja tutkimaan tarkasti tutkimuspaperia, emme tiedä yksityiskohtia siitä, miten näitä tekoälypohjaisia ​​järjestelmiä tarkalleen käytettiin.

Voi olla, että koehenkilöt reagoivat kokeelliseen ympäristöön ennemmin kuin kokeelliseen hoitoon. Jokainen, joka osallistuu tutkimukseen, saattaa olla aluksi huolissaan. Tämä saattaa hämmentää aivoaaltoskannauksia tai kasvokuvioanalyysiä. On myös mahdollista, että he tunsivat motivaatiota miellyttää tutkijoita ja päättivät keksiä positiivisia ajatuksia nähtyään materiaalit, ja tämä voisi teoriassa heijastua aivoaaltotutkimuksissa ja kasvojen skannauksissa (ehkä, mutta muistakaa, että on olemassa hieno paljon kiihkeää kiistaa tällaisten väitteiden pätevyydestä, kuten selventän hetkessä), toivoen vääristävän tuloksia ja osoittavan, että niillä oli positiivinen vaikutus.

Twitter-reaktio tuomitsi olennaisesti, että pelkkä tekoälyn avulla toteutettujen aivoaaltoskannausten ja kasvojentunnistuksen käyttäminen on sinänsä kauhistuttava ja törkeä teko. Vain ihmishirviöt käyttäisivät tällaisia ​​laitteita, meille kerrotaan joistakin noista twiiteistä.

Minun täytyy pyytää sinua istumaan alas ja valmistautumaan johonkin, joka saattaa olla töykeä ja järkyttävä yllätys.

Maailmassa on monia tutkijoita, jotka käyttävät samanlaisia ​​tekniikoita tutkimustutkimuksissaan. Tämä ei todellakaan ole ensimmäinen kerta, kun aivoaaltoskannausominaisuutta käytettiin ihmisillä tutkimuksessa. Tämä ei myöskään todellakaan ollut ensimmäinen kerta, kun kasvojentunnistusta käytettiin ihmisillä kokeellisiin tarkoituksiin. Jopa pintapuolinen verkkohaku näyttää sinulle paljon kokeellisia tutkimuksia kaikenlaisista maista ja laboratorioista, jotka ovat käyttäneet tämäntyyppisiä laitteita.

Nyt kun sanotaan, niiden käyttäminen KKP:lle uskollisuuden mittaamiseen ei ole asia, johon voisit keskittyä paljon. Kun tällaista tekoälyä käytetään hallituksen valvontaan, punainen viiva on ylitetty, kuten he sanovat.

Se on ilmeisesti jäähdyttävä osa koko settiä ja kaboodlea.

Monet ovat ilmaisseet huolensa siitä, että jos hallitukset päättävät käyttää aivoaaltojen skannaustekniikkaa ja kasvojentunnistusta varmistaakseen uskollisuuden käsillä oleville hallituksille, joudumme dystooppiseen loukkaantumisten maailmaan. Kun kävelet julkisella kadulla, voi olla, että lyhtypylvääseen asennettu laite määrittää luottamuksellisesti uskollisuusosuutesi.

Oletuksena on, että jos kasvosi eivät näytä viittaavan siihen, että olet riittävän uskollinen, tai jos aivoaaltokuva viittaa samaan, hallituksen roistot saattavat yhtäkkiä ryntätä luoksesi ja tarttua sinuun. Järkyttävää. Synkkä. Ei saa sallia.

Tämä on ydin, miksi tästä uutisesta on noussut otsikko, joka on kohua ja raivoa.

Kuvittele tämä. Aiomme mahdollisesti luoda ja sitten ottaa käyttöön tietokonepohjaisia ​​järjestelmiä, jotka käyttävät uusinta tekoälyä päättääkseen, olemmeko uskollisia vai emme. Jos yrittäisit palkata ihmisiä istumaan ja tekemään samoin, tarvitsisit paljon ihmisiä ja sinulla olisi logistiikkaongelma, joka yrittää sijoittaa heidät katsomaan kaikkia. Tekoälypohjaisen järjestelmän tapauksessa sinun tarvitsee vain asentaa elektroniset laitteet lyhtypylviin, rakennusten sivuille ja niin edelleen. Lojaalisuuden skannaus voi tapahtua 24 × 7, kaikkina aikoina, kaikissa näin varustetuissa paikoissa. Tämä voidaan sitten syöttää massiiviseen tietokantaan.

Meistä tulee ihmisiä, jotka ovat pelkkiä hampaat kolossissa kaiken näkevässä kaiken tarkkailevassa yhteiskunnallisessa sortavassa ekosysteemissä. Näkevä silmä ei ole vain katsomassa, mitä teemme. Se myös tulkitsee sitä, mitä kasvomme väittävät sanovan uskollisuudestamme hallitukselle. Myös mielemme on tutkittava saman kauhean syyn vuoksi.

Yikes!

Tästä tulee myös toissijainen huolenaihe, vaikkakaan ei ehkä aivan niin vaikea verrattuna Big Brother -vaikutuksiin kuin jo luonnosteltiin.

Mieti näitä kahta kiireellistä kysymystä:

• Voimmeko luotettavasti väittää, että aivoaaltotutkimus voi todistaa uskollisuutesi?
• Voimmeko luotettavasti väittää, että kasvojentunnistusskannaus voi todistaa uskollisuutesi?

Odota, saatat huutaa keuhkojesi päästä.

Ymmärrän ja tunnustan, että et ehkä välitä yhtä paljon luotettavuusnäkökohdista sinänsä. Se, voidaanko tämä tehdä luotettavasti, ei ole yhtä tärkeää kuin se, että se ylipäätään tehdään. Kenenkään ei pitäisi olla tällaisen tarkastelun alla. Unohda, toimiiko tekniikka sopivasti tähän tehtävään. Meidän ei pitäisi ryhtyä tehtävään alkuvaiheessa.

Joka tapauksessa vastaus juuri nyt on jyrkkä ei, nimittäin että olemassa olevat tekoälyjärjestelmät, jotka tekevät minkäänlaista "aivoaaltoskannausta" ja kasvojentunnistusta, eivät ole riittävän kykeneviä tekemään tätä harppausta.

Olet ehkä nähnyt viime aikoina, että jotkut kasvojentunnistusvalmistajat ovat perääntyneet kasvojentunnistusjärjestelmiensä käyttöönotossa. Tulevassa kolumnipostauksessa aion keskustella esimerkiksi Microsoftin viimeaikaisista ponnisteluista yrittää pysäyttää niiden tulva, jotka käyttävät Microsoftin toimittamia kasvojentunnistustyökaluja tarkoituksiin, jotka ovat paljon muutakin kuin mitä tekniikka pystyy tekemään tai mihin sitä pitäisi käyttää. . Saatat kiinnostaa aikaisempaa näkemystäni tekoälyn eettisistä epäilyistä, jotka ovat jo saaneet paljon julkisuutta kasvojentunnistuksesta, katso linkki tähän. Olen myös keskustellut aivoaaltoskannausten areenalla, katso keskusteluni osoitteessa linkki tähän.

Lyhyesti sanottuna ei ole vielä olemassa luotettavia tai järkeviä keinoja väittää, että aivoaaltoskannaus tai kasvojentunnistusskannaus voisi kuvata jonkun uskollisuutta. Jopa oletettavasti perusnäkökohdista, kuten siitä, voitko luotettavasti korreloida nuo skannaukset siihen, onko joku onnellinen vai surullinen, keskustellaan edelleen kiivaasti. Yritetään nostaa ennakkoasennetta johonkin niin amorfiseen ja vaihtelevaan kuin uskollisuus on silta liian pitkälle.

Voisin lisätä, että jotkut uskovat kiihkeästi, että lopulta pääsemme perille. Siksi olen yrittänyt huolella panna merkille, että emme ole vielä siellä, sen sijaan että olisin ilmoittanut, ettemme koskaan pääse perille. Ei koskaan ole iso sana. Sinun on oltava täysin varma, jos aiot heittää ympäriinsä, että tämä tulee ei ikinä olla toteutettavissa (muistaa, että "ei koskaan" kattaa vuosikymmenien tämän hetken, vuosisatojen ja tuhansien tai miljoonien vuosien kuluttua).

Jotkut ovat reagoineet uutiseen tästä kiinalaisesta laboratoriotutkimuksesta indikaattorina siitä, kuinka vaarallisesti maailma on siirtymässä tekoälyn sopimattomiin ja vaarallisiin käyttötarkoituksiin. Annan kanssasi hetken välähdyksen siitä, mitä tekoälyn etiikka tarkoittaa. Tämä auttaa sinua ymmärtämään tarkemmin, miksi tämä tutkimus näyttää rikkovan monia ellei lähes kaikkia yleisesti hyväksyttyjä eettisen tekoälyn sääntöjä.

Uskokaa tai älkää, mutta jotkut ovat ehdottaneet, että ehkä teemme myyrämäestä vuoren tässä tutkimuksessa.

Olemmeko me?

Vasta-argumentti on, että myyrämäestä voi pian tulla vuori. Sananlaskussa lumipallosta, joka vierii alas lumisesta mäestä, tulee yhä suurempi ja suurempi, meidän on estettävä lumipallon käynnistyminen. Jos suvaitsemme tämäntyyppisiä tutkimuksia, annamme lumipallon aloittaa matkansa. Puhumalla ja haastamalla tällaisia ​​tutkimuksia voimme ehkä estää lumipallon.

Yksi asia on varma, olemme Pandoran lippaan avaamisen partaalla tekoälynäkökohtien suhteen, ja kysymys jää siitä, voimmeko estää lippaan avautumisen tai ainakin löytää keinoja käsitellä varovaisesti mitä tahansa sieltä tulee. kun laatikko on vapauttanut pirullisen sisällön.

Jos ei muuta, niin toivottavasti tällaiset mediamyrskyt herättävät laajaa keskustelua siitä, kuinka aiomme estää tekoälyyn liittyviä pahoja tekoja ja estää lukuisia tekoälyn aiheuttamia eksistentiaalisia riskejä. Meidän on nostettava yhteiskunnallista tietoisuuttamme tekoälyn eettisyydestä ja eettisistä tekoälynäkökohdista.

Ennen kuin käsittelemme lisää lihaa ja perunoita tällaisten tekoälyjärjestelmien taustalla olevista villeistä ja epämääräisistä näkökohdista, laaditaanpa joitain lisäperusasioita erittäin olennaisista aiheista. Meidän täytyy sukeltaa lyhyesti tekoälyn etiikkaan ja erityisesti koneoppimisen (ML) ja syväoppimisen (DL) tuloon.

Saatat olla hämärästi tietoinen siitä, että yksi tämän päivän kovimmista äänistä tekoälyalalla ja jopa tekoälykentän ulkopuolella on huutaminen eettisen tekoälyn suuremman vaikutelman puolesta. Katsotaanpa, mitä tarkoittaa viitata tekoälyn etiikkaan ja eettiseen tekoälyyn. Tämän lisäksi tutkimme, mitä tarkoitan puhuessani koneoppimisesta ja syvästä oppimisesta.

Eräs tietty AI Ethics -segmentti tai osa, joka on saanut paljon mediahuomiota, koostuu tekoälystä, jossa on epäsuotuisia ennakkoluuloja ja epätasa-arvoa. Saatat olla tietoinen siitä, että kun uusin tekoälyn aikakausi alkoi, vallitsi valtava innostus siitä, mitä jotkut nykyään kutsuvat. AI Hyvä. Valitettavasti aloimme todistaa tuon purskahtavan jännityksen kannoilla AI huono. Esimerkiksi useiden tekoälyyn perustuvien kasvojentunnistusjärjestelmien on paljastettu sisältävän rotu- ja sukupuoliharhaa, joista olen keskustellut osoitteessa linkki tähän.

Pyrkimykset taistella vastaan AI huono ovat aktiivisesti käynnissä. Paitsi äänekäs juridinen väärinkäytösten hillitsemiseen tähtäävät pyrkimykset omaksua tekoälyn etiikka tekoälyn ilkeyden korjaamiseksi. Ajatus on, että meidän pitäisi ottaa käyttöön ja tukea keskeisiä eettisiä tekoälyn periaatteita tekoälyn kehittämisessä ja levittämisessä tehden näin alentaaksemme AI huono ja samanaikaisesti julistaa ja edistää parempaa AI Hyvä.

Tähän liittyvään ajatukseen, kannatan tekoälyn käyttämistä osana tekoälyongelmien ratkaisua ja tulen torjumista tulella tällä ajattelutavalla. Voisimme esimerkiksi upottaa eettisiä tekoälykomponentteja tekoälyjärjestelmään, joka valvoo, kuinka muu AI tekee asioita ja saa siten mahdollisesti kiinni reaaliajassa kaikki syrjivät toimet, katso keskusteluni osoitteessa linkki tähän. Meillä voisi olla myös erillinen tekoälyjärjestelmä, joka toimii eräänlaisena AI Ethics -monitorina. Tekoälyjärjestelmä toimii valvojana, joka seuraa ja havaitsee, kun toinen tekoäly on menossa epäeettiseen kuiluun (katso analyysini tällaisista ominaisuuksista linkki tähän).

Hetken kuluttua kerron teille joitain tekoälyn etiikan taustalla olevia yleisiä periaatteita. Tällaisia ​​listoja kelluu siellä täällä paljon. Voisi sanoa, että ei ole vielä olemassa yksittäistä luetteloa yleismaailmallisesta vetovoimasta ja yhteisymmärryksestä. Se on ikävä uutinen. Hyvä uutinen on, että ainakin AI Ethics -luetteloita on helposti saatavilla ja ne ovat yleensä melko samanlaisia. Kaiken kaikkiaan tämä viittaa siihen, että eräänlaisen perustellun lähentymisen avulla löydämme tiemme kohti yleistä yhteneväisyyttä siitä, mistä tekoälyn etiikka koostuu.

Käydään ensin lyhyesti läpi joitakin yleisiä eettisiä tekoälyohjeita havainnollistaaksemme, minkä pitäisi olla olennaista jokaiselle tekoälyä luovalle, harjoittelevalle tai käyttävälle.

Esimerkiksi, kuten Vatikaani totesi Rooma kutsu tekoälyn etiikkaan ja kuten olen käsitellyt perusteellisesti osoitteessa linkki tähän, nämä ovat heidän tunnistamansa kuusi ensisijaista tekoälyn eettistä periaatetta:

• Avoimuus: Periaatteessa tekoälyjärjestelmien on oltava selitettävissä
• sisällyttäminen: Kaikkien ihmisten tarpeet on otettava huomioon, jotta kaikki voivat hyötyä ja kaikille yksilöille tarjotaan parhaat mahdolliset olosuhteet ilmaista itseään ja kehittyä.
• vastuu: Tekoälyn käyttöä suunnittelevien ja ottavien on edettävä vastuullisesti ja läpinäkyvästi
• Puolueettomuus: Älä luo puolueellisuutta tai toimi sen mukaan turvaten siten oikeudenmukaisuutta ja ihmisarvoa
• Luotettavuus: Tekoälyjärjestelmien tulee pystyä toimimaan luotettavasti
• Turvallisuus ja yksityisyys: Tekoälyjärjestelmien on toimittava turvallisesti ja kunnioitettava käyttäjien yksityisyyttä.

Kuten Yhdysvaltain puolustusministeriö (DoD) totesi Tekoälyn käytön eettiset periaatteet ja kuten olen käsitellyt perusteellisesti osoitteessa linkki tähän, nämä ovat heidän kuusi ensisijaista tekoälyn eettistä periaatetta:

• Vastaava: DoD-henkilöstö käyttää asianmukaista harkintaa ja huolellisuutta samalla kun he ovat vastuussa tekoälyominaisuuksien kehittämisestä, käyttöönotosta ja käytöstä.
• oikeudenmukainen: Osasto ryhtyy tietoisiin toimiin minimoidakseen tahattoman harhan tekoälyominaisuuksissa.
• jäljitettävissä: Osaston tekoälyvalmiuksia kehitetään ja otetaan käyttöön siten, että asiaankuuluvalla henkilöstöllä on asianmukainen ymmärrys tekoälyvalmiuksiin sovellettavista teknologiasta, kehitysprosesseista ja toimintamenetelmistä, mukaan lukien avoimet ja tarkastettavat menetelmät, tietolähteet sekä suunnittelumenettely ja dokumentaatio.
• Luotettava: Osaston tekoälyominaisuuksilla on selkeät, tarkasti määritellyt käyttötarkoitukset, ja tällaisten ominaisuuksien turvallisuus, turvallisuus ja tehokkuus testataan ja varmistetaan määritellyissä käyttötarkoituksissa niiden koko elinkaaren ajan.
• hallinnoitavissa: Osasto suunnittelee ja suunnittelee tekoälyvalmiuksia täyttämään niille aiotut toiminnot samalla kun sillä on kyky havaita ja välttää tahattomia seurauksia sekä kyky kytkeä irti tai deaktivoida käyttöönotetut järjestelmät, jotka osoittavat tahatonta toimintaa.

Olen myös keskustellut erilaisista tekoälyn eettisten periaatteiden kollektiivisista analyyseistä, mukaan lukien tutkijoiden laatiman joukon, joka tutki ja tiivisti lukuisten kansallisten ja kansainvälisten tekoälyn eettisten periaatteiden olemusta artikkelissa "The Global Landscape Of AI Ethics Guidelines" (julkaistu) sisään luonto), ja jota kattamani tutkitaan osoitteessa linkki tähän, joka johti tähän Keystone-luetteloon:

• Läpinäkyvyys
• Oikeus ja oikeudenmukaisuus
• Ei-ilkeäisyys
• vastuu
• yksityisyys
• hyväntekeväisyys
• Vapaus ja autonomia
• Luottamus
• kestävyys
• arvokkuus
• Solidaarisuus

Kuten saatat suoraan arvata, näiden periaatteiden taustalla olevien yksityiskohtien selvittäminen voi olla erittäin vaikeaa. Vielä enemmän, pyrkimys muuttaa nämä laajat periaatteet joksikin täysin konkreettiseksi ja riittävän yksityiskohtaiseksi käytettäväksi tekoälyjärjestelmien luomisessa on myös kova pähkinä. Kokonaisuudessaan on helppo heiluttaa käsin siitä, mitä tekoälyn eettiset ohjeet ovat ja miten niitä yleensä tulisi noudattaa, kun taas tekoälykoodauksessa on paljon monimutkaisempi tilanne, kun tien kohtaamisen täytyy olla todellinen kumi.

Tekoälykehittäjien tulee hyödyntää tekoälyn eettisiä periaatteita sekä tekoälykehitystyötä hallinnoivien ja jopa tekoälyjärjestelmien ylläpitoa tekevien periaatteiden käyttöä. Kaikki sidosryhmät koko tekoälyn kehityksen ja käytön elinkaaren aikana katsotaan eettisen tekoälyn vakiintuneiden normien mukaisesti. Tämä on tärkeä kohokohta, koska tavallinen oletus on, että "vain koodaajien" tai tekoälyn ohjelmoivien on noudatettava tekoälyn etiikkaa. Kuten aiemmin todettiin, tekoälyn suunnittelu ja toteuttaminen vaatii kylän, ja koko kylän on oltava perehtynyt tekoälyn etiikkaan ja noudattaa niitä.

Varmistetaan myös, että olemme samalla sivulla nykypäivän tekoälyn luonteesta.

Nykyään ei ole aistivaa tekoälyä. Meillä ei ole tätä. Emme tiedä, onko aistillinen tekoäly mahdollista. Kukaan ei voi osuvasti ennustaa, saavutammeko aistillisen tekoälyn, eikä syntyykö sentientti tekoäly jotenkin ihmeellisesti spontaanisti laskennallisen kognitiivisen supernovan muodossa (kutsutaan yleensä singulaariseksi, katso artikkelini osoitteessa linkki tähän).

Tekoälytyyppi, johon keskityn, koostuu tuntemattomasta tekoälystä, joka meillä on nykyään. Jos haluamme villisti spekuloida tunteva AI, tämä keskustelu voisi mennä radikaalisti eri suuntaan. Tuntevan tekoälyn oletetaan olevan ihmislaatuista. Sinun on otettava huomioon, että tunteva tekoäly on ihmisen kognitiivinen vastine. Enemmänkin, koska jotkut spekuloivat, että meillä saattaa olla superälykäs tekoäly, on mahdollista, että tällainen tekoäly voisi päätyä älykkäämmäksi kuin ihmiset (superälykkään tekoälyn mahdollisuudesta tutkimisestani, katso ks. kattavuus täällä).

Pidetään asiat maanläheisemmin ja harkitaan nykypäivän laskennallista tuntematonta tekoälyä.

Ymmärrä, että nykypäivän tekoäly ei pysty "ajattelemaan" millään tavalla ihmisen ajattelun tasolla. Kun olet vuorovaikutuksessa Alexan tai Sirin kanssa, keskustelukyvyt saattavat näyttää ihmisiltä, ​​mutta tosiasia on, että se on laskennallista ja siitä puuttuu ihmisen kognitio. Tekoälyn uusin aikakausi on hyödyntänyt laajasti koneoppimista (ML) ja Deep Learningiä (DL), jotka hyödyntävät laskennallista kuvioiden täsmäämistä. Tämä on johtanut tekoälyjärjestelmiin, jotka näyttävät olevan ihmisen kaltaisia ​​taipumuksia. Sitä vastoin nykyään ei ole yhtään tekoälyä, joka näyttäisi olevan tervettä järkeä, eikä siinä ole mitään vankan ihmisen ajattelun kognitiivista ihmettelyä.

ML/DL on eräänlainen laskennallinen mallisovitus. Tavallinen lähestymistapa on, että kokoat dataa päätöksentekotehtävästä. Syötät tiedot ML/DL-tietokonemalleihin. Nämä mallit pyrkivät löytämään matemaattisia malleja. Tällaisten mallien löytämisen jälkeen, jos niin on, tekoälyjärjestelmä käyttää niitä kohdatessaan uutta tietoa. Uutta dataa esitettäessä käytetään "vanhaan" tai historialliseen dataan perustuvia malleja nykyisen päätöksen tekemiseksi.

Luulen, että voit arvata mihin tämä on menossa. Jos ihmiset, jotka ovat tehneet kaavoja päätöksiä, ovat sisällyttäneet epäsuotuisia ennakkoluuloja, on todennäköistä, että tiedot heijastavat tätä hienovaraisella mutta merkittävällä tavalla. Koneoppimisen tai Deep Learningin laskennallinen mallinsovitus yrittää yksinkertaisesti matemaattisesti jäljitellä dataa vastaavasti. Tekoälyn luomassa mallintamisessa ei sinänsä näytä olevan tervettä järkeä tai muita tuntevia puolia.

Tekoälykehittäjät eivät myöskään välttämättä ymmärrä, mitä tapahtuu. ML/DL:n vaikeaselkoinen matematiikka saattaa vaikeuttaa nyt piilossa olevien harhojen paljastamista. Voit oikeutetusti toivoa ja odottaa, että tekoälykehittäjät testaisivat mahdollisesti hautautuneita harhoja, vaikka tämä onkin hankalampaa kuin miltä saattaa näyttää. On olemassa vahva mahdollisuus, että jopa suhteellisen laajalla testauksella ML/DL:n mallinsovitusmalleihin sisältyy edelleen harhaa.

Voisit hieman käyttää kuuluisaa tai pahamaineista sanontaa roskat sisään roskat ulos. Asia on siinä, että tämä muistuttaa enemmän harhoja, jotka infusoituvat salakavalasti tekoälyn upottautuessa harhaan. Tekoälyn päätöksenteko-algoritmi (ADM) on aksiomaattisesti täynnä epätasa-arvoa.

Ei hyvä.

Palataanpa keskittymiseen tekoälyjärjestelmiin, joita käytetään sopimattomiin tai mahdollisesti suoriin väärinkäytöksiin, ja siihen, miten tämä liittyy äskettäin julkaistuun CCP-uskollisuutta koskevaan tutkimukseen.

Kaksi ensisijaista seikkaa tulee mieleen:

1) Tämä tekoälytapaus on osa laajempaa jatkuvaa hämmentävää tekoälyn käyttöä ja siksi pahaenteistä ja silmiä avaavaa mitä tapahtuu.

2) Kissa voidaan päästää ulos pussista niin, että jos tällainen tekoäly otetaan käyttöön yhdessä maassa, se voi levitä helposti myös muihin maihin

Aloita ensimmäisestä kohdasta siitä, että tämä tekoäly on osa jatkuvaa mallia.

Eräs erityisen tärkeä peruste olla erityisen järkyttynyt tästä tutkimuksesta on, että se on osa laajempaa mallia siitä, miten jotkut pyrkivät käyttämään tekoälyä. Jos tämä olisi ainoa koskaan tehty tällainen tutkimus, se saattaisi olla lievästi järkyttynyt. Siitä huolimatta se ei luultavasti resonoisi sellaisella kiihkolla kuin nyt näemme.

Tämä on kenties tippuminen kohti jotakin, joka karkaa käsistä.

Kuten uutisissa kerrotaan, Kiina on tunnettu siitä, että se on vaatinut räikeää uskollisuutta KKP:lle. Lisäksi on luotu tai ollaan luomassa erilaisia ​​keinoja sen varmistamiseksi, että ihmiset indoktrinoidaan hallituksen oppiin. On mainittu tapauksia aiemmista tutkimuksista, joissa on pyritty kehittämään tekoälyalgoritmeja, jotka voisivat mitata puolueen jäsenten ajatusolosuhteita (katso Kiinan tukema Opiskeluajat vuonna 2019, joka mainitsi nämä pyrkimykset).

Saatat muistaa, että vuonna 2018 varapresidentti Mike Pence piti puheen Hudson-instituutissa ja korosti, että "Kiinan hallitsijat pyrkivät toteuttamaan orwellilaisen järjestelmän, jonka lähtökohtana on hallita lähes kaikkia ihmiselämän puolia" (tämä viittasi KKP:n täytäntöönpanoon. sosiaalinen luottoluokitusjärjestelmä, joka on huomattavan kiistanalainen aihe). Voisit helposti väittää, että tämä äskettäinen CCP-tutkimus on uusi askel siihen suuntaan.

Emme tiedä, milloin tai rikkooko viimeinen pisara kamelin selän, joten nämä kertaluonteiset tutkimukset muuttuvat laajalle levinneiksi tekoälypohjaisiksi seurantajärjestelmiksi.

Toinen huomion arvoinen seikka on se, että emme voi olettaa, että tämän tyyppinen tekoäly rajoittuisi vain Kiinaan. Pohjimmiltaan, vaikka tämän tyyppinen tekoälyn käyttö Kiinassa, joka saattaa levitä laajalle, on sinänsä häiritsevää, muut maat saattavat tehdä samoin.

Kun tätä varten tehdyn tekoälyn sanotaan olevan valmis parhaaseen katseluaikaan, ei todennäköisesti vaadi paljon, että muutkin maat päättävät, että ne haluavat ottaa sen käyttöön. Kissa tulee ulos pussista. Jotkut maat oletettavasti käyttävät tätä tekoälyä suorastaan ​​ahdistavilla tavoilla eivätkä yritä esittää mitään teeskentelyä sen suhteen. Muut maat saattavat ilmeisesti yrittää käyttää tämän tyyppistä tekoälyä hyödyllisiltä näyttäviin tarkoituksiin, joista viime kädessä on haittapuoli, joka on lähes väistämätön.

Itse asiassa ehdotus, että tämän tyyppinen tekoäly otettaisiin käyttöön vasta sitten, kun sen katsotaan olevan valmis parhaaseen katseluun, on hieman harhaanjohtavaa. Ei ehkä ole väliä, toimiiko tekoäly varmasti tällä tavalla. Tekoälyä voidaan käyttää kansitarinana, katso selitykseni osoitteessa linkki tähän. Riippumatta siitä, mitä tekoäly todella pystyy saavuttamaan, ajatus on, että tekoäly voi olla kätevä tekosyy tuoda esiin väestön seurantaa ja järjestelmiä, joilla mitataan ja varmistetaan ehdoton uskollisuus viranomaisille.

Tämän painavan keskustelun tässä vaiheessa lyön vetoa, että kaipaat havainnollistavia esimerkkejä, jotka voisivat esitellä tätä aihetta. On olemassa erityinen ja varmasti suosittu joukko esimerkkejä, jotka ovat lähellä sydäntäni. Tekoälyn asiantuntijana, mukaan lukien eettiset ja oikeudelliset seuraukset, minua pyydetään usein tunnistamaan realistisia esimerkkejä, jotka tuovat esille tekoälyn eettisiä ongelmia, jotta aiheen jossain määrin teoreettinen luonne voidaan ymmärtää helpommin. Yksi mieleenpainuvimmista alueista, joka esittelee elävästi tämän eettisen tekoälyongelman, on tekoälyyn perustuvien todellisten itseohjautuvien autojen tulo. Tämä toimii kätevänä käyttötapana tai esimerkkinä aiheesta laajalle keskustelulle.

Tässä on sitten huomionarvoinen kysymys, jota kannattaa pohtia: Kertooko tekoälyyn perustuvien todellisten itseohjautuvien autojen tulo jotain tekoälyn väärinkäytöstä, ja jos on, mitä tämä osoittaa?

Anna minun hetki purkaa kysymys.

Ensinnäkin, huomaa, että todellisessa itseajavassa autossa ei ole ihmiskuljettajaa. Muista, että todellisia itseohjautuvia autoja ajetaan tekoälyjärjestelmän kautta. Rattiin ei tarvita ihmiskuljettajaa, eikä myöskään ole mahdollista, että ihminen voisi ajaa ajoneuvoa. Katso kattava ja jatkuva kattamukseni autonomisista ajoneuvoista (AV) ja erityisesti itseohjautuvista autoista. linkki tähän.

Haluaisin selventää tarkemmin, mitä tarkoitetaan, kun viittaan todellisiin itse ajaviin autoihin.

Ymmärtäminen itse ajavien autojen tasoista

Selvyyden vuoksi todelliset itse ajavat autot ovat sellaisia, joissa tekoäly ajaa autoa kokonaan yksin eikä ajo-tehtävän aikana ole mitään apua.

Näitä kuljettamattomia ajoneuvoja pidetään tasoina 4 ja 5 (katso selitykseni osoitteessa tämä linkki täällä), kun taas autoa, joka edellyttää ihmiskuljettajan yhteistä ajoponnistusta, pidetään yleensä tasolla 2 tai 3. Autoja, jotka jakavat ajotehtävän, kuvataan puoliautonomisina ja sisältävät tyypillisesti erilaisia automaattiset lisäosat, joista käytetään nimitystä ADAS (Advanced Driver-Assistance Systems).

Tasolla 5 ei ole vielä todellista itseajavaa autoa, emmekä vielä edes tiedä, onko se mahdollista saavuttaa tai kuinka kauan sen saavuttaminen kestää.

Samaan aikaan tason 4 ponnistelut yrittävät vähitellen saada jonkin verran pitoa käymällä läpi erittäin kapeita ja valikoivia yleisiä tiekokeita, vaikka onkin kiistaa siitä, pitäisikö tämä testaus sallia sellaisenaan (olemme kaikki elämän tai kuoleman marsuja kokeessa tapahtuu valtateillämme ja sivuteillämme, jotkut väittävät, katso kattaukseni osoitteessa tämä linkki täällä).

Koska osittain itsenäiset autot vaativat ihmisen kuljettajan, tämäntyyppisten autojen omaksuminen ei ole selvästi erilainen kuin tavanomaisten ajoneuvojen ajaminen, joten sinänsä ei ole paljon uutta kattamaan niitä tästä aiheesta (tosin kuten näette hetkessä seuraavia pisteitä voidaan yleensä soveltaa).

Osittain itsenäisten autojen osalta on tärkeää, että kansalaisia ​​on varoitettava viime aikoina esiintyneestä häiritsevästä näkökulmasta, nimittäin siitä, että huolimatta ihmisten kuljettajista, jotka jatkavat videoiden lähettämistä itsensä nukahtamisesta tason 2 tai 3 autolle, , meidän kaikkien on vältettävä johtamasta harhaan uskoaan, että kuljettaja voi viedä huomionsa ajo-tehtävään ajon puoli-autonomisen auton kanssa.

Olet vastuussa ajoneuvon ajotoimista riippumatta siitä, kuinka paljon automaatiota voidaan heittää tasolle 2 tai 3.

Itseajavat autot ja tekoälyn väärinkäyttö

Tason 4 ja tason 5 itseohjautuvissa ajoneuvoissa ajo-tehtävään ei tule inhimillistä kuljettajaa.

Kaikki matkustajat ovat matkustajia.

AI ajaa.

Yksi näkökohta, josta on keskusteltava välittömästi, merkitsee sitä, että nykypäivän tekoälyjärjestelmiin osallistuva tekoäly ei ole tunteva. Toisin sanoen tekoäly on kokonaisuudessaan tietokonepohjaisen ohjelmoinnin ja algoritmien joukko, eikä varmaankaan kykene perustelemaan samalla tavalla kuin ihmiset.

Miksi tämä korostetaan sitä, että tekoäly ei ole järkevä?

Koska haluan korostaa, että puhuessani tekoälyn ajo-järjestelmän roolista, en omista tekoälylle ihmisen ominaisuuksia. Huomaa, että nykyään on jatkuva ja vaarallinen taipumus antropomorfisoida tekoäly. Pohjimmiltaan ihmiset osoittavat ihmisen kaltaisen tuntemuksen nykyiselle tekoälylle huolimatta kiistattomasta ja kiistattomasta tosiasiasta, että sellaista tekoälyä ei vielä ole.

Tämän selvennyksen avulla voit kuvitella, että tekoälyn ajo-järjestelmä ei luonnostaan ​​jotenkin “tiedä” ajon puolia. Ajo ja kaikki siihen liittyvä on ohjelmoitava osaksi itseajoavan auton laitteistoa ja ohjelmistoa.

Sukelletaan lukemattomiin näkökohtiin, jotka tulevat pelaamaan tästä aiheesta.

Ensinnäkin on tärkeää ymmärtää, että kaikki AI-itse ajavat autot eivät ole samanlaisia. Jokainen autonvalmistaja ja itseajava teknologiayritys suunnittelee itse ajavia autoja. Sellaisenaan on vaikea antaa laajoja lausuntoja siitä, mitä tekoälyjärjestelmät tekevät tai eivät tee.

Lisäksi aina, kun todetaan, että tekoälyohjausjärjestelmä ei tee jotain tiettyä, tämä voi myöhemmin ohittaa kehittäjät, jotka itse ohjelmoivat tietokoneen tekemään juuri sen. AI -ajojärjestelmiä parannetaan ja laajennetaan asteittain. Nykyinen rajoitus ei välttämättä ole enää olemassa tulevassa iteraatiossa tai järjestelmän versiossa.

Toivon, että se tarjoaa riittävän litaania varoituksia taustalla, mitä aion kertoa.

Piirretään itse ajavan auton skenaario, joka saattaa hyödyntää tekoälyä luonnollisilla tai väärillä tavoilla.

Aion jakaa kanssasi joitain tekoälyyn perustuvia itseajavien autojen seurauksia, jotka saattavat saada sinut vapisemaan ja häiriintymään. Nämä ovat puolia, joista lähes kukaan ei tällä hetkellä keskustele. Olen toistuvasti tuonut asian esille, vaikka myönnän avoimesti, että ennen kuin meillä ei ole yleistä itseohjautuvien autojen käyttöönottoa, emme tule saamaan paljon pitoa siitä, että yhteiskunta on huolissaan tai järkyttynyt siitä, mikä nykyään näyttää olevan pelkkä abstrakti käsitys. .

Oletko valmis?

Aloitetaan perustuksen laskemisesta.

Tekoälypohjaiset itseajavat autot varustetaan järkevästi videokameroilla. Näin itse ajava auto voi vastaanottaa videokuvaa ajonäkymästä. Itseajavan auton tietokoneissa toimiva AI-ajojärjestelmä puolestaan ​​on tarkoitettu laskennallisesti tutkimaan kerättyä videota ja selvittämään, missä tie on, missä lähellä olevat autot, missä jalankulkijat ja niin edelleen. Ymmärrän, että esitän itse ajavia autoja 101 perusteita.

Autonomisen ajoneuvon ulkopuolelle on asennettu videokameroita, jotka osoittavat ulospäin. Lisäksi yleisesti ottaen voit odottaa, että ajoneuvossa tai sisällä on videokameroita, jotka suuntautuvat sisäänpäin itseajavan auton sisätilaan. Miksi niin? Helppoa, koska autonomisen ajoneuvon sisällä tapahtuvan videon tallentamiseen tulee olemaan monia tärkeitä käyttötarkoituksia.

Kun lähdet ajelulle itseajavalla autolla, sinun ei enää tarvitse olla kuljettaja. Mitä teet sitten ollessasi itseajavassa autossa?

Yksi asia, jonka voit tehdä, olisi olla vuorovaikutuksessa muiden kanssa kotona tai toimistossa. Siinä olet matkalla töihin, mikä tarkoittaa, että otat tunnin ajoaikaa itseajavalla autolla, ja voit jo aloittaa työpäiväsi tekemällä Zoom-tyyppisen reaaliaikaisen interaktiivisen online-istunnon. He näkevät sinut, koska kamerat osoittavat sisäänpäin itseajavaan autoon. Voit nähdä ne ehkä LED-näytöltä itseajavan auton sisällä. Päivän päätteeksi, kun palaat kotiin, voit käydä samanlaisen interaktiivisen videokeskustelun lasten kanssa, kun he alkavat tehdä illan läksyjä.

Toinen käyttötarkoitus olisi kursseille osallistuminen. Nyt kun sinun ei tarvitse hukata aikaasi ajamiseen, voit muuttaa itseajavan auton umpikuja-ajan parantamaan taitojasi tai hankkimaan todistuksen tai tutkinnon. Sisäänpäin osoittavien kameroiden kautta ohjaajasi voi nähdä sinut ja keskustella siitä, miten harjoituksesi etenee.

Vielä yksi käyttötarkoitus olisi yrittää varmistaa, että itseohjautuvien autojen ajajat eivät ryyppää. Ihmisvetoisessa autossa kuljettaja on aikuinen läsnäolo, joka yleensä estää ratsastajia tekemästä hulluja asioita, kuten merkitsemästä sisustusta graffiteilla. Mitä tekoälypohjaisille itseohjautuville autoille tapahtuu? Jotkut pelkäävät, että ratsastajat päättävät repiä ajoneuvojen sisätilat. Tämän estämiseksi itseajavia autoja käyttöön ottava kyytiyritys käyttää todennäköisesti sisäänpäin suunnattuja videokameroita seuratakseen, mitä ihmiset tekevät autonomisen ajoneuvon sisällä.

Oletan, että olet vakuuttunut siitä, että meillä tulee olemaan videokameroita, jotka osoittavat itseohjautuvien autojen sisäpuolelle, niiden kameroiden lisäksi, jotka osoittavat ulospäin ajonäkymän erottamiseksi.

Olet nyt valmis siihen, mitä olen kutsunut kiertäväksi silmäksi, katso analyysini osoitteessa linkki tähän.

Harkitse ensin ulospäin osoittavia videokameroita.

Minne tahansa itseajava auto meneekin, se voi mahdollisesti tallentaa videolle mitä tahansa kamerat näkevät. Itseajava auto, joka nostaa jonkun kotoa ja vie hänet ruokakauppaan, kulkee naapuruston läpi ja videolle tallennetaan paitsi ajoradan myös kaiken muun näköpiirissä tapahtuvan. Isä ja poika leikkivät etupihallaan. Perhe istuu etukuistilla. Jatkuu ja jatkuu.

Tällä hetkellä meillä on niin vähän itseajavia autoja yleisillä teillä, että kyky tallentaa videoita päivittäisistä toiminnoista on suhteellisen niukka ja merkityksetön.

Kuvittele, että saavutamme viime kädessä turvallisia ja laajalle levinneitä itseohjautuvia autoja. Tuhansia niitä. Ehkä miljoonia. Meillä on nykyään Yhdysvalloissa noin 250 miljoonaa ihmisen käyttämää autoa. Lopulta ne korvataan melko pitkälti itseajavilla autoilla tai niitä ei yksinkertaisesti enää käytetä, ja tiellämme on pääasiassa itseajavia autoja. Näitä itseohjautuvia autoja ajaa tekoäly, ja sellaisenaan ne voivat liikkua käytännössä 24 × 7. Ei lepotaukoa, ei kylpyhuonetaukoa.

Näistä itseohjautuvista autoista videodataa voitiin ladata sähköisten OTA-verkkoyhteyksien (Over-The-Air) kautta. Itseajavat autot käyttävät OTA:ta uusimpien AI-ohjelmistopäivitysten lataamiseen ajoneuvoon. Lisäksi OTA:n avulla voidaan ladata itse ajavan auton tietoja pilvipohjaiseen tietokantaan.

Kaiken kaikkiaan nämä ladatut tiedot olisi mahdollista yhdistää. Ompeleen avulla voit mahdollisesti koota kenen tahansa päivittäiset tulot ja menot, jotka astuivat ulos minä tahansa päivänä millä tahansa alueella, joka käytti laajalti itseajavia autoja.

Se on se kiertelevä silmä, josta olen varoittanut.

Voimme nyt yhdistää CCP-tutkimuksen tällaiseen kykyyn. Oletetaan, että hallituksella on pääsy kaikkeen tähän kerättyyn videodataan. He voisivat sitten käyttää tekoälyyn perustuvaa kasvojentunnistusalgoritmia selvittääkseen, missä kävit, mihin aikaan vuorokaudesta päivittäisten elämäsi matkojen aikana. Lisäksi he voisivat oletettavasti käyttää "lojaalisuus" tekoälypohjaista analysaattoriaan nähdäkseen, näyttikö kasvoillasi olevan uskollinen ilme vai ei.

Kuvittele vain, että tiistai-iltapäivänä kävelit hakemassa voileipää paikallisesta ruokapaikasta. Itse ajavia autoja kulki tiellä. Kaikki monet videot vangitsivat sinut, kun kävelit viiden minuutin kävelymatkan päästäksesi syötävää. Tiedot siirrettiin keskitettyyn tietokantaan. Hallitus käytti tiedoilla tekoälyn kasvojentunnistusohjelmaa.

Kävi ilmi, että tekoäly "päätti", että sinulla oli epälojaali ilme kasvoillasi.

Ehkä tämä epälojaali ilme tapahtui vain hetkeksi. Odotit kadun kulmassa, että valo vaihtuu, jotta voisit ylittää kadun ruokalalle. Sillä hetkellä sinulla oli pieni inho, että jouduit odottamaan liian kauan Walk-symbolia. Oliko tämä kenties osoitus epälojaalisuudestasi hallitukselle?

Kyllä, tekoäly on laskennallisesti laskettu, olit yltäkylläisen epälojaali sillä hetkellä. Kun tulet kotiin sinä iltana, hallitus on järjestänyt pidättämisesi.

Mutta odota, siellä on enemmän.

Muista, että myös videokamerat osoittavat sisäänpäin.

Samana tiistaina, kun ajoit töihin itseajavalla autolla, videokamerat tallensivat jokaisen hetkesi. Tämä on ladattu keskitettyyn tietokantaan. Tekoälyohjelmisto, joka analysoi kasvojen kuvioita epälojaalisuuden varalta, tutki kasvojen ilmeet laskennallisesti toimistomatkan aikana.

Yhdessä vaiheessa katselit rennosti autonomisen ajoneuvon ulkopuolelle ja huomasit rakennustyöntekijän, joka esti osittain ajoradan ja sai tekoälyjärjestelmän hidastamaan itseajavaa autoa. Sekunnin murto-osan kasvosi havaitsivat pilkan tämän liikennettä hidastavan rakennustyöntekijän suhteen.

Tekoälyn kasvomallianalyysi tulkitsi tämän merkiksi epälojaalisuudesta hallitukselle.

Kaksi iskua sinua vastaan ​​yhdessä päivässä.

Elät ohuella jäällä.

Tietenkin, onko tekoäly "oikea" vai "väärä" uskollisuutesi määrittämisessä, on tässä yhteydessä lähes merkityksetöntä. Pääasia on, että tekoäly on otettu käyttöön tätä tarkoitusta varten. Tekoälyä käyttävät ihmiset saattavat välittää tai olla välittämättä siitä, onko tekoälyllä sopivaa käyttöä tämän tyyppisiin tehtäviin. Tekoäly mahdollistaa valtion hallinnan itse teknisestä kelpoisuudesta riippumatta.

Se kattaa kasvojen skannauksen.

Jos meillä lopulta on jonkinlaisia ​​kannettavia kustannustehokkaita laitteita (väitettyä) aivoaaltojen skannaukseen, tämä voidaan varmasti sisällyttää myös itse ajaviin autoihin. Videokamerat ovat nyt varmoja. Mahdollisuus hankkia tämän kaliiperin aivoaaltojen skannauslaitteita ei ole tällä hetkellä korteissa, mutta se on selvästikin jotain, jota ollaan visioimassa tulevaisuutta varten.

Katso, miten hallitus voi yrittää vallata väestön ottamalla hallintaansa itseohjautuvat autot. linkki tähän. On olemassa samanlainen mahdollisuus, että pahantahtoinen toimija yrittää tehdä samoin, katso linkki tähän. Niiden ei ole tarkoitus olla pelottelutaktiikoita kyseisten aiheiden käsittelemiseksi, vaan sen sijaan varoitus kyberturvallisuuden tärkeydestä ja muista varotoimista, jotka meidän on yhteiskunnassa pyrittävä toteuttamaan kaikkialla esiintyvien itseohjautuvien autojen ja autojen ilmaantumisen suhteen. muut autonomiset ajoneuvot.

Yhteenveto

Haluaisin nopeasti kattaa yhden lisänäkökohdan tekoälystä, jota käytetään uskollisuuden varmistamiseen, ja se on mielestäni hieman erillinen aihe, mutta jota jotkut twiitit ja sosiaalinen media ovat kiusaaneet.

Mainitsin aiemmin, että meillä ei ole tuntevaa tekoälyä, emmekä tiedä, tuleeko tai milloin. Viihdyttäkäämme ajatusta, että meillä on tunteva tekoäly. Harkitse siinä tapauksessa seuraavaa skenaariota.

Päätämme ei-tuntevan tekoälyn avulla ottaa käyttöön laajan tekoälyn, joka laskee laskennallisesti, ovatko ihmiset uskollisia hallitukselleen käyttämällä kasvojen skannauksia, aivoaaltoskannauksia ja niin edelleen. Tämä on täysin auktoriteetin ihmisten ohjaama ja käyttämä. Se on se huolestuttava skenaario, jonka olen kuvaillut hetkiä aikaisemmin.

Aika nostaa ennakkoa.

AI muuttuu tuntevaksi. Olemme nyt mahdollisesti antaneet tälle tuntevalle tekoälylle laajalle levinneen kyvyn oletettavasti tunnistaa uskollisuuden ja epälojaalisuuden ihmisissä. Pahaa tekevä tekoäly, joka harkitsee ihmisten pyyhkimistä pois, saattaa käyttää tätä kykyä päättääkseen, että ihmiset todellakin ovat epälojaaleja ja että heidät pitäisi tuhota kokonaan. Tai ehkä vain ne ihmiset, jotka osoittavat epälojaalisuutta kasvojensa tai ajatustensa kautta, on erityisesti jätettävä pois.

Toinen näkökulma on se, että tekoäly haluaa orjuuttaa ihmiset, katso keskusteluni osoitteessa linkki tähän.

Näyttäisimme antaneen tekoälylle täydellisen lahjan tämän tehtävän suorittamiseen. Olemassa oleva infrastruktuuri mahdollistaa tekoälyn tarkkailla meitä ihmisiä. Ne, jotka näyttävät ilmaisseet epälojaaleja kasvoja tai ajatellut tekoälyn yliherroja, tulevat tuntemaan tekoälyn vihan.

Ymmärrän sanoneeni, että tämä on ennakkoluulottomuutta. En ole varma, onko asia näin. Minusta näyttää siltä, ​​että onko tekoälyherroja suoraan päättämässä kohtalostamme verrattuna ihmisten yliherroihin, jotka mahdollisesti käyttävät tekoälyjärjestelmää uskollisuuden määrittämiseen, kumpikaan ehdotus ei vaikuta erityisen toivottavalta.

Lopullinen kommentti toistaiseksi.

Roomalainen tutkija ja filosofi Marcus Tullius Cicero totesi, ettei ole mitään jalompaa, ei mitään kunnioitettavampaa kuin uskollisuus. Saatamme antaa tekoälyn mennä edellemme ja tulla työkaluksi, jolla varmistetaan "uskollisuus" kauhistuttavin keinoin.

Hyvä tietoinen syy laittaa tekoälyn etiikka To-Do-luettelomme kärkeen.