Tekoälyn etiikka suhtautuu varovaisesti tekoälyn epäsymmetrian pahenemiseen, kun ihmiset saavat tikun lyhyen pään

Joskus olet tikun väärässä päässä.

Tätä puhekieltä voidaan soveltaa epäsymmetrian käsitteeseen.

Kyllä, aion puhua epäsymmetriasta. Kuten olet todennäköisesti törmännyt tässä elämisessämme olevaan myrskyisässä maailmassa, on tilanteita, jolloin saatat huomata, että sinulla on vähemmän tietoa sinulle suhteellisen tärkeästä asiasta. Tätä kutsutaan virallisesti nimellä Tiedon epäsymmetria.

Tärkeintä on, että sinulla on vähemmän tietoa tai tietoa kuin ehkä toivoisit, ja sinulla on selvästi vähemmän kuin asian toisella osapuolella. Olet selvästi epäedullisessa asemassa toiseen osapuoleen verrattuna. He tietävät jotain, mitä sinä et tiedä. He voivat hyödyntää sitä, mitä he tietävät, erityisesti sen suhteen, mitä sinä et tiedä, ja saada yliotteen kaikissa karkeissa pohdiskeluissa tai neuvotteluissa kanssasi.

No, kaupungissa on uusi lapsi, joka tunnetaan nimellä AI epäsymmetria.

Tämä uusin tunnuslause viittaa mahdollisuuteen, että joudut tekoälyllä aseistettua vastaan, vaikka et ole niin aseistettu.

Heillä on tekoäly puolellaan, kun taas sinulla on, no, vain sinä. Asiat ovat ristiriitaisia. Olet oletettavasti epäedullisessa asemassa. Toinen puoli voi kiertää ympärilläsi, koska sitä on lisätty tekoälyllä. Se saattaa kuulua kuuluisaan sanontaan, että rakkaudessa ja sodassa kaikki on reilua (pitkäaikainen sananlasku on keksitty Eufues John Lyly, 1578), vaikka tekoälyn epäsymmetrian dynamiikka ja vaarat herättävät haastavia eettisiä tekoälykysymyksiä. Jatkuva ja laaja kattavuus tekoälyn eettisyydestä ja eettisestä tekoälystä, katso linkki tähän ja linkki tähän, vain muutamia mainitakseni.

Ennen kuin hyppäämme tekoälymaailmaan ja sen runsaisiin monimutkaisiin tekoälyn epäsymmetria-asioihin, tutkitaan ensin tavallisen vanhan informaation epäsymmetrian arkipäivää. Tämä asettaa vaiheen syrjäytymiselle sananlaskun tekoälyn uuteen lapsiin.

Lyhyt ja tarkoituksenmukaisesti valaiseva tarina saattaa herättää ruokahalua.

Toisena päivänä minulla oli rengasrikko tien päällä ja etsin nopeasti sopivaa vaihtoa, joka voitaisiin asentaa heti. Selailin älypuhelimellani verkossa läheisiä rengasliikkeitä selvittääkseni matkan, joka minun piti ajaa tyhjentyneellä renkaallani ja onko kauppoja auki. Lisäksi tein nopean arvion heidän online-asiakasarvosteluistaan ​​ja yritin saada hyödyllistä tietoa siitä, kuinka kauan he olivat olleet liiketoiminnassa, ja muista tekijöistä, jotka voisivat osoittaa heidän kelvollisuutensa.

Soitettuani yhteen rengasliikkeestä virkailija antoi minulle nopean tarjouksen renkaan ja sen asennuksen hinnasta. Rengas ei ollut aivan sitä mitä ajattelin, mutta virkailija vakuutti minulle, että he olisivat alueen ainoa myymälä, joka pystyisi tekemään työn heti. Virkailijan mukaan missään muussa lähimmäisessä rengasliikkeessä ei olisi tällaisia ​​renkaita varastossa ja kestäisi vähintään vuorokausi ennen kuin kilpailijat saisivat sopivan renkaan jostain kaukaisesta varastosta.

Olin keskellä tiedon epäsymmetriaa.

Virkailija väitti tietävänsä enemmän rengasliikkeiden paikallisesta tilasta ja erityisesti tarvitsemastani renkaasta. Olin alueella, jonka läpi vain kuljin, eikä minulla ollut ensikäden tietoa kyseisen maantieteellisen alueen rengasliikkeistä. Kaikesta huolimatta, mitä tiesin, virkailija oli paikalla ja kertoi minulle viimeistelemättömän totuuden.

Mutta tekikö virkailija niin?

Ehkä kyllä ​​ehkä ei.

Voi olla, että virkailija uskoi vilpittömästi kaiken, mitä minulle välitettiin. Virkailijalle tämä oli totuus. Tai ehkä virkailija venytti jonkin verran totuutta. Oli mahdollista, että se, mitä sanottiin, saattoi olla totta, vaikka tapa, jolla se oli kuvattu, viittasi siihen, että se oli täydellinen ja kiistämätön totuus. Tietenkin se olisi voinut olla myös täyttä kaljua, ja virkailija oli vain shillinnyt rengasliikkeestä hankkiakseen yritykseni. Olisiko mehukas provisio ollut kysymys?

Uskallan väittää, ettei kukaan pidä sellaisesta altavastaajan asemasta.

Tilanteen panokset ovat olennainen tekijä siinä, kuinka paljon tiedon epäsymmetrialla on merkitystä. Jos käsillä oleva kysymys on luonteeltaan elämä tai kuolema, koirakodissa oleminen ja riippuvainen toisesta osapuolesta sen suhteen, mitä he tietävät tai väittävät tietävänsä, on luonnollinen ja erittäin ei-toivottu asento. Kun panokset ovat alhaiset , kuten kun tilaat illallisen ravintolaan ja tarjoilija kertoo, että kalaruoka on taivaallinen, mutta et ole koskaan ennen syönyt siellä ja olet alitietoinen, voit edetä tämän pienen tiedon epäsymmetrian kanssa ilman suurta ahdistusta (I oletetaan myös, että lyöt vetoa myös siitä, että palvelin ei riskeeraisi antamaan happamia neuvoja ja jäämään paitsi saamasta kunnollista tippiä).

Palatakseni kuluneen renkaan tarinaan (sanapeli!), minulla ei olisi ollut välitöntä tapaa selvittää, antoiko virkailija minulle luotettavia ja informatiivisia näkemyksiä. Saatat ihmetellä, mitä tapahtui. Päätin soittaa useisiin muihin lähellä oleviin rengasliikkeisiin.

Oletko valmis siihen, mitä löysin?

Kaikissa muissa rengasliikkeissä oli haluamani rengas varastossa, eivätkä he yrittäneet houkutella minua ottamaan toisen renkaan (kuten ensimmäinen virkailija yritti). He voisivat myös saada työt tehtyä samassa ajassa kuin ensimmäinen rengasliike, johon mahdollisesti soitin. Suunnilleen samalla hinnalla.

Minulta tapahtui tervetullut helpotuksen huokaus, vakuutan teille.

Ironista kyllä, Murphyn huonon onnen laissa ensimmäinen paikka, johon otin yhteyttä, oli ainoa paikka, joka näytti olevan lounaalla. Olen iloinen, että olen yrittänyt saada lisää tietoa. Tämä kavensi tiedon epäsymmetriaa. Taputin itseäni siitä, että olin pitänyt kiinni aseistani enkä päässyt ensimmäiseen paikkaan, johon kutsuin.

Tästä huolimatta lisätietojen hankkimiseen liittyi tiettyjä kustannuksia. Soitin noin neljä puhelua, joista jokaisen suorittaminen kesti noin viidestätoista kahteenkymmeneen minuuttia. Siinä mielessä käytin noin puolitoista tuntia, kun vain keksin minne viedä autoni. Jos olisin heti vienyt autoni tuohon ensimmäiseen paikkaan, uusi rengas olisi melkein ollut autossani siihen aikaan. Toisaalta olisin melkein varmasti myöhemmin katunut nopeaa päätöstä, jonka tein hirveän informaation epäsymmetrian sidoksissa.

Joskus sinun on puristettava hampaitasi ja otettava pelätty tiedon epäsymmetria sellaisena kuin se tulee. Toivot vain, että minkä tahansa päätöksen teetkin, se on tarpeeksi hyvä. Se ei ehkä ole "täydellinen" päätös ja saatat myöhemmin katua tekemääsi valintaa. Toinen näkökulma on se, että voit yrittää vahvistaa omaa puoltasi informaatioyhtälöstä, vaikka tämä ei välttämättä ole ilmaista ja saattaa myös kuluttaa arvokasta aikaa riippuen siitä, onko arvostettu aika olennaista.

Nyt kun olet epäilemättä lohdullinen, kun tiedät, että autoni toimii hyvin upouudella ja oikealla renkaalla, voin siirtyä tekoälyn epäsymmetrian syntymiseen.

Harkitse tekoälyn tarinaa surusta.

Haet asuntolainaa. Tietyn pankin käyttämä online-asuntolaina-analysaattori. Verkkojärjestelmä hyödyntää nykypäivän edistyneitä tekoälyominaisuuksia. Ei tarvitse keskustella ihmislainoja myöntävän agentin kanssa. AI tekee kaiken.

Tekoälyjärjestelmä opastaa sinut useiden kehotteiden läpi. Täytät vastuullisesti lomakkeet ja vastaat tekoälyjärjestelmään. Tämä tekoäly on erittäin puhelias. Vaikka olet aiemmin saattanut käyttää perinteistä tietokonepohjaista lomakejärjestelmää, tämä tekoälymuunnos muistuttaa enemmän vuorovaikutusta ihmisagentin kanssa. Ei aivan, mutta sen verran, että saattoi melkein alkaa uskoa, että ihminen oli tämän toiminnan toisella puolella.

Kun olet tehnyt parhaansa "keskustellessaan" pyyntösi tämän tekoälyn kanssa, se lopulta ilmoittaa sinulle, että valitettavasti lainapyyntöä ei hyväksytä. Vähän saastuttaa, että tekoäly näyttää pyytävän anteeksi, ikään kuin tekoäly olisi halunnut hyväksyä lainan, mutta pankkia valvovat ilkeämieliset ihmiset eivät anna tekoälyn tehdä niin. Katso, kuinka harhaanjohtavia tällaiset väitetyt tekoälyn anteeksipyynnöt ovat linkki tähän.

Olet tietämätön siitä, miksi sinut hylättiin. Tekoäly ei tarjoa mitään selitystä. Ehkä tekoäly teki virheen tai meni sekaisin laskelmissaan. Vielä pahempaa, oletetaan, että tekoäly käytti lainaa päättäessään joitakin erittäin kyseenalaisia ​​näkökohtia, kuten rotusi tai sukupuoli. Tiedät vain, että näytit hukannut aikaasi ja samalla luovuttanut paljon yksityisiä tietoja tekoälylle ja pankille. Heidän tekoälynsä on voittanut sinut.

Tämä olisi leimattu esimerkkinä tekoälyn epäsymmetriasta.

Se olit sinä pankkia vastaan. Pankki oli aseistettu tekoälyllä. Et ollut yhtä aseistettu. Sinulla oli järkesi ja kovien kolhujen viisauden koulusi, mutta takataskussasi ei ollut tekoälyä. Mieli konetta vastaan. Valitettavasti kone voitti tässä tapauksessa.

Mitä sinun pitää tehdä?

Ensinnäkin meidän on yhteiskunnallisesti ymmärrettävä, että tämä tekoälyn epäsymmetria kasvaa ja on tulossa lähes kaikkialle. Ihmiset kohtaavat tekoälyn kaikissa järjestelmissä, joiden kanssa olemme päivittäin vuorovaikutuksessa. Joskus tekoäly on ainoa elementti, jonka kanssa olemme vuorovaikutuksessa, kuten tässä lainapyyntöä koskevassa esimerkissä. Toisissa tapauksissa ihminen voi olla silmukassa, joka luottaa tekoälyyn auttamaan häntä tietyn palvelun suorittamisessa. Lainaa varten pankki saattaa pyytää sinua keskustelemaan ihmisagentin kanssa sen sijaan, että olisit vuorovaikutuksessa tekoälyn kanssa, mutta ihmisagentti käyttää tietokonejärjestelmää päästäkseen tekoälyyn, joka ohjaa ihmisagenttia lainapyyntöprosessin aikana. (ja olet melkein aina varma siitä, että ihmisagentti käyttäytyy ikään kuin heidät olisi vangittu, koska heidän on tehtävä tiukasti mitä tekoäly "kästää heidän tehdä").

Joka tapauksessa tekoäly on edelleen sekoituksessa.

Toiseksi meidän on yritettävä varmistaa, että tekoälyn epäsymmetria tehdään ainakin tekoälyn eettiseltä pohjalta.

Sallikaa minun selittää tämä oudolta vaikuttava huomautus. Katsos, jos voimme olla varmoja siitä, että tekoäly toimii eettisesti järkevällä tavalla, saattaisimme saada lohtua asiaan liittyvästä epäsymmetriasta. Hieman analogisesti, mutta myös löysällä pohjalla voisi sanoa, että jos vuorovaikutuksessani ensimmäisen rengasliikkeen virkailijan kanssa olisi ollut tiukkoja eettisiä ohjeita ja niitä on noudatettu, ehkä minulle ei olisi kerrottu tarinaa, jota minulle kerrottiin, tai ainakin minä ei ehkä olisi tarvinnut heti yrittää selvittää, annettiinko minulle pitkä tarina.

Selitän pian lisää tekoälyn eettisyydestä.

Kolmanneksi meidän pitäisi etsiä tapoja vähentää tekoälyn epäsymmetriaa. Jos sinulla oli puolellasi oleva tekoäly, joka pyrkii olemaan valmentajasi tai suojelijasi, saatat pystyä käyttämään sitä tekoälyn tekemiseen toisen tekoälyn kanssa, jonka kanssa olet menossa vastakkain. Kuten he sanovat, joskus on erittäin järkevää taistella tulta tulella.

Ennen kuin käsittelemme lisää lihaa ja perunoita tekoälyn epäsymmetrian taustalla olevista villeistä ja epämääräisistä näkökohdista, laaditaanpa joitain lisäperusasioita erittäin olennaisista aiheista. Meidän täytyy sukeltaa lyhyesti tekoälyn etiikkaan ja erityisesti koneoppimisen (ML) ja syväoppimisen (DL) tuloon.

Saatat olla hämärästi tietoinen siitä, että yksi tämän päivän kovimmista äänistä tekoälyalalla ja jopa tekoälykentän ulkopuolella on huutaminen eettisen tekoälyn suuremman vaikutelman puolesta. Katsotaanpa, mitä tarkoittaa viitata tekoälyn etiikkaan ja eettiseen tekoälyyn. Tämän lisäksi tutkimme, mitä tarkoitan puhuessani koneoppimisesta ja syvästä oppimisesta.

Eräs tietty AI Ethics -segmentti tai osa, joka on saanut paljon mediahuomiota, koostuu tekoälystä, jossa on epäsuotuisia ennakkoluuloja ja epätasa-arvoa. Saatat olla tietoinen siitä, että kun uusin tekoälyn aikakausi alkoi, vallitsi valtava innostus siitä, mitä jotkut nykyään kutsuvat. AI Hyvä. Valitettavasti aloimme todistaa tuon purskahtavan jännityksen kannoilla AI huono. Esimerkiksi useiden tekoälyyn perustuvien kasvojentunnistusjärjestelmien on paljastettu sisältävän rotu- ja sukupuoliharhaa, joista olen keskustellut osoitteessa linkki tähän.

Pyrkimykset taistella vastaan AI huono ovat aktiivisesti käynnissä. Paitsi äänekäs juridinen väärinkäytösten hillitsemiseen tähtäävät pyrkimykset omaksua tekoälyn etiikka tekoälyn ilkeyden korjaamiseksi. Ajatus on, että meidän pitäisi ottaa käyttöön ja tukea keskeisiä eettisiä tekoälyn periaatteita tekoälyn kehittämisessä ja levittämisessä tehden näin alentaaksemme AI huono ja samanaikaisesti julistaa ja edistää parempaa AI Hyvä.

Tähän liittyvään ajatukseen, kannatan tekoälyn käyttämistä osana tekoälyongelmien ratkaisua ja tulen torjumista tulella tällä ajattelutavalla. Voisimme esimerkiksi upottaa eettisiä tekoälykomponentteja tekoälyjärjestelmään, joka valvoo, kuinka muu AI tekee asioita ja saa siten mahdollisesti kiinni reaaliajassa kaikki syrjivät toimet, katso keskusteluni osoitteessa linkki tähän. Meillä voisi olla myös erillinen tekoälyjärjestelmä, joka toimii eräänlaisena AI Ethics -monitorina. Tekoälyjärjestelmä toimii valvojana, joka seuraa ja havaitsee, kun toinen tekoäly on menossa epäeettiseen kuiluun (katso analyysini tällaisista ominaisuuksista linkki tähän).

Hetken kuluttua kerron teille joitain tekoälyn etiikan taustalla olevia yleisiä periaatteita. Tällaisia ​​listoja kelluu siellä täällä paljon. Voisi sanoa, että ei ole vielä olemassa yksittäistä luetteloa yleismaailmallisesta vetovoimasta ja yhteisymmärryksestä. Se on ikävä uutinen. Hyvä uutinen on, että ainakin AI Ethics -luetteloita on helposti saatavilla ja ne ovat yleensä melko samanlaisia. Kaiken kaikkiaan tämä viittaa siihen, että eräänlaisen perustellun lähentymisen avulla löydämme tiemme kohti yleistä yhteneväisyyttä siitä, mistä tekoälyn etiikka koostuu.

Käydään ensin lyhyesti läpi joitakin yleisiä eettisiä tekoälyohjeita havainnollistaaksemme, minkä pitäisi olla olennaista jokaiselle tekoälyä luovalle, harjoittelevalle tai käyttävälle.

Esimerkiksi, kuten Vatikaani totesi Rooma kutsu tekoälyn etiikkaan ja kuten olen käsitellyt perusteellisesti osoitteessa linkki tähän, nämä ovat heidän tunnistamansa kuusi ensisijaista tekoälyn eettistä periaatetta:

• Avoimuus: Periaatteessa tekoälyjärjestelmien on oltava selitettävissä
• sisällyttäminen: Kaikkien ihmisten tarpeet on otettava huomioon, jotta kaikki voivat hyötyä ja kaikille yksilöille tarjotaan parhaat mahdolliset olosuhteet ilmaista itseään ja kehittyä.
• vastuu: Tekoälyn käyttöä suunnittelevien ja ottavien on edettävä vastuullisesti ja läpinäkyvästi
• Puolueettomuus: Älä luo puolueellisuutta tai toimi sen mukaan turvaten siten oikeudenmukaisuutta ja ihmisarvoa
• Luotettavuus: Tekoälyjärjestelmien tulee pystyä toimimaan luotettavasti
• Turvallisuus ja yksityisyys: Tekoälyjärjestelmien on toimittava turvallisesti ja kunnioitettava käyttäjien yksityisyyttä.

Kuten Yhdysvaltain puolustusministeriö (DoD) totesi Tekoälyn käytön eettiset periaatteet ja kuten olen käsitellyt perusteellisesti osoitteessa linkki tähän, nämä ovat heidän kuusi ensisijaista tekoälyn eettistä periaatetta:

• Vastaava: DoD-henkilöstö käyttää asianmukaista harkintaa ja huolellisuutta samalla kun he ovat vastuussa tekoälyominaisuuksien kehittämisestä, käyttöönotosta ja käytöstä.
• oikeudenmukainen: Osasto ryhtyy tietoisiin toimiin minimoidakseen tahattoman harhan tekoälyominaisuuksissa.
• jäljitettävissä: Osaston tekoälyvalmiuksia kehitetään ja otetaan käyttöön siten, että asiaankuuluvalla henkilöstöllä on asianmukainen ymmärrys tekoälyvalmiuksiin sovellettavista teknologiasta, kehitysprosesseista ja toimintamenetelmistä, mukaan lukien avoimet ja tarkastettavat menetelmät, tietolähteet sekä suunnittelumenettely ja dokumentaatio.
• Luotettava: Osaston tekoälyominaisuuksilla on selkeät, tarkasti määritellyt käyttötarkoitukset, ja tällaisten ominaisuuksien turvallisuus, turvallisuus ja tehokkuus testataan ja varmistetaan määritellyissä käyttötarkoituksissa niiden koko elinkaaren ajan.
• hallinnoitavissa: Osasto suunnittelee ja suunnittelee tekoälyvalmiuksia täyttämään niille aiotut toiminnot samalla kun sillä on kyky havaita ja välttää tahattomia seurauksia sekä kyky kytkeä irti tai deaktivoida käyttöönotetut järjestelmät, jotka osoittavat tahatonta toimintaa.

Olen myös keskustellut erilaisista tekoälyn eettisten periaatteiden kollektiivisista analyyseistä, mukaan lukien tutkijoiden laatiman joukon, joka tutki ja tiivisti lukuisten kansallisten ja kansainvälisten tekoälyn eettisten periaatteiden olemusta artikkelissa "The Global Landscape Of AI Ethics Guidelines" (julkaistu) sisään luonto), ja jota kattamani tutkitaan osoitteessa linkki tähän, joka johti tähän Keystone-luetteloon:

• Läpinäkyvyys
• Oikeus ja oikeudenmukaisuus
• Ei-ilkeäisyys
• vastuu
• yksityisyys
• hyväntekeväisyys
• Vapaus ja autonomia
• Luottamus
• kestävyys
• arvokkuus
• Solidaarisuus

Kuten saatat suoraan arvata, näiden periaatteiden taustalla olevien yksityiskohtien selvittäminen voi olla erittäin vaikeaa. Vielä enemmän, pyrkimys muuttaa nämä laajat periaatteet joksikin täysin konkreettiseksi ja riittävän yksityiskohtaiseksi käytettäväksi tekoälyjärjestelmien luomisessa on myös kova pähkinä. Kokonaisuudessaan on helppo heiluttaa käsin siitä, mitä tekoälyn eettiset ohjeet ovat ja miten niitä yleensä tulisi noudattaa, kun taas tekoälykoodauksessa on paljon monimutkaisempi tilanne, kun tien kohtaamisen täytyy olla todellinen kumi.

Tekoälykehittäjien tulee hyödyntää tekoälyn eettisiä periaatteita sekä tekoälykehitystyötä hallinnoivien ja jopa tekoälyjärjestelmien ylläpitoa tekevien periaatteiden käyttöä. Kaikki sidosryhmät koko tekoälyn kehityksen ja käytön elinkaaren aikana katsotaan eettisen tekoälyn vakiintuneiden normien mukaisesti. Tämä on tärkeä kohokohta, koska tavallinen oletus on, että "vain koodaajien" tai tekoälyn ohjelmoivien on noudatettava tekoälyn etiikkaa. Kuten aiemmin todettiin, tekoälyn suunnittelu ja toteuttaminen vaatii kylän, ja koko kylän on oltava perehtynyt tekoälyn etiikkaan ja noudattaa niitä.

Varmistetaan myös, että olemme samalla sivulla nykypäivän tekoälyn luonteesta.

Nykyään ei ole aistivaa tekoälyä. Meillä ei ole tätä. Emme tiedä, onko aistillinen tekoäly mahdollista. Kukaan ei voi osuvasti ennustaa, saavutammeko aistillisen tekoälyn, eikä syntyykö sentientti tekoäly jotenkin ihmeellisesti spontaanisti laskennallisen kognitiivisen supernovan muodossa (kutsutaan yleensä singulaariseksi, katso artikkelini osoitteessa linkki tähän).

Tekoälytyyppi, johon keskityn, koostuu tuntemattomasta tekoälystä, joka meillä on nykyään. Jos haluamme villisti spekuloida tunteva AI, tämä keskustelu voisi mennä radikaalisti eri suuntaan. Tuntevan tekoälyn oletetaan olevan ihmislaatuista. Sinun on otettava huomioon, että tunteva tekoäly on ihmisen kognitiivinen vastine. Enemmänkin, koska jotkut spekuloivat, että meillä saattaa olla superälykäs tekoäly, on mahdollista, että tällainen tekoäly voisi päätyä älykkäämmäksi kuin ihmiset (superälykkään tekoälyn mahdollisuudesta tutkimisestani, katso ks. kattavuus täällä).

Pidetään asiat maanläheisemmin ja harkitaan nykypäivän laskennallista tuntematonta tekoälyä.

Ymmärrä, että nykypäivän tekoäly ei pysty "ajattelemaan" millään tavalla ihmisen ajattelun tasolla. Kun olet vuorovaikutuksessa Alexan tai Sirin kanssa, keskustelukyvyt saattavat näyttää ihmisiltä, ​​mutta tosiasia on, että se on laskennallista ja siitä puuttuu ihmisen kognitio. Tekoälyn uusin aikakausi on hyödyntänyt laajasti koneoppimista (ML) ja Deep Learningiä (DL), jotka hyödyntävät laskennallista kuvioiden täsmäämistä. Tämä on johtanut tekoälyjärjestelmiin, jotka näyttävät olevan ihmisen kaltaisia ​​taipumuksia. Sitä vastoin nykyään ei ole yhtään tekoälyä, joka näyttäisi olevan tervettä järkeä, eikä siinä ole mitään vankan ihmisen ajattelun kognitiivista ihmettelyä.

ML/DL on eräänlainen laskennallinen mallisovitus. Tavallinen lähestymistapa on, että kokoat dataa päätöksentekotehtävästä. Syötät tiedot ML/DL-tietokonemalleihin. Nämä mallit pyrkivät löytämään matemaattisia malleja. Tällaisten mallien löytämisen jälkeen, jos niin on, tekoälyjärjestelmä käyttää niitä kohdatessaan uutta tietoa. Uutta dataa esitettäessä käytetään "vanhaan" tai historialliseen dataan perustuvia malleja nykyisen päätöksen tekemiseksi.

Luulen, että voit arvata mihin tämä on menossa. Jos ihmiset, jotka ovat tehneet kaavoja päätöksiä, ovat sisällyttäneet epäsuotuisia ennakkoluuloja, on todennäköistä, että tiedot heijastavat tätä hienovaraisella mutta merkittävällä tavalla. Koneoppimisen tai Deep Learningin laskennallinen mallinsovitus yrittää yksinkertaisesti matemaattisesti jäljitellä dataa vastaavasti. Tekoälyn luomassa mallintamisessa ei sinänsä näytä olevan tervettä järkeä tai muita tuntevia puolia.

Tekoälykehittäjät eivät myöskään välttämättä ymmärrä, mitä tapahtuu. ML/DL:n vaikeaselkoinen matematiikka saattaa vaikeuttaa nyt piilossa olevien harhojen paljastamista. Voit oikeutetusti toivoa ja odottaa, että tekoälykehittäjät testaisivat mahdollisesti hautautuneita harhoja, vaikka tämä onkin hankalampaa kuin miltä saattaa näyttää. On olemassa vahva mahdollisuus, että jopa suhteellisen laajalla testauksella ML/DL:n mallinsovitusmalleihin sisältyy edelleen harhaa.

Voisit hieman käyttää kuuluisaa tai pahamaineista sanontaa roskat sisään roskat ulos. Asia on siinä, että tämä muistuttaa enemmän harhoja, jotka infusoituvat salakavalasti tekoälyn upottautuessa harhaan. Tekoälyn päätöksenteko-algoritmi (ADM) on aksiomaattisesti täynnä epätasa-arvoa.

Ei hyvä.

Palataanpa keskittymään tekoälyn epäsymmetriaan.

Nopea yhteenveto edellä mainituista kolmesta suosituksestani on tämä:

1) Ole tietoinen siitä, että tekoälyn epäsymmetria on olemassa ja kasvaa

2) Pyri varmistamaan, että tekoälyn epäsymmetria rajoittaa tekoälyn etiikkaa

3) Yritä taistella tekoälyn epäsymmetriaa vastaan ​​aseistautumalla tekoälyllä

Tarkastellaan lähemmin jälkimmäistä tulentorjuntakohtaa.

Kuvittele, että kun etsit lainaa, sinulla oli tekoäly, joka työskenteli sinun puolellasi. Tämä voi olla älypuhelimesi tekoälypohjainen sovellus, joka on suunniteltu lainan saamiseen. Se ei ole yhden pankin sovellus, vaan se on itsenäisesti suunniteltu toimimaan puolestasi. Olen selostanut tämäntyyppisiä sovelluksia tekoälypohjaisia ​​suojelusenkelibotteja käsittelevässä kirjassani, katso linkki tähän.

Kun haet lainaa, saatat viitata tähän sovellukseen, kun toinen tekoäly ohjaa sinut hakuprosessin läpi. Nämä kaksi tekoälyjärjestelmää ovat erilliset ja täysin erillään toisistaan. Älypuhelimesi tekoäly on "koulutettu" tuntemaan kaikki toisen tekoälyn käyttämät temput. Näin ollen vastaukset, jotka annat pankin tekoälyyn, perustuvat siihen, mitä tekoälysi neuvoo sinua.

Toinen vaihtoehto koostuu siitä, että tekoäly vastaa toisen tekoälyn kysymyksiin. Sikäli kuin toinen tekoäly voi todeta, olet sinä se, joka syötät vastaukset. Saatat sen sijaan vain katsella kahden taistelevan tekoälyjärjestelmän välistä vuorovaikutusta. Tämän avulla voit nähdä, mitä tekoälysi tarjoaa. Lisäksi voit mahdollisesti säätää tekoälyäsi sen mukaan, oletko tyytyväinen siihen, mitä tekoälysi tekee puolestasi.

Olen ennustanut, että me kaikki tulemme vähitellen aseistautumaan tekoälyllä, joka on puolellamme näissä tekoälyn epäsymmetriatilanteissa.

Mietitään, miten tämä onnistuu.

Nämä ovat kulmakivivaikutukset tekoälyn epäsymmetriaehtoon, jonka olin laatinut:

• Tasoita tekoälyn epäsymmetria eduksesi (nostaa sinut ylöspäin toivoen pääsevänsä samalle tasolle)
• Tekoälyn epäsymmetrian edistäminen hyväksesi (nostaa sinut eduksi, kun olet jo samanarvoinen)
• Tehosta tekoälyn epäsymmetriaa poikkeuksellisen hyväksesi (saata laajemman edun, kun on jo edullinen)
• Tekoälyn epäsymmetrian tahaton aliarvioiminen sinun epäedullesi (kun sinulla oli jo olemassa oleva etu ja tekoäly veti sinut vahingossa alas)

Aika sukeltaa syvällisesti näihin kiehtoviin mahdollisuuksiin.

Tekoälyn epäsymmetrian tasoittaminen eduksesi

Tekoälyn epäsymmetrian tasoittaminen on ilmeisin ja useimmin käsitelty asia, nimittäin se, että aseistaisit itsesi tekoälyllä yrittääksesi mennä varpaisiin, kun toinen osapuoli käyttää tekoälyä käsillä olevassa asiassa. Tekoälyn epäsymmetria-asetus aloitti sinusta epäedullisen tilanteen. Sinulla ei ollut tekoälyä nurkassasi. Olit asioiden alhaalla. Toisella puolella oli tekoäly ja he olivat korkeammalla.

Siten olet viisaasti aseistanut itsesi tekoälyllä, jonka tavoitteena oli asettaa sinut ja muut tekoälyt tasa-arvoisiin ehtoihin.

Yksi tärkeä ja ehkä yllättävä vivahde, joka on pidettävä mielessä, on se, että käytettävät tekoälyjärjestelmät eivät aina ole tasapainossa toisiaan vastaan. Voit aseistaa itsesi tekoälyllä, joka on vähemmän tehokas kuin toisen puolen käyttämä tekoäly. Siinä tapauksessa olet onneksi lisännyt huonoja puoliasi, vaikka et ole nyt täysin tasavertainen toisen puolen ja sen tekoälyn kanssa.

Siksi viittaan tähän tekoälyn epäsymmetrian tasoittamiseen. Saatat pystyä kaventamaan aukkoa, vaikka et sulje sitä kokonaan. Perimmäisenä tavoitteena olisi käyttää tekoälyä puolellasi, mikä saa sinut täysin tasa-arvoiseen asentoon. Asia on siinä, että tämä saattaa olla mahdollista tai ei. Toisella puolella saattaa olla todella kallista tekoälyä, ja yrität kilpailla tekoälyn säästävän mart-version kanssa.

Kaikki AI eivät ole samanlaisia.

Tekoälyn epäsymmetrian edistäminen hyväksesi

Tästä seikasta ei juurikaan keskustella tänään, osittain siksi, että se on tällä hetkellä harvinaista. Jonakin päivänä tästä tulee arkipäivää. Ajatus on, että oletetaan, että olet ilman tekoälyä ja silti samalla tasolla sen puolen kanssa, jolla on tekoäly.

Hyvä sinulle.

Ihmisillä on järkensä niiden suhteen.

Mutta saatat haluta saada etua toiselle osapuolelle. Itsesi aseistautuminen tekoälyllä vie sinut korkeammalle tasolle. Sinulla on nyt järkesi ja luotettava tekoäly käsissäsi. Olet saavuttanut edun, joka oletettavasti hallitsee toisen puolen tekoälyä.

Tehosta tekoälyn epäsymmetriaa poikkeuksellisen hyväksesi

Käyttäen samanlaista logiikkaa kuin keinotekoisen tekoälyn epäsymmetrian kannustaminen puolestasi, oletetaan, että olet jo tekoälyä käyttävän toisen osapuolen kykyjen yläpuolella. Eli et aloita tasa-arvoisesta asennosta. Onneksi olet jo yläpuolella.

Haluat kuitenkin varmistaa vielä suuremman edun. Siksi aseistaudut tekoälyllä. Tämä vie pään ja hartiat toisen puolen yläpuolelle.

Tekoälyn epäsymmetrian tahaton aleneminen epäsuosituksellesi

Epäilen, että haluat kuulla tästä mahdollisuudesta. Huomaa, että tekoälyn käsitteleminen ei ole vain ruusuja ja jäätelökakkuja.

Voi olla, että kun aseistat itsesi tekoälyllä, alitat itsesi. Jos olit jo pienempi kuin toisen puolen tekoäly, olet nyt syvemmässä kuoppassa. Jos olisit tasavertaisessa asemassa, olet nyt epäedullisessa asemassa. Jos olit toisen puolen yläpuolella, olet nyt sen verran tai alapuolella.

Kuinka se voisi tapahtua?

Saatat olla järkyttynyt pohtiessasi, että käyttämäsi tekoäly johtaa sinut harhaan. Tämä voi tapahtua helposti. Se, että nurkassasi on tekoäly, ei tarkoita, että se olisi hyödyllinen. Saatat käyttää tekoälyä, ja se tarjoaa neuvoja, jotka eivät välttämättä ole sinun mielestäsi sopivia, mutta päätät kuitenkin käyttää sitä. Logiikkasi oli tuolloin, että koska vaivasit tekoälyn hankkimiseksi, saatat yhtä hyvin luottaa siihen.

Käyttämäsi tekoäly saattaa olla viallinen. Tai se voi olla huonosti suunniteltu. On monia syitä, miksi tekoäly saattaa antaa sinulle horjuvia neuvoja. Ne, jotka hyväksyvät sokeasti sen, mitä tekoäly käskee tehdä, joutuvat väistämättä loukkaantuneiden maailmaan. Olen käsitellyt kolumnissani sellaisia ​​​​ongelmia, kuten linkki tähän.

Tärkeintä on, että ei ole minkäänlaista takuuta siitä, että vain siksi, että aseistat itsesi tekoälyllä, voitat AI Asymmetry -pelissä.

Saatat saavuttaa tasapuoliset toimintaedellytykset. Saatat saada etua. Ja valitettavasti sinun on oltava varovainen, koska voi olla, että vajotat alaspäin, kun olet aseistautunut tekoälyllä.

Jossain määrin siksi tekoälyn etiikka ja eettinen tekoäly ovat niin tärkeä aihe. Tekoälyn etiikan ohjeet saavat meidät pysymään valppaina. Tekoälyteknikot voivat toisinaan olla kiinnostuneita teknologiasta, erityisesti huipputekniikan optimoinnista. He eivät välttämättä ota huomioon suurempia yhteiskunnallisia seurauksia. Tekoälyn eettinen ajattelutapa ja sen integroiminen tekoälyn kehittämiseen ja käyttöön on elintärkeää oikean tekoälyn tuottamiseksi.

Tekoälyn etiikan lisäksi on olemassa vastaava kysymys, pitäisikö meillä olla lakeja säätelemään tekoälyn eri käyttötapoja. Liittovaltion, osavaltion ja paikallisen tason uudet lait koskevat tekoälyn suunnittelun laajuutta ja luonnetta. Pyrkimys tällaisten lakien laatimiseen ja säätämiseen on asteittaista. Tekoälyn etiikka toimii ainakin harkittuna pysähdyspaikkana, ja se sisällytetään lähes varmasti jossain määrin suoraan näihin uusiin lakeihin.

Huomaa, että jotkut väittävät jyrkästi, ettemme tarvitse uusia tekoälyä koskevia lakeja ja että nykyiset lakimme ovat riittäviä. Itse asiassa he varoittavat, että jos säädämme joitakin näistä tekoälylaeista, tapamme kultaisen hanhen hillitsemällä tekoälyn edistysaskeleita, jotka tarjoavat valtavia yhteiskunnallisia etuja. Katso esimerkiksi kattaukseni osoitteessa linkki tähän ja linkki tähän.

Tämän painavan keskustelun tässä vaiheessa lyön vetoa, että kaipaat havainnollistavia esimerkkejä, jotka voisivat esitellä tätä aihetta. On olemassa erityinen ja varmasti suosittu joukko esimerkkejä, jotka ovat lähellä sydäntäni. Tekoälyn asiantuntijana, mukaan lukien eettiset ja oikeudelliset seuraukset, minua pyydetään usein tunnistamaan realistisia esimerkkejä, jotka tuovat esille tekoälyn eettisiä ongelmia, jotta aiheen jossain määrin teoreettinen luonne voidaan ymmärtää helpommin. Yksi mieleenpainuvimmista alueista, joka esittelee elävästi tämän eettisen tekoälyongelman, on tekoälyyn perustuvien todellisten itseohjautuvien autojen tulo. Tämä toimii kätevänä käyttötapana tai esimerkkinä aiheesta laajalle keskustelulle.

Tässä on sitten huomionarvoinen kysymys, jota kannattaa pohtia: Kertooko tekoälyyn perustuvien todellisten itseohjautuvien autojen tulo jotain tekoälyn epäsymmetriasta, ja jos on, mitä tämä osoittaa?

Anna minun hetki purkaa kysymys.

Ensinnäkin, huomaa, että todellisessa itseajavassa autossa ei ole ihmiskuljettajaa. Muista, että todellisia itseohjautuvia autoja ajetaan tekoälyjärjestelmän kautta. Rattiin ei tarvita ihmiskuljettajaa, eikä myöskään ole mahdollista, että ihminen voisi ajaa ajoneuvoa. Katso kattava ja jatkuva kattamukseni autonomisista ajoneuvoista (AV) ja erityisesti itseohjautuvista autoista. linkki tähän.

Haluaisin selventää tarkemmin, mitä tarkoitetaan, kun viittaan todellisiin itse ajaviin autoihin.

Ymmärtäminen itse ajavien autojen tasoista

Selvyyden vuoksi todelliset itse ajavat autot ovat sellaisia, joissa tekoäly ajaa autoa kokonaan yksin eikä ajo-tehtävän aikana ole mitään apua.

Näitä kuljettamattomia ajoneuvoja pidetään tasoina 4 ja 5 (katso selitykseni osoitteessa tämä linkki täällä), kun taas autoa, joka edellyttää ihmiskuljettajan yhteistä ajoponnistusta, pidetään yleensä tasolla 2 tai 3. Autoja, jotka jakavat ajotehtävän, kuvataan puoliautonomisina ja sisältävät tyypillisesti erilaisia automaattiset lisäosat, joista käytetään nimitystä ADAS (Advanced Driver-Assistance Systems).

Tasolla 5 ei ole vielä todellista itseajavaa autoa, emmekä vielä edes tiedä, onko se mahdollista saavuttaa tai kuinka kauan sen saavuttaminen kestää.

Samaan aikaan tason 4 ponnistelut yrittävät vähitellen saada jonkin verran pitoa käymällä läpi erittäin kapeita ja valikoivia yleisiä tiekokeita, vaikka onkin kiistaa siitä, pitäisikö tämä testaus sallia sellaisenaan (olemme kaikki elämän tai kuoleman marsuja kokeessa tapahtuu valtateillämme ja sivuteillämme, jotkut väittävät, katso kattaukseni osoitteessa tämä linkki täällä).

Koska osittain itsenäiset autot vaativat ihmisen kuljettajan, tämäntyyppisten autojen omaksuminen ei ole selvästi erilainen kuin tavanomaisten ajoneuvojen ajaminen, joten sinänsä ei ole paljon uutta kattamaan niitä tästä aiheesta (tosin kuten näette hetkessä seuraavia pisteitä voidaan yleensä soveltaa).

Osittain itsenäisten autojen osalta on tärkeää, että kansalaisia ​​on varoitettava viime aikoina esiintyneestä häiritsevästä näkökulmasta, nimittäin siitä, että huolimatta ihmisten kuljettajista, jotka jatkavat videoiden lähettämistä itsensä nukahtamisesta tason 2 tai 3 autolle, , meidän kaikkien on vältettävä johtamasta harhaan uskoaan, että kuljettaja voi viedä huomionsa ajo-tehtävään ajon puoli-autonomisen auton kanssa.

Olet vastuussa ajoneuvon ajotoimista riippumatta siitä, kuinka paljon automaatiota voidaan heittää tasolle 2 tai 3.

Itseajavat autot ja tekoälyn epäsymmetria

Tason 4 ja tason 5 itseohjautuvissa ajoneuvoissa ajo-tehtävään ei tule inhimillistä kuljettajaa.

Kaikki matkustajat ovat matkustajia.

AI ajaa.

Yksi näkökohta, josta on keskusteltava välittömästi, merkitsee sitä, että nykypäivän tekoälyjärjestelmiin osallistuva tekoäly ei ole tunteva. Toisin sanoen tekoäly on kokonaisuudessaan tietokonepohjaisen ohjelmoinnin ja algoritmien joukko, eikä varmaankaan kykene perustelemaan samalla tavalla kuin ihmiset.

Miksi tämä korostetaan sitä, että tekoäly ei ole järkevä?

Koska haluan korostaa, että puhuessani tekoälyn ajo-järjestelmän roolista, en omista tekoälylle ihmisen ominaisuuksia. Huomaa, että nykyään on jatkuva ja vaarallinen taipumus antropomorfisoida tekoäly. Pohjimmiltaan ihmiset osoittavat ihmisen kaltaisen tuntemuksen nykyiselle tekoälylle huolimatta kiistattomasta ja kiistattomasta tosiasiasta, että sellaista tekoälyä ei vielä ole.

Tämän selvennyksen avulla voit kuvitella, että tekoälyn ajo-järjestelmä ei luonnostaan ​​jotenkin “tiedä” ajon puolia. Ajo ja kaikki siihen liittyvä on ohjelmoitava osaksi itseajoavan auton laitteistoa ja ohjelmistoa.

Sukelletaan lukemattomiin näkökohtiin, jotka tulevat pelaamaan tästä aiheesta.

Ensinnäkin on tärkeää ymmärtää, että kaikki AI-itse ajavat autot eivät ole samanlaisia. Jokainen autonvalmistaja ja itseajava teknologiayritys suunnittelee itse ajavia autoja. Sellaisenaan on vaikea antaa laajoja lausuntoja siitä, mitä tekoälyjärjestelmät tekevät tai eivät tee.

Lisäksi aina, kun todetaan, että tekoälyohjausjärjestelmä ei tee jotain tiettyä, tämä voi myöhemmin ohittaa kehittäjät, jotka itse ohjelmoivat tietokoneen tekemään juuri sen. AI -ajojärjestelmiä parannetaan ja laajennetaan asteittain. Nykyinen rajoitus ei välttämättä ole enää olemassa tulevassa iteraatiossa tai järjestelmän versiossa.

Toivon, että se tarjoaa riittävän litaania varoituksia taustalla, mitä aion kertoa.

Piirretään skenaario, joka esittelee tekoälyn epäsymmetriaa.

Mieti sitä näennäisen merkityksetöntä asiaa, missä itseajavat autot vaeltavat hakemaan matkustajia. Tämä tuntuu erittäin viattomalta aiheelta.

Aluksi oletetaan, että itseohjautuvat tekoälyautot vaeltavat koko kaupungeissa. Jokaisella, joka haluaa pyytää kyytiä itseajavalla autolla, on periaatteessa yhtäläinen mahdollisuus saada sellainen. Vähitellen tekoäly alkaa ensisijaisesti pitää itseajavat autot liikkumassa vain yhdessä kaupunginosassa. Tämä osio on suurempi rahantekijä, ja tekoäly on ohjelmoitu kokeilemaan maksimoida tulot osana käyttöä koko yhteisössä (tämä korostaa optimoinnin taustalla olevaa ajattelutapaa, nimittäin keskittymistä vain yhteen tiettyyn mittariin ja muiden prosessin tärkeiden tekijöiden huomiotta jättämistä).

Kaupungin köyhien osien yhteisön jäsenet eivät todennäköisesti pääse kyytiin itseajavalla autolla. Tämä johtuu siitä, että itseajavat autot olivat kauempana ja vaelsivat kaupungin korkeamman tulotason osassa. Kun pyyntö tulee kaukaisesta kaupunginosasta, mikä tahansa muu pyyntö lähempänä olevasta paikasta saisi korkeamman prioriteetin. Lopulta itseajavan auton saatavuus muualta kuin kaupungin rikkaimmasta osasta on lähes mahdotonta, mikä on raivostuttavaa niille, jotka asuivat näillä nyt luonnonvarojen nälkäisillä alueilla.

Esiin tulevat kehutut liikkuvuutta kaikille -unelmat, jotka itseohjautuvien autojen oletetaan toteuttavan.

Voisit väittää, että tekoäly joutui kokonaan tilastolliseen ja laskennalliseen harhaan, joka muistuttaa eräänlaista välityssyrjintää (kutsutaan usein myös epäsuoraksi syrjinnäksi). Ymmärrä, että tekoälyä ei ohjelmoitu välttämään näitä köyhempiä kaupunginosia. Tehdään asia selväksi tässä tapauksessa. Ei, sen sijaan se oli suunniteltu vain tulojen optimoimiseksi, mikä oli näennäisesti hyväksyttävä tavoite, mutta tämä tehtiin ilman, että tekoälykehittäjät harkitsivat muita mahdollisia seurauksia. Tämä optimointi puolestaan ​​johti tahattomasti ja väistämättä ei-toivottuun lopputulokseen.

Jos he olisivat sisällyttäneet tekoälyn eettiset näkökohdat osaksi optimointiajatteluaan, he olisivat ehkä tajunneet etukäteen, että elleivät he ole luoneet tekoälyä selviytymään tällaisesta ylimitoituksesta pelkästään yhden mittarin perusteella, he olisivat saattaneet välttää tällaiset ikävät tulokset. Lisätietoja tämän tyyppisistä ongelmista, joita autonomisten ajoneuvojen ja itseohjautuvien autojen laaja käyttöönotto todennäköisesti aiheuttaa, on artikkelissani osoitteessa tämä linkki täällä, joka kuvaa Harvardin johtamaa tutkimusta, jonka olen kirjoittanut näistä aiheista.

Joka tapauksessa oletetaan, että hevonen on jo ulos navetta, eikä tilanne ole heti alttiina kokonaisvaltaisille ratkaisuille.

Mitä ne, jotka haluavat käyttää näitä itseohjautuvia autoja, voivat tehdä?

Ilmeisin lähestymistapa olisi työskennellä yhteisön johtajien kanssa saadakseen autonvalmistajan tai itseohjautuvan teknologiayrityksen harkitsemaan uudelleen, kuinka he ovat luoneet tekoälyn. Ehkä painostaa mitä tahansa lisenssejä tai lupia, jotka on myönnetty näiden itseohjautuvien autojen käyttöönotolle kyseisessä kaupungissa tai kylässä. Nämä ovat todennäköisesti toteuttamiskelpoisia keinoja saada aikaan myönteisiä muutoksia, vaikka voi kestää jonkin aikaa, ennen kuin ponnistelut kantavat hedelmää.

Toinen näkökulma olisi aseistaa itsesi tekoälyllä.

Kuvittele, että joku on taitavasti kehittänyt tekoälypohjaisen sovelluksen, joka toimii älypuhelimellasi ja käsittelee kyytiä vastaanottavan autonvalmistajan tai kaluston operaattorin tekoälyä. Voi olla, että käyttämäsi tekoäly hyödyntää toisen tekoälyn avainelementtejä siten, että pyyntösi saada itse ajava auto on korostettu. Huomaa, että en tarkoita, että mitään laitonta olisi tapahtumassa, vaan että sinun puolellasi oleva tekoäly on kehitetty toisessa tekoälyssä löydettyjen "ominaisuuksien" tai jopa porsaanreikkien perusteella.

Yhteenveto

Tarina itseajavien autojen operaattorin röyhkeästä taistelemisesta tekoälyä vastaan ​​aseistautumalla tekoälyllä tuo esiin uusia tekoälyn eettisiä kiistoja ja pohdintoja.

Esimerkiksi:

• Jos yksi henkilö voi käyttää tekoälyä antaakseen heille etua jonkin muun järjestelmän tekoälyyn verrattuna, kuinka pitkälle tämä voi mennä tekoälyn eettisten rajojen ylittämisessä (vakuutan itse ajavat autot tulemaan luokseni ja ystävieni, kaikkia muita poissulkematta)?
• Lisäksi, onko tekoälyn eettisessä näkökulmassa mitään sellaista, että jos joku tietää tekoälystä tai on sillä aseistettu taistellakseen muita tekoälyjä vastaan, pitäisikö ne jäljellä olevat ihmiset, joilla ei ole tätä tasapainottavaa tekoälyä, saada jotenkin varoittamaan tekoälystä ja kyettävä aseistautumaan. myös vastaavasti?

Loppujen lopuksi kaikki tämä vie meidät pelottavalta näyttävään tulevaisuuteen, joka koostuu tekoälyn asevarustelukilpailusta. Kenellä on tekoäly, jota he tarvitsevat kiertääkseen ja selviytyäkseen, ja kenellä ei? Tuleeko aina vielä yksi tekoäly, joka herättää tasapainottavan tekoälyn tarpeen?

Carl Sagan, arvostettu tiedemies, esitti tämän viisaan viisauden erityisen katastrofaalisista kilpavarustelukilpailuista: "Ydinasevarustelukilpailu on kuin kaksi vannottua vihollista, jotka seisovat vyötäröllä syvällä bensiinissä, toisessa kolme tulitikkua ja toisessa viisi."

Meidän on päättäväisesti pyrittävä pitämään jalat kuivina ja päämme puhtaina, kun on kyse jatkuvasti uhkaavasta tekoälyn asevarustelukilpailusta.