Tekoälyn etiikka ja geopoliittinen painikilpailu siitä, kuka voittaa kilpailun todellisen tekoälyn saavuttamiseksi

Maailma on kiihkeässä kilpailussa.

Geopoliittiset voimat väittävät, että voittaja vie kotiin ikään kuin kaiken pekonin.

Mitä rotua käydään kiivaasti ja kiivaasti?

Se on AI-kilpailu.

Voisit ehkä osuvammin kutsua tätä kilpailuksi saavuttaa totta Tekoäly (AI), jota kutsutaan tällä hetkellä täydellisemmin tekoälyksi (AGI). Haluamme jollakin tavalla päästä näennäisesti äärimmäiseen tekoälyyn tai AGI:ksi, joka on verrattavissa ihmisen älykkyyteen. Emme ole vielä siellä. Kaikenlaisista villeistä ja röyhkeästi julistavista otsikoista huolimatta emme todellakaan tiedä, milloin tai saavutammeko tuon korkean pisteen. Nykypäivän tekoälyllä on paljon vähemmän kykyjä kuin yleisellä ihmisälyllä, vaikka varmasti on olemassa monia kapeampia tapoja, joilla tekoäly on tehnyt vaikuttavia retkiä, kuten kyky pelata huippuluokan shakkia tai tehdä muita suhteellisen rajoitettuja tehtäviä.

Kultainen sormus on kuitenkin tekoälyn tulo, joka osoittaa inhimillistä älykkyyttä, joka on luonteeltaan harras ja syvällinen, joka muistuttaa ihmiskunnan älyä. Tämä on tekoälyn tutkijoiden ja harjoittajien pyhä malja. Ajoittain on esitetty harhaanjohtavia väitteitä siitä, että olen jo ylittänyt tekoälykilpailun maaliviivan, minkä olen kumonnut kolumnissani klo. linkki tähän. Ne, jotka yrittävät tehdä maalilinjan ylittämistä koskevia kiistoja, hämmentävät suuren yleisön ja tekevät sen toisinaan innokkaalla viattomuudella, kun taas toisinaan heillä on käsissään vakavasti kyseenalaisia ​​motiiveja. Kaiken kaikkiaan tämä herättää varsin merkittäviä ja elintärkeitä tekoälyn eettisiä näkökohtia. Jatkuva ja laaja kattavuus tekoälyn eettisyydestä ja eettisestä tekoälystä, katso linkki tähän ja linkki tähän, vain muutamia mainitakseni.

Joka tapauksessa ei ole epäilystäkään siitä, että maailmanlaajuinen sprinting AI -kilpailu on innokkaasti käynnissä. Sinun olisi vaikea väittää muuta.

Ajattele asiaa näin. Jos olisimme jo onnistuneet saavuttamaan todellisen tekoälyn tai AGI:n, on todennäköistä, että tekoälyn jalkakilpailu olisi virallisesti ja maailmanlaajuisesti julistettu onnistuneesti päättyneeksi. Vakuutan teille, että maailmanlaajuinen huomio kiinnitettäisiin tällaiseen kaikuvaan ja maata järisyttävään läpimurtoon. Tietäisit sen. Me kaikki tekisimme. AI madcap dash ei siis käytännössä enää olisi olemassa, vaikka ehkä toissijainen versio voisi tulla mukaan, jossa ne, jotka eivät olleet saavuttaneet todellista tekoälyä, työskentelevät kuumeisesti kiinni saadakseen. On myös huolestuttava asia, kuinka päädymme hallitsemaan tai hallitsemaan AGI:ta, jos tai kun pääsemme sinne.

Yksikään henkilö, entiteetti tai kansakunta ei voi vielä kunnolla vaatia todellisen AI:n tai AGI:n tuottamisen kruunua.

Samaan aikaan tapahtuu valtavasti ja hellittämätöntä käsien vääntelyä siitä, mikä kansakunta (tai kansakunnat) on lauman kärjessä ja kuka on jäljessä. Oletuksena on, että jos et ole ensimmäinen, jäät likaan. Syöt tekoälyvoittajien jäännökset. Olet mahdollisesti ikuisesti alistettu kansakunnalle tai kansoille, jotka tekevät julistetun harppauksen todelliseksi tekoälyksi tai AGI:ksi.

Lyhyesti sanottuna ja tämän keskustelun sanamuodon helpottamiseksi aion tästä lähtien käyttää sanaa "AGI" aina, kun haluan vedota todellisen tekoälyn auraan. Hieman uudemman ilmauksen "AGI" käyttö ärsyttää joskus niitä, jotka eivät ole tottuneet näkemään sen käytön. Me kaikki tunnemme sanan "AI", ja saatat olla häiriintynyt, kun sen sijaan käytetään lyhennettä "AGI". Sallikaa minun selittää, miksi tämä on vähitellen nousemassa sananmukaiseksi trendiksi.

Osa syy siihen, miksi AGI on noussut tekoälyn areenalla, on se, että pelkästä "AI":n toteamisesta on nyt tullut valitettavan vesitetty ilmaisu. Kukaan ei tiedä, onko mainitsemasi tekoäly tuskin tekoälyvariantti vai joku näennäisesti paremmin edistyvä tekoälyinfuusio, vai saattaako se viitata jonain päivänä futuristiseen, täysin ihmisen rinnastamaan tekoälyyn. Käsitelläkseen "AI":n ylikuormitusta tunnuslauseena, AGI-nimike on suosinut niitä tekoälyalan sisäpiiriläisiä, jotka haluavat erityisesti ja erityisesti viitata todelliseen tekoälyyn.

Joten lyhyesti sanottuna, pidä mainitsemistani AGI:sta samana kuin sanoisin "todellisen tekoälyn", jonka kaliiperi on vankka, ihmisälyä muistuttava, kiitos.

Vedetäänpä harkitusti syvään henkeä ja tutkitaan tietoisesti joitain puolia kilpailusta AGI:n saavuttamiseksi. On jopa metanäkökohta, joka on ensin todettava. Ota huomioon, että oletetun jalkakilpailun tai muun kilpa-ajon allegorian käyttäminen AGI-kilpailun metaforana aiheuttaa närästystä. Miksi niin? Kerron teille hetken siitä, miksi (jotkut sanovat) jalkakilpailu tai vastaava on täysin harhaanjohtava ja salakavala yksinkertainen näkökulma.

Tässä ovat tärkeimmät kohdat, jotka käsittelen kanssasi tässä keskustelussa:

• Jos tämä on kilpailu, AGI-maaliviiva näyttää melko huonosti määritellyltä
• AGI-rotu voi mennä henkilölle, kokonaisuudelle tai kansakunnalle
• Mittarit ja se, miten kansoja verrataan AGI-kilpailussa
• Geopoliittinen ohjailu ja linjaus AGI-kilpailuun
• Kansainväliset tekoälylait ja tekoälyn etiikka erotuomarina AGI-kilpailussa

Haluat ehkä kiinnittää turvavyösi, kun tutkin kiireellisesti etenevää AGI-jalkakilpailua (kyllä, uskallan kutsua sitä jalkakilpailuksi), joka on saanut melkein kaikki liikkumaan huimaa vauhtia ja näennäisesti nousemaan pilviin tällä polttavalla tehtävällä. Jotkut saattavat sanoa, että tämä on kilpailu ihmiskunnan parantamiseksi, kun taas toiset varoittavat, että kilpailu saattaa tuoda meille kaikille täydellisen tuhon.

Aika näyttää.

Jos tämä on kilpailu, AGI-maaliviiva näyttää melko huonosti määritellyltä

Maalilinja on yleensä melko lopullinen raja. Olet joko saavuttanut maaliviivan tai et. Lyhyesti sanottuna ei näytä olevan paljon hyvää. Kuvittele olympialaisten 400 metrin juoksu ja muistaisitko erityisesti tai kasaisitko tunnustuksia juoksijoille, jotka eivät päässeet kilpailua ollenkaan (eivät ole koskaan ylittäneet maaliviivaa). Epätodennäköistä.

Tiedämmekö, milloin olemme saavuttaneet AGI:n niin, että kaikki on kohtuullisen samaa mieltä siitä, että maali on saavutettu?

AGI:n rajaamisesta on kiivaita erimielisyyksiä.

Oletetaan esimerkiksi, että suunnittelemme tekoälyä, joka näyttää täysin kykenevän esittelemään ihmisälyä, mutta siinä ei sinänsä näy aistillisuutta (katso artikkelini tekoälyä koskevista väitteistä osoitteessa linkki tähän). Tekoäly pystyy laskennallisesti matkimaan tai muuten toimimaan kuten ihmisen älykkyys. Meillä ei kuitenkaan ole elävyyden tai tunteen kipinää, jonka yhdistäisimme ihmisiin ja muihin eläviin olentoihin. Lasketaanko tämä AGI saavuttavamme tavoitteen, jonka luulimme saavuttavamme?

Jotkut väittävät vastaväitteitä, että sillä ei olisi väliä, jos tunne sinänsä näyttäisi olevan kääritty tähän AGI:hen. Niin kauan kuin se voi osoittaa inhimillistä älykkyyttä, aistillisuuden sisällyttäminen on jotain erilaista, jonka saatamme tai emme halua nähdä tulevan. Tuntemus siinä mielessä on lisä.

Toiset väittävät kiivaasti, että ainoa keino saavuttaa ihmisen älykkyys AGI:ssa on tunteen sisäistäminen. AGI ja sentience pidetään joko samana tai ne ovat sekoitus redusoitumatonta, erottamatonta kaksoissuoritusmuotoa. He väittävät, että saadaksesi AGI:n, sinulla on oltava taju.

Jättäen tämän keskustelun näkökulman sivuun, toinen näkökulma on se, että voisimme käyttää kuuluisaa Turingin testiä arvioidaksemme, onko AGI saavutettu. Olen käsitellyt Turingin testiä perusteellisesti osoitteessa linkki tähän. Lyhyesti sanottuna käsite koostuu siitä, että ihminen kysyy kysymyksiä AGI:lle, ja jos ihminen ei pysty erottamaan AGI:n tuottamia vastauksia ihmiskunnan vastauksista, julistamme AGI:n kykenevän osoittamaan ihmisälyä.

Turingin testiin liittyy usein monia ongelmia tai puutteita.

Oletetaan, että kyselyjä tekevä ihminen tekee surkeaa työtä eikä pysty esittämään tutkivia kysymyksiä. Yksi huolenaihe on, että monet nykypäivän vaikuttavalta vaikuttavat Large Language Mallit (LLM) voivat palauttaa ihmisille sisällön, johon LLM on koulutettu (eli tekstin ja digitaalisen median, joka on usein hankittu laajamittaisen Internetin kaapimisen kautta). Sellaisenaan erityisen valittu ihminen, joka kysyy tavallisen tyyppisiä kysymyksiä, joihin on jo vastattu ja jotka ovat olemassa verkossa, voivat potentiaalisesti helposti "vastata" LLM:ltä, mutta tämä ei kiistatta johdu mistään AGI-kaliiperin ihmisälyn ruumiillistumasta.

Monia muitakin vaivoja tulee esiin. Oletetaan, että ihminen ei pysty ymmärtämään vastauksia. Tai oletetaan, että ihminen pettää itsensä uskomalla, että vastaukset ovat kaikki osoitus ihmisen älykkyydestä. Olen jopa käsitellyt joidenkin silmiinpistävää ajatusta, että meidän tarvitsee vain kysyä tekoälyltä, onko se AGI vai tunteva, mikä teen selväksi, että se ei ole kovin vakuuttava AGI-todistuksen muoto, ks. linkki tähän.

Lopuksi, kuten yksi lisätty ajatus, täytyykö meidän saavuttaa täysin maaliviiva katsoaksemme, että AGI on saavutettu?

Mainitsin aiemmin, että yleensä unohdamme ne, jotka eivät pääse maaliin. Tämä ei ehkä ole järkevästi analogista AGI-kilpailun kanssa. Uskon, että voidaan esittää vakuuttava esimerkki siitä, että jos pystymme saavuttamaan merkittävän tien AGI:tä kohti, olemme jo hämmästyneitä ja joko suuren hyödyn tai suuria ongelmia. Näet, monia tärkeitä ja erittäin hyödyllisiä tuloksia voi syntyä melkein olemassa olevasta AGI:sta. Lyhyen loppuminen ei ole niin ongelmallista kuin 400 metrin juoksukilpailun jättäminen maaliin, varsinkin kun se saattaa olla tärkeä perusta matkallemme kohti AGI:n täydempää versiota (mahdollisesti maratoni verrattuna).

AGI-saavutuksen metafora, joka on eräänlainen jalkakilpailu tai vastaava, on toisinaan epätyydyttävä ja riittämätön.

AGI-rotu voi mennä henkilölle, kokonaisuudelle tai kansakunnalle

Joillakin on unenomainen käsitys siitä, että AGI:n saavuttaa joku autotallissa pyjamassa työskentelevä näppäri, ja ne ovat äärimmäisen kekseliäiden tietokonekokeilujen paljastuksia, joita he ovat työstäneet vuosia vuosia. Se on yksinäisen suden klassinen huipputekninen trooppi.

Ikävä kuulla, että tämä on erittäin alhainen todennäköisyys.

Suurempi todennäköisyys on, että yritys, kuten yritys tai tutkimusryhmä, tulee AGI:n tekijöiksi. Vahva ja vallitseva uskomus on, että AGI:n saapuminen vie kylän. Yksinäisellä sudella ei itsellään ole resursseja eikä oivalluksia päästäkseen AGI:hen. He saattavat osallistua etsintään. He saattavat tarjota palapeliin tarvittavia palasia. He eivät pysty keräämään koko settiä ja kaappia.

Kylistä puheen ollen, toinen vahvasti kannatettu näkemys on, että kansakunnat voivat saavuttaa vain AGI:n. Kansallisvaltion sisällä olevien ihmisten, yritysten, tutkijoiden ja kaikkien muiden entiteettien yhdistelmän kautta AGI saapuu kansallisen kokonaisuuden yhdistetyn työn tuloksena. Tämän kilpailun voittajan huomion yksikkötaso on pikemminkin kansallisvaltiopohjainen kuin hajallaan oleva, vapaamuotoinen tai individualistinen.

Lyhyesti sanottuna, jos se vie kylän, kylästä tulee kansallisen mittakaavan mittakaava, joten kansallisvaltio on nimetty juoksija, joka ylittää maaliviivan AGI-kilpailussa.

Mittarit ja kuinka kansakuntia verrataan AGI-kilpailussa

Otetaan itsestäänselvyytenä, että AGI-saavutus perustuu kansallisvaltiotasolle.

Toistaakseni, emme tiedä sitä varmasti, mutta se vaikuttaa perustellulta oletukselta.

Mieti kansallisvaltiopohjan seurauksia. Oletetaan, että yksinäinen susi onnistuu pääsemään ensin AGI:hen ja uskoo, että heidän työnsä on muuta kuin sen kansallisvaltion, jonka jäsen he ovat. Tämä henkilö julistaa, että he eivät kuulu mihinkään kansallisvaltioon muotoillun AGI:n kannalta. Antaisimmeko silti tunnustusta tuolle kansallisvaltiolle ja olisiko AGI tuon kansakunnan hallinnassa ja toimivallan alaisuudessa?

Kuvittele toinen vaihtoehto, että suuri monikansallinen monialayritys saapuu AGI:lle ensin. Mikä kansakunta voi sanoa, että AGI on heidän "asiansa" käyttää ja ottaa käyttöön (tulkitaanko se omaisuudeksi vai poimitaanko sen sijaan muunnelmaksi oikeushenkilöllisyydestä)? Ehkä kaikkien kansakuntien, joissa yritys on olemassa, tulee saada yhtäläinen luotto. Tai ehkä vain siellä, missä virallinen päämaja sijaitsee maantieteellisesti. Se voi olla monimutkainen todellisen kultapotin halkaisu.

Joka tapauksessa yleinen mielipide on, että kansallisvaltio tulee olemaan ratkaiseva tekijä AGI:n saavuttamisessa. Kansa, joka kannustaa tekoälyn tutkimusta ja kehitystä kansallisissa ponnisteluissaan, tulee oletettavasti pääsemään AGI:hen nopeammin kuin muut maat, jotka eivät tee samoin.

Vallitseva näkemys, että tekoälykilpailu on kansallinen.

Päätä raapiva kysymys on, kuinka voimme varmistaa, onko jokin kansakunta edellä tai takana toista kansakuntaa AGI-kilpailussa.

Perinteisessä juoksukilpailussa voisimme helposti tunnistaa mittareita, joiden avulla voidaan määrittää, ketkä juoksijoista pärjäävät hyvin ja mitkä eivät. Juoksijan nopeus voidaan laskea helposti. Tämä ei takaa, että he valmistuvat ensin, mutta se on ainakin lupaavaa. Fyysinen etäisyys juoksijoiden välillä ja jäljellä oleva etäisyys maaliin ovat luonnollisesti tärkeitä kriteerejä, joita voimme helposti mitata.

AGI-kilpailussa ei ole tällaisia ​​varmoja mittareita tai mittauksia.

Käytämme kaikenlaisia ​​korvikemittoja, koska ei ole mitään lopullista tapaa laskea, missä pääteviiva on ja kuinka kaukana olemme siitä.

Katsotaanpa tavanomaisesti harkittuja mittaustyyppejä. Stanfordin yliopiston Stanford Institute for Human-Centered AI (HAI) kerää ja julkaisee vuosittain erityisen kätevän tekoälyyn liittyvien maailmanlaajuisten mittausten lähteen. Raportti on saatavilla verkossa ilmaiseksi ja viimeisin julkaisu on otsikoitu Tekoälyindeksin 2022 vuosiraportti (perustuu vuosilta 2020-2021 kerättyihin tietoihin). Kerron kanssasi hetken kuluttua joitain kohokohtia heidän viimeisimmässä kokoelmassaan mainituista kansallisista vertailuista.

Mittarit, joita käytetään mittaamaan kansallista ja kansainvälistä tekoälyn edistymistä, sisältävät yleensä vähän kaikkea, toisinaan rajoittuu myös todellisen tiskialtaan sisällyttämiseen.

Tyypillisesti tutkittavia toimenpidetyyppejä ovat:

• Tietystä maasta johtuvien tekoälytutkimusartikkelien määrä
• Viittausten määrä tietyn maan tekoälyartikkeleihin
• Tietyn maan sisällä olevien tekoälylehtien lukumäärä
• Tietyn maan sisällä pidettyjen tekoälykonferenssien määrä
• Tietyn maan sponsoroimien tekoälykonferenssien määrä
• Tietyn maan sisällä myönnettyjen tekoälyyn liittyvien patenttien määrä
• Tekoälyyritysten perustamisen määrä tietyssä maassa
• Tekoälytöiden määrä tietyssä maassa
• Uusien tekoälytöiden tai rekrytoinnin määrä tietyssä maassa
• Tietyssä maassa käyttöön otettujen tekoälylakien tai lakiesitykset
• Tietyssä maassa hyväksyttyjen tai säädettyjen tekoälylakien määrä
• Muut

Harkitse näitä ajankohtaisia ​​merkkejä HAI AI Index 2022:sta:

• Tekoälyjulkaisun lainaukset: "Tekoälyjulkaisujen viittauksissa Yhdysvallat on listan kärjessä 38.6 prosentilla kaikista viittauksista vuonna 2021, mikä muodostaa hallitsevan etumatkan Euroopan unioniin sekä Isoon-Britanniaan (20.1 %) ja Kiinaan (16.4 %).
• AI-lehdet/konferenssit: "Vuonna 2021 Kiina oli edelleen maailman kärjessä tekoälyjulkaisujen, konferenssien ja arkiston julkaisujen määrässä – 63.2 % enemmän kuin Yhdysvalloissa kaikkien kolmen julkaisutyypin kanssa yhteensä. Sillä välin Yhdysvallat oli hallitsevassa johtoasemassa suurten tekoälymahtien joukossa konferenssien ja tietovarastojen viittausten määrässä."
• AI-patentit: ”Kiina hakee nyt yli puolet maailman tekoälypatenteista ja sille myönnetään noin 6 %, suunnilleen saman verran kuin Euroopan unioni ja Iso-Britannia. Yhdysvallat, joka hakee lähes kaikki patentit Pohjois-Amerikassa, tekee niin kolmanneksen Kiinaan verrattuna. Verrattuna haettujen ja myönnettyjen tekoälypatenttien lisääntymiseen, Kiinalla on paljon enemmän patenttihakemuksia (87,343 2021 vuonna 1,407) kuin myönnettyjä (2021 XNUMX vuonna XNUMX).
• Äskettäin rahoitetut tekoälyyritykset: "Investointitiedot uusien rahoitettujen tekoälyyritysten lukumäärän mukaan kullakin alueella. Vuonna 2021 Yhdysvallat oli kärjessä 299 yrityksellä, jota seurasivat Kiina 119:llä, Iso-Britannia 49:llä ja Israel 28:lla. Erot niiden välillä ovat merkittäviä.
• Tekoälyn palkkaustahti: "Uusi-Seelanti, Hongkong, Irlanti, Luxemburg ja Ruotsi ovat maita tai alueita, joissa tekoälyn palkkaaminen on kasvanut eniten vuosina 2016–2021.
• AI-työilmoitukset: "Vuonna 2021 Kaliforniassa, Teksasissa, New Yorkissa ja Virginiassa oli Yhdysvalloissa eniten tekoälyn työilmoituksia, ja Kaliforniassa oli yli 2.35 kertaa enemmän työilmoituksia kuin Texasissa, joka on toiseksi suurin. Washington DC:ssä oli eniten tekoälyn työilmoituksia verrattuna sen työpaikkailmoitusten kokonaismäärään
• Tekoälyn lainsäädäntötoimi: "Tekoälyä koskevien lakien analyysi 25 maassa osoittaa, että "tekoälyä" sisältävien lakien määrä kasvoi vain yhdestä vuonna 1 2016:aan vuonna 18. Espanja, Iso-Britannia ja Yhdysvallat hyväksyi eniten tekoälyyn liittyviä laskuja vuonna 2021, joista jokainen hyväksyi kolme."

Voimme ihailla ja arvostaa kovasti työtä, joka liittyy kansallisvaltioiden juoksijatilastojen kokoamiseen AGI-kilpailua varten.

Skeptikot kuitenkin kiistelevät melkoisesti kaikenlaisten mittareiden käyttämisestä AGI-kilpailussa.

Vaikea kysymys on, voitko vetää minkäänlaisen suoran linjan tekoälyartikkelien tai tekoälykonferenssien määrästä tietyssä maassa AGI:n lopulliseen saavuttamiseen. Samaa sanotaan tekoälytyöpaikkojen määrästä, tekoälyyritysten lukumäärästä ja monista muista mittareista. Voi olla, että näillä laskelmilla ei ole juurikaan tekemistä AGI:n saavuttamisen kanssa. Väite kuuluu, että nämä toimenpiteet ovat enemmän lämpöä kuin valoa.

Vasta-argumentti on, että meidän on yritettävä mitata missä olemme ja minne olemme menossa. Pään laittaminen hiekkaan ei vaikuta kovin käyttökelpoiselta tavalta arvioida, olemmeko matkalla kohti AGI:ta vai kenties kauempana AGI:sta. Toivotaan ja yleisesti oletetaan, että mitä enemmän energiaa ja huomiota tekoälyn kehittämiseen, sitä lähemmäksi AGI:ta pääsemme. Nämä mittarit ovat parasta, mitä voimme tehdä selvittääksemme, kuinka paljon energiaa ja huomiota kohdennetaan ja kulutetaan AGI-kilpailussa.

Ympäri ja ympäri se menee.

Jokainen mittari voidaan myös itse lyödä pään ympärillä.

Harkitse esimerkiksi tekoälyä koskevien lakien tai laskujen määrää.

Voit väittää, että jos lainsäätäjät keskittyvät tekoälyyn liittyviin lakeihin, tämä on hyvä merkki siitä, että kansakunta suhtautuu varsin maltillisesti tekoälyn merkitykseen ja yhteiskunnallisiin seurauksiin, joita tekoäly on matkalla. Voidaan väittää, että tämä osoittaa, että kyseisessä maassa on paljon tekoälyn edistämistä. Miksi vaivautuisit tekoälylakien säätämiseen, ellei tekoäly erityisesti kukoistaa ja kuplii kansakuntasi esikuvana?

Tällä tavalla uusia tekoälylakeja julkaisevat maat tulkitaan merkkinä tai merkkinä siitä, että AGI:n edistyminen on hyvässä vauhdissa kyseisessä maassa.

Jotkut kriitikot väittävät, että ehdotetut uudet tekoälyä koskevat lait tukahduttavat tekoälypyrkimykset kussakin tällaisessa maassa. Lainsäätäjät ja poliittiset johtajat ampuvat omia jalkojaan. Lait asettavat ennenaikaisesti synkän varjon kyseisessä maassa meneillään oleville tekoälytoimille. Tekoälyn etenemishana tukkeutuu laillisiin hiusten tukkeutumiseen, ja AGI:n edistymisen vauhti hidastuu ja hidastuu tässä tekoälylakia julistavassa valtiossa. Sillä välin muut maat, jotka eivät hyväksy tällaisia ​​tekoälylakeja, jatkavat lakkaamatta. On kuin olisit päättänyt laittaa lyijypainot juoksijalle, joka on jo 400 metrin radalla. Jos yritit auttaa heitä ja nopeuttaa niitä, olet tehnyt juuri päinvastoin.

Vau, tekoälyn lakien säätäminen muistuttaa enemmän sen varmistamista, ettei juoksijan edessä ole tarpeettomia tiesulkuja. Lait ohjaavat samalla tavalla, että kilparadan linjat ovat olemassa pitämään juoksija sujuvasti oikeaan suuntaan. Ilman niitä maalattuja linjoja juoksijat saattavat mennä upeiksi. Uudet tekoälylainsäädäntö saa heidät etenemään yhdessä kohti toivottavaa lopputulosta. Maat, jotka eivät toimi samoin uusien tekoälylakien suhteen, huomaavat juoksijansa juoksevan kaikkiin villiin suuntiin, mukaan lukien mahdollisesti juoksevan kokonaan pois radalta ja vahingoittavan niitä, jotka ovat viattomia itse AGI-kilpailun lisäksi.

On myös olemassa "piilotettuja" tekoälyyn liittyviä lakeja, joita jotkut laskevat ja toiset taas eivät laske osaksi näitä mittareita (mikä tekee sekaisin, kun yritetään vertailla laskelmia).

Esimerkiksi, jos kansakunta säätää lain itseohjautuvista ajoneuvoista, kuten itseohjautuvista autoista, lasketko tämän tekoälyksi? Selventääksemme autonomista ajoneuvoa, kuten täysin autonomista itseohjautuvaa autoa, tulee olemaan tekoälyjärjestelmä, joka on keskeinen kuljettajattomien ominaisuuksien kannalta (katso artikkelini osoitteessa linkki tähän). Tekoälyn vuoksi kaikkia autonomisia ajoneuvoja koskevia lakeja voitaisiin järkevästi perustella lähinnä tekoälylakeiksi. Toisaalta saatat vakuuttavasti väittää, että laki koskee autonomista ajoneuvoa eikä sinänsä tekoälyä, joten tätä ei oteta huomioon tekoälykohtaisten lakien laskennassa.

Se on sotkuinen.

Kaikki tämä mittareita koskeva hämmennys saattaa saada sinut kohauttamaan olkapäitään näiden painavien näkökohtien vastakkaisten näkemysten keskellä. Kuten saattaa olla ilmeistä, mittarit ovat lähes aina erilaisia ​​tulkintoja siitä, mitä ne tarkoittavat ja kuinka kansakunnan asema AGI:n suhteen analysoidaan asianmukaisesti.

Geopoliittinen ohjaus ja suuntautuminen AGI-kilpailuun

Mitkä maat ovat edellä AGI-kilpailussa?

Mitkä kansat jäävät jälkeen?

Edellä mainitut mittarit yrittävät näyttää, missä kukin juoksija on tällä hetkellä. Perusoletus on, että jos mittarit antavat osuvan osoituksen AGI:n etsimisestä paikannusta, nämä eri napapaikat voivat pysyä samana ajan myötä. Tietenkin todellisuus on, että kansallinen kiinnostus ja huomio voivat lisääntyä tai heiketä AGI:n kuoppaisella tiellä. Saatat olla viisainta odottaa muutoksia sijoittelussa.

Yksi tärkeä näkökohta on se, että kansat eivät todellakaan ole tässä kilpailussa yksin.

Kansakunnat todennäköisesti jakavat viestikapulaa edestakaisin toistensa välillä. AGI-kilpailussa joskus yksi tai useampi kansakunta työskentelee mielellään käsi kädessä. Joskus tämä tehdään varovaisesti mieluummin kuin ystävällisellä ilolla. Toisissa tapauksissa kansakunnat saattavat pidätellä toisiaan. Milloin tahansa ajanhetkellä kilpailuasetelma voi olla aivan erilainen kuin se oli muutama askel taaksepäin, ja se voi olla aivan erilainen muutaman askeleen päässä tulevaisuudesta.

Harkitse tätä HAI AI Index 2022 -raportin maiden välistä yhteistyötä koskevaa kohtaa: "Gopoliittisten jännitteiden lisääntymisestä huolimatta Yhdysvalloissa ja Kiinassa oli eniten maiden välistä yhteistyötä tekoälyjulkaisuissa vuosina 2010–2021, mikä on viisinkertaistunut vuodesta 2010. Maiden yhteistyö tuotti 2.7 kertaa enemmän julkaisuja kuin Yhdistyneen kuningaskunnan ja Kiinan välillä – listan toiseksi korkein.”

Kyynikko sanoisi, että ehkä ristikkäisyhteistyötä käytetään toisinaan juonenkin. Kansakunta saattaisi avoimesti väittää tekevänsä yhteistyötä ristiin, näyttäen pintaviisaalta tekevänsä niin, mutta samalla syvällä sisimmässään he pitävät parhaan AGI-edistymisensä piilossa kansallisena salaisuutena. Ehkä tämä tehdään yhteistyökansakunnan edistymisen tylsäämiseksi. Ehkä tämä tehdään sen varmistamiseksi, että salainen kastike ei jaeta vahingossa. Kaikenlaiset syyt ovat mahdollisia.

Nykypäivän modernissa digitaalisen Internetin verkkomaailmassa AGI-näkemysten pitäminen tiukasti piilossa voi olla vaikeaa. Voimakas halu paljastaa tai keksiä AGI on pakottava viehätys, joka voi kannustaa yksittäisiä AGI-kehittäjiä ja tutkijoita jakamaan avoimesti uusimmat työnsä. Kansakunnat voivat huomata, että tällaisen jakamisen rajoittaminen on paljon vaikeampaa kuin miltä se saattaa näyttää, ja todennäköisesti paljon vaikeampaa kuin aikanaan, jolloin kaikki oli paperipohjaista ja vaati fyysistä asiakirjojen siirtämistä ympäri maailmaa.

Siirtyminen kohti avointa lähdekoodia on varmasti ollut nykyajan painopiste suurimmassa osassa viimeisimmistä tekoäly- ja AGI-tutkimuksista, kuten HAI AI Index 2022 -raportissa mainitaan: "Joka vuosi tuhansia ja tuhansia tekoälyjulkaisuja julkaistaan ​​avoimessa lähdekoodissa, olipa kyseessä sitten konferensseissa tai tiedostojenjakosivustoilla. Tutkijat jakavat avoimesti havaintojaan konferensseissa; valtion virastot rahoittavat tekoälytutkimusta, joka päätyy avoimeen lähdekoodiin; ja kehittäjät käyttävät avoimia ohjelmistokirjastoja, jotka ovat vapaasti yleisön saatavilla tuottaakseen huippuluokan tekoälysovelluksia. Tämä avoimuus edistää myös nykyaikaisen tekoälyn T&K:n maailmanlaajuisesti keskinäistä riippuvuutta ja toisiinsa liittyvää luonnetta.

Kaiken kaikkiaan kansakunnat jakavat yleensä, mutta saattavat kuitenkin näyttää vain osaa kädestään. Muut kansakunnat eivät ehkä jaa tai vain teeskentelevät tekevänsä niin. Jotkut kansakunnat kamppailevat voimakkaasti yrittäessään arvioida, mitä niiden kansakunnat antavat pois verrattuna riippuvaisuuteen. Ja niin edelleen.

Olen luonnehtinut näiden kansallisten liikkeiden luonnetta seuraavasti:

• AI Go-it-alone Nation (yrittää edetä itse)
• AI Yksisuuntainen kansakunta (ottaa sisään, ei luovuta)
• AI Leftover Nation (saa mitä voi muilta)
• AI Open-sharing Nation (ylpeä jakamisestaan)
• AI Hollow-sharing Nation (väärä jakamisessa)
• AI Alliances Nation (yrittää tehdä niin monta liittoumaa kuin mahdollista)
• AI Ei-pelin kansakunta (AGI:n hakeminen ei ole kansallinen prioriteetti)
• AI Cheating Nation (käänteinen suunnittelu tai salakavala varastaminen muista maista)
• Muut

Kansakunta voi olla useammassa kuin yhdessä näistä ämpeistä kerrallaan.

Kansakunta voi olla jossakin noista ämpeistä jonkin aikaa, siirtyä ämpäristä ja mahdollisesti myöhemmin palata sisään.

AGI:n etsimiseen liittyvät kansallisvaltiolliset toiveet ja huomio on dynaamista aallonpohjaa, joka varmasti jatkuu ja on liikkuva kohde sille, mikä kansakunta on missä kilpailussa, ja jatkuvaa katsetta tarvitaan selvittämään. jossa kaikki pelaajat ovat tietyllä hetkellä.

Kansainväliset tekoälylait ja tekoälyn etiikka erotuomarina AGI-kilpailussa

Aiemmissa kolumneissa olen käsitellyt erilaisia ​​kansallisia ja kansainvälisiä pyrkimyksiä laatia ja säätää tekoälyä sääteleviä lakeja, ks. linkki tähän ja linkki tähän, esimerkiksi. Olen myös käsitellyt erilaisia ​​tekoälyn eettisiä periaatteita ja ohjeita, jotka eri valtiot ovat tunnistaneet ja omaksuneet, mukaan lukien esimerkiksi Yhdistyneiden kansakuntien pyrkimykset, kuten Unescon tekoälyn etiikka, jonka lähes 200 maata on hyväksynyt, ks. linkki tähän.

Tässä on hyödyllinen avainlista eettisistä tekoälykriteereistä tai ominaisuuksista koskien tekoälyjärjestelmiä, joita olen aiemmin tutkinut tarkasti:

• Läpinäkyvyys
• Oikeus ja oikeudenmukaisuus
• Ei-ilkeäisyys
• vastuu
• yksityisyys
• hyväntekeväisyys
• Vapaus ja autonomia
• Luottamus
• kestävyys
• arvokkuus
• Solidaarisuus

Tekoälykehittäjien oletetaan vakavasti hyödyntävän näitä tekoälyn eettisiä periaatteita, samoin kuin ne, jotka hallitsevat tekoälyn kehitystyötä, ja jopa ne, jotka viime kädessä ottavat käyttöön ja ylläpitävät tekoälyjärjestelmiä.

Kaikki sidosryhmät koko tekoälyn kehityksen ja käytön elinkaaren aikana katsotaan eettisen tekoälyn vakiintuneiden normien mukaisesti. Tämä on tärkeä kohokohta, koska tavallinen oletus on, että "vain koodaajien" tai tekoälyn ohjelmoivien on noudatettava tekoälyn etiikkaa. Kuten tässä on aiemmin korostettu, tekoälyn suunnittelu ja toteuttaminen vaatii kylän, jota varten koko kylän on oltava perehtynyt tekoälyn etiikkaan ja noudattaa niitä.

Pohditaanpa kansainvälisten tekoälylakien ja kansainvälisten tekoälyn eettisten ohjeiden vaikutusta ja elintärkeää luonnetta AGI-kilpailuun.

Kansakunnat, jotka pyrkivät kohti AGI:tä, saattavat tehdä sen hylkäämällä ja joutua kääntymään kohti joitain AGI:n usein suosituista eksistentiaalisista riskeistä. Toiveena on, että ottamalla käyttöön kansainväliset tekoälylakit ja kansainväliset tekoälyn eettiset määräykset, kansat ohjataan kohti AI Hyvä ja vältellä AI huono.

Kilparata-analogiamme mukaan nämä tekoälylait ja tekoälyn eettiset näkökohdat ovat kuin yrittäjiä estää juoksijoita menemästä radan ulkopuolelle. AGI-kilpailussa on valtavia kiusauksia käyttää oikoteitä. Nämä oikopolut voivat johtaa kansakunnan näennäisesti nopeammin maaliin, vaikka samalla asettaisivat kyseisen kansan ja muut kansakunnat kohtuuttomaan vaaraan. Hienovarainen mutta paljastava esimerkki koostuu kaksikäyttöisestä tekoälystä, jota olen tutkinut linkki tähän, jolloin tekoälyn edistyminen voidaan helposti vaihtaa suurella ponnistelulla hyvyyteen tähtäämisestä sellaiseen, joka on toteutettu tuottamalla kataklysmistä pahuutta.

Voit väittää, että kansainväliset tekoälylait ja kansainvälinen tekoälyn etiikka ovat kuin erotuomareita tai tuomareita.

Oletuksena on, että nämä kansainvälisesti kehitetyt lailliset ja eettiset mekanismit pitävät AGI-kilpailun tasaisempana. Eri asia on se, haluavatko tietyt kansakunnat huomioida erotuomarit tai erotuomarit. Samoin on kiusallinen kysymys siitä, kuinka nämä viranomaiset voivat tarjota rangaistuksia tai kannustimia pitääkseen juoksijat oikealla tiellä. Todennäköisyys on, että kansakunnat tekevät kuten haluavat, minkä vuoksi muiden kansakuntien on ehkä siirrettävä painoarvoaan vahvistaakseen tukea sääntörikkomukselle, jota joidenkin kansakuntien on pakko tehdä.

Yhteenveto

Legendaarinen kemisti ja mikrobiologi Louis Pasteur sanoi kuuluisasti tämän: "Tiede ei tunne maata, koska tieto kuuluu ihmiskunnalle ja on soihtu, joka valaisee maailmaa. Tiede on kansakunnan korkein henkilöitymä, koska se kansakunta pysyy ensimmäisenä, joka kantaa pisimmälle ajatuksen ja älyn töitä."

Voimmeko sanoa, että AGI:n saavuttaminen ei tunne maata ja että AGI kuuluu koko ihmiskunnalle?

Vai tuleeko kansakunta, joka ensimmäisenä saapuu AGI:hen, omistavansa sen, juopuen järjettömästä vallasta ja vallan hulluksi?

Niille teistä, jotka pitävät hieman kierteestä tässä erityiskysymyksessä, ajattele, että AGI saattaa itsessään olla saavutuksen tyyppi, joka on sananlaskun käärme ruohossa. Käärmeen löytäjä saattaa olla ensimmäinen, joka saa käärmeen pureman. Ensimmäisenä olemisessa on riskinsä.

Maalilinjan ylittäminen AGI:lla ei välttämättä tule olemaan niin juhlavaa ja huoletonta kuin jotkut saattavat ajatella. AGI:n valjastaminen ei myöskään ole välttämättä helppoa. Jotkut saattavat väittää, että AGI:n kanssa selviytyminen voi olla lähes mahdotonta, koska AGI:llä näyttää olevan vastaavanlainen kekseliäisyys ja kekseliäisyys kuin ihmiskunnalla. Kansakuntien tulee olla tietoisia siitä, mitä ne yrittävät saavuttaa ja mikä on lopputulos, tehden niin etukäteen eivätkä joudu yllätyksenä. Heillä saattaa olla hornetin pesä kansallisessa aarrearkussaan.

Kuten Pasteur tarjosi: "Onni suosii valmistautunutta mieltä."