Kun hän ei pyri nopeuttamaan ihmiskunnan ryntää kohti Singularitya luomalla tekoälyä (AGI), Ben Goertzel soittaa jazz-rock-yhtyeessä nimeltä Jam Galaxy, jota johtaa Desdemona-niminen robotti.
Se on yksi hänen monista sivuprojekteistaan, joka luonnollisesti sai hänet yrittämään tehdä musiikkibisneksen tunnusomaiseksi ottamalla yhteyttä Pearl Jamin ja Heartin jäseniin. Goertzel työskentelee myös pitkäikäisyystutkimuksen parissa hankkimalla ihmisten terveyteen liittyviä tietoja symbolisilla palkkioilla Rejuve.ai-nimisen sovelluksen kautta. Nämä tiedot yhdistetään sitten eläin- ja hyönteistutkimustietoihin ja analysoidaan tekoälyllä sen määrittämiseksi, mitkä genomien osat voivat saada meidät elämään pidempään, ja sitten niitä stimuloidaan geeniterapioiden avulla. "Olemme tehneet melko silmiinpistäviä läpimurtotason löytöjä", hän sanoo. Ai, ja juuri ennen tunnin mittaisen haastattelumme päättymistä hän mainitsee sivuhuomautuksena, että hän on myös luomassa vakaata kolikon hajautettua tekoälymarkkinapaikkaansa, SingularityNETiä, joka on sidottu ympäristön kehityksen synteettiseen indeksiin – koska sen sitominen Yhdysvaltain dollareihin olisi "ontuva."
”Ympäristöasioissa kehitys on erittäin vakaata. Se ei koskaan mene minnekään, hän huomauttaa.
"Ja tämän manipuloimiseksi sinun on itse asiassa ratkaistava ilmaston lämpeneminen."
Se on täsmälleen sellainen poliittinen kommentti, joka kohtaa korkean teknologian taitotiedon, jota voit odottaa Goertzelilta, joka näyttää ja kuulostaa hippitieteilijältä, joka törmäsi aikakoneeseen vuonna 1971 ja ilmestyi täysin muodostuneena vuonna 2023. Mutta älä mene lankaan eläinkuvioinen hattu, pitkät hiukset ja Electric Kool-Aidin happomatka: Hän on loistava tiedemies, jolla on käsitys tulevaisuuden valovuosista useimpia edellä ja joka kamppailee joidenkin suurimmista ihmiskunnan koskaan harkimista käsitteistä. Mitä on tietoisuus? Kuinka luomme keinotekoista elämää ja mitä tapahtuu, jos se ei pidä meistä, menee roistoksi ja ampuu kaikki alas. Terminator 2?
Mikä on tekoäly?
Goertzel suosi termiä "keinotekoinen yleinen älykkyys" tapana erottaa aito ajattelukone, joka voisi oppia melkein mitä tahansa, tekoälyihin, jotka on optimoitu tiettyyn tehtävään, kuten Deep Blue -tietokone, joka voitti shakin maailmanmestari Garry Kasparovin. Hän myöntää vapaasti riskejä sellaisen koneen rakentamisessa, joka pystyy oppimaan kaiken ja kaiken, mukaan lukien kuinka ohjelmoida itsensä uudelleen niin, että siitä tulee suuruusluokkaa älykkäämpi kuin kukaan ihminen.
"AGI sisältää useita riskejä ja vaaroja", sanoo Goertzel intialaisessa ravintolassa vilkkaassa ostoskeskuksessa Singaporessa. ”Yksi niistä, joka on saanut paljon mediahuomiota, on se, että AGI ryntää amoksille ja tuhoaa ihmiskunnan ja valtaa maailmankaikkeuden. Se on täysin mahdollista; et voi sulkea sitä pois”, hän sanoo.
"Toinen todennäköisempi riski on, että ilkeät itsekkäät ihmiset käyttävät tekoälyä omaan ahneuteensa ja hallitsemaan muita ihmisiä."
Hänen mielestään hallitukset eivät todennäköisesti tee läpimurtoja AGI:ssä, koska ne ovat "liian konservatiivisia ja tyhmiä", vaikka hän huomauttaakin, että Kiina tekee AGI-työnsä sopimuksista Tencentin ja Baidun kaltaisille yrityksille. Lähempänä kotia hän uskoo, että Googlen ja Facebookin tekoälyosastot eivät myöskään pääse yli rajojen, koska ne keskittyvät liikaa saamaan tekoäly osumaan tiettyihin mittareihin, mikä ei edistä luovaa ajattelua.
”Aivan kuin loistavimmat ihmiset eivät halua vain palvella jonkun muun mittareita, uskon, että tekoälykään ei välttämättä halua maksimoida jonkun web-sivun napsautussuhdetta, eikö niin? Sen on annettava leikkiä luovasti."
Singularity noin 1970
Goertzel aloitti yliopiston 15-vuotiaana, valmistui 18-vuotiaana, tohtorin tutkinnon 22-vuotiaana ja nuori perhe 23-vuotiaana. Ehkä tänä päivänä ja iässä oli epätavallista, että hän ei ollut vain matematiikan taikuri tai tekniikan nero, joka juotti sarjatietokoneita yhteen 70-luvulla. mutta oli yhtä kiinnostunut filosofiasta, luovasta kirjoittamisesta ja musiikista.
Hän vietti suuren osan urastaan opettaen ja tutkien tietojenkäsittelytiedettä, matematiikkaa ja kognitiotieteitä eri yliopistoissa ympäri maailmaa ja työskennellessään tekoälytekniikan parissa aina kun pystyi. Sarjaperustaja, joka on yleensä noin kymmenen vuotta muita edellä ideoillaan – jotka liiketoiminnassa tarkoittaa tunnetusti väärässä olemista — Hän on työskennellyt tekoälyn avulla ennustaakseen rahoitusmarkkinoita ja pitkäikäisyyttä, ja hän on myös työskennellyt Hanson Roboticsin päätutkijana, jossa hän antoi Sophia-robotille hänen keinotekoiset aivonsa.
Goertzel on ajatellut eksponentiaalista teknologista kasvua 1970-luvulta lähtien, kun hän luki ensimmäisen kerran Gerald Feinbergin Prometheus-projekti, joka kertoo "koneista, jotka ajattelevat paremmin kuin ihmiset... nanoteknologian koneita, jotka ovat mikroskooppisesti pieniä, ja aiomme ratkaista ikääntymisen." Tämä sopi hienosti esiin nousevan singulaarisuuden käsitteen kanssa, hypoteettisen tulevaisuuden pisteen kanssa, jolloin tekninen kehitys muuttuu hallitsemattomaksi ja peruuttamattomaksi, mikä johtaa massiivisiin muutoksiin ihmissivilisaatiossa.
"Joten, ihmiset elävät ikuisesti, niin kysymys on, Mihin käytämme näitä teknologioita, nopeaan mielettömään kulutukseen vai käytämmekö sitä tietoisuuden laajentamiseen? Ja hän [Feinberg] ehdotti, että asia äänestetään demokraattisesti.
Vuosia myöhemmin, kun hän alkoi nähdä AGI:n olevan käsissämme, tämä "demokraattinen äänestys" inspiroi käyttämään ensin avoimen lähdekoodin teknologiaa ja myöhemmin lohkoketjua tapana asettaa yhteistyöyhteisö johtamaan teknologiaa.
"Tajusin jossain vaiheessa, että tekoälyn tapauksessa koodin avaaminen ei riitä", hän sanoo. "Sinun täytyy todella kouluttaa tekoälyä hirveän datamäärän suhteen."
"Tästä lohkoketju tulee keinona tehdä tekoälyn taustalla olevasta käsittelystä ja datasta hajautettua ja joukkolähdettä luonteeltaan ja avata hallinnassa. Ja se osoittautuu hankalammaksi kuin pelkkä koodin avoimen lähdekoodin hankkiminen."
Goertzel perusti OpenCog-yrityksen vuonna 2008 rakentaakseen avoimen lähdekoodin joukkolähdeisen tekoälykehyksen. Sitä on käyttänyt 50 yritystä, mukaan lukien Huawei ja Cisco, ja se on suunniteltu pian Hyperon-nimiseen suureen päivitykseen, jonka tavoitteena on nopeuttaa sitä 200-kertaiseksi. Alfaversio on tulossa tällä vuosineljänneksellä, ja beta odotetaan ensi vuonna.
Blockchain on perus, mutta siistiä
Goertzelille lohkoketjutekniikka on vähän perusasioita. Hän kuvailee sitä eräiksi primitiivisiksi hajautetuiksi algoritmeiksi, jotka on lisätty kryptografiaan, mutta "hieno yhdistelmä" mahdollistaa järjestelmien toiminnan ilman keskitettyä ohjausta, mikä tekee siitä täydellisen hänen tarpeisiinsa.
"Jos aiot tehdä ajattelukoneen ja aiot tehdä siitä hajautetun nanomittakaavan laskentakankaan, olisi erittäin mukavaa, jos tämä olisi kaikkien eikä kenenkään omistuksessa sen sijaan, että sitä ohjattaisiin ylhäältä alas."
Lohkoketjut ovat aivan liian hitaita käsittelemään käsittelyvaatimuksia ja valtavia datamääriä, joten lohkoketjun skaalaamisesta on kilpailua ennen kuin läpimurto AGI kehitetään. Goertzel sanoo, että vaikka skaalausratkaisut, kuten nollatietämyksen kokoelmat, ovat parempia, niillä ei silti ole tarpeeksi kaistanleveyttä sen lohkoketjun rajoitusten vuoksi, johon ne raportoivat tapahtumat.
Hän perusti vuonna 2017 SingularityNETin, joka on sekä hajautettu markkinapaikka tekoälypalveluille ja -teknologialle että lohkoketjupohjainen koordinointimenetelmä tutkijoille – tai jopa tekoälyille – työskentelemään yhdessä.
Tällä hetkellä Ethereumiin perustuen hän luulee työnneensä asioita niin pitkälle kuin ne voivat mennä lohkoketjussa sen nykyisessä muodossa. Joten kun hän ei työskentele AGI:n (tai bändin, robottien tai pitkäikäisyyden) läpimurron parissa, hän työskentelee massiivisesti skaalaamalla lohkoketjua antaakseen sille vaaditun suorituskyvyn.
"Ellet pysty radikaalisti lisäämään lohkoketjun skaalautuvuutta, et voi laittaa tekoälyn sisäistä toimintaa ketjuun."
AI on lähempänä kuin uskotkaan
2022 oli läpimurtovuosi tekoälyteknologiaan perustuville toimiville tuotteille, mukaan lukien kielisovellukset (GPT-3, ChatGPT), koodaus (GitHub Copilot) ja kuvan luominen (DALL-E ja Stable Diffusion). Bing aikoo jopa ottaa Googlen haun hallitsevan aseman tänä vuonna sisällyttämällä ChatGPT-tekniikan hakukoneeseensa.
Goertzel uskoo, että AGI voi olla vain viiden vuoden päässä, ja toteaa, että alan kehitys näyttää menevän lyhyinä kolmen tai neljän vuoden jaksoissa läpimurtojen sarjassa.
”Computer Vision alkoi vuonna 2014, ja sitten yhtäkkiä, pam, pam, pam, mysteeri ratkesi. Luonnollisen kielen käsittely… sen jälkeen kun Google keksi Bert-mallin (vuonna 2018), sinulla oli GPT-3. Luultavasti näet saman kehityskaaren AGI:ssa. Saat yhden läpimurron ja sitten paljon edistystä kahden vuoden ajan”, hän sanoi.
"Erona on läpimurto edistyminen, jolloin tuloksena on kone, joka voi sitten jatkaa edistymistä itse kirjoittamalla omaa koodiaan."
Goertzel toivoo, että hänen käynnistämänsä projektit ja yhteistyöt voisivat olla miten se tapahtuu.
"Jos olemme onnekkaita, saavutamme tämän läpimurron seuraavien XNUMX–XNUMX vuoden aikana OpenCog Hyperonin kanssa, joka toimii SingularityNETissä ja toimii Hypercycle-järjestelmällä", hän sanoo. "Mutta jos meillä ei käy ilmi salainen kastike, joku muu saa."
Sääli Vitalik ei ollut tietojenkäsittelytieteilijä
Goertzelin ratkaisu lohkoketjun skaalaamiseen on melko radikaali ja sisältää Cardanon sivuketjun tai kerroksen 2, nimeltään "HyperCyle", turbolatauksen.
"Se on todella enemmän kuin sivuketju. HyperCycle tekee yhteistyötä myös Ethereumin ja muiden lohkoketjujen kanssa, mutta aiomme käyttää siellä Plutus-tulkkia, mutta pääsemme eroon kirjanpidosta.
Hän on kuvaillut HyperCycle-verkkoa ratkaisevan "lohkoketjun trilemman" "hajauttaminen vs. tietoturva vs. suorituskyky" luopumalla kirjanpidosta ja käyttämällä nykyaikaisempia/täysin hajautettuja algoja ja tietorakenteita sekä vähän tekoäly- ja mainejärjestelmiä.
Reskontra on lohkoketjutekniikan ydin, mutta hänen mukaansa verkon jokaisen solmun saaminen replikoimaan jokainen tapahtuma ja käsittelemään jokainen älykäs sopimus on naurettavan tehotonta.
"Pääkirja on vain huono. Jos ajattelet sitä, jos ajattelet puhelinluettelosi yhteystietojen analogiaa, tarkoitan, että pääkirja on kuin […] säilyttäisi 10,000 10,000 kopiota keltaisia sivuja, ja päivität niitä aina, kun joku uusi tulee tai jos joku muuttaa puhelinnumeroaan. On todella typerää päivittää XNUMX XNUMX kopiota Keltaisista sivuista."
Analogian HyperCycle-versiossa sen sijaan, että kaikki tallentaisivat ja päivittäisivät keltaisia sivuja, yhteystietokirjassasi olevat ihmiset tallentavat kopion osoitekirjastasi ja päinvastoin yksityisellä avaimellasi salattuna.
"Otimme selville, kuinka saada lohkoketju toimimaan ilman replikoivaa kirjanpitoa, joten sirpaleita loppuun asti. Jokainen lohkoketjuun osallistuva henkilö pitää oman tapahtumahistoriansa sekä ystäviensä ja joidenkin ystäviensä ystävien tapahtumahistorian", hän sanoo.
”Kun sirpaleet kokonaan alas, et tarvitse pääkirjaa – et tarvitse tietokantataulukkoa. Nämä asiat ovat liian keskitettyjä."
Hän sanoo, että jotkut HyperCycle-solmut ovat jo toiminnassa, mutta täysimittainen julkaisu tapahtuu vasta vuoden 2024 toisella puoliskolla.
Keskustelemme pitkään lohkoketjun eri lähestymistapojen erilaisista eduista Internet Computeristä Elastosiin ja Celestiaan, joista suuri osa on palkkaluokkaani korkeampi ja ylittää tallennuslaitteeni kyvyn siepata tarkasti meluisassa ravintolassa.
Hän päättää lopuksi: "Joten minusta tuntuu, ettei mikään näistä arkkitehtuureista ole tarpeeksi radikaali. He kaikki tarttuvat liian lähelle Bitcoinia.
”Niin kauan kuin käytät jokaista älykästä sopimusta jokaisessa solmussa, se tulee olemaan järjettömän hidasta. Nyt HyperCyclessä, jos käytät älykästä sopimusta viidessä solmussa, se on vähintään viisi kertaa hitaampi kuin yhdellä koneella – se ei ole 10,000 XNUMX kertaa hitaampi.
Miksi sitten Cardano?
Goertzel on ystävystynyt Cardanon perustajan Charles Hoskinsonin kanssa, ja pariskunta on sitoutunut hankkeisiinsa Afrikassa. Hän uskoo, että Hoskinson on aidosti olemassa pelastaakseen maailman. Tarkoitan, että poliittisesti hän on enemmän kova libertaari kuin minä – olen enemmän anarkososialisti – mutta hän ei ole siinä vain ansaitakseen rahaa tai huijatakseen muita ihmisiä heidän rahoistaan.
Cardanon todellinen vetovoima on kuitenkin se, että se käyttää Haskell-ohjelmointikieltä, jota Goertzel on ollut fani vuodesta 1993. Häntä harmittaa suuresti, että Ethereumin perustaja Vitalik Buterin käytti Gavin Woodin älykkään sopimusohjelmointikielen Solidityn kanssa.
"Jos Vitalik olisi tiennyt enemmän tietojenkäsittelytiedettä, hän olisi saanut heidät käyttämään Haskellia tai F Sharpia tai jotain, ja lohkoketjun hakkereita olisi paljon vähemmän", hän sanoo.
"Jos aiot pyörittää suurimman osan maailman taloudesta ja käydä kauppaa biljoonien dollareiden arvosta jollakin ohjelmistojärjestelmällä, sinun on parempi rakentaa kyseinen ohjelmistojärjestelmä kielellä, joka ei ole altis virheille ja jossa algoritmisi voivat olla muodollisesti. varmistettu matemaattisen teorian avulla. Se on juuri oikea tapa tehdä asioita.”
Stop-gap-ratkaisu
Riippumatta siitä, kuinka nopeasti lohkoketju muuttuu, heti kun AGI on suuruusluokkaa älykkäämpi ja kykenevämpi kuin ihmiset, Goertzel sanoo, että se ei anna kenenkään hallita sitä.
"Kun AGI on 100 kertaa älykkäämpi kuin ihmiset, se ei halua olla meidän hallinnassamme, kuten ei simpanssi tai aasi ohjaisi, eikö niin?"
”Silloin sanoisin, ettei kysymys ole meistä, joka hallitsee sitä, vaan kysymys kuuluu: Onko se meille hyvä? Antaako se ihmisten säännellä omaa liiketoimintaansa ja toimittaa meille hienoja työkaluja ja nanokokoonpanijoita 3D-tulostaaksemme kaiken haluamamme tavaran ja parantaaksemme sairautemme?
”Mutta siirtymäkausi, jolloin AGI on suunnilleen samaa älykkyyttä kuin ihmiset, silloin asiat ovat koskettavampia ja mielenkiintoisempia. Ja kysymys kuuluu: Haluaako AGI tehdä yhteistyötä ihmisten kanssa? Vai onko se vainoharhainen ja haluaa hallita ihmisiä ennen kuin he tuhoavat sen?"
Opeta lapsesi hyvin
Goertzelin mielestä ratkaisu on opettaa AGI:lle toisista välittämistä sekä luovuutta ja taidetta. Siellä Desdemona the Robot hänen bändissään ja hänen sisarensa Grace, joka on suunniteltu tarjoamaan vanhustenhoitoa, tulevat mukaan.
Tapa, jolla vältät AGI:n muuttumisen Terminatorin Skynetiksi, on olla rakentamatta sitä sellaiseksi.
”Skynet tietysti elokuvassa oli tietoturvaverkko, joka riehui. Se luotiin puolustautumaan ihmisiä vastaan”, hän sanoo.
"Mutta jos rakennat ensimmäisen AGI:n, joka liittyy vanhustenhoitoon ja luovaan taiteeseen ja koulutukseen sen fiksuttua, se suuntautuu ihmisten auttamiseen ja hienojen juttujen luomiseen. Jos rakennat ensimmäisen AGI:n tappamaan pahikset… ehkä se jatkaa näiden asioiden tekemistä."
"Joten, olipa se hyödyllistä tai ei, se riippuu todellakin siitä, mitä sovelluksia olet kehittänyt ja mihin olet kannustanut."
Hän uskoo, että tekoälyjen sijoittaminen robottikappaleisiin on hyödyllistä, koska se auttaa sijoittamaan ne todelliseen maailmaan, eikä johonkin abstraktiin matemaattiseen universumiin.
”Tekoälyn pitäisi oppia ihmisten maailmasta ja fyysisestä maailmasta. Maailmaan ruumiillistuminen on oikea tapa tehdä se”, hän sanoo.
Mutta kun hän esittelee Sophia-robotin suurelle yleisölle, visuaaliset ja kuuloanturit voivat olla helposti ylivoimaisia ja hämmentää tekoälyä äänekkäässä ja kirkkaassa ympäristössä. Joten, Sophia lanseerataan pian metaversessa, nimeltään Sophiaverse. Unohda ChatGPT:n tylsät tekstipohjaiset vastaukset, Sophia on ruumiillistumassa 3D-virtuaalimaailmassa, ja hän oppii olemasta vuorovaikutuksessa ihmisten kanssa. Hän kuitenkin varoittaa, että hän todennäköisesti sanoo joitain tyhmiä asioita.
"Sillä on hermoverkko, joka on samanlainen kuin GPT-3 ja niin edelleen, joilla on merkittävä kyky vastata kysymyksiisi, mutta ne ovat myös jollain tapaa melko tyhmiä."
Tilaa
Blockchainin mukaansatempaavinta luettavaa. Toimitetaan kerran a
viikko.
Lähde: https://cointelegraph.com/magazine/how-to-prevent-ai-from-annihilating-humanity-using-blockchain/