Teknologia

OpenAI:n toimitusjohtaja Sam Altman todistaa "historiallisessa" senaatin kuulemisessa tekoälyn turvallisuudesta

12 kuukautta sitten
Bitcoin Ethereum -uutiset

Sam Altman, OpenAI:n toimitusjohtaja ja yksi Worldcoinin perustajista, todisti äskettäin kongressille IBM:n luottamuspäällikön Christina Montgomeryn ja New Yorkin yliopiston professorin Gary Marcuksen kanssa. 

Senaatin oikeuslaitoksen tietosuoja-, teknologia- ja lakialakomitean istunto edusti Altmanin ensimmäistä virallista esiintymistä kongressin edessä, jolloin senaattorit saivat tilaisuuden kysyä OpenAI:n toimitusjohtajalta hänen yrityksensä näkemyksiä sääntelystä.

Illinoisin senaattori Dick Durbinin "historialliseksi" istunnoksi kutsumassa menettelyssä keskityttiin ymmärtämään generatiivisen tekoälyn (AI) mallien, kuten ChatGPT:n, aiheuttamia mahdollisia uhkia ja sitä, miten lainsäätäjien tulisi suhtautua sääntelyyn.

Altmanin kommentit – joita kongressin jäsenet ja puhujatoveri Marcus kuvailivat vilpittömiltä ja aidoilta – näytti yllättävän useita senaatin jäseniä.

Hän kannatti liittovaltion valvontaviraston perustamista, jolla on valtuudet myöntää ja peruuttaa kehityslisenssit, ja totesi, että hän uskoi, että sisällöntuottajille pitäisi saada korvaus, kun heidän työtään käytetään tekoälyjärjestelmän kouluttamiseen, ja oli samaa mieltä siitä, että kuluttajat, jotka kärsivät vahinkoa tekoälytuotteiden käytöstä, pitäisi saada oikeus haastaa kehittäjä oikeuteen.

Altman kohautti olkapäitään kysymyksiä, jotka liittyvät äskettäiseen "AI tauko" -kirjeeseen, jossa vaadittiin kuuden kuukauden lykkäämistä GPT-4:ää tehokkaampien järjestelmien käyttöönotolle, ChatGPT:n perustana oleva tekoälyjärjestelmä, toteamalla, että OpenAI oli käyttänyt yli kuusi kuukautta GPT:n arvioimiseen. -4 ennen käyttöönottoa. Hän sanoi, että yhtiöllä ei ollut suunnitelmia ottaa käyttöön toista mallia seuraavan kuuden kuukauden aikana.

Marcus, keskeytyskirjeen allekirjoittaja, myönsi, että hän suostui enemmän kirjeen henkeen kuin sen sisältöön, mutta NYU:n professori kehotti kongressia harkitsemaan globaalia valvontaa sekä liittovaltion sääntelyä - Altman oli samaa mieltä.

Koko kuulemisen ajan kolme vierailevaa puhujaa olivat samaa mieltä useimmista aiheista. Tämä sisälsi tuen yksityisyyden suojalle, suuremman hallituksen valvonnan, kolmannen osapuolen auditoinnin ja sen, kuinka pian Yhdysvaltojen hallituksen tulisi pyrkiä säätelemään alaa (välittömästi).

Yksi yksinäisistä erimielisyyksien lähteistä tuli kuitenkin IBM:n Montgomerystä, joka oli eri mieltä näkemyksestä, että uusi liittovaltion virasto olisi tarpeen tekoälyteollisuuden säännösten noudattamiseksi.

Hänen lausunnot osoittivat, että IBM kannattaa kirurgista lähestymistapaa sääntelyyn käyttämällä nykyisin olemassa olevia sääntelyelimiä keskittymään täytäntöönpanon tiettyihin käyttötapauksiin.

Vaikka kaikki kolme puhujaa olivat yhtä mieltä siitä, että tekoäly voi olla haitallista ja vaatisi turvatoimia, Marcus teki selväksi, ettei kukaan tällä hetkellä ymmärrä tai osaa ennustaa, kuinka haitallisia olemassa olevat tekoälytuotteet voivat olla tai niistä tulee. Hän kannatti varovaista lähestymistapaa, joka sisältää avoimuuden lisäämisen.

Puhujat olivat myös yhtä mieltä kongressin jäsenten kanssa siitä, että Yhdysvallat tarvitsee samanlaisen kansallisen tietosuojalain kuin Euroopassa. Altman kuitenkin oli eri mieltä näkemyksestä, jonka mukaan kuluttajien pitäisi voida kieltäytyä julkisesti saatavilla olevien verkkotietojen sisällyttämisestä koulutustietosarjoihin.

Altman ei myöskään suostunut toteamaan, että OpenAI vastustaa mainospohjaisen version tarjoamista GPT-tuotteistaan. Toimitusjohtaja totesi yksinkertaisesti, että hän "ei sanoisi ei koskaan".

Tämä huolimatta siitä, että aiemmin kuulemisessa kerrottiin, että OpenAI:n tuotteet noudattavat kuluttajien tietosuojastandardeja, koska yritys ei rakentanut käyttäjäprofiileja räätälöityjen mainosten näyttämistä varten.

New Jerseyn senaattori Corey Booker mainitsi kokemuksensa Stanfordin tutkinnon suorittaneena ja lainsäätäjänä, joka työskenteli hajautettujen rahoitus- ja Web3-yritysten kanssa, ja otti esiin keskittämisen suurempaa yksityisyyttä koskevan kysymyksen. Hän kysyi, mitä vaikutuksia keskittämisellä ja monopolisaatiolla olisi teollisuudelle. Kysymykseen, johon Marcus vastasi vakavalla varoituksella, että maa saattaa olla vaarassa antaa hallita yleisen käsityksen pienelle määrälle toimijoita - johtaville tekoälyyrityksille, joilla on tarpeeksi rahaa. kilpailemaan Microsoftin, Googlen ja Amazonin kanssa.

Altman, jonka Worldcoin-projekti yhdistää hajautetun kryptovaluuttaresurssin Ethereum-lohkoketjussa identiteetin todentamiseen iirisskannaustekniikan avulla, selitti, että OpenAI tarjosi vain alustan ja että OpenAI:n tuotteiden demokratisoituminen tapahtui, kun kehittäjät, yritykset ja loppukäyttäjät mukauttivat GPT-sovellusliittymää "fantastisia" käyttöjä.

Related: OpenAI:n toimitusjohtaja "edistyneissä keskusteluissa" 100 miljoonan dollarin Worldcoin-rahoituksesta: Raportti