Kymmenet tekoälyn (AI) asiantuntijat, mukaan lukien OpenAI:n, Google DeepMindin ja Anthropicin toimitusjohtajat, allekirjoittivat äskettäin Center for AI Safetyn (CAIS) julkaiseman avoimen lausunnon.
Esitimme juuri lausunnon:
"Tekoälyn aiheuttaman sukupuuttoon kuolemisen riskin lieventämisen pitäisi olla globaali prioriteetti muiden yhteiskunnallisten riskien, kuten pandemioiden ja ydinsodan, rinnalla."
Allekirjoittajia ovat Hinton, Bengio, Altman, Hassabis, Song jne.https://t.co/N9f6hs4bpa
(1 / 6)
- Dan Hendrycks (@DanHendrycks) Voi 30, 2023
Lausunto sisältää yhden lauseen:
"Tekoälyn aiheuttaman sukupuuttoon kuolemisen riskin lieventämisen pitäisi olla globaali prioriteetti muiden yhteiskunnallisten riskien, kuten pandemioiden ja ydinsodan, rinnalla."
Asiakirjan allekirjoittaneiden joukossa on todellinen "kuka on kuka" tekoälyn johtajista, mukaan lukien tekoälyn "kummisetä", Geoffrey Hinton; Kalifornian yliopisto, Berkeleyn Stuart Russell; ja Massachusetts Institute of Technologyn Lex Fridman. Muusikko Grimes on myös allekirjoittanut, ja se on lueteltu "muut merkittävät hahmot" -kategoriassa.
Related: Muusikko Grimes on valmis jakamaan 50 % rojaltimaksuista tekoälyn luoman musiikin avulla
Vaikka väite saattaa näyttää pinnalta harmittomalta, taustalla oleva viesti on jonkin verran kiistanalainen tekoälyyhteisössä.
Näennäisesti kasvava määrä asiantuntijoita uskoo, että nykyiset teknologiat voivat tai johtaa väistämättä sellaisen tekoälyjärjestelmän syntymiseen tai kehittymiseen, joka pystyy muodostamaan eksistentiaalisen uhan ihmislajille.
Heidän näkemyksensä vastustaa kuitenkin joukko asiantuntijoita, joilla on täysin vastakkaisia mielipiteitä. Esimerkiksi metapäällikkö AI-tutkija Yann LeCun on todennut useaan otteeseen, ettei hän välttämättä usko tekoälyn muuttuvan hallitsemattomaksi.
Yli-ihmisen tekoäly ei ole lähelläkään eksistentiaalisten riskien listan kärkeä.
Suurelta osin siksi, että sitä ei ole vielä olemassa.Ennen kuin meillä on perussuunnittelu jopa koiratason tekoälylle (puhumattakaan ihmistasosta), on ennenaikaista keskustella siitä, miten se tehdään turvalliseksi. https://t.co/ClkZxfofV9
- Yann LeCun (@ylecun) Voi 30, 2023
Hänelle ja muille, jotka ovat eri mieltä "sukuppuutto"-retoriikasta, kuten Andrew Ng, Google Brainin perustaja ja entinen Baidu-tutkija, tekoäly ei ole ongelma, se on vastaus.
Väitteen toisella puolella asiantuntijat, kuten Hinton ja Conjecture-toimitusjohtaja Connor Leahy, uskovat, että ihmistason tekoäly on väistämätöntä, ja siksi nyt on aika toimia.
Kaikkien suurten tekoälylaboratorioiden päälliköt allekirjoittivat tämän kirjeen ja tunnustivat nimenomaisesti riskin, että AGI kuolee sukupuuttoon.
Uskomaton askel eteenpäin, onnittelut Danille hänen uskomattomasta työstään tämän kokoamisessa ja kiitos jokaiselle allekirjoittajalle osansa paremman tulevaisuuden puolesta! https://t.co/KDkqWvdJcH
- Connor Leahy (@NPCollapse) Voi 30, 2023
On kuitenkin epäselvää, mihin toimiin lausunnon allekirjoittajat vaativat. Lähes jokaisen suuren tekoälyyrityksen toimitusjohtajat ja/tai tekoälypäälliköt sekä tunnettuja tiedemiehiä eri puolilta akateemista aluetta ovat allekirjoittaneiden joukossa, mikä tekee selväksi, että tarkoituksena ei ole pysäyttää näiden mahdollisesti vaarallisten järjestelmien kehitystä.
Aiemmin tässä kuussa OpenAI:n toimitusjohtaja Sam Altman, yksi edellä mainitun lausunnon allekirjoittajista, esiintyi ensimmäisen kerran kongressissa senaatin kuulemisessa, jossa keskusteltiin tekoälysäännöstä. Hänen todistuksensa nousi otsikoihin sen jälkeen, kun hän käytti suurimman osan siitä kehottaen lainsäätäjiä säätelemään alaansa.
Altman's Worldcoin, kryptovaluuttoja ja henkilöllisyystodistusta yhdistävä projekti, on myös äskettäin päässyt median kierroksiin kerättyään 115 miljoonan dollarin C-sarjan rahoituksen ja nostanut sen kokonaisrahoituksen kolmen kierroksen jälkeen 240 miljoonaan dollariin.
Lähde: https://cointelegraph.com/news/ai-experts-sign-doc-comparing-risk-of-extinction-from-ai-to-pandemics-nuclear-war