Syyt tekoälyalgoritmien säätelyyn ovat yksinkertaisempia kuin luulet

Pelkäätkö, että tekoäly valtaa maailman? Monet tekevät. Elon Muskilta, joka on huolissaan DeepMind voittaa ihmisiä edistyneessä Go-pelissä vuonna 2017 kongressin jäsenille, eurooppalaisille poliittisille päättäjille (ks Eurooppalainen lähestymistapa tekoälyyn), ja akateemikot, on sellainen tunne, että nyt on vuosikymmen ottaa tekoäly vakavasti, ja se on alkamassa. Ei kuitenkaan niistä syistä, joita saatat ajatella, eikä mistään nykyisestä uhasta.

Tässä algoritmit tulevat käyttöön. Mikä on algoritmi, saatat kysyä? Yksinkertaisin tapa ajatella sitä on joukko ohjeita, joita koneet voivat ymmärtää ja joista oppia. Osaamme jo ohjeistaa koneen laskemaan, käsittelemään tietoja ja päättelemään jäsennellysti, automatisoidusti. Ongelmana on kuitenkin se, että kun mainitut ohjeet on annettu, kone noudattaa niitä. Toistaiseksi se on pointti. Toisin kuin ihmiset, koneet noudattavat ohjeita. He eivät opi niin hyvin. Mutta kerran ne voivat aiheuttaa ongelmia.

En halua esittää sensaatiomielistä argumenttia ajatuksesta, että tietokoneet jonakin päivänä ylittävät ihmisen älykkyyden, tunnetaan paremmin singulaarisuusargumenttina (katso NYU:n filosofi David Chalmers' pohdiskelua aiheesta.) Pikemminkin valmistus saattaa olla paras esimerkki siitä, miksi tekoälyalgoritmit alkavat olla tärkeämpiä suurelle yleisölle. Pelkäämme, että koneet nopeuttavat huomattavasti suorituskykyään meidän kustannuksellamme. Ei välttämättä jollain edistyneellä päättelyllä, vaan algoritmin sanojen rajoissa tapahtuvan optimoinnin vuoksi.

Valmistus on asioiden valmistamista. Mutta kun koneet tekevät asioita, meidän on kiinnitettävä huomiota. Vaikka koneet tekevät yksinkertaista. Selitän miksi.

Sadesaappaat matkapuhelimiin ja takaisin

Sanotaan, että tehdas on valmistanut sadesaappaat. Rakastan sadesaappaat, koska kasvoin alueella Norjassa, jossa sataa paljon; Rakastan ulkona olemista luonnon monien elementtien alaisena. Nokia teki sadesaappaat, joiden kanssa kasvoin. Kyllä, Nokia, jonka tunnemme nykyään elektroniikkayhtiönä, valmisti aiemmin kumisaappaat. Miksi tämä avain on? Koska kun teet jotain, sinun on tarkoitus tehdä parannuksia. Tuossa on järkeä. Voisi sanoa, että se on ihmisluonne.

Se, mitä Nokialle tapahtui, on hyvin tiedossa ja menee vähän näin: Aluksi paperitehdas, kun olin lapsi, kumisaappaiden (ja renkaiden) valmistus menestyi yhtiölle erityisen hyvin. He näkivät kuitenkin lisää mahdollisuuksia. Tästä syystä jossain vaiheessa 1980-luvulla he siirtyivät elektroniikkaan ja muuttivat nopeasti tehtaita ympärilleen rakentaen suuren rakenteen paikallisista toimittajista, kun he alkoivat valmistaa matkapuhelimia. Tämä aloitti matkaviestinnän vallankumouksen, joka alkoi Skandinaviasta ja levisi muualle maailmaan. Ymmärrettävästi monet ovat kirjoittaneet tarinan Nokiasta 1990-luvulla (ks Suomalaisen ihmeen salaisuudet: Nokian nousu).

Esimerkkini on suoraviivainen. Ehkä liian yksinkertaista. Mutta ajattele sitä näin. Jos suuri yritys voi nopeasti siirtyä paperin valmistamisesta kirjoittamiseen, saappaisiin, jotka helpottavat ulkona olemista sateessa, niin lopulta matkapuhelimiin, jotka muuttavat ihmisten kommunikointia: kuinka helppoa seuraava askel on? Oletetaan, että matkapuhelimia valmistava yritys päättää valmistaa nanobotteja, ja ehkä ne nousevat vauhtiin vuosikymmenen kuluttua, muuttaen ihmiskuntaa pienillä koneilla, jotka pyörivät itsenäisesti kaikkialla ja pystyvät kokoamaan uudelleen ja muuttamaan ihmiskokemusta. Entä jos se tapahtuu ottamatta huomioon, miten haluamme sen tapahtuvan, kenen haluamme olla vastuussa ja perimmäisiä tavoitteita?

Ehdotus, että robotit tietoisesti auttoivat Nokiaa päättämään matkapuhelimien valmistamisesta, olisi venyttelyä. Mutta sen tunnustaminen, että teknologialla oli roolinsa siinä, että suomalainen maaseutu sen pohjoisrannalla uskoi voivansa saada maailmanvallan uudella toimialalla, on tärkeä osa.

Nokian tarina ei ole ollut niin ruusuinen viimeisen vuosikymmenen aikana, koska he eivät ole huomioineet ohjelmistopohjaisten iOS- ja Android-käyttöjärjestelmien syntymistä. Tämän seurauksena Nokia ei enää valmista puhelimia. Hieman paluutarinana he valmistavat nyt verkko- ja tietoliikenneinfrastruktuuria, verkkoturvaratkaisuja, Wi-Fi-reitittimiä, älyvalaistusta ja älytelevisioita (katso Nokian comebackin tarina). Nokia tekee edelleen asioita, se on totta. Ainoa huomioitava on, että Nokia näyttää aina nauttivan tekemiensä asioiden sekoittamisesta. Jopa ihmisten valmistuspäätökset ovat toisinaan vaikeita ymmärtää.

Valmistus tarkoittaa asioiden saattamista ja asioiden kehittymistä. Yleisesti ottaen se, mitä teemme tänään, on muuttunut vain kymmenen vuoden takaisesta. 3D-tulostimilla on hajautettu monien edistyneiden tuotteiden tuotanto sekä teollisuudessa että kotona. 3D-tulostuksen elämää muuttavat seuraukset eivät ole vielä ilmenneet. Emme tiedä kestääkö tämä, mutta tiedämme, että FDA keskittyy tuotteiden valmistuksen säätelyyn (katso tätä), kuten niistä johtuvat painetut pillerit tai lääkinnälliset laitteet, ilmeiset immateriaali- ja vastuuongelmat tai ampuma-aseiden tulostamiseen liittyvät ongelmat. Loppujen lopuksi politiikkakeskustelu siitä, mitä negatiivisia seurauksia 3D-tulostuksella voi olla tämän lisäksi, on olematonta, ja harvat meistä ovat vaivautuneet miettimään sitä.

En väitä, että 3D-tulostus olisi itsessään vaarallista. Ehkä tämä on huono esimerkki. Siitä huolimatta asiat, jotka aluksi näyttävät arkilta, voivat muuttaa maailmaa. Esimerkkejä on paljon: metallista tehty metsästäjä/keräilijän nuolenpää, joka käynnistää sodat, rituaalinaamiot, jotka suojaavat meitä COVID-19:ltä, naulat, jotka rakentavat pilvenpiirtäjiä, liikkuvat painokoneet, jotka (vielä) täyttävät tehtaamme painetulla paperilla ja saavat virtaa julkaisutoiminta, hehkulamput, joiden avulla voit nähdä ja työskennellä sisällä yöllä, voisin jatkaa. Kukaan, josta tiedän, istuutui 1800-luvun lopulla ja ennusti Nokian siirtävän tuotantonsa paperista kumiin elektroniikkaan ja sitten pois matkapuhelimista. Ehkä heidän olisi pitänyt.

Ihminen ennustaa huonosti askelmuutoksia, prosessia, jossa yksi muutos johtaa enemmän muutokseen, ja yhtäkkiä asiat ovat radikaalisti erilaisia. Emme vielä ymmärrä tätä prosessia, koska meillä on vähän käytännön tietoa eksponentiaalisesta muutoksesta; emme voi kuvitella, laskea tai käsittää sitä. Kuitenkin kerta toisensa jälkeen se iskee meihin. Pandemiat, väestönkasvu, teknologiset innovaatiot kirjojen painamisesta robotiikkaan, se iskee tyypillisesti ilman varoitusta.

Futurismin temppu ei ole jos, vaan milloin. Muutoksen voi itse asiassa ennustaa vain valitsemalla uusia tuotantomenetelmiä ja toteamalla, että ne yleistyvät tulevaisuudessa. Se on tarpeeksi yksinkertaista. Hankala osa on selvittää tarkalleen milloin ja erityisesti miten.

Paperiliittimet eivät ole ongelma

Ajattele tehdasesimerkkiäni uudelleen, mutta tällä kertaa kuvittele, että koneet ovat vastuussa lukuisista päätöksistä, eivät kaikista päätöksistä, vaan tuotantopäätöksistä, kuten optimoinnista. Hänen kirjassaan Yliopisto, Oxfordin yliopiston dystooppinen humanisti Nick Bostrom kuvitteli tunnetusti tekoälyn optimointialgoritmin, joka pyörittää paperiliittimien tehdasta. Jossain vaiheessa hän sanoo, kuvittele, että koneen syyt siihen, että jatkuvasti kasvavien resurssien ohjaaminen tehtävään on rationaalista, päätyy vähitellen muuttamaan maailmamme paperiliittimiksi ja vastustamaan yrityksiämme sammuttaa se.

Huolimatta älykkäästä kaverista, Bostromin esimerkki on melko tyhmä ja harhaanjohtava (mutta mieleenpainuva). Ensinnäkin hän ei ota huomioon sitä tosiasiaa, että ihmiset ja robotit eivät ole enää erillisiä kokonaisuuksia. Olemme vuorovaikutuksessa. Useimmat älykkäät robotit ovat kehittymässä koboteiksi tai yhteistyöroboteiksi. Ihmisillä on monia mahdollisuuksia korjata kone. Siitä huolimatta hänen perusasiansa säilyy. Jossain vaiheessa saattaa tapahtua askelmuutos, ja jos muutos tapahtuu riittävän nopeasti ja ilman riittävää valvontaa, hallinta saattaa menettää. Mutta tämä äärimmäinen tulos näyttää hieman kaukaa haetulta. Joka tapauksessa, olen samaa mieltä, meidän on säänneltävä näitä koneita käyttäviä ihmisiä ja määrättävä, että työntekijät ovat aina ajan tasalla kouluttamalla heidät asianmukaisesti. Tällainen koulutus ei mene hyvin. Tällä hetkellä se kestää liian kauan ja vaatii erikoistaitoja sekä kouluttautumiseen että kouluttautumiseen. Tiedän yhden asian. Tulevaisuudessa robotteja operoi kaikenlaisia ​​ihmisiä. Ne jotka eivät, ovat melko voimattomia.

Ihmisten lisääminen on parempi kuin mieletön automaatio, vaikka emme koskaan sulautuisikaan täysin koneiden kanssa. Nämä kaksi käsitettä ovat loogisesti erillisiä. Sekä ihmiset että robotit voivat juuttua automatisoinnissa automaation vuoksi. Se vahingoittaisi valmistusta jatkossa. Vaikka se ei tuota tappajarobotteja. Uskon, että fuusio on satojen vuosien päässä, mutta siitä ei ole kysymys. Vaikka se olisi vain kolmenkymmenen vuoden päässä, itsekulkevat koneet, jotka toimivat yksinkertaisilla algoritmeilla, jotka menettävät hallinnan, tämä skenaario tapahtuu jo myymälässä. Jotkut näistä koneista ovat kolmekymmentä vuotta vanhoja ja toimivat vanhoilla, patentoiduilla ohjausjärjestelmillä. Heidän suurin haasteensa ei ole se, että he ovat edistyneitä, vaan päinvastoin. Ne ovat liian yksinkertaisia ​​voidakseen kommunikoida. Tämä ei ole huomisen ongelma. Se on jo olemassa oleva ongelma. Meidän on avattava silmämme sille. Ajattele tätä, kun seuraavan kerran astut kumisaappaisiisi.

Minulla on edelleen Nokian saappaat 1980-luvulta. Niissä on reikä, mutta pidän ne muistuttaakseni itseäni, mistä olen kotoisin ja kuinka pitkän matkan olen kävellyt. Sadekin sataa jatkuvasti, ja niin kauan kuin se on tarpeeksi puhdasta, en halua sille parempaa korjausta kuin nuo saappaat. Sitten taas olen ihminen. Robotti olisi luultavasti jo siirtynyt eteenpäin. Mikä on sadesaappasten tekoälyversio, ihmettelen. Se ei ole matkapuhelin. Se ei ole sadetunnistin. Se saastuttaa mielen.

Nykyään digitaaliset saappaat tarkoittavat, että voit muokata niitä, koska niissä on 3D-painettuja kuvioita. On olemassa virtuaalisia kenkiä, jotka ovat olemassa vain NFT:inä (ei-vaihtokelpoisina tokeneina), joita voidaan myydä ja käydä kauppaa. Parhaat virtuaaliset tennarit ovat arvoltaan 10,000 XNUMX dollaria näinä päivinä (katso Mikä on NFT-lenkkari ja miksi se on 10,000 XNUMX dollarin arvoinen?). En pelkää niitä, mutta pitäisikö minun olla? Jos virtuaalimaailmaa arvostetaan enemmän kuin fyysistä maailmaa, ehkä minä arvostan. Vai pitäisikö minun odottaa huolestuneisuutta, kunnes tekoälyn oma avatar ostaa oman NFT-käynnistyksen "sadetta" vastaan? Jos rakennamme algoritmeja oman kuvamme mukaan, on todennäköisempää, että tekoäly olisi hyvä asioissa, joissa toivoisimme olevan hyviä, mutta tyypillisesti emme ole, kuten osakkeiden ostaminen, uskollisten ystävyyssuhteiden rakentaminen (ehkä sekä koneiden että ihmisten kanssa) ja muistaminen. asioita. Teollinen metaversumi saattaa olla yllättävän hienostunut – täynnä digitaalisia kaksosia, jotka jäljittelevät maailmaamme ja ylittävät sen hedelmällisillä tavoilla – tai se voi olla järkyttävän yksinkertainen. Ehkä molemmat. Emme vain tiedä vielä.

Meidän on säädeltävä tekoälyalgoritmeja, koska emme tiedä mitä nurkan takana on. Se on riittävä syy, mutta miten teemme sen, se on pidempi tarina. Sallikaa minun vielä yksi nopea huomio, ehkä kaikki perusalgoritmit pitäisi saada julkisesti saataville. Syynä on, jos ei, ei ole mitään keinoa tietää, mihin ne voivat johtaa. Parhaat ovat melko tunnettuja (ks 10 parasta koneoppimisalgoritmia), mutta ei ole maailmanlaajuista yleiskuvaa siitä, missä ja miten niitä käytetään. Erityisesti valvomattomia algoritmeja tulee tarkkailla huolellisesti (katso Kuusi tehokasta käyttötapaa koneoppimiseen valmistuksessa), käytetäänkö niitä huollon tai laadun ennustamiseen, tuotantoympäristöjen simulointiin (esim. digitaaliset kaksoset) tai uusien mallien luomiseen, joita ihminen ei koskaan ajattele. Nykymaailmassa nämä valvomattomat algoritmit ovat tyypillisesti niin kutsuttuja keinotekoisia hermoverkkoja, jotka yrittävät jäljitellä ihmisaivoja.

Olen alkanut olla huolissani hermoverkoista vain siksi, että minun on vaikea ymmärtää niiden logiikkaa. Ongelmana on, että useimmat asiantuntijat, edes ne, jotka käyttävät niitä, eivät ymmärrä, kuinka nämä algoritmit siirtyvät vaiheesta toiseen tai kerroksesta kerrokseen. Minusta metafora "piilotetut kerrokset", jota usein käytetään, ei ole kovin osuva tai hauska. Valmistuksessa, automatisoidussa veronkeräyksessä, rekrytointipäätöksissä tai yliopistoon pääsyssä ei saa olla piilotettuja kerroksia. Ehkä sinunkin pitäisi harkita huolestuneisuutta? Yksi asia on varma, ihmiset ja koneet, jotka tekevät asioita yhdessä, muuttavat maailmaa. Se on jo käynyt, monta kertaa. Paperista sadesaappeihin ja nykypäivän keinoaivojen kerroksiin, mitään ei saa jättää tutkimatta. Meidän ei pidä piiloutua siltä yksinkertaiselta tosiasialta, että monista pienistä muutoksista voi yhtäkkiä ilmestyä suurempi muutos.