Teslassa ja muissa suurissa teknologiayrityksissä ongelmia eivät aiheuta koneet, vaan niiden taustalla olevat oletukset

Uudet tekniikat tuovat aina esiin hermostuneita nellejä. Vuonna 370 eaa. Platon pohti kirjassaan Phaedrus että lisääntynyt "trendi" kirjoittamiseen saisi miehet siihen menettävät kaiken säilyneen viisautensa. 1880-luvulla sähköpainikkeiden pelättiin aiheuttavan meille kaikille menettää luovuutemme antaa painikkeen tehdä tehtävän puolestamme. Meidän sukupolvessamme on ollut syvä pelko siitä, että videopeleille altistuminen mätänee lasten aivot. Tällaiset teoriat osoittautuvat usein lopulta vääriksi. Mutta joskus se, mitä olisimme saaneet toivoa jäävän tieteiskirjallisuuden piiriin, tulee todeksi.

Olemme saaneet kaksi erittäin vahvaa muistutusta teknologian hillittömän käyttöönoton vaaroista viime kuukausina. Pahimmat painajaiset toteutuivat, ja ihmishenkiä vahingoitettiin peruuttamattomasti:

• Muutaman tunnin sisällä siitä, kun Teslan johtaja Elon Musk mainosti itse ajavia autojaan Twitterissä, itseajava Tesla päätti pysähtyä Bay Bridgen, 4-kaistaisen, nopeasti liikkuvan tien sivulle. aiheutti 8 auton onnettomuuden loukkaantui 9 ihmistä, joista yksi 2-vuotias. Tämä on yksi sadoista onnettomuuksista, jotka Teslan itseohjautuvat järjestelmät ovat aiheuttaneet 19 kuolemaa vuoden 2016 jälkeen.
• Randall Reid oli matkalla myöhästyneelle kiitospäivä-illalliselle äitinsä kanssa, kun poliisi pysäytti hänet ja laittoi hänet vankilaan viikoksi. kasvojentunnistusohjelmisto oli ilmoittanut hänet epäiltyksi Louisianan ylellisessä kukkarovarkauskotelossa. Ainoa ongelma? Hän ei ollut koskaan astunut osavaltioon. Mutta 28-vuotias Georgian asukas on afroamerikkalainen – ja kasvojentunnistusohjelmistoa on kritisoitu laajalti sen kyvyttömyydestä erottaa mustia kasvoja tarkasti.

"He kertoivat minulle, että minulla oli määräys Jefferson Parishista. Sanoin: "Mikä on Jefferson Parish?" Reid huomautti AP:lle. "En ole koskaan käynyt Louisianassa päivääkään elämässäni. Sitten he kertoivat minulle, että se oli varkautta. Joten en vain ole käynyt Louisianassa, en myöskään varasta.

Ei ehkä Elon Muskin puolustamiseksi, vaan selityksenä. hän on usein huomauttanut että hänen epäitsekäs tavoitteensa on viime kädessä vähentää liikenneonnettomuuksien ja kuolemantapausten määrää tekemällä autoista ihmisiä älykkäämpiä. Ja tehdäkseen näistä autoista älykkäämpiä, niiden on ehkä siirryttävä nopea (kirjaimellisesti) ja rikkoa joitain asioita (myös kirjaimellisesti) oikeilla teillä.

Tässä voisi yhtyä hänen tavoitteisiinsa – turvallisemmat tiet – mutta kiistää hänen menetelmänsä – ihmiskokeilu. Lähdimme testaamasta lääkkeitä ihmisillä – ilman heidän suostumustaan Natsi-Saksa ja Tuskegee "tutkimukset" – rotille, jotka eivät voi suostua siihen, että kosmetiikan kaltaiset teollisuudenalat oppivat testaamaan tuotteita ilman ihmishenkien, eläinten tai muiden kustannuksia. Voidaanko tekniikkaa testata vahingoittamatta ihmisiä matkan varrella? Täällä me – ja valtion sääntelyelimet – saamme tehdä valintoja siitä, minkälaisille kokeiluille olemme valmiita kohdistamaan kansalaisiamme.

Ja sitten tekoälyn tapauksessa on ilmaistu kohtuullinen huoli siitä, että teknologiatiimien yhteydessä, joilta yleensä puuttuu globaalin maailmamme monimuotoisuus. yli 85% ihmisistä elää Aasiassa, Afrikassa ja Latinalaisessa Amerikassa, siellä on merkittävän haitan mahdollisuus voidaan tehdä, jos tekniikat eivät sisällytä monimuotoisuutta suunnitelmiinsa. Ihmiset pitävät Timnit Gebrusta Musta AI: ssa tekevät kovaa työtä yrittääkseen pitää koneiden takana olevat ihmiset vastuullisina, mutta he ovat tehneet kohtasi runsaasti vastatuulta ottaen huomioon taloudelliset voimat, jotka hallitsevat suurta osaa tästä tutkimuksesta.

Meidän ei tarvitse palata hevosten ja rattaiden pariin, jos hylkäämme itseajavat autot. Se, mitä voimme tehdä, on uuden teknologian motton puolestapuhuja seuraavalle vuosikymmenelle: "liiku hitaasti ja katkea vähemmän."

Samoin Hermant Tenaja kirjoitti Harvard Business Review, "Minimielinkelpoiset tuotteet" on korvattava "vähimmäishyväksillä tuotteilla" – uusilla tarjouksilla, jotka testaavat vaikutusta sidosryhmiin ja rakentavat suojat mahdollisia haittoja vastaan. Hän tarjoaa kahdeksan kysymystä, jotka nykypäivän teknologiayrittäjien on kysyttävä, mukaan lukien:

• Mitä systeemistä, yhteiskunnallista muutosta pyrit saamaan aikaan tuotteellasi?
• Kuinka aiot ylläpitää tuotteesi hyvettä?
• Mikä on kehys datan ja tekoälyn vastuulliseen hyödyntämiseen?
• Miten määrittelet ja edistät monimuotoisuutta yrityksesi yhteydessä?

Yrittäjät voivat pohtia näitä kysymyksiä tuotteidensa osalta. Ja sitten kuluttajien kannalta voi olla viisasta pohtia kahdesti, ennen kuin käännät kasvosi uusimpaan, parhaaseen avatar-palveluun, kuinka se voisi palata sinua puremaan. Meidän ei tarvitse sivuuttaa teknologiaa – mutta ehkä voimme oppia olemaan paljon tietoisempia teknologian kuluttajia.