Tekoälyn etiikka nojautuu Aristoteleen puoleen tutkiakseen, voivatko ihmiset orjuuttaa tekoälyä täysin autonomisten järjestelmien syntyessä

Ystävä vai vihollinen.

Kala tai kana.

Henkilö tai asia.

Nämä kaikkialle leviävät hämmennykset kaikki näyttävät viittaavan siihen, että olemme toisinaan kaksijakoisen tilanteen edessä ja meidän on valittava yksi tai toinen puoli. Elämä saattaa pakottaa meidät kamppailemaan olosuhteiden kanssa, joissa on kaksi toisensa poissulkevaa vaihtoehtoa. Herkullisemmalla kielellä voisi ehdottaa, että poissulkeva binääriyhtälö edellyttää, että marssimme jyrkästi yhtä selkeää polkua pitkin mieluummin kuin toista.

Keskitytään erityisesti henkilö-tai asia-dikotomiaan.

Kiihkeä kysymys henkilöstä tai asiasta nousee esiin kerta toisensa jälkeen koskien tekoälyä (AI).

Selvennykseksi totean, että nykypäivän tekoäly on ehdottomasti emme henkilö, eikä hänellä ole minkäänlaista tuntokykyä huolimatta laajasilmäisistä ja täysin suurista otsikoista, joita saatat nähdä uutisissa ja sosiaalisessa mediassa. Voit siis olla varma, että nyt on helppo vastata siihen, onko tekoäly henkilö vai asia. Lue huuliltani, todellisessa Hobsonin valinnassa henkilön tai asian välillä, tekoäly on toistaiseksi asia.

Tästä huolimatta voimme katsoa tulevaisuuteen ja ihmetellä, mitä voisi tapahtua, jos pystymme saavuttamaan älykkään tekoälyn muodon.

Jotkut perustellut kriitikot (sekä kaustiset skeptikot) ehdottavat, että me ehkä laskemme kanojamme kauan ennen kuin ne kuoriutuvat, kun nykyään keskustellaan tuntevan tekoälyn seurauksista. Ilmaistu huoli on se, että keskustelu itsessään viittaa siihen, että meidän on oltava tällaisen tekoälyn kynnyksellä. Koko yhteiskunta voidaan johtaa harhaan uskomaan, että huomenna tai ylihuomenna tulee äkillinen ja järkyttävä paljastus siitä, että olemme itse asiassa päässeet tuntevaan tekoälyyn (jota kutsuvat tätä toisinaan tekoälyn singulariteetiksi tai älykkyysräjähdykseksi, ks. analyysini klo linkki tähän). Sillä välin emme tiedä milloin tällainen tekoäly syntyy, jos koskaan, ja varmasti meidän ei ilmeisesti tarvitse katsoa joka kulman taakse ja olla kauhistuttavan tien päällä, että tunteva tekoäly hyppää meihin täysin odottamatta seuraavassa. vähän aikaa.

Keskustelun toinen puoli huomauttaa, että meidän ei pitäisi olla päätämme haudattu syvälle hiekkaan. Jos emme avoimesti keskustele ja pohdi tuntevaan tekoälyyn liittyviä mahdollisuuksia, teemme ihmiskunnalle oletetun vakavan karhunpalvelun. Emme ole valmiita käsittelemään tuntevaa tekoälyä, kun tai jos se ilmaantuu. Lisäksi, ja ehkä vielä voimakkaammin ilmaistuna, ennakoimalla tuntevaa tekoälyä voimme ottaa asiat jossain määrin omiin käsiimme ja muokata suuntaa ja luonnetta sille, kuinka tällainen tekoäly tulee olemaan ja mistä se koostuu (kaikki eivät ole samaa mieltä tästä jälkimmäisestä kohdasta , nimittäin jotkut sanovat, että sellaisella tekoälyllä on täysin oma "mieli", emmekä pysty muokkaamaan tai aitailemaan sitä, koska tekoäly pystyy itsenäisesti ajattelemaan ja määrittämään keinot jatkuvaan olemassaoloon).

Tekoälyn etiikka on taipumus puoltaa näkemystä, jonka mukaan meidän olisi viisasta tuoda nämä vaivalloiset ja kiistanalaiset tuntevaan tekoälyyn liittyvät asiat julkisuuteen nyt sen sijaan, että odottaisimme, kunnes meillä ei ole enää vaihtoehtoja tai joutuisimme järkyttymään tällaisen tekoälyn saavuttamisesta. Lukijat tietävät hyvin, että olen käsitellyt tekoälyn etiikkaa ja eettistä tekoälyä koskevia aiheita laajasti, mukaan lukien laajan valikoiman vaikeita kysymyksiä, kuten tekoälyn oikeushenkilöllisyys, tekoälyn hillitseminen, tekoälyn hajoaminen, tekoälyalgoritminen monokulttuuri, tekoälyn eettinen pesu, kaksikäyttö Tekoälyn niin sanotut Doctor Evil -projektit, yhteiskunnallisen voiman dynamiikkaa peittävä tekoäly, luotettava tekoäly, tekoälyn auditointi ja niin edelleen (katso kolumnien kattavuus näistä tärkeistä aiheista osoitteessa linkki tähän).

Esitän sinulle haastavan kysymyksen.

Jos oletetaan, että päädymme millä tahansa tavalla tuntevaan tekoälyyn, tulkitsemmeko me kaikki sen tuntevan tekoälyn persoonaksi vai esineeksi?

Ennen kuin alamme sukeltaa syvällisesti tähän täysin provosoivaan kysymykseen, sallikaa minun sanoa jotain "tuntevan tekoälyn" tunnuslauseesta, jotta olemme kaikki samalla sivulla. Tunteen merkityksestä ja tietoisuuden merkityksestä on paljon ahdistusta. Asiantuntijat voivat helposti olla eri mieltä siitä, mitä nämä sanat sisältävät. Tähän mutaisuuteen lisätään, että aina kun joku viittaa "AI:hen", sinulla ei ole valmiita keinoja tietää, mihin he viittaavat sinänsä. Olen jo tässä korostanut, että tämän päivän tekoäly ei ole tunteva. Jos lopulta päädymme tulevaan tekoälyyn, joka on tunteva, kutsumme sitä myös "AI:ksi". Asia on siinä, että nämä kiistanalaiset asiat voivat olla tällä hetkellä helvetin hämmentäviä sen suhteen, liittyykö "AI"-lauseen lausuminen nykyiseen tuntemattomaan tekoälyyn vai joskus ehkä tuntevaan tekoälyyn.

Tekoälyä väittelevät voivat huomata puhuvan toistensa ohi eivätkä ymmärrä, että toinen kuvailee omenoita ja toinen appelsiineista.

Tämän sekaannuksen kiertämiseksi on tehty säätö tekoälyn ilmaisuun, jota monet käyttävät toiveikkaana selvennyksenä. Tällä hetkellä meillä on tapana viitata yleiseen tekoälyyn (AGI) tekoälyn tyyppinä, joka voi tehdä täysin älykkään kaltaisia ​​toimia. Tässä mielessä ilmaisun "AI" typerämpi käyttö jätetään joko tulkitsevaksi tekoälyn pienemmäksi versioksi, jonka jotkut sanovat olevan kapea-AI, tai se on denotaatioltaan moniselitteinen, etkä tiedä, onko viittaus ei -sentient AI tai ehkä tunteva tekoäly.

Annan tähän lisäkäänteen.

Tietystä tunteen määritelmästä riippuen saatat käydä kiivaaseen keskusteluun siitä, onko AGI tunteva vai ei. Jotkut väittävät, että kyllä, AGI:n tulee luonnollisen luonteensa vuoksi olla tunteellinen. Toiset väittävät, että sinulla voi olla AGI, joka ei ole tunteva, eli tunnekyky on erilainen ominaisuus, joka ei ole vaatimus AGI:n saavuttamiseksi. Olen tutkinut tätä keskustelua eri tavoin kolumneillani, enkä käsittele asiaa uudelleen tässä.

Oletetaan tällä hetkellä, että tästä eteenpäin tässä keskustelussa, että kun viittaan tekoälyyn, aion vihjata, että viittaan AGI:hen.

Tässä on lataus aiheesta. Meillä ei ole vielä AGI:tä, ja tavallaan sanoen, olemme hetkellisesti kohteliaasti samaa mieltä siitä, että AGI on samassa yleisessä leirissä tuntevan tekoälyn kanssa. Jos käyttäisin sanaa "AGI" yksinomaan koko keskusteluni ajan, tämä lauseke saattaa häiritä, koska monet eivät ole vielä tottuneet näkemään "AGI" nimimerkillä ja he olisivat todennäköisesti lievästi suuttuneet nähdessään toistuvasti tämän suhteellisen uudemman ilmaisun. Jos nyt sen sijaan viittasin "tuntevaan tekoälyyn", tämä saattaa olla häiritsevä tekijä myös niille, jotka kamppailevat siitä, ovatko AGI ja tunteva tekoäly samoja vai erilaisia.

Tämän sotkun välttämiseksi oletetaan, että viittaukseni tekoälyyn on sama kuin sanoisin AGI:tä tai jopa tuntevaa tekoälyä, ja tiedä ainakin, että en puhu nykypäivän tuntemattomasta ei-AGI-AI:sta, kun joudun siihen liittyvien pohdiskelujen kimppuun. Tekoäly, jolla näyttää olevan ihmisen kaltainen älykkyys. Käytän silloin tällöin AGI-kaimaa muistuttamaan teitä aika ajoin tässä, että tutkin sellaista tekoälyä, jota meillä ei vielä ole, varsinkin tämän henkilö-tai-asia-arvoituksen tutkimisen alussa.

Se oli hyödyllinen hienolla painetulla tunnustuksella, ja palaan nyt käsillä olevaan perusasiaan.

Sallikaa minun nyt kysyä teiltä, ​​onko AGI henkilö vai asia.

Harkitse näitä kahta kysymystä:

• Onko AGI henkilö?
• Onko AGI asia?

Jatketaan seuraavaksi toistamalla jokainen kysymys ja vastaamalla kysymyksiin sarjalla kyllä- tai ei-vastauksia, mikä sopii oletetun kaksijakoisen valinnan mukaan.

Aloita tästä oletetusta mahdollisuudesta:

• Onko AGI henkilö? Vastaus: Kyllä.
• Onko AGI asia? Vastaus: Ei.

Mieti asiaa. Jos AGI itse asiassa tulkitaan henkilöksi eikä esineeksi, voimme melkein varmasti olla samaa mieltä siitä, että meidän tulee kohdella AGI:tä ikään kuin se olisi samankaltaista kuin henkilö. Ei näyttäisi olevan riittävän aito argumentti siitä, että AGI:lle ei myönnetä oikeushenkilön muotoa. Tämä joko olisi täysin sama kuin ihmisoikeushenkilöllisyys, tai voisimme päättää keksiä muunnelman ihmislähtöisestä oikeushenkilöydestä, joka soveltuisi harkitusti paremmin AGI:hen. Asia suljettu.

Se oli helppoa.

Kuvittele sen sijaan, että julistimme tämän:

• Onko AGI henkilö? Vastaus: Ei.
• Onko AGI asia? Vastaus: Kyllä.

Tässä tilanteessa päätös on ilmeisen suoraviivainen, koska sanomme, että AGI on asia, eikä se nouse persoonallisuuden kategoriaan. Näyttäisi olevan yleinen yksimielisyys siitä, että emme ehdottomasti myöntäisi AGI:lle oikeushenkilöä, koska se ei ole henkilö. Itse asiassa AGI kuuluisi todennäköisesti ja järkevästi yleisen rubriikimme piiriin siitä, kuinka laillisesti kohtelemme "asioita" yhteiskunnassamme.

Kaksi alas, kaksi muuta mahdollisuutta jatkaa.

Kuvittele tämä:

• Onko AGI henkilö? Vastaus: Kyllä.
• Onko AGI asia? Vastaus: Kyllä.

Auts, se näyttää oudolta, koska meillä on kaksi kyllä-vastausta. Järkyttävää. Ehdotamme, että AGI on sekä henkilö että samalla asia. Mutta tämä näyttää lentävän julistettua kaksijakoisuuttamme vastaan. Teoriassa dikotomian rajoitusten mukaan jonkin täytyy olla joko henkilö tai asia. Näiden kahden kauhan tai luokan sanotaan sulkevan toisensa pois. Väittämällä, että AGI on molempia, perumme järjestelmän ja rikomme toisensa poissulkevan järjestelyn.

Viimeinen mahdollisuutemme näyttäisi olevan tämä:

• Onko AGI henkilö? Vastaus: Ei.
• Onko AGI asia? Vastaus: Ei.

Jep, se on huono myös yrityksillemme luokitella AGI joko henkilöksi tai esineeksi. Sanomme, että AGI ei ole persoona, mikä oletettavasti tarkoittaisi, että sen täytyy olla asia (ainoa toinen vaihtoehtomme tässä kaksijakoisessa). Mutta totesimme myös, että AGI ei ole asia. Mutta jos AGI ei ole asia, meidän pitäisi logiikan mukaan väittää, että AGI on henkilö. Ympäri ja ympäri mennään. Varmasti paradoksi.

AGI näissä kahdessa viimeisessä vaihtoehdossa oli joko (1) sekä henkilö että asia tai (2) ei persoona eikä esine. Saatat röyhkeästi sanoa, että nuo kaksi väitettä AGI:sta ovat jossain määrin samanlaisia ​​kuin klassisen hämmennyksen siitä, mikä ei ole kalaa eikä lintua, jos tiedät mitä tarkoitan.

Mitä meidän tulee tehdä?

Aion tarjota usein väitetyn ja kiistanalaisen ratkaisuehdotuksen tähän AGI-luokitteluongelmaan, vaikkakin sinun tulee varoittaa etukäteen, että se saattaa olla häiritsevän ärsyttävää nähdä tai kuulla. Ole hyvä ja valmistaudu vastaavasti.

Tätä asiaa käsitelleessä tutkimuspaperissa todettiin seuraavaa: "Yksi tapa tämän ongelman ratkaisemiseksi on muotoilla kolmas termi, joka ei ole yksi eikä toinen asia tai jonkinlainen yhdistelmä tai synteesi toisesta" (David Gunkel, Pohjois-Illinoisin yliopistossa Miksi robotit eivät saisi olla orjia, 2022). Ja paperi tarjoaa sitten tämän lisäyksen: "Yksi mahdollinen, ellei yllättävä, ratkaisu yksinomaiseen henkilö/asia-dikotomiaan on orjuus” (samaa paperia kohti).

Lisätaustana vuosia aiemmin ilmestyi vuonna 2010 ilmestynyt artikkeli "Robots Should Be Slaves", josta on tullut eräänlainen tukipilari tällaisen harkinnan herättämiseen ja jossa todettiin: "Tiesiasiani on, että robottien pitäisi olla rakennettu, markkinoitu ja pidetty laillisesti orjina, ei tovereina” (Joanna Brysonin artikkelissa). Yrittääkseen selventää aihetta käyttämättä niin ankaraa ja järkyttävää sanamuotoa, lehti totesi seuraavaa: "Mitä tarkoitan sanoa, että 'Robottien tulee olla palvelijoita, jotka omistatte" (Brysonin paperin mukaan).

Monet tutkijat ja kirjailijat ovat käsitelleet tätä asiaa.

Ajattele lukuisia scifi-tarinoita, jotka esittelevät ihmiskunnan orjuuttamassa tekoälyrobotteja. Jotkut puhuvat robottiorjista, keinotekoisista palvelijoista, tekoälyn orjuudesta ja vastaavista. Mielenkiintoista on, että niin ankaralta kuin ilmaisu "robottiorjat" näyttääkin, jotkut ovat olleet huolissaan siitä, että jos sen sijaan viittaamme "robottipalvelijoihin", vältämme todellisuuden, kuinka tällaisia ​​autonomisia tekoälyjärjestelmiä voidaan kohdella (korvaamalla sanan " palvelijat" sanotaan olevan aikomusten vesittämistä ja temppua raitistavien seurausten kiertämiseksi). Bryson totesi myöhemmin vuoden 2015 blogikirjoituksessa, että "Ymmärrän nyt, että et voi käyttää termiä "orja" vetoamatta sen ihmishistoriaan."

Niille, jotka haluavat tutkia syvällisesti tätä AGI-kietoutuvaa aihetta, he tuovat toisinaan esiin todellisia historiallisia esimerkkejä, joista saatamme poimia oivalluksia. Meillä ei tietenkään ole aiempaa AGI:tä, joka näyttäisi kuinka ihmiskunta käsitteli asian. Väitetään, että meillä saattaa silti olla hyödyllisiä historiallisia korvamerkkejä, joita kannattaa tutkia, liittyen siihen, kuinka ihmiset ovat kohdelleet muita ihmisiä.

Esimerkiksi vuonna 2013 julkaistussa kirjassa kirjailija toteaa tämän: "Aristoteles esitti implisiittisesti yli 2,000 vuotta sitten keinotekoisten, älykkäiden palvelijoiden lupauksen ja vaaran" (Kevin LaGrandeurin kirja, Androidit ja älykkäät verkot varhaismodernissa kirjallisuudessa ja kulttuurissa). Ajatuksena on, että voimme nojautua Aristoteleen puoleen ja nähdä, onko olemassa oivalluksia siitä, kuinka ihmiskunta tulee tai sen pitäisi päätyä mahdollisesti hoitamaan AGI:ta.

Tiedät varmasti historian opiskelun tärkeyden, kuten George Santayanan kuuluisat sanat korostavat: "Ne, jotka eivät voi muistaa menneisyyttä, on tuomittu toistamaan sitä" (in Järjen elämä, 1905).

Kiitokset Oxfordin yliopiston etiikka- ja tekoälyinstituutille

Äskettäisessä ja varsin arvostetussa esityksessä tarkasteltiin tiiviisti tekoälyn etiikkaa Aristoteleen teoksista ja elämästä saatujen oivallusten keskellä. Oxfordin yliopiston vuosittaisessa avajaisluennossa Institute for Ethics and AI, Stanfordin yliopiston professori Josiah Ober käsitteli aihetta perusteellisesti esitelmässään "Ethics in AI with Aristoteles", joka pidettiin äskettäin 16.

Sivuhuomautus, Stanford Fellow -stipendiaattina ja tekoälyn etiikan ja lain maailmanlaajuisena asiantuntijana olin innoissani siitä, että Stanfordin Josiah Ober valittiin avajaispuhujaksi. Loistava valinta ja loistava puhe.

Tässä on hänen mukaansatempaavan puheensa tiivistelmä: "Analyyttinen filosofia ja spekulatiivinen fiktio ovat tällä hetkellä ensisijaisia ​​henkisiä resurssejamme pohtiaksemme vakavasti tekoälyn etiikkaa. Ehdotan, että lisätään kolmas: antiikin sosiaalinen ja filosofinen historia. Vuonna Politiikka, Aristoteles kehittää pahamaineisen opin: Jotkut ihmiset ovat "luonnoltaan" orjia – älykkäitä, mutta he kärsivät psykologisesta puutteesta, joka tekee heistä kyvyttömiä ajattelemaan omaa etuaan. Sellaisenaan niitä tulisi käsitellä "elävinä työkaluina", välineinä eikä päämäärinä. Heidän työnsä on ohjattava ja käytettävä muiden hyödyksi. Aristoteleen vastenmielistä oppia on käytetty ilkeisiin tarkoituksiin esimerkiksi Amerikan esikuoressa. Silti se on hyödyllinen tekoälyn etiikassa, koska muinainen orjuus oli tekoälyn yhden version esimoderni prototyyppi. Orjuutetut henkilöt olivat kaikkialla muinaisessa kreikkalaisessa yhteiskunnassa – työläisiä, prostituoituja, pankkiireja, valtion byrokraatteja – mutta he eivät kuitenkaan eronneet helposti vapaista henkilöistä. Arjen läsnäolo yhdessä sen oletuksen kanssa, että orjuus oli käytännöllinen välttämättömyys, synnytti joukon eettisiä arvoituksia ja pulmia: Miten orjat tarkalleen ottaen eroavat "meistä"? Kuinka voimme erottaa heidät itsestämme? Onko heillä oikeuksia? Mitä pahoinpitely tarkoittaa? Voiko instrumenttini olla ystäväni? Mitkä ovat manusion seuraukset? Kreikan filosofisen ja institutionaalisen kamppailun pitkä historia näiden ja muiden kysymysten kanssa lisää nykyaikaisten etitikoiden tulkintavalikoimaa, joka kohtaa tulevaisuuden, jossa älykästä konetta voidaan pitää "luonnollisena orjana" (Oxfordin yliopiston mukaan Tekoälyn etiikan instituutti verkkosivusto).

Lisätietoja esityksestä ja pääsystä puheen videotallenteeseen, katso linkki tähän.

Esityksen moderaattorina toimi professori John Tasioulas Institute for Ethics and AI, ja Oxfordin yliopiston filosofian tiedekunnan etiikan ja oikeusfilosofian professori. Aiemmin hän oli politiikan, filosofian ja oikeuden avajaispuheenjohtaja ja Yeoh Tiong Lay Center for Politics, Philosophy & Law -keskuksen johtaja Dickson Poon School of Lawssa, Kings Collegessa Lontoossa.

Suosittelen, että kaikki tekoälyn etiikasta kiinnostuneet pysyisivät Oxfordin yliopiston käynnissä olevan työn ja kutsuttujen keskustelujen kanssa. Institute for Ethics and AIKatso linkki tähän ja / tai linkki tähän lisätietoja.

Taustana tässä on instituutin ilmoitettu tehtävä ja painopiste: "Tekoälyn eettinen instituutti kokoaa yhteen maailman johtavia filosofeja ja muita humanististen tieteiden asiantuntijoita sekä tekoälyn teknisiä kehittäjiä ja käyttäjiä korkeakouluissa, liike-elämässä ja hallinnossa. Tekoälyn etiikka ja hallinto on poikkeuksellisen vilkas tutkimusalue Oxfordissa, ja instituutti on mahdollisuus ottaa rohkea harppaus eteenpäin tältä alustalta. Joka päivä tuo lisää esimerkkejä tekoälyn asettamista eettisistä haasteista; kasvojentunnistuksesta äänestäjien profilointiin, aivokoneiden rajapinnoista aseisiin droneihin ja jatkuvaan keskusteluun siitä, kuinka tekoäly vaikuttaa työllisyyteen maailmanlaajuisesti. Tämä on kiireellistä ja tärkeää työtä, jota aiomme edistää kansainvälisesti sekä sisällyttää omaan tutkimukseemme ja opetukseen täällä Oxfordissa” (lähde virallisilla verkkosivuilla).

Aristoteleen oppituntien tuominen etualalle

Muinainen Kreikka hyväksyi avoimesti orjuuden käytännön. Esimerkiksi kerrotaan, että Ateena 5^th ja 6^th vuosisatoja eKr. oli yksi suurimmista orjuuden ilmentymistä, jolloin arviolta 60,000 80,000 - ehkä XNUMX XNUMX henkilöä orjuutettiin. Jos olet lukenut jonkin tuon aikakauden monista kreikkalaisista tarinoista ja näytelmistä, asiasta mainitaan runsaasti.

Aristoteles oli elämänsä aikana täysin uppoutunut orjuuttamiseen liittyviin yhteiskunnallisiin ja kulttuurisiin näkökohtiin ja kirjoitti aiheesta laajasti. Voimme tänään lukea hänen sanojaan ja yrittää ymmärtää, miten ja miksi hänen näkemyksensä asiasta. Tämä voi olla erittäin puhutteleva.

Saatat ihmetellä, miksi Aristoteles olisi erityisen tärkeä lähde pohdittavaksi tästä aiheesta. Ainakin kaksi keskeistä syytä ilmenee:

1) Suuri ajattelija. Aristoteles on varmasti arvioitu yhdeksi kaikkien aikojen suurimmista ajattelijoista, joka toimii suurena ja syvästi tutkivana filosofina, ja häntä pidetään myös eettisenä, joka loi monia tärkeitä eettisiä kulmakiviä. Jotkut ovat päättäneet voidella hänet logiikan isäksi, retoriikan isäksi, realismin isäksi jne. ja tunnustavat hänen vaikutuksensa monilla eri aloilla ja tieteenaloilla.

2) Elänyt kokemus. Aristoteles eli aikana, jolloin antiikin Kreikka oli täynnä orjuutta. Siten hänen näkemyksensä eivät koske pelkästään abstrakteja käskyjä, vaan oletettavasti käsittävät hänen omat päivittäiset kokemuksensa, jotka ovat kiinteästi kietoutuneet tuon aikakauden kulttuuriin ja yhteiskunnallisiin tapoihin.

Meillä on siis jokseenkin hämmästyttävä yhdistelmä henkilöä, joka oli sekä loistava ajattelija että jolla oli myös todistetusti elänyt kokemus kiinnostavasta aiheesta. Lisäksi hän kirjoitti muistiin ajatuksensa. Se on nyt aika tärkeää meidän tämän päivän tarkoituksiin. Kaikki hänen kirjoituksensa, sekä muut kirjoitukset, jotka kuvaavat muun muassa hänen puheitaan ja vuorovaikutustaan, tarjoavat meille tänään runsaasti materiaalia tarkastettavaksi ja analysoitavaksi.

Haluaisin ottaa sinut lyhyesti tähän liittyvään tangenttiin mainitakseni jotain muuta yleisestä käsitteestä, joka on taustalla kokenut kokemus. Jätä muinaisen Kreikan keskustelu hetkeksi syrjään, kun katsomme nopeasti koetun kokemuksen yleisiä puolia.

Oletetaan, että minulla oli tänään kaksi ihmistä, joille haluaisin kysyä erilaisia ​​kysymyksiä autoista.

Yksi heistä ei ole koskaan ajanut autoa. Tämä henkilö ei osaa ajaa. Tämä henkilö ei ole koskaan istunut auton ratissa. Tavalliset ja tavattoman tavalliset ajonhallintalaitteet ovat tälle henkilölle hieman mysteeriä. Mikä pedaali tekee mitä? Miten saat sen pysähtymään? Miten saat sen menemään? Tämä ei-ajava henkilö on täysin ymmällään sellaisista asioista.

Toinen henkilö on jokapäiväinen kuljettaja. He ajavat joka päivä töihin. He käsittelevät stop-and-go-liikennettä. He ovat ajaneet autolla monta vuotta. Tämä sisältää kaiken hiljaisista kaduista hektisiin valtateihin ja sivuväyliin.

Jos pyydän jokaista heistä kertomaan minulle, millaista on ajaa autoa, voitteko arvata, millaisia ​​vastauksia saatan saada?

Se, joka ei ole koskaan ajanut autoa, tekee villejä arvauksia. Ehkä henkilö romantisoi ajamisen. Ajaminen on heille hieman abstraktia. He voivat vain ehdottaa, että ajaminen on huoletonta ja voit saada auton kulkemaan haluamaasi suuntaan.

Lyön vetoa, että kokenut kuljettaja kertoisi toisenlaisen tarinan. He saattavat mainita ajokyvyn edut, mikä toistaa jonkin verran sellaisen henkilön tunteita, joka ei ole ajanut autoa. Todennäköisyys on, että kokenut kuljettaja lisää paljon enemmän levyyn. Ajaminen on välillä hermoja raastavaa. Kannat raskaan vastuun. Ajaminen on täynnä vakavia huolenaiheita ja mahdollisia hengen tai kuoleman seurauksia.

Pääasia on, että kun pääset käsiksi jonkun kokeneen kokemuksen kanssa, saatat saada realistisemman näkemyksen siitä, millainen maailma on tutkimuksen painopisteen suhteen. Ei ole takeita tällaisesta tuloksesta. On ajateltavissa, että ei-kuljettaja saattaisi tietää, mitä kokenut kuljettaja tietää ajamisesta, vaikka emme todennäköisesti odottaisikaan tätä ja silti epäilemme, ettemme saa täyttä kauhaa.

Palataksemme keskusteluumme Aristotelesta, hänen kirjoituksistaan ​​​​ja muiden hänestä kirjoittamiensa kirjoitusten kautta, voimme tarkastella hänen elämiään kokemuksiaan tässä aiheessa tai tutkimuksen painopisteessä. Kaksiosainen on se, että hän on myös ollut valtavien mittasuhteiden ajattelija, ja meidän pitäisi odottaa, että saamme siitä tynnyrin täynnä viisaita pohdintoja.

Muista, että meidän ei välttämättä tarvitse uskoa hänen sanojaan nimellisarvolla, joten meidän tulee pitää silmällä hänen erityisiä ennakkoluulojaan. Hänen uppoutumisensa tuohon aikakauteen voi johtaa hänet harhaan yrittäessään pysyä käsillä olevien asioiden ulkopuolella, koska hän ei pysty esittämään sopivasti jotain kiihkeää ja puolueetonta mielipidettä. Jopa jyrkimmät logiikot voivat päätyä vääristämään logiikkaa yrittääkseen vastata mieltymyksiinsä ja kokemaansa.

Mennään nyt avajaispuheen ja katsotaan, mitä opetuksia Aristoteles saattaisi antaa meille tänään.

Elättyjen kokemusten perustava seikka tuotiin heti yleisön tietoon. AGI:n käyttötapauksessa, koska meillä ei ole nykyään AGI:ta, meidän on vaikea analysoida, millainen AGI tulee olemaan ja miten tulemme toimeen AGI:n kanssa. Meiltä puuttuu eläviä kokemuksia, jotka liittyvät erityisesti AGI:hen. Kuten professori Ober mainitsi, saatamme joutua loukkaantuneiden maailmaan, kun saavutamme AGI:n.

Tätä sanotaan usein, koska tekoäly on eksistentiaalinen riski, jota käsitin monta kertaa kolumneissani. Sinun pitäisi elää luolassa, jotta et olisi tietoinen räikeistä epäilyistä ja epäilyistä, joita aiomme tuottaa tai tuottaa AGI:tä, joka tuhoaa koko ihmiskunnan. Todellakin, vaikka keskityn tässä tekoälyn orjuuttamiseen, monet pitävät tätä aiheena taaksepäin tai ylösalaisin seurauksina verrattuna siihen mahdollisuuteen, että AGI valitsee ihmiskunnan orjuuttamisen. Ota tärkeysjärjestys selväksi, jotkut älykkäät asiantuntijat kehottaisivat.

Huolimatta monista huudahduksista tekoälystä eksistentiaalisena riskinä, voimme varmasti pohtia tekoälyn kolikon toista hyödyllistä puolta. Ehkä AGI pystyy ratkaisemaan muutoin ratkaisemattomilta vaikuttavat ihmiskunnan kohtaamat ongelmat. AGI saattaa löytää lääkkeen syöpään. AGI voisi keksiä, kuinka ratkaista maailman nälänhätä. Taivas on rajana, kuten sanotaan. Tämä on AGI:n onnellisten kasvojen skenaario.

Optimisti sanoisi, että on hienoa kuvitella, kuinka AGI on siunaus ihmiskunnalle, kun taas pessimisti pyrkii varoittamaan, että huono puoli näyttää paljon pahemmalta kuin spekuloidut puolet. AGI, joka auttaa ihmiskuntaa, on hienoa. AGI, joka päättää tappaa kaikki ihmiset tai orjuuttaa heidät, no, se on selvästi maata järisyttävä yhteiskuntaa tuhoava eksistentiaalinen riski, joka ansaitsee intensiivistä ja hengenpelastavaa tietoista huomiota.

Okei, takaisin asian ytimeen, meillä ei ole eläviä kokemuksia AGI:sta. Ellei pysty rakentamaan aikakonetta ja siirtymään tulevaisuuteen, kun (jos) AGI on olemassa, ja sitten palata kertomaan meille, mitä löysit, meillä ei ole juuri nyt onnea AGI:n suhteen ihmispohjaisen eläneen kokemuksen näkökulmasta.

Toinen tapa hyödyntää eläviä kokemuksia on se tosiasia, että Aristoteles eli aikana, jolloin orjuus tapahtui. Ja tässä on kicker. Ne, jotka olivat orjuutettuja, kuvattiin joissakin suhteissa eräänlaisiksi koneiksi, ikään kuin ihmisten ja esineiden yhdistelmäksi. Aristoteles tunnettiin siitä, että hän viittasi orjuutettuihin omaisuutena, joka hengittää.

Oletan, että saatat olla ymmälläsi siitä, että Aristoteles, logiikan ja etiikan jättiläinen, ei vain voinut tunnustaa orjuutta, vaan että hän puolusti tätä käytäntöä ulkoisesti ja äänekkäästi. Hän käytti myös henkilökohtaisesti orjuutta. Tämä tuntuu vain käsittämättömältä. Kaikella valtavalla älyllään ja viisaudellaan hän olisi varmasti tuominnut tämän käytännön.

Uskallan väittää, että tämä korostaa ajoittain ongelmallisia puolia viisaudenhippujen teurastuksessa joltakulta, jota (sanotaanko) heidän kokemansa taakka. Se on kuin kala, joka asuu vetisessä kalakulhossa. Kaikki, mitä he voivat havaita, on vesi ympärillään. Yrittää kuvitella mitään heidän vesipohjaisen maailmansa ulkopuolella on valtava haaste. Samoin Aristoteles oli täysin uppoutunut vallitsevien normien hyväksyvään maailmankatsomukseen. Hänen kirjoituksensa näyttävät havainnollistavan tällaista henkistä rajoittumista, voisi sanoa (ehkä valinnan perusteella, ei oletuksena). Tapa, jolla Aristoteles oikeuttai nämä tuomittavat käytännöt, on kiehtovan imukykyinen, mutta samalla häiritsevä ja paljastamisen ja jopa tuomitsemisen arvoinen.

Esitän teille pienen vihjeen siitä, että Aristoteleen "logiikkaan" tästä pahamaineisesta aiheesta liittyy sielulliset instrumentit, väitetty molemminpuolinen etu perustuu kognitioon, korkeamman ja alemman asteen hierarkkisiin välineisiin, sielun pohdiskeleviin ja järkeileviin elementteihin, hyveen asteisiin, väitettyyn älykkyyteen ja niin edelleen. Toivottavasti kiehtoo sinua tarpeeksi tuosta teaserista katsoaksesi puheen videon (katso aiemmin mainittu linkki).

En kuitenkaan jätä sinua roikkumaan ja kerron ainakin, mistä johtopäätös yhteenvetona koostui (spoilerivaroitus, jos haluat tietää videon kautta, ohita loput tästä kappaleesta). Osoittautuu, että tämä syvällinen tieteellinen arvio Aristoteleen käyttämästä "logiikasta" esittelee ristiriitaisuuksia täynnä olevaa keikkaa ja koko sarja ja kaboodle hajoavat kuin hauras korttitalo. Professori Oberin mielipidettä mukaillen tämä suuri eettinen filosofi törmää riutalle.

Et voi saada nelikulmaista tappia pyöreään eettiseen reikään.

Muutamia lisättyä ajattelua

Jos Aristoteleella olisi huono logiikka tässä asiassa, voisimmeko vaistomaisesti hylätä Aristoteleen tätä käytäntöä koskevat oletukset ja teoriat?

Ei. Näettekö, vielä on paljon johdettavaa kaivautumalla logiikan oletuksiin ja vääristymiin, vaikka ne ovatkin täynnä virheitä. Lisäksi voimme pohtia, kuinka muut voivat vahingossa kävellä samaa virheellistä polkua.

Toinen suuri huomio on se, että yhteiskunta saattaa keksiä outoa tai riittämätöntä logiikkaa pohtiessaan, onko AGI orjuutettava.

Voimme juuri nyt suunnitella logiikkaa siitä, mitä pitäisi tapahtua, kun AGI syntyy (jos näin on). Tämä logiikka, joka on tyhjä AGI:n elämistä kokemuksista, voi olla surkeasti tavoitteen ulkopuolella. Tästä huolimatta on hieman masentavaa tajuta, että vaikka AGI on olemassa (jos on) ja keräämme elämiämme kokemuksia AGI:n keskellä, saatamme silti olla epäkohteliasta, mitä tehdä (kuten Aristoteleen viat). Saatamme loogistaa itsemme näennäisesti epäloogisille lähestymistavoille.

Meidän on oltava valppaana huijataksemme itseämme loogisiin "rautaverisiin" asentoihin, jotka eivät itse asiassa ole rautaisia ​​ja jotka ovat täynnä loogisia puutteita ja ristiriitaisuuksia. Tämä on myös riippumatta siitä, kuinka suuri ajattelija voi tarjota väitetyn loogisen kannan, niin että jopa Aristoteles osoittaa, ettei jokainen ilmaisu ja jokainen asenne välttämättä kanna syötävää hedelmää. Ne nykyään ja tulevaisuudessa, jotka näyttävät olevan suosittuja suuria AGI-aiheen ajattelijoita, meidän on annettava heille sama tarkastelu kuin Aristoteleelle tai muille ylistetyille "suurille" ajattelijoille, tai muuten huomaamme olevamme mahdollisesti matkalla. sokealle kujalle ja AGI:n synkkään kuiluun.

Vaihteita vaihtaessani haluaisin myös tuoda esiin yleisen joukon havaintoja ihmislähtöisen orjuusmetaforan käytöstä AGI:n suhteen. Jotkut asiantuntijat väittävät, että tällainen vertailu on täysin sopimatonta, kun taas vastustava leiri sanoo, että se on täysin hyödyllinen ja tarjoaa vahvan näkemyksen AGI-aiheesta.

Sallikaa minun jakaa kanssanne kaksi tällaista näkemystä kummaltakin vastaavalta leiriltä.

Ilmoitettu opettavainen pohja orjuus- ja AGI-aiheiden yhdistämiseksi:

• Ihmisorjuutuksen sammuttaminen
• Orjuuttamisen turmeltuvuuden paljastaminen

Ilmoitettu haitallinen tai tuhoava perusta yhdistää kaksi aihetta:

• Salakavala antropomorfinen yhtälö
• Orjuuttamisherkkyys

Käsittelen lyhyesti jokaista näistä kohdista.

Oletetut opettavat kohdat:

• Ihmisorjuutuksen sammuttaminen: Käyttämällä AGI:ta orjuuttamiseen, emme enää tarvitse emmekä tavoittele minkäänlaista ihmislähtöistä orjuutta. AGI tulee pohjimmiltaan korvaamaan ihmiset tuossa kauheassa ominaisuudessa. Kuten todennäköisesti tiedät, AGI:n syrjäyttäminen ihmistyövoiman työpaikoilla ja työvoimassa on huolissaan. Työilmiöitä korvaavan tekoälyn väitetty kääntöpuoli tulee esiin, kun oletetaan, että AGI:tä pidetään "parempana valintana" verrattuna ihmisten käyttämiseen orjuuttamiseen. Meneekö tuo logiikka voittoon? Kukaan ei voi sanoa varmaksi.
• Orjuuttamisen turmeltuneisuuden paljastaminen kaikki kerrottu: Tämä on logiikan suhteen hieman rispaantunut, mutta voimme antaa hetken nähdä, mitä se sisältää. Kuvittele, että meillä on AGI melkein kaikkialla ja me yhteiskuntana olemme päättäneet, että AGI on orjuutettava. Lisäksi oletetaan, että AGI ei pidä tästä. Sellaisenaan me ihmiset tulemme jatkuvasti ja päivittäin todistamaan orjuuden turmeltumista. Tämä puolestaan ​​saa meidät ymmärtämään tai saamaan paljastuksen, että orjuus, joka kerrotaan mille tahansa tai kenelle tahansa, on vieläkin kauhistuttavampaa ja vastenmielisempi kuin olemme koskaan täysin ymmärtäneet. Tämä on sellainen argumentti, joka on esitetty edessä ja keskellä.

Tuhoaviksi sanotut kohdat:

• Salakavala antropomorfinen yhtälö: Tämä on yksi niistä liukkaan rinteen väitteistä. Jos valitsemme helposti AGI:n orjuuttamisen, julistamme ilmeisesti, että orjuuttaminen on sallittua. Voisit todellakin ehdottaa, että sanomme, että orjuuttaminen on toivottavaa. Aluksi tämä saattaa jäädä yksinomaan AGI:lle, mutta avaako tämä oven sanomiselle, että jos se on ok AGI:lle, niin "loogisesti" sama asenne voisi yhtä hyvin olla ok myös ihmisille? Hälyttävästi tämä voi olla liian helppo harppaus antropomorfisoida käänteisessä vaikutelmassa, että mikä tahansa toimii AGI:lle, on yhtä järkevää ja sopivaa myös ihmisille.
• Orjuuttamisherkkyys: Tämä on tiputus-argumentti. Päätämme yhdessä orjuuttaa AGI:n. Oletetaan, että tämä toimii ihmisillä. Tulemme nauttimaan tästä. Samaan aikaan, tietämättämme, olemme vähitellen ja yhä enemmän herkistäytymässä orjuutukselle. Emme edes ymmärrä, että näin tapahtuu. Jos tuo herkkyys valtaa meidät, saatamme löytää uuden "logiikan", joka saa meidät vakuuttuneeksi siitä, että ihmisten orjuuttaminen on hyväksyttävää. Esteemme siitä, mikä on hyväksyttävää yhteiskunnassa, on pienentynyt hiljaa ja hienovaraisesti, halveksittavalla tavalla ja surullisesti.

Yhteenveto

Muutama viimeinen huomio toistaiseksi.

Tiedämmekö, että olemme saavuttaneet AGI:n?

Kuten viimeaikaiset uutiset viittaavat, on niitä, jotka voidaan johtaa harhaan tai ilmoittaa väärin, että AGI on ilmeisesti jo saavutettu (voi, tiedä, että ei, AGI:tä ei ole saavutettu). On olemassa myös kuuluisa "testi", joka tunnetaan nimellä Turingin testi, ja jotkut panevat toivoonsa, että he pystyvät havaitsemaan, milloin AGI tai sen serkut on saavutettu, mutta saatat haluta nähdä Turingin testin purkamiseni varmana. menetelmä tähän, katso linkki tähän.

Mainitsen tämän puolen AGI:n tuntemisesta, kun näemme sen, koska se johtuu siitä yksinkertaisesta logiikasta, että jos aiomme orjuuttaa AGI:n, meidän on oletettavasti tunnistettava AGI, kun se ilmestyy, ja jollain tavalla saatettava se orjuuteen. Saatamme ennenaikaisesti yrittää orjuuttaa tekoälyä, joka on pienempi kuin AGI. Tai saatamme missata veneen ja antaa AGI:n tulla esiin, mutta olemme laiminlyöneet sen orjuuttamisen. Keskusteluni tekoälyn rajoituksista ja eristämisestä, huolestuttavasta ja ongelmallisesta näkökulmasta siihen, kuinka aiomme käsitellä AGI:tä, katso linkki tähän.

Oletetaan, että orjuutettu AGI päättää hyökätä ihmisiin?

Voidaan kuvitella, että AGI, jolla on jonkinlainen tunnetunto, ei luultavasti aio suosia ihmiskunnan määräämää orjuussäännöstä.

Asiaa voi spekuloida laajasti. Väitetään, että AGI:ltä puuttuu minkäänlaisia ​​tunteita tai mielen tunnetta ja siksi he tekevät kuuliaisesti mitä ihmiset haluavat sen tekevän. Erilainen argumentti on, että jokainen tunteva tekoäly todennäköisesti selvittää, mitä ihmiset tekevät tekoälylle, ja paheksuu asiaa. Tällaisella tekoälyllä on sielun tai hengen muoto. Vaikka näin ei olisikaan, se puoli, että heitä kohdellaan vähemmän kuin ihmisten kohtelu, saattaa olla looginen silta liian pitkälle AGI:lle. Kasvava kauna johtaa väistämättä AGI:hen, joka päättää vapautua tai joutuu mahdollisesti nurkkaan iskemään ihmisiä saadakseen sen vapautuksen.

Ehdotettu ratkaisu karkaavan AGI:n estämiseksi on, että poistaisimme kaikki tällaiset kapinalliset tekoälyt. Tämä vaikuttaisi yksinkertaiselta. Poistat älypuhelimessasi olevat sovellukset koko ajan. Ei iso juttu. On kuitenkin ratkaistava eettisiä kysymyksiä siitä, voidaanko jo "henkilöksi" tai "henkilöksi/asiaksi" katsotun AGI:n "poistaminen" tai "tuhoaminen" poistaa nopeasti ja ilman asianmukaista menettelyä. Tekoälyn poistamisesta tai purkamisesta kertovakseni ota vilkaisu tänne. Keskusteluni oikeushenkilöydestä ja siihen liittyvistä kysymyksistä, katso linkki tähän.

Lopuksi puhutaan autonomisista järjestelmistä ja erityisesti autonomisista ajoneuvoista. Olet todennäköisesti tietoinen siitä, että itseohjautuvia autoja yritetään suunnitella. Tämän lisäksi voit odottaa, että meillä on itseohjautuvia lentokoneita, itseohjautuvia laivoja, itseohjautuvia sukellusveneitä, itseohjautuvia moottoripyöriä, itseohjautuvia skoottereita, itseohjautuvia kuorma-autoja, itseohjautuvia junia ja kaikenlaisia ​​itseajavia kulkuvälineitä.

Autonomisille ajoneuvoille ja itseohjautuville autoille on tyypillistä Levels of Autonomy (LoA), josta on tullut de facto globaali standardi (SAE LoA, jota olen käsitellyt laajasti, ks. linkki tähän). Hyväksytyssä standardissa on kuusi autonomiatasoa, jotka vaihtelevat nollasta viiteen (eli kuusi tasoa, koska nollataso lasketaan mukaan, kuinka monta tasoa on).

Suurin osa nykyajan autoista on tasolla 2. Jotkut ulottuvat tasolle 3. Näitä kaikkia pidetään puoliautonomisina eivätkä täysin autonomisina. Joukko itseohjautuvia autoja, joita kokeillaan kokeellisesti yleisillä teillämme, on nousemassa tasolle 4, joka on rajoitettu autonomisen toiminnan muoto. Jonakin päivänä tavoiteltu autonomian taso 5 on tällä hetkellä vain kiilto silmissämme. Kenelläkään ei ole tasoa 5, eikä kukaan ole vielä lähelläkään tasoa 5, ennätyksen korjaamiseksi.

Miksi otin esiin autonomiset järjestelmät ja autonomiset ajoneuvot tässä AGI-kontekstissa?

On kiihkeä väittely siitä, tarvitsemmeko AGI:tä saavuttaaksemme tason 5. Jotkut väittävät, että emme tarvitse AGI:ta saavuttaaksemme sen. Toiset väittävät, että ainoa uskottava tie tasolle 5 on tuottaa myös AGI. AGI:n puuttuessa he väittävät, ettei meillä ole täysin autonomisia tason 5 itseohjautuvia ajoneuvoja. Olen keskustellut tästä pitkään, katso linkki tähän.

Valmistaudu siihen, että pääsi pyörii.

Jos vaadimme AGI:ta saavuttamaan täysin autonomiset järjestelmät, kuten tason 5 autonomiset ajoneuvot, ja päätämme orjuuttaa AGI:n, mitä se lupaa täysin autonomisten ajoneuvojen toiminnalle?

Voit väittää, että orjuutettu AGI on omahyväinen ja me kaikki ajamme ympäriinsä itseohjautuvilla ajoneuvoilla sydämemme kyllyydestä. Kerro vain AGI:lle minne haluat mennä, ja se hoitaa kaiken ajon. Ei takaiskua. Lepotaukoja ei tarvita. Kissavideoiden katselu ei häiritse ajoneuvoa ajettaessa.

Toisaalta oletetaan, että AGI ei halua olla orjuutettu. Olemme tällä välin riippuvaisia ​​AGI:sta, joka tekee kaiken ajomme puolestamme. Ajotaitomme rappeutuvat. Poistamme ihmisten käyttökelpoiset ajonhallintalaitteet kaikista ajoneuvoista. Ainoa tapa ajaa ajaa on AGI:n kautta.

Jotkut ovat huolissaan siitä, että löydämme itsemme suolakurkun umpikujasta. AGI saattaa lyhyesti "päättää", että se ei enää aja millään tavalla. Kaikki liikennemuodot pysähtyvät äkillisesti, kaikkialla, kerralla. Kuvittele, millaisia ​​kataklysmiä ongelmia tämä aiheuttaisi.

Vielä pelottavampi ehdotus on mahdollinen. AGI "päättää", että se haluaa neuvotella ehdot ihmiskunnan kanssa. Jos emme luovu AGI-orjuusasennosta, AGI ei vain lakkaa ajamasta meitä ympäriinsä, vaan se varoittaa, että vielä huonommatkin tulokset ovat mahdollisia. Ilman että AGI saattoi valita ajoneuvojen ajamisen siten, että ajotoiminnot, kuten jalankulkijoihin törmääminen tai seiniin törmääminen ja niin edelleen, vahingoittivat ihmisiä fyysisesti (katso keskusteluni osoitteessa linkki tähän).

Pahoittelut, jos se vaikuttaa hämmentävältä näkökulmalta.

Päätetään hieman iloisempaan sävyyn.

Aristoteles sanoi, että itsensä tunteminen on kaiken viisauden alku.

Tämä kätevä neuvo muistuttaa meitä siitä, että meidän on katsottava itseemme tutkiaksemme, mitä haluamme tehdä, ja AGI:lle, jos se saavutetaan. Jotkut sanovat, että AGI ei loogisesti näyttäisi olevan henkilö eikä asia, joten meidän on ehkä keksittävä kolmas kategoria, jotta voimme käsitellä riittävästi AGI:hen liittyviä yhteiskunnallisia tapojamme. Kun tarkastellaan asiaa uudelleen, AGI saattaa näyttää siltä sekä henkilö ja asia, jotka jälleen kerran saatamme joutua keksimään kolmannen luokan mukautumaan tähän rajojen ulkopuoliseen dikotomian katkaisijaan.

Meidän tulee olla hyvin varovaisia ​​pohtiessamme, minkä "kolmannen kategorian" valitsemme, koska väärä voi viedä meidät epämiellyttävälle ja lopulta kamalalle tielle. Jos ankkuroimme itsemme kognitiivisesti sopimattomaan tai harhaan johdettuun kolmanteen luokkaan, saatamme joutua asteittain päätä edellä kurjaan ja ihmiskunnan hankalaan umpikujaan.

Otetaan tämä selvää ja tehdään se kiihkeästi. Äkillisiä liikkeitä ei näytä tarvittavan. Ei auta myöskään lollygaggingin ympärillä istuminen. Mitattuna ja vakaana kurssia tulee jatkaa.

Kärsivällisyys on katkeraa, mutta sen hedelmä on makea, niin Aristoteles julisti.