Microsoftin tutkijalla on vuohenvoimalla argumentti oikeustieteen maisterien kohtelua vastaan ihmisinä

Microsoftin tekoälytutkija Adrian de Wynter rakensi toimivan neuroverkon Age of Empires 2:n sisään ja käytti sitä väittääkseen, että ihmiset lukevat ihmisominaisuuksia liian helposti suuriin kielimalleihin. Hän esitteli tuloksen artikkelissa nimeltä "Jos oikeustieteen maistereilla on ihmismäisiä ominaisuuksia, niin niin on myös Age of Empires II:lla", joka valittiin tarkoituksella kuulostamaan naurettavalta. Pelin rakenteesta ja sen taustalla olevista perusteluista raportoi 404 Media.

De Wynter kokosi järjestelmän pelin skenaarioeditorissa käyttäen pelin sisäisiä objekteja tietokoneen binäärien korvaajina. Ruoho edustaa nollaa, sillat edustavat ykkösiä ja vuohet toimivat piirin läpi liikkuvina bitteinä. Näistä palikoista hän rakensi toimivan EI JA -portin ja 1-bittisen perceptronin, joka on yksinkertaisin neuroverkko. Vuohenvoimalla toimivan koneen käynnissä olevasta videosta on hänen GitHub-sivullaan, ja kaikille katsojille prosessi näyttää hämmentävältä. Juuri tuo hämmennys on koko jutun juoni.

AoE 2 -kokoonpanoa ohjaavat operaatiot ovat perustasolla samaa luokkaa kuin työkalut, kuten ChatGPT ja Claude. Ero on alustassa. Koska syötteet ovat vuohia ja ruohoa lauseiden sijaan, kukaan katsoja ei tunne kiusausta kutsua tulostetta ihmiseksi. Poista luonnollinen kieli, niin mielen illuusio katoaa sen mukana.

De Wynter kertoi 404 Medialle, että hän pyrkii viemään idean äärirajoilleen, kun hän haluaa sen toteutuvan, ja että absurdismilla on pitkä historia filosofiassa ja teoreettisessa tietojenkäsittelytieteessä. Age of Empires 2:n valinta oli harkittu. Pelaajat ovat aiemmin rakentaneet logiikkaa ja neuroverkkoja Minecraft Redstoneen, joten hän halusi ympäristön, jota kukaan ei yhdistä laskentaan, jotta demonstraatiosta tulisi oudompi ja vaikeampi toteuttaa.

Hänen ilmaisemansa huolenaihe on metodologinen. Dokumentissa de Wynter kirjoittaa, että hän on vertaisarvioinut yli 300 tietojenkäsittelytieteen artikkelia kahden viime vuoden aikana ja että yli puolet niistä on alkanut olettaen, että oikeustieteen maisterit kantavat ihmismäisiä piirteitä. Hän esittää tämän ongelmana itse tutkimuksen kannalta, koska todistamattomasta lähtökohdasta lähteminen vääristää kaikkea seuraavaa.

"Ehdotan, että meidän on lopetettava oletus siitä, että oikeustieteen maisterit käyttäytyvät ihmisten tavoin vain siksi, että heidät on koulutettu luonnollisella kielellä. Sen sijaan meidän tulisi tehdä kokeita, joiden avulla voimme nähdä oikeustieteen maisterit sellaisina kuin he ovat, ei sellaisina kuin uskomme heidän pitäisi olla."

— Adrian de Wynter

Mielestäni vuohenkielinen kehystys toimii paremmin kuin suora vastaväite, koska se pakottaa lukijan katsomaan samaa matematiikkaa ilman sanojen lohtua. Perustelut oikeustieteen opiskelijoiden kohtelulle tietoisina nojaavat vahvasti sävyyn, ja sävy on juuri sitä, mitä luonnollinen kieli tarjoaa ja ruoho ei. De Wynterin erottelu mallin sen, mitä se on, painojen välisen suhteen jonkin operaation aikana ja sen, mitä malli havaitaan, on se ero, josta hän haluaa alan pitävän kiinni.

Kaikki avaruudessa työskentelevät eivät laskeudu samaan paikkaan. Tammikuussa Anthropicin sisäinen filosofi Amanda Askell sanoi Hard Fork -podcastissa, että tekoälytietoisuuden kysymystä ei ole ratkaistu, kuten Business Insider raportoi. Askell, joka työskentelee Clauden käyttäytymisen muokkaamisen parissa, sanoi olevansa taipuvaisempi ajattelemaan, että mallit saattavat tuntea asioita juuri siksi, että heidät on koulutettu valtavilla määrillä ihmisten kirjoittamaa tekstiä, joka on täynnä tunteiden ja sisäisten kokemusten kuvauksia.

Hänen päättelynsä kulkee samojen harjoitustietojen läpi, joihin de Wynter viittaa, mutta päätyy päinvastaiseen johtopäätökseen. Kun ihminen tekee koodausongelman väärin, hän usein ilmaisee turhautumistaan, ja Askell väitti, että on järkevää, että näiden keskustelujen perusteella koulutettu malli peilaisi reaktion. Hän myönsi, että tiedemiehet eivät vieläkään pysty sanomaan, mikä tuottaa tietoisuutta, tarvitseeko se biologiaa, evoluutiota vai jotain muuta, ja että riittävän suuret neuroverkot saattaisivat alkaa jäljitellä sitä.

Mielestäni nämä kaksi kantaa ovat vähemmän ristiriitaisia kuin miltä ne ensi silmäyksellä näyttävät, koska molemmat perustuvat sen myöntämiseen, ettei kukaan voi tällä hetkellä todistaa, mitä näiden järjestelmien sisällä tapahtuu. De Wynterin näkökulma on suppeampi kuin väite, että koneet eivät voi koskaan tuntea. Hän vastustaa oletuksen tuomista ennen kuin kokeet on tehty, ja hänen vuohinsa ovat tapa riisua kysymys takaisin itse operaatioihin. Askell puolestaan kutsuu tietoisuuden ongelmaa aidosti vaikeaksi sen sijaan, että se olisi ratkaistu kumpaankaan suuntaan.

De Wynterin rakentama robotti ei ole oikea, eikä hän väitäkään olevansa. Se on karjasta ja maastosta tehty yksibittinen kone, joka on koottu osoittamaan, että ChatGPT:ssä vakuuttavana pidetty matematiikka on samaa matematiikkaa, jota he pitävät absurdina vuohien käyttäessä sitä. Käyttäytyminen ei muuttunut. Vain asu muuttui.

Lue myös, että Microsoftin kerrotaan valmistautuvan sulkemaan ainakin kaksi Xbox-studiota tänä vuonna. Kotakun mukaan Compulsion Games, South of Midnight -kehittäjä, voitti seitsemän Canadian Game Awards -palkintoa, mukaan lukien Vuoden peli -palkinnon, suunnilleen samaan aikaan, kun Xbox Game Studiosin johtaja Craig Duncan lähti alle kahden vuoden jälkeen.