Altersin tekoälyskandaali: Mitä tapahtui ja miksi sillä on merkitystä tekoälyä käyttäville peleille?

Alters sai juuri kritiikin aallon. Pelaajat ovat löytäneet suoria todisteita siitä, että peli sisältää tekoälyn luomaa sisältöä, eikä mitään siitä ole julkistettu. Fanit eivät kutsu peliä vain laiskaksi, sillä se sisältää outoja tekstivirheitä ja tausta-aiheiden tekoälykehotteiden vuotoja. He kutsuvat sitä epärehelliseksi.

Pelaajien jakamassa kuvakaappauksessa näkyy taustapaneeli, joka alkaa sanoilla:

"Toki, tässä on tarkistettu versio, joka keskittyy puhtaasti tieteelliseen ja tähtitieteelliseen tietoon:".

Se ei ole maailmanrakentamista. Se on muokkaamaton kehotus suoraan suuresta kielimallista. Tällaista voi odottaa ChatGPT:n vastauksessa, ei immersiivisessä scifikerronnassa. Eikä se ole ainoa merkki.

Brasilian portugalin tekstitys näytti vielä enemmän punaisia lippuja. Yksi rivi, joka jäi kiinni kesken häiriön, kuului seuraavasti:

"Toki! Brasilian portugaliksi käännetty teksti on: Jokainen keskustelu, jonka kaksi ihmistä voi käydä, eikö niin? Joten me..."

Tuo on selvästi käännöskehotuksen jäänne. Eikä se ollut vain kertaluonteinen. Pelaajat raportoivat samanlaisista outouksista koko lokalisoinnin ajan, erityisesti muilla kuin englannin kielillä.

Vuoden 2024 alusta lähtien Steam on vaatinut kehittäjiä ilmoittamaan, jos jokin sisältö - taide, ääni, koodi, kirjoitus tai käännös - on tekoälyn tuottamaa. Tämä on osa Valven virallista Steam-jakelusopimusta. Silti The Alters ei kerro tekoälystä sanaakaan missään sen kauppasivulla.

Pelaajat huomasivat sen.

"Peli käyttää tekoälyn tuottamaa sisältöä ilman kunnollista Steam-sivun vastuuvapauslauseketta!" eräässä kommentissa Steamissa luki.

"Tämä on täysin tuomittavaa. 11 Bit Studios on jäänyt kiinni tekoälyn käytöstä The Altersissa ilman MITÄÄN vastuuvapauslauseketta Steam-sivulla."

Eivätkä he olleet yksin.

Toiset tyrmäsivät, sanomalla, ettei ole iso asia, jos taustapaneeleissa käytetään heittotekstiä. Eräs käyttäjä vertasi sitä Lorem Ipsumin kaltaiseen siansaksaan. Pelin jokaisen osan ei tarvitse olla syvällisesti kirjoitettu, jos se on vain lavastusta.

Tämä on kuitenkin syvemmällä kuin lavastaminen. Lokalisointiasiantuntija Lucile Danilov arvosteli erityisesti portugalinkielistä versiota. Hän piti alun perin pelistä. Sitten hän huomasi tekoälyn virheet.

"Oikeasti, jättää osia tekoälyn kehotuksesta lockitiin?! Se on kuin sylkäisisi kansainvälisen yleisön kasvoihin!"

Danilovin mukaan käännöksen teki joko huolimaton kääntäjä, joka käytti oikoteitä, tai - mikä todennäköisempää - joku, joka ei halunnut paneutua lopullisiin muokkauksiin, heitti sen LLM:ään viime hetkellä.

Eikä hän ole yksin tämän näkemyksen kanssa. Koreankielisen lokalisoinnin parissa työskennellyt Handong Ryu vahvisti sen. Hän vahvisti, että koreankielisessä versiossa oli samanlaisia merkkejä tekoälyn käytöstä ilman muokkausta tai valvontaa.

"Korealaisesta peliyhteisöstä on tullut huomattavaa vastareaktiota... kritiikki johtuu pelin osasta, johon minulla ei ollut mitään vaikutusvaltaa."

Toistaiseksi 11 Bit Studios ei ole vastannut julkisesti. Ei lausuntoa, ei korjausta, ei Steam-sivun päivitystä. Vain hiljaisuutta.

Tämä ei ole ensimmäinen peli, joka on sotkeutunut tekoälykeskusteluun. Aiemmin tällä viikolla Jurassic World Evolution 3 poisti tekoälyn luomat muotokuvat negatiivisen palautteen jälkeen. Kehittäjät miettivät yhä, miten integroida ChatGPT:n ja Stable Diffusionin kaltaisia työkaluja vahingoittamatta kokemusta tai pelaajien luottamusta.

Tätä linjaa kehittäjät nyt kulkevat. Tekoäly on tehokas työkalu. Se voi nopeuttaa työnkulkuja, tukea lokalisointia ja hoitaa massakirjoitustehtäviä. Mutta kun studiot alkavat käyttää sitä kertomatta siitä kenellekään, erityisesti The Altersin kaltaisissa kerronnallisesti painavissa peleissä, vastareaktio on väistämätön.

Pelaajat odottavat avoimuutta. Tekoäly saattaa olla tullut jäädäkseen, mutta sen piilottelu ei auta ketään. Jos peli käyttää sitä dialogin, muotoilun tai jopa taustamakujen luomiseen, siitä pitäisi kertoa. Muuten luottamus katkeaa - nopeasti.

Ja tämä luottamus on tärkeä asia aikana, jolloin yhä useammat kehittäjät lisäävät pikku hiljaa generatiivista tekoälyä putkiinsa. Kyse ei ole vain 11 Bitistä. Tekoäly koskettaa nyt kaikkea questien kirjoittamisesta QA-testaukseen. Jotkut studiot kertovat siitä avoimesti. Toiset taas eivät.

Samaan aikaan The Alters saa yhä hyviä arvosteluja tarinastaan, moraalisesta monimutkaisuudestaan ja taidesuunnittelustaan. Eräs Eurogamer-kriitikko kutsui sitä

"hätkähdyttävän ainutlaatuiseksi".

ja kehui sitä, miten se "koettelee ja saa minut miettimään, mitä arvostan elämässä". Mutta tähänkin kehuun liittyy varoituksia. Jotkut osat tuntuivat epätasaisilta. Jotkut ideat tuntuivat kehittymättömiltä.

Tuo alikehittyneisyys ei ehkä ole sattumaa.

Kun tekoälystä tulee oikotie, säröt jäävät helposti huomaamatta. Kunnes joku huomaa, että lopputuotteessa kelluu yhä kehotusteksti.

Nyt 11 Bit Studiosin hiljainen voitto on muuttunut hyvin julkiseksi skandaaliksi, joka ei katoa, elleivät he selitä, mitä kulissien takana todella tapahtui.