Robloxin turvallisuusdraama kireän toimitusjohtajan haastattelun jälkeen

ROBLOXin toimitusjohtajan viimeisin haastattelu on tuonut esiin pitkään kyteneet epäilyt alustan turvallisuuskulttuurista. Roblox on ollut tarkkailun kohteena jo vuosia, mutta numerot ovat koventaneet huomiota. Yhtiöllä on nyt noin 150 miljoonaa päivittäin aktiivista käyttäjää, joista monet ovat lapsia, ja sen sisäinen luku on yli 13 000 raportoitua lasten hyväksikäyttötapausta yhden vuoden aikana.

The New York Timesin teknologiapodcast Hard Forkissa Robloxin perustaja ja toimitusjohtaja David Baszuckilta kysyttiin suoraan lapsiin kohdistuvista saalistajista. Hänen päätöksensä kuvata ongelmaa "mahdollisuudeksi" oli epätavallisen voimakas, koska se ei tapahtunut erillisenä asiana, vaan taustalla on oikeusjuttuja, moderointivirheitä ja politiikkataisteluita, jotka ovat jo venyttäneet vanhempien luottamuksen äärimmilleen.

Kolme Yhdysvaltain osavaltiota - Louisiana, Kentucky ja Texas - on nostanut kanteen, jonka mukaan Roblox ei ole tehnyt tarpeeksi alaikäisten suojelemiseksi. Yli 20 muuta liittovaltion tuomioistuimessa käsiteltävää tapausta väittää, että alusta on mahdollistanut seksuaalisen hyväksikäytön. Samaan aikaan Roblox on ottanut käyttöön tekoälyyn perustuvan ikäarvion ja laajentanut chat-rajoitteita ja mainostanut näitä työkaluja todisteena siitä, että se pysyy koko alan kehityksen edellä.

Hard Forkin juontajat Casey Newton ja Kevin Roose muotoilivat kysymyksensä tässä yhteydessä. Kun Newton kysyi, mitä mieltä hän on "Robloxin saalistajien ongelmasta", Baszucki vastasi:

"Emme pidä sitä välttämättä vain ongelmana, vaan myös mahdollisuutena". Miten annamme nuorten rakentaa, kommunikoida ja hengailla yhdessä? Miten rakennamme samalla viestinnän tulevaisuutta?" - David Baszucki.

Vastauksen loppuosa teki selväksi, että hän tarkoitti mahdollisuutta innovoida moderointia ja viestintäsuunnittelua. Sanamuotoilu muutti kuitenkin yhden kaikkien lasten alustojen synkimmistä realiteeteista kasvuhaasteeksi. Kriitikkojen mielestä se vahvisti epäilyä siitä, että Robloxin johto pitää turvallisuutta pikemminkin toisena teknisenä ongelmana, jota pitää optimoida, kuin kovana rajana, joka voi rajoittaa yrityksen toimintaa.

Koko ROBLOXin toimitusjohtajan haastattelun ajan Baszucki palasi jatkuvasti mittakaavaan sekä selityksenä että suojana. Hän totesi, että Robloxin käyttäjät kirjaavat noin 11 miljardia tuntia kuukaudessa, ja viittasi Steal a Brainrot -hittipeliin, joka saavutti kesän aikana 25 miljoonaa samanaikaista pelaajaa, todisteena siitä, mitä alustan infrastruktuuri voi tukea. Kysyttäessä, ovatko petoeläimet löytäneet suodattimien ohittamisen helpoksi, hän kieltäytyi vastaamasta suoraan ja sanoi sen sijaan:

"Yksi tärkeimmistä asioista, joita teemme, on yrittää pitää ihmiset alustallamme... yritämme aina pysyä sen edellä." - David Baszucki.

Kun Newton jatkoi kysymällä suoraan, uskooko hän, että Robloxilla on saalistajien ongelma, Baszucki ei myöntänyt väitettä.

"Uskon, että teemme uskomatonta työtä innovoidessamme suhteessa alustan käyttäjämäärään ja työtunteihin, kun todella suuntaudumme tulevaisuuteen ja siihen, miten tämä tulee toimimaan." - David Baszucki.

Vaihdossa kiteytyi jännite. Toisaalta yritys, joka on viettänyt lähes kaksi vuosikymmentä rakentaen työkaluja käyttäjien luomille peleille ja yhteisöille, nojaa nyt vahvasti tekoälyn suodatukseen ja iän arviointiin riskien hallitsemiseksi. Toisella puolella on kasvava joukko vanhempia, sääntelijöitä, tekijöitä ja etujärjestöjä, joiden mielestä peruskysymys on edelleen vailla vastausta: riittääkö tämä, ja kuka saa päättää?

Tätä kysymystä ovat terävöittäneet podcastin ulkopuoliset tapaukset. Roblox kielsi hiljattain YouTuber Schlepin, joka on luonut suuren yleisön järjestämällä Robloxin tiloissa "saalistajien metsästysoperaatioita". Hänen videonsa, joiden hän väittää johtaneen useisiin pidätyksiin, poistettiin, ja hänen tilinsä suljettiin Robloxin omankädenoikeudellisia toimia koskevien sääntöjen nojalla. Kannattajat ovat kerääntyneet #freeschlep-hashtagin taakse ja väittävät, että hänen työnsä toi esiin puutteita yhtiön omissa järjestelmissä. Heidän mielestään toimitusjohtajan kutsuminen saalistajakriisiin "tilaisuudeksi" muutama päivä sen jälkeen, kun hän oli katkaissut yhden näkyvimmistä, joskin kiistanalaisimmista vahtikoirista, kuulosti hetken väärältä tulkinnalta.

Myös oikeudellinen paine kasvaa. Law By Mike, suosittu YouTuber ja asianajaja, on julkisesti ilmoittanut aikovansa ryhtyä oikeustoimiin Robloxia vastaan väitettyjen puutteiden vuoksi lastensuojelussa. Hänen osallistumisellaan on merkitystä, koska hän on kahden maailman välissä: hän ymmärtää alustan hallinnoinnin mekaniikan ja puhuu samalle vanhempien ja teini-ikäisten yleisölle, joka pitää Robloxia sosiaalisena yhteisötilana. Yhdessä osavaltion ja liittovaltion oikeusjuttujen kanssa hänen työnsä laajentaa rintamaa, jolla Robloxin on puolustettava tietojaan.

Hard Fork -haastattelun sisällä Baszucki yritti siirtää kehystä kriisinhallinnasta pitkän aikavälin arkkitehtuuriin. Hän kuvaili uutta kasvojen iänarviointijärjestelmää - videokuvaa selfiestä, jota käytetään käyttäjän iän arvioimiseen ennen kuin käyttäjä pääsee chattailemaan - yhdeksi signaaliksi pinossa, johon kuuluvat myös käyttäytymistiedot ja itse ilmoitettu ikä.

"Teemme jo nyt kasan asioita: Meillä on erittäin, erittäin hyvät tekstisuodattimet, kuvien jakaminen on kielletty ja teemme paljon seurantaa. Mutta yhden lisäsignaalin lisääminen tähän voi todella auttaa meitä tekemään hienoja päätöksiä." - David Baszucki.

Hän väitti, että foorumi on perinteisesti vaihtanut kasvua turvallisuuteen suodattamalla tekstiä voimakkaasti ja vetosi vanhaan meemiin, jossa Roblox-keskustelu romahti "hashtag, hashtag, hashtag" -meemiksi, kun kielletyt sanat estettiin. Hänen mukaansa tekoälyn avulla suodattimista voi tulla tarkempia ja vastustuskykyisempiä, kun käyttäjät yrittävät esimerkiksi koodata yhteystietoja koodattujen lauseiden avulla.

The New York Times Podcast -portfolion osana tuotettu podcast ei pysynyt pitkään tällä teknisellä kaistalla. Roose nosti esiin Hindenburg Researchin vuonna 2024 julkaiseman raportin, jossa Robloxia syytetään "lasten turvallisuuden vaarantamisesta raportoidakseen sijoittajille kasvusta" ja jossa viitataan luottamukseen ja turvallisuuteen käytettyjen varojen vähentämiseen. Baszucki hylkäsi yrityksen naureskellen. "Hauskaa. Jatketaan tätä", hän sanoi ja totesi, että Hindenburg on sittemmin lopettanut toimintansa ja väitti, että siirtyminen tekoälyn arviointijärjestelmiin vastaa siirtymistä käsin rakennetuista autoista liukuhihnalle. Hänen mukaansa kyse ei ole siitä, että karsitaan kulmista vaan siitä, että käytetään parempia työkaluja.

Tekoälyn korostaminen asettaa Robloxin tuttuun kategoriaan. Sosiaaliset verkostot käyttivät suuren osan 2010-luvusta lupaamalla, että automatisoidut järjestelmät poistaisivat väärinkäytökset ja vääränlaisen tiedon laajamittaisesti, mutta huomasivat sitten, että koneoppimisella on kovat rajat sille, mitä koneoppiminen voi luotettavasti arvioida. Roose ja Newton muistuttivat Baszuckia tästä historiasta. Baszki vastasi, että Robloxin sisäiset mittarit osoittavat, että suodatus ja havaitseminen paranevat sitä mukaa, kun uusia malleja otetaan käyttöön, ja että alustan "mielettömän" laajuuden vuoksi tällainen automatisointi ei ole vain tehokasta vaan myös välttämätöntä.

Jopa pelien sisällä Robloxin moderointi on kovan paineen alla. Women In Gamesin, Out Making Gamesin ja BAME in Gamesin kaltaiset eturyhmät julkaisivat hiljattain avoimen kirjeen, jossa kritisoitiin yhtiön luonnosta "arkaluonteisia asioita" koskeviksi tekijäsäännöiksi. "Robloxin hiljattain ehdottamat "arkaluonteisia aiheita" koskevat luojaohjeet ovat askel taaksepäin sekä luovan ilmaisun että sosiaalisen oikeudenmukaisuuden kannalta", kirjeessä väitettiin ja varoitettiin, että sukupuolten tasa-arvon, lisääntymisoikeuksien ja rotuoikeuden kaltaisten aiheiden kohtelu valinnaisina tai riskialttiina "arkaluonteisina" alueina uhkaa haudata nuorille pelaajille tärkeitä tarinoita. - Women In Games, Out Making Games ja BAME in Games.

Tässä kritiikissä ei keskitytä saalistajiin tai ikärajojen tarkistamiseen, mutta siinä puhutaan samasta perimmäisestä huolenaiheesta: kuka asettaa rajat sille, mitä nuoret käyttäjät voivat nähdä ja mistä he voivat keskustella, ja kenen mukavuutta nämä päätökset palvelevat.

Hard Fork -keskustelu siirtyi lopulta Polymarketiin, kryptovaluuttaan perustuvaan ennustealustaan, jota Baszucki kehui tehokkaaksi informaatiosignaaliksi. Kun Roose kysyi puoliksi vitsillä, voisiko hän koskaan laittaa ennustemarkkinat itse Robloxin sisälle, Baszucki vastasi myöntävästi ja myönsi sitten oikeudellisen monimutkaisuuden. Kun hän kysyi, olisiko ennustemarkkinan muuttaminen lapsille suunnatuksi peliksi "kauhea ajatus", hän vastasi:

"No, minusta se on itse asiassa loistava idea, jos se voidaan tehdä opetuksellisella tavalla, joka on laillinen... vain peli nimeltä Dress to Impress Predictor, jossa ei yritetä hankkia lasten rahaa tai mitään sellaista. Olisin sen suuri fani." - David Baszucki.

Yrityksen, jota jo nyt tutkitaan sen vuoksi, miten se kohtelee alaikäisiä, on vaikea erottaa ajatusta pelillisen ennustemoottorin rakentamisesta Robloxin sisälle, vaikka sillä ei olisikaan suoria taloudellisia panoksia, laajemmista keskusteluista, jotka koskevat loot boxeja, uhkapelimekaniikkaa ja digitaalista pakkoa.

Newton totesi, että keskustelu tuntui useissa kohdissa jännittyneeltä. Baszucki vakuutti, ettei hän ollut turhautunut, vaan ainoastaan yllättynyt siitä, että painopiste pysyi turvallisuudessa eikä alan kevyemmissä aiheissa, ja kuvaili toistuvasti Robloxin asemaa "korkean vastuun tilanteeksi", joka on myös "uskomaton mahdollisuus". Hän torjui mielikuvan toimitusjohtajasta, joka viettää päivänsä olkansa yli katsellen, ja väitti, että yritys on ollut ennaltaehkäisevä turvallisuuden suhteen "päivästä 1 lähtien" ja jopa pysäyttänyt kasvun ensimmäisinä viikkoina rakentaakseen perusmoderoinnin työkaluja.

Tämä luottamus jatkui ROBLOXin toimitusjohtajan haastattelun loppuun asti, jolloin Roose kysyi henkilökohtaisen kysymyksen: olisiko Roblox tarpeeksi turvallinen, kun hänen oma pieni poikansa pyytää päästä pelaamaan sitä. Baszucki meni pidemmälle kuin pelkkä myöntävä vastaus.

"Roblox on tällä hetkellä uskomaton alusta lapsellesi", hän sanoi ja tarjoutui tarvittaessa näyttämään sisäisiä mittareita salassa pidettäväksi ja lisäsi, että vanhemmat ovat edelleen "lopullinen vastuunvalvoja". - David Baszucki.

Vastaus kuvastaa yrityksen kantaa pienoiskoossa. Roblox pitää itseään jo nyt edelläkävijänä, turvallisempana kuin monet muut ja käyttää jo nyt työkaluja, jotka muut aikanaan ottavat käyttöön. Ratkaisematon kysymys on, vastaako tämä itsearviointi niiden perheiden kokemuksia, jotka ovat nähneet alustalla esiintyviä grooming- tai hyväksikäyttötapauksia, tai niiden tekijöiden ja puolestapuhujien kokemuksia, jotka sanovat, että heidän omat varoituksensa sivuutettiin, kunnes oikeusjutut ja otsikot pakottivat reagoimaan.

Mikään tästä ei poista sitä, mitä Roblox on rakentanut. Se on sekä luova työkalupakki että massiivinen sosiaalinen keskus, jossa lapset oppivat, miten verkkoyhteisöt toimivat, niin hyvässä kuin pahassa. Hard Fork -episodi osoittaa, kuinka hauras tämä asema voi olla, kun luottamus horjuu. Baszuckin kommentit eivät tuoneet uusia faktoja Robloxin turvallisuusjärjestelmistä, mutta ne paljastivat, miten yhtiön johto asettaa prioriteettinsa tärkeysjärjestykseen. Innovaatio, mittakaava ja pitkän aikavälin visio alustasta ovat keskiössä, kun taas haittojen selkeä tunnustaminen on lähempänä reunaa.

Lue myös: Roblox ylittää 100 miljoonaa aktiivista käyttäjää päivässä, mikä on virstanpylväs, joka korostaa, miten nopeasti alustan yleisö on kasvanut ja miksi jokaisella turvallisuutta, moderointia ja politiikkaa koskevalla päätöksellä on nyt seurauksia paljon kauemmas kuin yhden ROBLOXin toimitusjohtajan haastattelussa.