Roblox ja Discord tulituksessa lasten turvallisuuden puutteiden vuoksi

Kaksi internetin suurinta leikkikenttää, Roblox ja Discord, ovat virallisesti kiisteltyjä lasten turvallisuudesta - ja näyttää siltä, että asiat voivat mennä sotkuisiksi.

Floridan ja New Jerseyn osavaltioiden virkamiehet ovat käynnistämässä vakavia tutkimuksia siitä, miten nämä alustat suojelevat (tai eivät suojele) nuoria käyttäjiään. Roblox, jolla on päivittäin 85 miljoonaa pelaajaa, ja Discord, jolla on 200 miljoonaa kuukausittaista käyttäjää, joutuvat nyt kohtaamaan oikeudellista painostusta selittääkseen, miten ne todella pitävät lapset turvassa, eivätkä vain lupaa sitä.

"Floridan yleinen syyttäjä James Uthmeier on haastanut Roblox Corp:n pyytämään tietoja siitä, miten se markkinoi lapsille ja miten se torjuu petoja."

Kyse on siitä, tekeekö Roblox tarpeeksi estääkseen lasten ja mahdollisten saalistajien välisen vuorovaikutuksen. Uthmeierin toimiston mukaan he haluavat kuitteja: moderointikäytännöt, miten ikävarmennus toimii (tai ei toimi) ja miten helppoa lasten on kiertää vanhempien valvontaa.

Roblox vastasi sanomalla:

"Aiomme tehdä yhteistyötä oikeusministeriön toimiston kanssa ja odotamme innolla, että voimme kertoa kaikesta siitä työstä, jota Roblox tekee käyttäjien turvallisuuden takaamiseksi."

Hyvä PR-lausunto, mutta yleinen mielipidekamari on jo kuhisee - eikä hyvällä tavalla.

Kuva: Discord

Discord-ongelmat

Jos Roblox on kuumana, Discord saattaa seistä vielä lähempänä tulta.

New Jerseyn oikeusministeri Matthew Platkin haastoi juuri Discordin suoraan oikeuteen syyttäen yhtiötä perheiden harhaanjohtamisesta siitä, kuinka turvallinen sen sovellus todella on. Kanteen mukaan Discord lupasi suojaavia ominaisuuksia, kuten viestisuodattimia, mutta ei toimittanut niitä. Lapset altistuivat silti kauheille asioille - puhutaan lasten seksuaaliseen hyväksikäyttöön liittyvästä materiaalista, väkivaltaisesta sisällöstä ja jopa terrorismiin liittyvästä mediasta.

"Discord johti käyttäjiä ja vanhempia harhaan liioittelemalla turvallisuusominaisuuksiaan eikä skannannut viestejä edes ystävien välillä", kanteessa sanotaan.

Yikes.

Vielä paheksuttavampaa on, että kanteen mukaan Discord ei kunnolla valvo omaa alaikärajaansa (jonka pitäisi olla yli 13 vuotta), joten nuorempien lasten on erittäin helppo livahtaa läpi.

Discordin virallinen vastaus? Melko puolustuskannalla:

"Ottaen huomioon sitoutumisemme oikeusministeriön toimiston kanssa, olemme yllättyneitä ilmoituksesta, että New Jersey on nostanut tänään kanteen Discordia vastaan."

Käännös: "Hetkinen, haastatteko meidät oikeuteen? Luulimme, että olemme hyviä?"

Miksi se räjähtää nyt!?

Molemmat alustat ovat yrittäneet korjata asioita, ainakin paperilla.

Roblox väittää julkaisseensa 40 turvallisuuspäivitystä pelkästään vuonna 2024, mukaan lukien marraskuussa tehdyn suuren päivityksen, joka estää alle 13-vuotiaita lapsia pääsemästä sosiaalisiin tiloihin, kuten virtuaalikerhoihin. Discordin toimitusjohtaja Jason Citron puolestaan antoi viime vuonna kongressille todistajanlausunnon lasten turvallisuudesta - juuri kun yhtiö valmistautuu mahdolliseen listautumiseen.

Monista ihmisistä (ja vanhemmista) se tuntuu kuitenkin liian vähäiseltä ja liian myöhäiseltä.

Bloombergin Businessweek kertoi viime kesänä, että Robloxilla oli vakavia ongelmia pitää saalistajat poissa alustaltaan. Vuodesta 2018 lähtien Yhdysvaltain poliisi on pidättänyt yli kaksi tusinaa henkilöä, joita syytetään Robloxin kautta tapaamiensa uhrien houkuttelusta tai hyväksikäytöstä. Sisäpiiriläisten mukaan ongelma on valtava, mikä johtuu osittain näiden alustojen laajuudesta.

"Robloxin työntekijät kuvailivat, miten laaja haaste on yhtiön valtavan käyttäjäkunnan valvominen."

Vaikka käytössä on tekoäly, modit ja raportointijärjestelmät, huonot toimijat pääsevät silti läpi.

"Roblox, Discord huomenna"

Sekä Robloxia että Discordia uhkaavat vakavat oikeudelliset ongelmat, ja yleisön luottamus on ehdottomasti vaakalaudalla.

Jos Roblox ei pysty osoittamaan, että sen järjestelmät ovat aukottomia, se ottaa riskin sääntelyn lisäämisestä (ja vihaisista vanhemmista, jotka vetävät lapsensa pois). Discordin osalta oikeusjuttu voi paitsi viivästyttää sen listautumista myös romuttaa sen maineen juuri kun se yrittää laajentua pelipiirien ulkopuolelle laajemmaksi sosiaaliseksi alustaksi.

On myös suurempi kysymys vastuullisuudesta. Kuinka vastuullisia alustojen pitäisi olla, kun ne toimivat enemmänkin pelikenttien kuin perinteisten sosiaalisten verkostojen tavoin? Ja kuinka realistista on valvoa täysin tiloja, joilla on satoja miljoonia käyttäjiä?

Nämä tapaukset voivat luoda merkittäviä ennakkotapauksia sille, miten sovellukset hallitsevat lasten turvallisuutta tulevaisuudessa, ei vain Robloxissa ja Discordissa vaan koko internetissä.

Kyse ei ole vain kahden yrityksen joutumisesta vaikeuksiin. Kyse on siitä, kuka on vastuussa, kun virtuaaliset leikkikentät muuttuvat vaarallisiksi.