Microsoft ohittaa hakkerit tekoälyhyödykkeiden takana

Microsoft Corp. kertoi tunnistaneensa yhdysvaltalaisia ja ulkomaisia rikollisia hakkereita, jotka ohittivat generatiivisten tekoälytyökalujen suojakaiteet, mukaan lukien yhtiön Azure OpenAI -palvelut, luodakseen haitallista sisältöä, mukaan lukien julkisuuden henkilöiden intiimejä kuvia ilman suostumusta ja muuta seksuaalista sisältöä.

Yrityksen mukaan hakkerit raapivat asiakkaiden kirjautumistiedot julkisista lähteistä ja käyttivät niitä luomaan luovia tekoälypalveluita, mukaan lukien Azure OpenAI, Microsoftin pilvituote, jonka avulla asiakkaat voivat käyttää OpenAI:n malleja. Tämän jälkeen hakkerit muuttivat tekoälytuotteiden ominaisuuksia ja myivät pääsyn muille haitallisille ryhmille antaen heille ohjeita haitallisen sisällön luomiseen.

Microsoftin tunnistamat hakkerit sijaitsevat Iranissa, Isossa-Britanniassa, Hongkongissa ja Vietnamissa. Niiden väitetään olevan osa maailmanlaajuista kyberrikollisverkkoa, jota Microsoft kutsuu Storm-2139:ksi. Kaksi muuta jäsentä sijaitsee Floridassa ja Illinoisissa, mutta Microsoft sanoi, että se ei nimeä heitä välttääkseen rikostutkinnan suistumisen. Ohjelmistovalmistaja kertoi valmistelevansa rikosilmoituksia Yhdysvaltojen ja ulkomaisten lainvalvontaviranomaisten käyttöön.

Toiminta johtuu siitä, että generatiivisten tekoälytyökalujen kasvava suosio lisää huolta niiden väärinkäytöstä julkisuuden henkilöiden ja tavallisten henkilöiden väärennettyjen laittomien kuvien luomiseen sekä lasten seksuaalista hyväksikäyttöä koskevan materiaalin luomiseen. Yritykset, kuten Microsoft ja OpenAI, kieltävät tällaisen toiminnan ja ryhtyvät teknisiin toimiin estääkseen sen, mutta haitalliset ryhmät voivat silti yrittää päästä luvatta.

"Suhtaudumme tekoälyn väärinkäyttöön erittäin vakavasti ja tunnustamme väärinkäyttökuvien vakavat ja pysyvät vaikutukset uhreille."

Microsoftin digitaalisten rikosten yksikön apulaislakimies Steven Masada sanoi torstaina blogikirjoituksessaan.

"Microsoft on edelleen sitoutunut suojelemaan käyttäjiä upottamalla vankat tekoälyn turvatoimia alustoihimme ja suojelemalla palveluitamme laittomalta ja haitalliselta sisällöltä."

Microsoftin ilmoitus seuraa joulukuussa nostettua oikeusjuttua Virginian itäosassa kymmentä "John Does" -järjestöä vastaan saadakseen lisätietoja hakkerointiryhmästä ja häiritsemään sen toimintaa, Masada sanoi blogissaan.

Tuomioistuin on antanut päätökset, jotka antavat Microsoftin takavarikoida hakkereiden käyttämän keskeisen verkkosivuston. Tämä ja oikeudellisten hakemusten purkaminen viime kuussa aiheuttivat paniikkia hakkeriryhmän keskuudessa ja saivat jotkut jäsenet osoittamaan sormella toisiaan, minkä Microsoft pystyi havaitsemaan tunnistaakseen joitakin jäseniä, yhtiö sanoi.

Microsoft kieltäytyi nimeämästä julkkiksia, joihin tämä vaikutti.