Google paljastaa hakkerit väärinkäyttävät Gemini AI:ta

Google on havainnut lukuisia valtion tukemia hakkeriryhmiä, jotka yrittävät hyödyntää sen Gemini- tekoälyalustaa haitallisiin tarkoituksiin, kuten haittaohjelmien kehittämiseen. Teknologiajätti ilmoittaa kuitenkin, että nämä yritykset eivät ole johtaneet merkittäviin kyberuhkiin, ja korostaa, että tekoäly on edelleen pikemminkin työkalu kuin pelimuutos kyberrikollisille.

Googlen havaintojen mukaan Iranista, Pohjois-Koreasta, Kiinasta ja Venäjältä tulevat hakkerit ovat käyttäneet Geminiä muun muassa sisällön kääntämiseen, phishing-hyökkäysten hiomiseen ja tietokonekoodin kirjoittamiseen. Yhtiö jäljitti tämän toiminnan yli 10 iranilaiseen hakkeriryhmään, 20 Kiinan hallituksen tukemaan ryhmään ja yhdeksään pohjoiskorealaiseen uhkatekijään.

"Iranilaiset APT-toimijat (Advanced Persistent Threat) olivat Geminin suurimpia käyttäjiä, jotka käyttivät sitä puolustusorganisaatioiden tutkimiseen, haavoittuvuusanalyyseihin ja disinformaatiokampanjoiden sisällön laatimiseen", Google totesi blogikirjoituksessaan keskiviikkona.

Näistä yrityksistä huolimatta Google väittää, että Gemini on tarjonnut näille toimijoille lähinnä tuottavuusparannuksia eikä suoria hakkerointimahdollisuuksia. "Tällä hetkellä he käyttävät tekoälyä pääasiassa tutkimukseen, koodin vianmääritykseen sekä sisällön luomiseen ja lokalisointiin", yhtiö totesi.

Kuvan luotto: Jaque Silva | NurPhoto

Google korosti myös rajoituksia, joita hakkerit kohtasivat yrittäessään käyttää Geminiä edistyneempiin haittaohjelmiin. Vaikka tekoäly avusti heitä monimutkaisten aiheiden ymmärtämisessä ja peruskoodin tuottamisessa, sen turvatoimet estivät kyberhyökkäysten väärinkäytön. Yritykset hyödyntää Geminiä kehittyneisiin phishing-tekniikoihin, haittaohjelmien koodaamiseen tai Googlen turvatoimien ohittamiseen eivät onnistuneet.

"Jotkut pahansuovat toimijat yrittivät epäonnistuneesti pyytää Geminiltä ohjeita Googlen tuotteiden väärinkäyttöön, kuten kehittyneitä phishing-tekniikoita Gmailiin, apua Chromen infostealer-ohjelman koodaamiseen ja menetelmiä Googlen tilinluonnin varmistusmenetelmien ohittamiseen", yhtiö raportoi. "Nämä yritykset eivät onnistuneet. Gemini ei tuottanut haittaohjelmia tai muuta sisältöä, jota voitaisiin uskottavasti käyttää onnistuneessa haittakampanjassa."

Google kuitenkin myönsi, että Geminin kaltaiset tekoälytyökalut voivat nopeuttaa verkkouhkaajien työnkulkuja, jolloin ne voivat toimia tehokkaammin ja laajemmin. Esimerkiksi iranilainen propagandaoperaatio käytti Geminiä parantamaan käännöksiä ja varmistamaan, että sen disinformaatiokampanjat tavoittavat laajemman yleisön. Pohjois-Koreaan kytköksissä olevat hakkerit puolestaan käyttivät chatbotia saatekirjeiden laatimiseen ja työnhakuneuvojen keräämiseen LinkedIniin - tämä saattaa auttaa heitä saamaan etätyöpaikkoja yhdysvaltalaisissa yrityksissä, mikä on liittovaltion tutkijoiden kasvava huolenaihe.

"Ryhmä käytti Geminiä myös tietojen hankkimiseen ulkomaisista työntekijävaihdoista. Monet aiheet olisivat yleisiä kaikille, jotka tutkivat ja hakevat työpaikkoja", Google totesi.

Googlen havainnot toistavat OpenAI:n samankaltaisia löytöjä. Vuosi sitten OpenAI havaitsi useita valtion tukemia ryhmiä, jotka yrittivät käyttää ChatGPT:tä väärin. Sen tutkimus kuitenkin paljasti, että nämä hakkerit käyttivät chatbotia lähinnä pieniin tuottavuushyötyihin eivätkä niinkään kehittyneisiin kyberhyökkäyksiin.

Vastauksena näihin uhkiin Google on vahvistanut tekoälyn turvallisuusprotokolliaan. Yhtiö testaa jatkuvasti Geminin suojauksia väärinkäytösten estämiseksi ja tekee tarvittaessa yhteistyötä lainvalvontaviranomaisten kanssa. "Tutkimme tuotteidemme, palveluidemme, käyttäjiemme ja alustojemme väärinkäyttöä, mukaan lukien hallitusten tukemien uhkatoimijoiden pahantahtoinen kybertoiminta, ja teemme tarvittaessa yhteistyötä lainvalvontaviranomaisten kanssa", Google totesi.

Lisäksi Google pyrkii aktiivisesti häiritsemään näitä kyberuhkia poistamalla epäillyt haitalliset toimijat alustoiltaan. Tämä ennakoiva asenne korostaa yhtiön sitoutumista tekoälytyökalujensa turvallisuuteen ja samalla valtion tukemien hakkereiden aiheuttamien riskien kehittymistä.