OpenAI sulkee tilit, jotka liittyvät epäiltyyn kiinalaiseen valvontatyökaluun

OpenAI on kieltänyt useita tilejä, joiden väitetään käyttäneen ChatGPT:tä sosiaalisen median seurantatyökalun rakentamiseen, jonka tarkoituksena oli raportoida Kiinan vastaisista protesteista Yhdysvalloissa ja muissa länsimaissa. Yhtiö väittää, että verkosto oli todennäköisesti yhteydessä Kiinaan.

OpenAI kiristää otettaan tekoälyn väärinkäytöstä ja sulkee useita tilejä, joiden kerrottiin käyttäneen ChatGPT:tä sosiaalisen median valvontatyökalun rakentamiseen. OpenAI:n raportin mukaan tilien väitettiin liittyvän Kiinan tukemaan operaatioon, jonka tarkoituksena oli kerätä reaaliaikaista tietoa Kiinan vastaisista protesteista Yhdysvalloissa, Isossa-Britanniassa ja muissa länsimaissa.

Niin sanottua "Qianyue Overseas Public Opinion AI Assistant" kuvattiin markkinointimateriaaleissa ohjelmistoksi, joka oli suunniteltu seuraamaan ja raportoimaan ihmisoikeusprotesteja koskevia verkkokeskusteluja suoraan Kiinan viranomaisille, tiedustelupalveluille ja suurlähetystöille. OpenAI ei pystynyt itsenäisesti vahvistamaan työkalun olemassaoloa, mutta sillä oli pääsy mainosmateriaaleihin, joissa esiteltiin yksityiskohtaisesti sen ominaisuudet - lähinnä se skannasi X:n, Facebookin ja Instagramin kaltaisia alustoja asiaankuuluvien keskustelujen löytämiseksi.

OpenAI:n johtava tutkija Ben Nimmo kutsui tapausta huolestuttavaksi esimerkiksi "autoritaarisesta hallinnosta, joka yrittää käyttää Yhdysvalloissa toimivaa tekoälyä demokratian vastaisiin tarkoituksiin". Havainnot tulevat samaan aikaan, kun jännitteet Kiinan länsimaisen teknologian käytöstä kasvavat, ja OpenAI varoittaa aktiivisesti Yhdysvaltain poliittisia päättäjiä kiinalaisen tekoälyn kansallisista turvallisuusriskeistä.

Kielletyt tilit viittasivat myös muiden tekoälymallien, kuten Metan avoimen lähdekoodin Llaman, käyttöön. Meta myönsi tämän mahdollisuuden, mutta huomautti, että pahantekijöillä on käytettävissään runsaasti tekoälytyökaluja, myös Kiinassa kehitettyjä.

Tämä ei ole ensimmäinen kerta, kun OpenAI on ryhtynyt toimiin kyseenalaista toimintaa vastaan. Yhtiö on myös kieltänyt tilit, jotka liittyvät Iranin vaikuttamistoimiin, Pohjois-Koreaan liittyviin työllistämishuijauksiin ja toiseen Kiinaan kytköksissä olevaan verkkoon, joka tuottaa Yhdysvaltojen hallitusta kritisoivaa espanjankielistä sisältöä.

DeepSeekin kaltaisten kiinalaisten tekoälyalan startup-yritysten nousun myötä OpenAI harkitsee joidenkin omien malliensa avaamista kilpailemaan. Samaan aikaan Yhdysvaltojen poliittiset päättäjät pohtivat, miten tekoälyinnovaatioiden ja kansallisen turvallisuuden välinen tasapaino voitaisiin säilyttää.