Anglia felügyeleti szerve a Grok szexualizált képei miatt vizsgálatot indított az X ellen

Az Egyesült Királyság médiaszabályozó hivatala, az Ofcom hétfőn hivatalos vizsgálatot indított Elon Musk X szolgáltatása ellen az AI-chatbot, a Grok képgeneráló funkciója miatt, amelyet szexuális tartalmú deepfake-ek készítésére használtak fel.

A Grok nemzetközi visszhangot váltott ki, mivel lehetővé teszi a felhasználók számára, hogy egyszerű szöveges utasításokkal nőkről és gyermekekről szexualizált képeket készítsenek és osszanak meg.

Az Ofcom a jelentéseket „mélyen aggasztónak” minősítette.

Közleményében leírta, hogy az emberek meztelen képei „intim képek visszaéléseként vagy pornográfiaként minősülhetnek — és a gyermekekről készült szexualizált képek... gyermekekkel szembeni szexuális visszaélésre alkalmas anyagnak minősülhetnek.”

Az AFP megkeresésére az X egyelőre nem válaszolt.

Az Ofcom közölte, január 5-én felvette a kapcsolatot az X-vel, valamint arra kérte, magyarázza el, milyen lépéseket tett az Egyesült Királyságban élő felhasználók védelme érdekében.

A szabályozó anélkül, hogy részletezte volna az eszmecserét, elmondta, az X a megadott határidőn belül válaszolt.

A hivatalos vizsgálat pedig megállapította, hogy az X „nem tartotta be jogi kötelezettségeit.”

Az Egyesült Királyság Online Safety Act nevű törvénye, amely júliusban lépett hatályba, előírja, hogy a potenciálisan káros tartalmat tároló weboldalaknak, közösségi média, valamint videómegosztó platformoknak szigorú életkori ellenőrzést kell bevezetniük olyan eszközökkel, mint az arcfelismerés vagy a hitelkártya-ellenőrzés.

Emellett illegális a médiaoldalak számára a nem beleegyezéssel készült intim képek vagy gyermekekkel kapcsolatos szexuális visszaélést bemutató anyag — beleértve az AI által készített szexuális deepfake-eket is — létrehozása vagy megosztása.

Az Ofcom a szabályok megsértése esetén jogosult a globális bevétel 10 százalékának megfelelő bírság kiszabására.

A Grok a múlt hét végén új monetizációs politikát jelentett be, amellyel úgy tűnt, el akarta hárítani a nemzetközi kritikát: az X-en közzétett bejegyzés szerint az eszköz mostantól „csak előfizetők számára elérhető,” emellett egy linket is mellékeltek a prémium előfizetéshez.

A brit miniszterelnök, Keir Starmer elítélte a lépést, valamint azt az áldozatok megsértésének nevezte.

Szombaton Indonézia volt az első ország, amely megtagadta a teljes hozzáférést a Grokhoz; vasárnap pedig Malajzia követte a példáját.

Az Európai Bizottság közölte, hogy felül fogja vizsgálni a Grok ellen benyújtott panaszokat.