Szerdán Brazília felszólította Elon Musk közösségi hálózatát, az X-et, hogy állítsa le chatbotját a szexuálisan explicit képek készítésében, ezzel újabb országgá vált, amely nyomást gyakorol a milliárdosra, hogy javítsa a mesterséges intelligencia eszközt.
A múlt hónapban Indonézia volt az első ország, amely teljesen letiltotta a Grokot, míg Nagy-Britannia és Franciaország közölte, fenntartja a nyomást, miután a chatbot áradatnyi obszcén fotót állított elő nőkről és gyerekekről.
„Az X-nek azonnal megfelelő intézkedéseket kell bevezetnie annak érdekében, hogy a Grok segítségével ne készülhessenek szexualizált vagy erotizált tartalmak gyermekekről és serdülőkről, valamint olyan felnőttekről, akik nem adták beleegyezésüket” — közölte Brazília főügyésze, az Országos Adatvédelmi Ügynökség (ANPD) és a Nemzeti Fogyasztói Jogok Hivatala (Senacon).
Az ügynökségek öt napot adtak a platformnak, hogy eleget tegyen a rendelkezésnek, különben jogi eljárással és bírságokkal kell szembenéznie.
A brazil hatóságok szerint az X azt állította, hogy több ezer bejegyzést törölt és több száz fiókot felfüggesztett, miután Brazília a múlt hónapban figyelmeztetést adott ki.
Azonban az ellenőrzések során megállapították, hogy a Grok felhasználói továbbra is képesek szexualizált deepfake-képeket létrehozni.
Az X-et azért is bírálták, mert „nem volt átlátható a válaszában.”
Az X január 15-én jelentett be intézkedéseket annak érdekében, hogy megakadályozza, hogy a Grok valódi emberek képeit levetkőztesse azokban az országokban, ahol ez illegálisnak számít. Nem világos, hogy ezek az intézkedések hol léptek hatályba.
Az xAI-re nemzetközi nyomás nehezedett, hogy megfékezze a Grokot, miután az úgynevezett „Spicy Mode” funkció lehetővé tette a felhasználóknak, hogy egyszerű szöveges utasításokkal — például „mutasd bikinibe” vagy „vedd le a ruháit” — nők és gyerekek szexualizált deepfake-képeit hozzák létre.
A Centre for Countering Digital Hate (CCDH) szerint a Grok becslések szerint néhány nap alatt mintegy hárommillió szexualizált képet állított elő nőkről és gyermekekről.
