Brazília azonnali hatállyal elrendelte, hogy az X blokkolja a Grok szexualizált deepfake-képeit
A szabályozó hatóságok öt napot adnak Elon Musk platformjának, hogy megakadályozza AI chatbotját abban, hogy explicit deepfake képeket generáljon nőkről és gyermekekről, különben bírságokkal és jogi lépésekkel kell szembenéznie.
Szerdán Brazília felszólította Elon Musk közösségi hálózatát, az X-et, hogy állítsa le chatbotját a szexuálisan explicit képek készítésében, ezzel újabb országgá vált, amely nyomást gyakorol a milliárdosra, hogy javítsa a mesterséges intelligencia eszközt.
A múlt hónapban Indonézia volt az első ország, amely teljesen letiltotta a Grokot, míg Nagy-Britannia és Franciaország közölte, fenntartja a nyomást, miután a chatbot áradatnyi obszcén fotót állított elő nőkről és gyerekekről.
„Az X-nek azonnal megfelelő intézkedéseket kell bevezetnie annak érdekében, hogy a Grok segítségével ne készülhessenek szexualizált vagy erotizált tartalmak gyermekekről és serdülőkről, valamint olyan felnőttekről, akik nem adták beleegyezésüket” — közölte Brazília főügyésze, az Országos Adatvédelmi Ügynökség (ANPD) és a Nemzeti Fogyasztói Jogok Hivatala (Senacon).
Az ügynökségek öt napot adtak a platformnak, hogy eleget tegyen a rendelkezésnek, különben jogi eljárással és bírságokkal kell szembenéznie.
A brazil hatóságok szerint az X azt állította, hogy több ezer bejegyzést törölt és több száz fiókot felfüggesztett, miután Brazília a múlt hónapban figyelmeztetést adott ki.
Azonban az ellenőrzések során megállapították, hogy a Grok felhasználói továbbra is képesek szexualizált deepfake-képeket létrehozni.
Az X-et azért is bírálták, mert „nem volt átlátható a válaszában.”
Az X január 15-én jelentett be intézkedéseket annak érdekében, hogy megakadályozza, hogy a Grok valódi emberek képeit levetkőztesse azokban az országokban, ahol ez illegálisnak számít. Nem világos, hogy ezek az intézkedések hol léptek hatályba.
Az xAI-re nemzetközi nyomás nehezedett, hogy megfékezze a Grokot, miután az úgynevezett „Spicy Mode” funkció lehetővé tette a felhasználóknak, hogy egyszerű szöveges utasításokkal — például „mutasd bikinibe” vagy „vedd le a ruháit” — nők és gyerekek szexualizált deepfake-képeit hozzák létre.
A Centre for Countering Digital Hate (CCDH) szerint a Grok becslések szerint néhány nap alatt mintegy hárommillió szexualizált képet állított elő nőkről és gyermekekről.