Számos híroldal arról számolt be, hogy a Grok kapcsán több országban is vizsgálat indult, miután a szoftvert egyesek arra kezdték használni, hogy digitálisan levetkőztessék a feltöltött fotókon lévő embereket. Az Elon Musk tulajdonában lévő xAI cég szoftvere állítólag két 12-16 év közötti lányról is ilyen képet készített.

Az esetből hamar óriási botrány kerekedett, ami miatt az indiai, majd később a francia és a maláj hatóságok is vizsgálni kezdték a Grok működését.

Eközben a Grok üzemeltetői eltávolították a kifogásolt képet, majd egy bocsánatkérő üzenetet tettek közzé az X felületén, amelyben kiemelték, hogy kivizsgálják, mi okozhatta a hibát, ami engedélyezte az etikailag helytelen eljárást – ami nem mellesleg törvénybe ütköző volt.

Az egyszeri eseten túl a Grok több alkalommal készített AI-képeket nőkről szexuális bűncselekmény, megszégyenítés, bántalmazás vagy gyilkosság áldozataiként ábrázolva őket. Az egyik alkalommal például egy ismert modellt mutatott úgy a mesterséges intelligencia, mint aki egy furgon hátuljában ül megkötözve, mellette egy ásóval – azt szemléltetve, hogy hamarosan meggyilkolják őt.

A mesterséges intelligencia így nemcsak, hogy túlment az etikai határokon, és az érintettek hozzájárulása nélkül módosította az eredeti fotókat, de nagyban hozzájárult ahhoz is, hogy hamis információk terjedjenek az interneten.

Aki a Grokot használja illegális tartalmak készítésére, ugyanazokkal a következményekkel néz szembe, mintha illegális tartalmat töltene fel

– mondta el Elon Musk az eset kapcsán, arról azonban nem beszélt, hogy egyáltalán miért engedélyezi a szoftver az ilyen promptokat.

Több vizsgálat is indult

Az indiai hatóságok felszólították az X üzemeltetőit, hogy 72 órán belül vizsgálják felül az esetet, és tiltsák meg a Groknak, hogy a jövőben hasonló képeket generálhasson. Amennyiben ez a megadott határidőn belül nem történik meg, úgy a platformot teszik felelőssé a történtekért. 

A francia hatóságok szintén vizsgálják a platformon terjedő deepfake tartalmakat, miután három miniszter is illegális anyagokat vélt felfedezni az oldalon. A kormány célja, hogy ezeket a tartalmakat eltávolítsák a platformról.

Mindezeken felül pedig a maláj kormány is vizsgálatot rendelt el, miután több bejelentést is kapott arról, hogy gyerekeket is érintő szexuális tartalmak jelentek meg a platformon. A Facebookon elérhető közleményben arról írtak, hogy az X üzemeltetői a képekkel megszegték a Malajziában érvényes rendelkezéseket, ezért a kormány hivatalosan is felkeresi a cég képviselőit, hogy az irányelvek betartásáról egyeztessenek.

A Grok nemrég azzal került a címlapokra, hogy a Bondi Beach-en történt lövöldözés kapcsán hamis információkat terjesztett, korábban pedig az xAI cég chatbotjával történt privát beszélgetések lettek publikusan elérhetőek – a fejlesztők akarata ellenére.