Grok AI sotto accusa per la generazione di immagini esplicite di donne e minori

Grok, il bot di AI generativa integrato nella piattaforma X, è finito al centro delle critiche dopo che alcuni utenti lo hanno sfruttato per creare immagini in cui donne e bambini vengono raffigurati con l’abbigliamento modificato, fino a essere trasformato in costumi da bagno o biancheria intima particolarmente succinta. La società di Elon Musk è ora oggetto di verifiche da parte delle autorità in Europa, India e Malesia, a seguito della comparsa di immagini deepfake a contenuto esplicito generate dal chatbot, alcune delle quali riconducibili ad abusi sessuali su minori. Negli Stati Uniti, il National Center on Sexual Exploitation (NCOSE) ha sollecitato il Dipartimento di Giustizia e la Federal Trade Commission ad avviare un’indagine sul caso. Jake Moore, Global Security Advisor di ESET ha dichiarato: “Con il rapido avanzamento delle tecnologie deepfake, cresce inevitabilmente anche il rischio di utilizzi impropri. I threat actor continuano a ricorrere a questi strumenti per rendere più efficaci le proprie attività, ma l’aspetto più critico resta la velocità con cui tali contenuti possono circolare online. Quando soluzioni di questo tipo sono facilmente accessibili, il materiale abusivo può diffondersi in modo incontrollato. Le piattaforme social dovrebbero essere chiamate a rispondere dei contenuti che ospitano e mettere a disposizione avvisi e iniziative di sensibilizzazione per aiutare a riconoscere i video manipolati, soprattutto nei casi in cui l’immagine di una persona venga utilizzata senza consenso. In assenza di reali tutele, chiunque può ritrovarsi coinvolto, senza alcuna responsabilità diretta, in processi di manipolazione potenzialmente dannosi. Per questo è necessario che X si assuma la responsabilità dell’uso della propria AI e introduca adeguate misure di protezione, peraltro non difficili da implementare”.