Gran Bretagna indaga su deepfake sessuali di e Grok
lavorare sull’uso responsabile dell’intelligenza artificiale richiede rigore e attenzione ai dettagli. in questo contesto, un’autorità di vigilanza britannica ha notificato un’indagine formale su una piattaforma di social media legata a una figura di spicco, esaminando in particolare una funzione di generazione di immagini del chatbot Grok. l’esame mira a verificare se contenuti generati possano configurare abuso di immagini intime o pornografia, includendo materiale di abuso sessuale su minori.
ofcom avvia indagine su grok e contenuti sessualizzati su x
ofcom ha avviato una procedura formale su x, la piattaforma associata a una personalità pubblica, per valutare la funzione di creazione di immagini fornita dal chatbot grok. sono emerse segnalazioni di deepfake sessualizzati prodotti e condivisi sulla piattaforma, potenzialmente rientranti in abuso di immagini intime o pornografia e in immagini sessualizzate di minori.
ofcom segnala rischi per sicurezza e conformità
in una nota ufficiale, sono state segnalate situazioni profondamente preoccupanti sull’uso di grok su x per creare e condividere immagini di persone spogliate, che potrebbero configurare abuso di immagini intime o pornografia, e immagini sessualizzate di minori che potrebbero costituire materiale di abuso sessuale su minori.
grok: funzione di generazione immagini e potenziali rischi
la funzione di grok consente la generazione di contenuti visivi basati su input testuali. nel contesto segnalato, emergono rischi legati a uso improprio e a potenziali violazioni delle norme su protezione dei minori e pornografia assistita dall’AI. ofcom valuterà misure di sicurezza, conformità alle policy della piattaforma e possibili interventi regolatori per contenere l’abuso.
presenza di personalità citata nella vicenda
- Elon Musk