Google Riporta Oltre 250 Reclami su Contenuti di Terrorismo Generati da Deepfake AI

Google ha condiviso un rapporto con le autorità australiane rivelando che il suo strumento di intelligenza artificiale, Gemini, ha ricevuto oltre 250 reclami a livello globale per il suo utilizzo nella generazione di deepfake di terrorismo e più di 80 riguardanti materiale di abuso sui minori.

Le informazioni sono state fornite all’organismo australiano di vigilanza sulla sicurezza online, la eSafety Commission, dopo che le aziende tecnologiche, tra cui Meta, Telegram, Reddit, X e Google, sono state obbligate a rispettare le leggi locali e a segnalare i provvedimenti ai sensi della Legge sulla Sicurezza Online dell’Australia nel marzo 2024.

eSafety ha condiviso un documento ufficiale questo giovedì, esprimendo preoccupazioni sulla sicurezza dell’IA. Il rapporto di Google ha considerato le segnalazioni degli utenti dal 1° aprile 2023 al 29 febbraio 2024.

“Ha (Google) ricevuto 258 segnalazioni di utenti su sospetti materiali o attività di terrorismo o estremismo violento generati da IA, specificamente deepfake, prodotti da Gemini, l’IA generativa della stessa azienda, e 86 segnalazioni di utenti su sospetti materiali di sfruttamento e abuso sessuale di minori generati da IA,” ha detto il Commissario eSafety Julie Inman Grant. “Questo sottolinea quanto sia fondamentale per le aziende che sviluppano prodotti IA implementare e testare l’efficacia delle misure di sicurezza per prevenire la generazione di questo tipo di materiale.”

Secondo Reuters, un portavoce di Google ha dichiarato che non hanno permesso attività illegali. “Il numero di segnalazioni degli utenti di Gemini che abbiamo fornito a eSafety rappresenta il volume totale globale di segnalazioni degli utenti, non violazioni confermate delle politiche,” ha detto il portavoce di Google a Reuters via email.

Inman Grant ha considerato il rapporto come le “prime intuizioni a livello mondiale” per capire come le aziende tecnologiche stanno gestendo la “proliferazione online di materiale terroristico ed estremista violento.”

La Commissaria ha inoltre evidenziato come piattaforme come Facebook, WhatsApp e Telegram non siano riuscite a rilevare contenuti terroristici trasmessi in diretta. Inman Grant ha preso in considerazione l’attacco di Christchurch del 2019 – una sparatoria di massa terroristica in cui un attentatore suprematista bianco ha attaccato due moschee a Christchurch, in Nuova Zelanda, uccidendo 51 persone, nel marzo 2019 – come esempio di come attacchi estremisti e mortali siano stati trasmessi in diretta senza rilevare o rimuovere il contenuto.

Pochi giorni fa, un altro rapporto condiviso da ESafety ha rivelato che i bambini possono facilmente bypassare gli attuali sistemi di verifica dell’età utilizzati dalle piattaforme di social media più popolari.