Gli Avatar AI possono diffondere disinformazione, ma anche verità in paesi pesantemente censurati come il Venezuela

Sono tornata nel mio paese natale, il Venezuela, l’anno scorso per un paio di mesi dopo alcuni anni all’estero. Una delle cose che mi ha colpito durante il mio soggiorno è stato questo video virale di “conduttori televisivi americani” che spiegavano la situazione economica del paese e come fosse migliorata, in inglese con sottotitoli in spagnolo. Non sembrava reale, e sono subito diventata sospettosa, sfortunatamente non la gente che vive lì.

“Volevamo scoprire se il Venezuela è davvero distrutto come i media sostengono da anni”, ha detto Noah, il “giornalista” biondo di questo sconosciuto canale di notizie chiamato House of Media, in uno dei video che sono diventati virali sui social media, che il governo ha condiviso sulla TV locale e che è stato addirittura promosso online da Nicolás Maduro, l’autocrate del Venezuela.

“Sta succedendo”, ho pensato dopo aver parlato con alcuni venezuelani convinti che gli avatar AI fossero veri giornalisti, “il regime di Maduro sta utilizzando l’IA per diffondere disinformazione ed è efficace”. Nonostante non fosse stato confermato che l’amministrazione di Maduro l’avesse orchestrato, è stato poi rivelato che i video erano Avatar AI creati dalla società di intelligenza artificiale Synthesia, che di recente ha sviluppato avatar in grado di esprimere emozioni umane. Secondo VICE, in quel momento, Synthesia chiedeva 30 dollari al mese, e video simili erano stati creati per la propaganda in Africa e in Asia.

Tuttavia, proprio quando stavo cominciando a disperare per l’uso delle deepfake a scopi malevoli e per la disinformazione in diversi paesi, un interessante colpo di scena ha riportato la mia attenzione e speranza: i giornalisti venezuelani stanno utilizzando l’IA per informare e diffondere la verità.

Avatar AI: l’anonimato come vantaggio

Uno dei problemi dei deepfake è l’anonimato. A meno che qualcuno non confessi – come ha fatto quel mago di New Orleans raccontando ai giornalisti del suo ruolo nelle chiamate automatiche che imitavano il Presidente Joe Biden durante le elezioni primarie – può essere difficile trovare gli autori di certi contenuti generati dall’IA, dato che gli avatar IA non forniscono informazioni sulla persona reale. Ma e se questo fosse in realtà una soluzione in certi scenari?

In paesi come il Venezuela, condividere informazioni che vanno contro il governo è pericoloso, anche se non sei un giornalista, anche solo per un post sui social media – ci sono numerosi casi di persone e studenti come Villca Fernández che sono stati mandati in prigione per un tweet. Le persone continuano a farlo, ma è molto rischioso.

Ecco quando gli avatar IA diventano utili. Secondo Reuters, Connectas, un’organizzazione con sede in Colombia, ha lanciato un nuovo progetto chiamato “Operazione Retweet”, insieme alle iniziative #LaHoraDeVenezuela e Venezuela Vota, dopo le elezioni presidenziali del 28 luglio. L’obiettivo è condividere informazioni reali preparate da media indipendenti utilizzando due personaggi IA, La Chama (la ragazza) e El Pana (“amico” in slang venezuelano)

I video vengono condivisi sui social media attraverso i restanti canali di notizie indipendenti e altri canali di comunicazione come WhatsApp. A differenza degli avatar IA di House of Media che ho visto l’anno scorso, questi nuovi personaggi sembrano un po’ più artificiali e lo rivelano fin dall’inizio. “Prima di iniziare, nel caso non lo aveste notato, vogliamo dirvi che non siamo reali,” dice La Chama nel primo video pubblicato. “Siamo stati generati dall’Intelligenza Artificiale, ma il contenuto è reale, verificato, di alta qualità, e creato da giornalisti,” aggiunge El Pana.

Sono stati condivisi su social media, in inglese e spagnolo, più video attraverso vari siti web e altri canali di comunicazione. Il progetto è stato elogiato a livello internazionale e ammirato come strategia per combattere la censura.

📢 Terzo episodio di Operacion Retuit!#GiornalismoInestimabile

🎥 Questo episodio si concentra sul recente approvazione di una legge che regola le ONG in 🇻🇪. Lo spazio civico si sta chiudendo definitivamente?🚨

🔗 👉🏽 https://t.co/SkFE5KKQBu

Leggi e condividi.📲🔄#VenezuelaVota #LaHoraDeVenezuela pic.twitter.com/HAdlqBXwnh

— CONNECTAS (@ConnectasOrg) 6 settembre 2024

La tecnologia diventa fondamentale per la sopravvivenza

Le piattaforme digitali sono diventate essenziali per i venezuelani da anni. Ricordo di aver aiutato la mia famiglia a trovare il farmaco di mia nonna attraverso Twitter (ora X) nel 2016 e 2017 quando la mancanza di farmaci raggiungeva l’85% nel paese.

Molti venezuelani diventano esperti di tecnologia per necessità e sfruttano al massimo ogni piattaforma digitale. L’anno scorso sono rimasta impressionata da come le aziende e i clienti gestissero così tante transazioni via WhatsApp. Ho ricevuto il cibo a domicilio e ho prenotato i miei viaggi tramite questa piattaforma, dato che app popolari come Uber Eats, Uber, Lyft, o i tradizionali metodi di pagamento online internazionali non esistono. Le persone imparano a fidarsi degli sconosciuti attraverso le chat.

Dall’uso di VPN per bypassare la censura—similmente a quanto stanno facendo ora i brasiliani per accedere a X, recentemente bandito nel paese—alla miniera di Bitcoin, passando per l’attività di gig online per sbarcare il lunario, i venezuelani si stanno costantemente adattando alle nuove tecnologie come strumenti per navigare nelle turbolente crisi politiche, sociali ed economiche. “Dopo gli Stati Uniti, il Venezuela ospita il maggior numero di lavoratori di dati al mondo”, afferma un rapporto condiviso da Rest of World all’inizio di quest’anno.

L’intelligenza artificiale ha avuto una forte presenza in Venezuela per anni. Molte aziende di IA hanno approfittato della crisi assumendo manodopera a basso costo. Nel 2022, il MIT Technology Review ha condiviso un rapporto su come le aziende di etichettatura dei dati IA abbiano trovato opportunità per sfruttare i cittadini talentuosi: “La crisi del Venezuela è stata una manna per queste aziende, che all’improvviso hanno ottenuto alcune delle manodopere più economiche mai disponibili.”

Ora, i venezuelani stanno utilizzando il loro talento e le loro conoscenze in tecnologia come uno strumento potente non solo per contrastare la crisi, ma anche per sfidare il governo. Forse – e speriamo – i nuovi avatar dell’IA sono solo l’inizio di una nuova ondata di empowerment dei cittadini.