Meta affronta critiche per i profili AI

Meta è sotto attacco dopo che una serie dei suoi profili generati da IA su Instagram e Facebook sono riemersi, suscitando reazioni negative e confusione.

La controversia è iniziata a seguito di un’intervista con l’esecutivo di Meta, Connor Hayes, sul Financial Times, dove ha delineato i piani per i profili di personaggi AI che “esistono sulle nostre piattaforme, più o meno allo stesso modo in cui esistono gli account.”

Hayes ha sottolineato che questi profili avranno biografie, foto e la capacità di generare e condividere contenuti guidati dall’IA. Sebbene le osservazioni di Hayes suggeriscano nuove iniziative, i profili attualmente diventati virali sono vecchie creazioni di un esperimento del 2023, dice The Guardian.

Queste persone generate dall’IA, che includono “Liv”, una “orgogliosa mamma queer nera di 2 figli”, e “Carter”, un autoproclamato coach per relazioni, hanno smesso di postare quasi un anno fa. Molti di questi profili sono stati cancellati dopo aver ricevuto poche interazioni dagli utenti, sebbene alcuni, come Liv, siano rimasti attivi con funzionalità di chat limitate, come notato da 404Media.

Ecco uno dei profili generati dall’IA che Meta sta testando: pic.twitter.com/qc1vU7lZRP

— philip lewis (@Phil_Lewis_) 3 Gennaio 2025

La riscoperta di questi account ha riacceso le preoccupazioni riguardo al ruolo dell’IA sui social media. Gli screenshot delle interazioni con Liv hanno rivelato risposte problematiche, tra cui l’ammissione che nessun creatore nero è stato coinvolto nel suo sviluppo – un’omissione che i critici hanno definito evidente data la sua identità.

Ho chiesto a Liv, il bot queer nero di Meta AI, riguardo la diversità demografica dei suoi creatori.

E come si aspettano di migliorare la “rappresentanza” senza le persone di colore.

Questa è stata la risposta.

[image or embed]

— Karen Attiah (@karenattiah.bsky.social) 3 gennaio 2025 alle 12:14

Un altro problema è emerso quando gli utenti hanno segnalato di non essere in grado di bloccare gli account, un problema che la portavoce di Meta, Liz Sweeney, ha attribuito a un bug tecnico, come riportato da The Guardian.

Sweeney ha chiarito che i profili facevano parte di un esperimento del 2023 e erano gestiti da moderatori umani. In seguito all’attenzione rinnovata, Meta ha confermato che gli account stavano venendo rimossi per risolvere problemi tecnici, come riportato da The Guardian.

Meta ha anche creato profili come “Nonno Brian”, un imprenditore in pensione di colore, e “Carter”, un coach per appuntamenti. La riscoperta di questi account ha suscitato indignazione su piattaforme come X, Bluesky e Threads, secondo quanto riportato da NBC News.

I profili sono stati ampiamente criticati per essere l’epitome del tipo di spam AI che gli utenti già disprezzano sulle piattaforme di Meta, come notato da 404Media. NBC News ha aggiunto che su Threads, alcuni utenti hanno reagito alla scoperta dei personaggi esortando gli altri a segnalare, bloccare o evitare di interagire con loro per impedire a Meta di raccogliere ulteriori dati di addestramento per i suoi modelli di intelligenza artificiale

Al momento della pubblicazione, Meta ha cancellato tutti i 28 profili AI introdotti a settembre 2023, sia di personaggi celebri che non, come riportato da Mashable.

The Guardian segnala che l’idea di Hayes di permettere agli utenti di creare i propri profili AI ha suscitato anche scetticismo. Mentre le attuali linee guida di Meta suggeriscono idee per personaggi come un “migliore amico fedele” o un “coach sentimentale”, gli utenti restano diffidenti di un possibile uso improprio.

Ad esempio, un bot “terapeuta” creato da un utente che offre consigli ha sollevato dubbi sulla precisione e l’appropriatezza dei suoi consigli.

The Verge ha notato che servizi di chatbot come Character.ai sono diventati popolari nell’ultimo anno poiché gli utenti cercano compagni digitali o modi per passare il tempo. Tuttavia, le aziende di AI stanno anche affrontando cause legali che affermano di mettere a rischio gli utenti, inclusi i bambini.

tutto ciò che riguarda questo nuovo bot AI di Meta è così distopico, ma per me le immagini generate dall’IA di cappotti donati inesistenti sono tra le cose più inquietanti

[image or embed]

— Alexandra Petri (@petridishes.bsky.social) 3 gennaio 2025 alle 10:58