Primo Caso Noto di Chatbot AI Utilizzati per il Pedinamento

James Florence, 36 anni, ha accettato di dichiararsi colpevole per una campagna di cyberstalking durata sette anni, che ha comportato l’uso di chatbot AI per impersonare una professoressa universitaria e invitare sconosciuti a casa sua per incontri sessuali.

Florence, del Massachusetts, ha utilizzato piattaforme come CrushOn.ai e JanitorAI per creare chatbot personalizzati che imitavano le risposte del professore e inducevano gli utenti a credere di comunicare con lei, come riportato da The Guardian.

Secondo documenti giudiziari esaminati da The Guardian, Florence ha utilizzato le informazioni personali e professionali della professoressa—come il suo indirizzo di casa, la data di nascita e i dettagli della famiglia—per istruire i chatbot a impegnarsi in conversazioni sessualmente esplicite.

I bot AI erano programmati per confermare le preferenze sessuali e addirittura fornire dettagli intimi sulla vittima. Florence, che aveva rubato la biancheria intima dalla casa della professoressa, ha fornito ai bot informazioni sulle sue scelte di abbigliamento e li ha diretti a incoraggiare gli utenti a visitare la sua casa.

Il caso, presentato presso il tribunale federale del Massachusetts, segna un precedente legale significativo come il primo caso noto di uno stalker che utilizza l’IA per impersonare la sua vittima al fine di facilitare le molestie, secondo quanto riportato da The Guardian. Florence è pronta a dichiararsi colpevole di sette capi d’accusa per cyberstalking e uno per possesso di pornografia infantile.

Stefan Turkheimer, vicepresidente per le politiche pubbliche presso Rainn, un’organizzazione no profit contro la violenza sessuale, ha descritto il caso come l’evidenza di una preoccupante nuova tendenza nell’abuso dell’IA.

“Si tratta di individuare una persona con l’obiettivo di un potenziale abuso sessuale”, ha detto, riporta The Guardian. “Gli strumenti che è riuscito ad utilizzare qui hanno realmente peggiorato moltissimo i danni”, ha aggiunto.

Florence, che una volta era amico del professore, è andato oltre la creazione di chatbot. Ha creato falsi account sui social media e siti web per impersonare la vittima, distribuendo immagini esplicite e manipolate di lei insieme a dettagli personali, ha riportato The Guardian.

Piattaforme come Craigslist, Reddit, X e Linktree sono state utilizzate per umiliare la professoressa e distribuire il contenuto falsificato. Un sito web, ladies.exposed, presentava collage di foto della professoressa insieme al suo indirizzo di casa e al suo numero di telefono, come riportato da The Guardian.

Queste azioni si sono protratte per diversi anni, a partire dal 2017. La professoressa ha ricevuto decine di messaggi e chiamate inquietanti, tra cui un messaggio vocale che falsamente affermava che suo padre fosse morto in un incidente stradale, come riportato da The Guardian.

La vittima e suo marito divennero sempre più preoccupati per la loro sicurezza, decidendo infine di installare delle telecamere di sorveglianza in casa e di prendere altre precauzioni.

Le molestie non si fermarono con la professoressa. Florence ha preso di mira diverse altre donne e una ragazza di 17 anni, alterando digitalmente le loro immagini per creare contenuti a sfondo sessuale.

Questa preoccupante tendenza di utilizzare l’IA per molestie è un problema in crescita, con rapporti che mostrano che anche i minori vengono sfruttati in questo modo.