L’IA Potrebbe Prevedere e Influire sulle Decisioni, Vendendo le Tue Intenzioni alle Aziende

L’IA potrebbe presto portare a un mercato in cui le aziende comprano e vendono le tue intenzioni prima ancora che tu prenda una decisione, avvertono i ricercatori dell’Università di Cambridge.

Questa emergente “Economia dell’Intenzione” permetterebbe agli assistenti AI di prevedere e influenzare le tue scelte, dall’acquisto di biglietti del cinema al voto nelle elezioni, spesso prima che tu realizzi le tue stesse preferenze.

Gli eticisti dell’IA del Leverhulme Centre for the Future of Intelligence (LCFI) di Cambridge suggeriscono che l’uso crescente di IA generativa e chatbot potrebbe aprire la strada a un nuovo tipo di tecnologia persuasiva.

Questi agenti IA, che vanno dagli assistenti chatbot ai tutor digitali, avranno accesso a enormi quantità di dati psicologici e comportamentali personali raccolti attraverso conversazioni quotidiane, compresi i dialoghi informali.

Questi dati, combinati con algoritmi avanzati, permetteranno all’IA di anticipare i desideri degli utenti e influenzare le loro decisioni su larga scala, sostengono i ricercatori.

“Enormi risorse vengono spese per posizionare assistenti AI in ogni area della vita, il che dovrebbe sollevare la questione di quali interessi e scopi questi cosiddetti assistenti sono progettati per servire,” ha detto il Dr. Yaqub Chaudhary, Visiting Scholar presso LCFI, come riportato su Eurekalert.

Gli strumenti di intelligenza artificiale non solo raccoglieranno dati dalle abitudini online degli utenti, ma interpreteranno anche segnali sottili come il modo in cui le persone parlano e le inferenze che possono essere tratte dalle interazioni in tempo reale. Secondo i ricercatori, questi strumenti potrebbero presto prevedere e influenzare le nostre decisioni, manipolandole per servire interessi aziendali, politici e commerciali.

Il Dr. Jonnie Penn, storico della tecnologia presso il LCFI, spiega che l’attenzione è da tempo la valuta di Internet, con piattaforme come Facebook e Instagram che traggono profitto dall’interazione degli utenti. Tuttavia, nella nascente economia dell’intenzione, le motivazioni umane diventeranno la nuova valuta.

“A meno che non sia regolato, l’economia dell’intenzione tratterà le tue motivazioni come la nuova valuta. Sarà una corsa all’oro per coloro che mirano, dirigono e vendono intenzioni umane.” ha detto la Dr.ssa Penn, come riportato su Eurekalert.

I ricercatori avvertono che questo mercato potrebbe avere gravi conseguenze, dall’underminare elezioni libere ed eque all’affectare l’integrità dei media e la concorrenza di mercato. Sostengono che, sebbene l’economia dell’intenzione sia ancora nella sua infanzia, i primi segni del suo sviluppo sono già visibili.

Ad esempio, grandi aziende tecnologiche come OpenAI, Meta e Apple hanno iniziato ad investire in sistemi di intelligenza artificiale che prevedono le intenzioni umane, secondo Eurekalert. OpenAI, per esempio, ha richiesto dati che esprimono l’intenzione umana in vari formati, mentre il framework “App Intents” di Apple per il 2024 è progettato per prevedere le future azioni degli utenti.

Nonostante i rischi, Penn e Chaudhary sottolineano che questi sviluppi non sono intrinsecamente negativi. Tuttavia, enfatizzano l’importanza della consapevolezza pubblica e della regolamentazione per garantire che l’economia dell’intenzione non oltrepassi i confini etici.

“Dovremmo iniziare a considerare l’eventuale impatto che un tale mercato potrebbe avere sulle aspirazioni umane, comprese elezioni libere ed eque, una stampa libera e una concorrenza di mercato equa, prima di diventare vittime delle sue conseguenze non intenzionali.” ha avvertito Penn, come riportato da Eurekalert.

In questo panorama digitale in rapida evoluzione, i ricercatori esortano la società a esaminare attentamente le implicazioni degli strumenti di intelligenza artificiale che non solo influenzano ciò che le persone vogliono, ma ciò che “vogliono desiderare”.