Le Difficoltà di ChatGPT con le Citazioni Accurate, Sollevano Preoccupazioni per gli Editori

Gli errori di citazione frequenti di ChatGPT, anche con contenuti con licenza, minano la fiducia degli editori e mettono in evidenza i rischi degli strumenti di AI generativa che rappresentano erroneamente il giornalismo.

Uno studio recente del Tow Center for Digital Journalism della Columbia Journalism School ha messo in luce criticamente le pratiche di citazione di ChatGPT, rivelando sfide significative per gli editori che si affidano allo strumento generativo AI di OpenAI.

I risultati suggeriscono che gli editori affrontano potenziali rischi reputazionali e commerciali a causa dell’attribuzione incoerente e spesso inaccurata di ChatGPT, anche quando sono in vigore accordi di licenza.

Lo studio ha testato la capacità di ChatGPT di attribuire citazioni da 200 articoli di 20 editori, compresi quelli con accordi di licenza e quelli coinvolti in contenziosi contro OpenAI, come riportato questa settimana dal Columbia Journalism Review (CJR).

Nonostante le affermazioni di OpenAI di fornire citazioni accurate, il chatbot ha restituito risposte errate o parzialmente errate in 153 casi. Solo sette volte ha riconosciuto la sua incapacità di individuare la fonte corretta, optando spesso per la fabbricazione di citazioni invece.

Gli esempi includono ChatGPT che falsamente attribuisce una citazione dall’Orlando Sentinel a Time e che fa riferimento a versioni plagiari dei contenuti del New York Times da fonti non autorizzate.

Anche quando gli editori hanno permesso ai crawler di OpenAI di accedere, le citazioni erano spesso attribuite erroneamente, come ad esempio collegando versioni sindacate anziché gli articoli originali.

Mat Honan, caporedattore del MIT Tech Review, ha espresso scetticismo riguardo la trasparenza di ChatGPT, notando che le sue risposte potrebbero trarre in inganno gli utenti non familiari con i limiti dell’IA.

“Da un mio punto di vista, sono molto familiare con le tendenze dei chatbot a ‘hallucinare’ e inventare cose […] Ma so anche che la maggior parte delle persone probabilmente non lo sa. […] Non penso che le piccole avvertenze che si vedono in questi chatbot siano sufficienti”, ha detto in CJR.

CJR sottolinea che OpenAI difende i suoi sforzi, evidenziando strumenti per gli editori per gestire la visibilità dei contenuti e promettendo di migliorare l’accuratezza delle citazioni.

Tuttavia, il Tow Center ha scoperto che l’abilitazione dei crawler o la concessione in licenza dei contenuti non garantisce una rappresentazione accurata, con incongruenze che coinvolgono sia gli editori partecipanti che quelli non partecipanti.

Le inesattezze di ChatGPT nel fare riferimento ai contenuti degli editori possono erodere la fiducia nel giornalismo e danneggiare la reputazione degli editori. Quando attribuisce erroneamente o rappresenta in modo errato gli articoli, il pubblico può lottare per identificare le fonti originali, diluendo il riconoscimento del marchio.

Anche gli editori che autorizzano i crawler di OpenAI o che detengono accordi di licenza non sono immuni da questi errori, evidenziando difetti sistemici. La tendenza di ChatGPT a fornire risposte con ingannevole sicurezza, piuttosto che ammettere le lacune nella sua conoscenza, inganna gli utenti e mina la trasparenza.

Tali pratiche potrebbero allontanare il pubblico da fonti di notizie credibili, incentivare il plagio e indebolire la visibilità del giornalismo di alta qualità. Queste conseguenze mettono a rischio l’integrità della condivisione delle informazioni e la fiducia nelle piattaforme di media digitali.