L’Intelligenza Artificiale Generativa Scatena Allarme nella Scienza Mentre i Falsi Dati Minacciano la Credibilità

Le immagini generate dall’IA stanno suscitando gravi preoccupazioni tra i ricercatori e gli editori, poiché i nuovi strumenti generativi dell’IA rendono allarmantemente facile la creazione di dati scientifici e immagini false, come evidenziato in un comunicato stampa di Nature.

Questo progresso minaccia la credibilità della letteratura accademica, con esperti che temono un’impennata di studi fabbricati guidati dall’IA, che potrebbero essere difficili da identificare.

Jana Christopher, analista dell’integrità delle immagini presso FEBS Press in Germania, sottolinea che la rapida evoluzione dell’AI generativa sta suscitando crescenti preoccupazioni riguardo il suo potenziale abuso nella scienza.

“Le persone che lavorano nel mio campo – integrità delle immagini ed etica delle pubblicazioni – stanno diventando sempre più preoccupate per le possibilità che offre”, ha detto Jane come riportato da Nature.

Lei nota che, mentre alcune riviste possono accettare testi generati da AI secondo determinate linee guida, le immagini e i dati generati da AI sono visti come una violazione di un confine che potrebbe influire profondamente sull’integrità della ricerca, come sottolineato da Nature.

Rilevare queste immagini create dall’AI è diventato una sfida primaria, afferma Nature. A differenza delle precedenti manipolazioni digitali, le immagini generate da AI spesso non presentano i soliti segni di falsificazione, rendendo difficile dimostrare qualsiasi inganno.

La specialista in analisi di immagini Elisabeth Bik e altri ricercatori suggeriscono che le figure prodotte dall’IA, in particolare in biologia molecolare e cellulare, potrebbero già essere presenti nella letteratura scientifica pubblicata, come riportato da Nature.

Strumenti come ChatGPT vengono ora utilizzati regolarmente per la stesura di articoli, riconoscibili dalle tipiche espressioni dei chatbot lasciate non corrette, ma le immagini generate dall’IA sono molto più difficili da individuare. In risposta a queste sfide, le aziende tecnologiche e le istituzioni di ricerca stanno sviluppando strumenti di rilevamento, come ha osservato Nature.
Strumenti basati sull’intelligenza artificiale come Imagetwin e Proofig stanno guidando l’innovazione, addestrando i loro algoritmi per identificare i contenuti generati dall’IA. Il co-fondatore di Proofig, Dror Kolodkin-Gal, riferisce che il loro strumento rileva le immagini AI con successo nel 98% dei casi, ma sottolinea che la verifica umana rimane fondamentale per convalidare i risultati, come riportato da Nature.

Nel mondo dell’editoria, riviste come Science utilizzano Proofig per le prime analisi dei manoscritti inviati, e il colosso dell’editoria Springer Nature sta sviluppando strumenti proprietari, Geppetto e SnapShot, per identificare irregolarità nel testo e nelle immagini, sempre secondo quanto riportato da Nature.

Altre organizzazioni, come l’Associazione Internazionale degli Editori Scientifici, Tecnici e Medici, stanno anche avviando iniziative per combattere le fabbriche di articoli e garantire l’integrità della ricerca, come riportato da Nature.

Tuttavia, gli esperti avvertono che gli editori devono agire rapidamente. Kevin Patrick, esperto nella ricerca di immagini scientifiche, teme che, se le azioni tardano, i contenuti generati dall’IA potrebbero diventare un altro problema irrisolto nella letteratura accademica, come riportato da Nature.

Nonostante queste preoccupazioni, molti rimangono speranzosi che la tecnologia futura evolverà per rilevare le ingannevoli manipolazioni generate dall’IA di oggi, offrendo una soluzione a lungo termine per salvaguardare l’integrità della ricerca accademica.