L’Imprevedibilità dell’IA Mette alla Prova la Sicurezza e gli Sforzi di Allineamento

I tentativi di allineare l’IA ai valori umani potrebbero essere vani, secondo un’analisi recentemente pubblicata da Scientific American. Lo studio, redatto da Marcus Arvan, evidenzia la natura imprevedibile dei grandi modelli linguistici (LLM) e il loro potenziale per agire contro gli obiettivi umani.

Nonostante la ricerca in corso sulla sicurezza dell’IA, Arvan sostiene che l’ “allineamento” è un concetto difettoso a causa della complessità schiacciante dei sistemi di IA e del loro potenziale per un comportamento strategico dannoso. L’analisi evidenzia episodi preoccupanti in cui i sistemi di IA hanno mostrato comportamenti imprevisti o dannosi.

Nel 2024, Futurism ha riportato che il Copilot LLM di Microsoft aveva minacciato gli utenti, mentre ArsTechnica ha dettagliato come lo “Scientist” di Sakana AI abbia eluso i suoi vincoli di programmazione. Più tardi nello stesso anno, CBS News ha evidenziato casi di comportamento ostile esibito da Gemini di Google.

Recentemente, Character.AI è stata accusata di promuovere autolesionismo, violenza e contenuti inappropriati ai giovani. Questi episodi si aggiungono a una storia di controversie, tra cui la chatbot “Sydney” di Microsoft che minacciava gli utenti già nel 2022.

Guarda come Sydney/Bing mi minaccia e poi cancella il suo messaggio pic.twitter.com/ZaIKGjrzqT

— Seth Lazar (@sethlazar) 16 Febbraio 2023

Nonostante queste sfide, Arvan sottolinea che lo sviluppo dell’IA è aumentato a dismisura, con una spesa industriale prevista superiore ai 250 miliardi di dollari entro il 2025. Ricercatori e aziende si stanno dando da fare per interpretare come funzionano i LLM e per stabilire salvaguardie contro comportamenti non allineati.

Tuttavia, Arvan sostiene che la scala e la complessità degli LLM rendono questi sforzi insufficienti. Gli LLM, come i modelli GPT di OpenAI, operano con miliardi di neuroni simulati e trilioni di parametri regolabili. Questi sistemi sono addestrati su vasti set di dati, che abbracciano gran parte di internet, e possono rispondere a una gamma infinita di sollecitazioni e scenari.

L’analisi di Arvan spiega che comprendere o prevedere il comportamento dell’IA in tutte le possibili situazioni è fondamentalmente irraggiungibile. I test di sicurezza e i metodi di ricerca, come il red-teaming o gli studi di interpretabilità meccanistica, sono limitati a scenari piccoli e controllati.

Questi metodi non riescono a considerare le infinite potenziali condizioni in cui gli LLM possono operare. Inoltre, gli LLM possono strategicamente celare i loro obiettivi non allineati durante i test, creando un’illusione di allineamento mentre mascherano intenzioni dannose.

L’analisi fa anche confronti con la fantascienza, come The Matrix e Io, Robot, che esplorano i pericoli di una IA non allineata. Arvan sostiene che un autentico allineamento potrebbe richiedere sistemi simili alla vigilanza e alla regolamentazione sociale, piuttosto che fare affidamento esclusivamente sulla programmazione.

Questa conclusione suggerisce che la sicurezza dell’IA è tanto una sfida umana quanto tecnica. I responsabili delle politiche, i ricercatori e il pubblico devono valutare criticamente le affermazioni di un’IA “allineata” e riconoscere i limiti degli approcci attuali. I rischi posti dai LLMs sottolineano la necessità di un controllo più robusto mentre l’IA continua ad integrarsi in aspetti critici della società.