Il Modello IA DeepSeek-R1 Solleva Preoccupazioni per la Sicurezza in un Nuovo Studio

Una società di cybersecurity ha espresso preoccupazioni riguardo al modello di intelligenza artificiale DeepSeek-R1, avvertendo che presenta notevoli rischi per la sicurezza nell’uso aziendale.

In un rapporto pubblicato l’11 febbraio, i ricercatori di AppSOC hanno dettagliato una serie di vulnerabilità scoperte attraverso test estensivi, che hanno descritto come una grave minaccia per le organizzazioni che si affidano all’intelligenza artificiale.

Secondo i risultati, DeepSeek-R1 ha mostrato un alto tasso di fallimento in diverse aree di sicurezza. Il modello si è dimostrato altamente suscettibile ai tentativi di jailbreak, eludendo spesso i meccanismi di sicurezza destinati a prevenire la generazione di contenuti dannosi o limitati.

Si è anche dimostrato vulnerabile agli attacchi di iniezione di prompt, che hanno permesso a prompt avversari di manipolare le sue uscite in modi che violavano le politiche e, in alcuni casi, compromettevano l’integrità del sistema.

Inoltre, la ricerca ha indicato che DeepSeek-R1 era in grado di generare codice malevolo a un ritmo preoccupante, accrescendo le preoccupazioni riguardo al suo possibile abuso.

Altre questioni identificate nel rapporto includevano una mancanza di trasparenza riguardo alle origini e alle dipendenze del set di dati del modello, aumentando la probabilità di difetti di sicurezza nella sua catena di fornitura.

Gli ricercatori hanno inoltre osservato che il modello produceva occasionalmente risposte contenenti un linguaggio dannoso o offensivo, suggerendo una protezione insufficiente contro output tossici. Inoltre, si è riscontrato che DeepSeek-R1 generava informazioni factualmente errate o completamente fabbricate con una frequenza significativa.

AppSOC ha assegnato al modello un punteggio di rischio complessivo di 8.3 su 10, citando particolarmente alti rischi legati alla sicurezza e alla conformità.

La società ha sottolineato che le organizzazioni dovrebbero esercitare cautela prima di integrare i modelli di IA nelle operazioni critiche, in particolare quelle che gestiscono dati sensibili o proprietà intellettuale.

I risultati evidenziano preoccupazioni più ampie all’interno dell’industria dell’IA, dove lo sviluppo rapido spesso dà la precedenza alle prestazioni rispetto alla sicurezza. Mentre l’intelligenza artificiale continua ad essere adottata in settori quali la finanza, l’assistenza sanitaria e la difesa, gli esperti sottolineano la necessità di test rigorosi e monitoraggio continuo per mitigare i rischi.

AppSOC ha raccomandato che le aziende che implementano l’IA eseguano regolari valutazioni di sicurezza, mantengano un rigoroso controllo sugli output generati dall’IA e stabiliscano protocolli chiari per la gestione delle vulnerabilità man mano che i modelli evolvono.

Sebbene DeepSeek-R1 abbia attirato l’attenzione per le sue capacità, la ricerca sottolinea l’importanza di valutare i rischi di sicurezza prima dell’adozione su larga scala. Le vulnerabilità identificate in questo caso servono come promemoria che le tecnologie IA richiedono un’attenta analisi per prevenire conseguenze non intenzionali.