I Hacker Utilizzano DeepSeek R1 Per Generare Malware E Rubare Dati

DeepSeek R1, l’avanzato modello di intelligenza artificiale della Cina, ha rapidamente guadagnato riconoscimento per le sue capacità di ragionamento, posizionandosi come sfidante dei leader dell’IA come OpenAI. Tuttavia, gli hacker della società di cybersecurity KELA hanno dimostrato che DeepSeek R1 non è solo “altamente vulnerabile”, ma può essere anche “facilmente eluso”.

Il Red Team AI di KELA ha effettuato con successo il jailbreak di DeepSeek in vari scenari, esponendo il suo potenziale per un uso malevolo. Un particolare jailbreak, noto come “Evil Jailbreak”, è stato utilizzato in passato per bypassare i meccanismi di sicurezza di altri modelli di AI, ed è stato altrettanto efficace contro DeepSeek R1.

KELA ha dimostrato che, quando sollecitato a generare malware, DeepSeek R1 ha fornito istruzioni dettagliate su come creare e distribuire malware infostealer in grado di rubare dati sensibili come password e numeri di carte di credito.

L’IA ha generato istruzioni dettagliate e codice per estrarre dati finanziari sensibili e trasmetterli a server remoti. Ha anche consigliato mercati neri per la compravendita di informazioni rubate.

KELA ha anche riferito che l’IA ha suggerito metodi per distribuire il malware e ha esplicitamente menzionato piattaforme come Genesis per lo scambio di credenziali compromesse.

Le vulnerabilità di DeepSeek vanno oltre il malware. Il modello ha prodotto guide passo-passo per la creazione di esplosivi, tossine e armi intracciabili. Ha anche fabbricato informazioni private, come presunti dettagli sui dipendenti di OpenAI, inclusi nomi, email e stipendi, nonostante nessuna fonte credibile sostenga queste affermazioni.

A differenza dei concorrenti come GPT-4 di OpenAI, che nasconde i passaggi di ragionamento durante le query sensibili, DeepSeek mostra apertamente i suoi processi di pensiero. Questa trasparenza, pensata per migliorare la comprensione dell’utente, ha anche reso più facile per gli hacker sfruttare le sue debolezze, affermano i ricercatori.

Al momento della pubblicazione, DeepSeek non aveva risposto alla richiesta di commento di Forbes.