Il Disegno di Legge della California Impone Nuove Regole sull’IA

L’Assemblea dello Stato della California ha approvato l’Atto di Innovazione Sicura e Protetta per i Modelli di Intelligenza Artificiale di Frontiera (SB 1047) dopo molte modifiche apportate all’inizio di questo mese.

Presentato dal Senatore dello Stato Scott Wiener, l’SB 1047 mira a mitigare i rischi associati all’IA avanzata, come le armi autonome o gli attacchi informatici su larga scala. Inoltre, come riportato da Business Insider (BI), il disegno di legge richiede alle aziende che sviluppano modelli di IA di implementare misure di sicurezza, inclusi interruttori di emergenza e test di terze parti.

Le disposizioni chiave della SB 1047 prevedono rigidi protocolli di sicurezza per gli sviluppatori di “modelli coperti”, ovvero modelli di intelligenza artificiale su larga scala che richiedono una notevole potenza di calcolo per essere addestrati e hanno il potenziale di causare danni significativi.

Questi protocolli richiedono agli sviluppatori di implementare misure di sicurezza complete per affrontare rischi come conseguenze non intenzionali o uso malevolo. Inoltre, gli sviluppatori devono sottoporsi a verifiche indipendenti annuali per garantire la conformità e segnalare qualsiasi incidente di sicurezza dell’intelligenza artificiale al Procuratore Generale entro 72 ore.

Il disegno di legge impone anche responsabilità agli operatori di cluster di calcolo, richiedendo loro di identificare i clienti che addestrano questi modelli ad alto rischio e di adottare misure per mitigare i potenziali pericoli.

Il SB 1047 ha suscitato un dibattito significativo all’interno dell’industria tecnologica. Mentre i sostenitori sostengono che sia essenziale proteggere il pubblico dai potenziali pericoli dell’IA avanzata, gli oppositori sollevano preoccupazioni riguardo al suo potenziale impatto sull’innovazione.

Anche i critici sostengono che le normative potrebbero gravare sulle aziende, limitando la loro capacità di competere con i giganti tecnologici più grandi. Tuttavia, il senatore Wiener ha difeso la legislazione, sottolineando che si rivolge alle aziende che spendono oltre 100 milioni di dollari nello sviluppo dell’IA, esentando le startup più piccole, come riportato da Fortune.

Elon Musk, CEO e fondatore di xAI, ha espresso il suo sostegno per il disegno di legge. Ha riconosciuto il suo potenziale di scontentare alcuni, ma ha sottolineato la necessità di una regolamentazione per prevenire rischi pubblici.

Tuttavia, altre importanti aziende di intelligenza artificiale ed esperti del settore hanno espresso opposizione. Ad esempio, il LA Times riporta che Jason Kwon, Chief Strategy Officer di OpenAI, ha scritto in una lettera a Wiener, “Un insieme di politiche sulla AI guidate a livello federale, piuttosto che un mosaico di leggi statali, favorirà l’innovazione e posizionerà gli Stati Uniti come leader nello sviluppo di standard globali.”

Inoltre, la professoressa di Stanford Fei-Fei Li, esperta di AI, ha sostenuto che, benché la legislazione sia ben intenzionata, potrebbe avere significative conseguenze non previste, inclusi danni alla comunità open-source e limitazioni all’accesso accademico a modelli di AI essenziali.

Nonostante la controversia, la SB 1047 propone anche la creazione di CalCompute, un cluster di cloud computing pubblico, per supportare lo sviluppo responsabile dell’IA e fornire ai ricercatori e agli sviluppatori l’accesso alle risorse necessarie.

Sebbene il disegno di legge rappresenti un passo significativo verso la regolamentazione dell’IA in California, sia i critici che i sostenitori riconoscono che l’evoluzione rapida del panorama dell’IA potrebbe richiedere ulteriori revisioni della legge per affrontare le sfide e le opportunità emergenti.