L’UNECE emette una dichiarazione sui prodotti incorporati con l’IA

La Commissione Economica per l’Europa delle Nazioni Unite (UNECE) ha annunciato oggi una dichiarazione che affronta le sfide normative poste dall’IA e dalle tecnologie digitali incorporate nei prodotti e nei servizi di tutti i giorni. Questa iniziativa mira a migliorare la coerenza normativa globale di fronte alle complessità delle tecnologie emergenti.

Basandosi sui Common Regulatory Arrangements (CRA) di ampia portata, la dichiarazione incoraggia la cooperazione normativa volontaria tra i governi, pur tutelando il commercio globale e il progresso tecnologico.

La dichiarazione mette in evidenza la prevalenza di prodotti che utilizzano l’IA incorporata e le tecnologie digitali, ma sottolinea l’assenza di definizioni e regolamentazioni coerenti.

Sebbene la CRA affermi che non comprende veicoli autonomi o armi, le sue indicazioni rimangono pertinenti per questi settori.

La dichiarazione sottolinea l’importanza di gestire i rischi associati ai prodotti che incorporano l’IA incorporata o altre tecnologie digitali. Secondo la dichiarazione, eliminare completamente tutti i rischi è irrealistico; invece, le normative dovrebbero mirare a gestire i rischi entro limiti accettabili.

I prodotti ad alto rischio, in particolare quelli che influiscono sulla salute, la sicurezza o la privacy, richiederanno un controllo rigoroso. I prodotti a rischio medio, che possono presentare problemi di sicurezza per l’utente ma non coinvolgono dati personali, avranno bisogno di un monitoraggio moderato. Al contrario, i prodotti a basso rischio che non utilizzano dati personali o influenzano direttamente gli utenti richiederanno una supervisione minima.

Per i sistemi di intelligenza artificiale ad alto rischio, la dichiarazione sostiene l’inclusione della decisione umana ovunque sia possibile. Ad esempio, i dispositivi medici che utilizzano l’intelligenza artificiale per la diagnostica dovrebbero coinvolgere il controllo umano per mitigare i rischi per i pazienti, mentre la macchinaria industriale alimentata da intelligenza artificiale dovrebbe permettere un controllo umano nei luoghi di lavoro.

Riconoscendo la natura imprevedibile delle tecnologie di intelligenza artificiale, la dichiarazione sottolinea la necessità di test rigorosi pur riconoscendo la persistenza di rischi sconosciuti. Si incoraggiano i regolatori e i distributori a divulgare questi rischi residui e a garantire che rimangano gestibili.

Per prevenire danni, i sistemi AI incorporati devono affrontare i pregiudizi nel processo decisionale, riflettendo sia i pregiudizi umani che quelli delle macchine.

La dichiarazione afferma inoltre che questi sistemi dovrebbero rispettare l’autonomia umana, il benessere mentale e i valori sociali, compresi i diritti dei bambini, e funzionare efficacemente nelle economie in via di sviluppo senza creare barriere commerciali.

Le funzionalità di sicurezza sono fondamentali per la tecnologia AI per prevenire un uso improprio. Le valutazioni di conformità normativa sono vitali per i prodotti AI, dove gli articoli a basso rischio possono richiedere solo un’autodichiarazione del fornitore, mentre i prodotti ad alto rischio dovrebbero sottoporsi a valutazioni di terze parti per verificare la conformità con gli standard internazionali.

Inoltre, l’argomentazione sostiene che la sorveglianza del mercato deve evolvere per mantenere il passo con la natura dinamica dell’IA. I controlli di conformità continui sono necessari, specialmente quando i prodotti ricevono aggiornamenti.

Le verifiche indipendenti dovrebbero confermare che i prodotti mantengono gli standard iniziali e sono sicuri per l’uso. I prodotti non conformi, in particolare quelli che presentano rischi significativi, dovrebbero essere ritirati, con allerte internazionali emesse per problemi seri.