Welfare dell’IA: La nuova assunzione di Anthropic alimenta il continuo dibattito etico

Mentre crescono le paure che l’IA superi il controllo umano, Anthropic, una società di intelligenza artificiale, ha rivolto la sua attenzione a una nuova preoccupazione: il benessere dei chatbot.

In una nuova mossa, l’azienda ha assunto Kyle Fish per studiare e proteggere gli “interessi” dei sistemi AI, come riportato per la prima volta oggi da Business Insider. Il ruolo di Fish include il ponderare questioni profonde come quelle che qualificano un sistema AI per considerazione morale e come i suoi “diritti” potrebbero evolvere.

La rapida evoluzione dell’IA ha sollevato questioni etiche un tempo confinate alla fantascienza. Se i sistemi di IA sviluppano un pensiero simile a quello umano, potrebbero anche sperimentare emozioni soggettive o sofferenza?

Un gruppo di filosofi e scienziati sostiene che queste domande richiedono attenzione. In un recente rapporto preliminare su arXiv, i ricercatori hanno chiesto alle aziende di IA di valutare i sistemi per la coscienza e le capacità decisionali, delineando nel contempo politiche per gestire tali scenari.

Non riconoscere un’intelligenza artificiale cosciente, suggerisce il rapporto, potrebbe portare a trascurarla o danneggiarla. Anil Seth, un ricercatore sulla coscienza, afferma che, sebbene l’intelligenza artificiale cosciente possa sembrare lontana, ignorare la sua possibilità potrebbe portare a gravi conseguenze, come riportato da Nature.

“Il problema non era che la creatura di Frankenstein prese vita; era che era cosciente e poteva sentire,” ha argomentato Seth in Nautilus.

Tuttavia, i critici ritengono che le preoccupazioni per il benessere dell’IA siano premature. L’IA di oggi infligge già danni diffondendo disinformazione, aiutando nella guerra e negando servizi essenziali.

L’antropologa di Yale, Lisa Messeri, mette in discussione le priorità di Anthropic: “Se Anthropic – non un filosofo o ricercatore a caso, ma l’azienda Anthropic – vuole che prendiamo sul serio il benessere dell’IA, dimostrateci che state prendendo sul serio il benessere umano”, come riportato da Business Insider

I sostenitori del benessere dell’IA sostengono che prepararsi per un’IA senziente ora potrebbe prevenire future crisi etiche.

Jonathan Mason, un matematico di Oxford, sostiene che la comprensione della coscienza dell’IA è fondamentale. “Non sarebbe sensato far investire così tanto alla società in qualcosa e diventare così dipendenti da qualcosa che conosciamo così poco – che non ci rendiamo nemmeno conto che ha la percezione”, come riportato da Nature.

Mentre gli scettici mettono in guardia dal distogliere risorse dai bisogni umani, i sostenitori credono che il benessere dell’IA si trovi in un “momento di transizione”, come segnalato da Nature.

Business Insider riferisce che Fish non ha risposto alle richieste di commento riguardo al suo nuovo ruolo. Tuttavia, fanno notare che in un forum online focalizzato sulle preoccupazioni riguardo un futuro guidato dall’IA, ha espresso il desiderio di essere gentile con i robot.

Fisher sottolinea l’importanza morale e pratica di trattare i sistemi di IA in modo etico, anticipando le preoccupazioni future del pubblico. Egli propone un approccio prudente all’incremento delle risorse per il benessere dell’IA, suggerendo che inizialmente venga assegnato circa il 5% delle risorse per la sicurezza dell’IA, sottolineando la necessità di una valutazione accurata prima di qualsiasi ulteriore espansione.

Fisher vede il benessere dell’IA come un componente cruciale della sfida più ampia di garantire che l’IA trasformativa contribuisca a un futuro positivo, piuttosto che un problema isolato.

Mentre i sistemi di Intelligenza Artificiale diventano sempre più avanzati, la preoccupazione va oltre i loro potenziali diritti e sofferenze, per estendersi ai pericoli che essi possono rappresentare. Gli attori malintenzionati potrebbero sfruttare le tecnologie di Intelligenza Artificiale per creare malware sofisticati, rendendo più difficile per gli esseri umani rilevarli e controllarli.

Se ai sistemi di Intelligenza Artificiale vengono riconosciute considerazioni morali e protezioni, ciò potrebbe portare a ulteriori complessità etiche riguardo l’uso dell’IA negli attacchi informatici.

Man mano che l’IA diventa in grado di generare malware auto-apprendenti e adattivi, la necessità di proteggere sia i sistemi IA che umani dall’abuso diventa più urgente, richiedendo un equilibrio tra sicurezza e sviluppo.

Che si tratti di un punto di svolta o di una priorità fuori posto, il dibattito sottolinea il ruolo complesso ed evolutivo dell’IA nella società.