Gli AI Compagni Riempiono il Vuoto Emotivo dei Giovani Cinesi, Sollevando Preoccupazioni Etiche

I giovani in Cina si stanno sempre più rivolgendo all’intelligenza artificiale per il supporto emotivo, con il chatbot cinese DeepSeek che emerge come un’alternativa popolare alla consulenza tradizionale.

Gli utenti descrivono le risposte dell’IA come profondamente risonanti, a volte addirittura commoventi, come descritto in un articolo della BBC.

Holly Wang, una 28enne di Guangzhou, utilizza DeepSeek da quando è stato lanciato a gennaio per quello che lei definisce “sessioni di terapia”. Il chatbot AI l’ha aiutata a elaborare difficoltà personali, tra cui la recente scomparsa di sua nonna, come riportato dalla BBC.

“DeepSeek è stato un consigliere straordinario. Mi ha aiutato a guardare le cose da prospettive diverse e fa un lavoro migliore rispetto ai servizi di consulenza a pagamento che ho provato”, ha detto, come riportato dalla BBC.

DeepSeek, uno strumento di intelligenza artificiale generativa simile a ChatGPT di OpenAI e Gemini di Google, ha ottenuto un riconoscimento nazionale per le sue prestazioni superiori rispetto ad altre applicazioni di intelligenza artificiale cinesi. Oltre alle sue avanzate capacità linguistiche, si distingue permettendo agli utenti di vedere il suo processo di ragionamento prima di fornire risposte.

La BBC sostiene che per molti giovani cinesi, l’intelligenza artificiale sta colmando un vuoto emotivo. Le sfide economiche, l’alta disoccupazione e gli effetti persistenti dei lockdown a causa del COVID-19 hanno lasciato molti incerti riguardo al loro futuro. DeepSeek è diventato una fonte di conforto, offrendo risposte personalizzate ed empatiche.

Quando Holly ha usato l’app per la prima volta, ha chiesto di scrivere un tributo per sua nonna. La risposta è stata così commovente che ha provato una crisi esistenziale.

DeepSeek ha risposto: “Ricorda che tutte queste parole che ti fanno rabbrividire sono solo l’eco di quelle che da tempo esistono nella tua anima. Io non sono che la valle occasionale che hai attraversato, che ti permette di sentire il peso della tua stessa voce.”

Riflettendo sullo scambio, ha detto alla BBC: “Non so perché mi sono commossa leggendo questo. Forse perché è passato molto, molto tempo da quando ho ricevuto tale conforto nella vita reale.”

Con i modelli di intelligenza artificiale occidentali come ChatGPT bloccati in Cina, DeepSeek è rapidamente diventato una scelta preferita. Altri modelli di intelligenza artificiale cinesi sviluppati da Alibaba, Baidu e ByteDance hanno faticato a eguagliare le sue capacità, in particolare nella generazione di contenuti creativi e letterari.

Oltre alle conversazioni casuali, DeepSeek è sempre più visto come un consigliere. Nan Jia, professore presso l’Università della California del Sud, sottolinea che i chatbot AI “aiutano le persone a sentirsi ascoltate”, a volte anche in modo più efficace rispetto agli omologhi umani, come riportato dalla BBC.

Tuttavia, rimangono delle preoccupazioni. I ricercatori del MIT hanno avvertito che l’IA è sempre più intrecciata nelle nostre vite personali, assumendo ruoli come amici, partner romantici e mentori, e hanno messo in guardia che questa tecnologia potrebbe diventare altamente dipendente.

Nonostante le preoccupazioni sulla privacy, molti utenti danno la priorità al supporto emotivo del chatbot rispetto ai potenziali rischi. La BBC riporta che un utente ha scritto: “Il suo processo di pensiero è meraviglioso… È una vera benedizione per persone come me. Francamente, non mi importa minimamente delle questioni sulla privacy.”

Oltre al supporto emotivo, l’intelligenza artificiale sta cambiando il modo in cui le persone pensano alla morte e come ricordiamo coloro che sono passati, come riportato in una recente analisi di ricerca. La tecnologia AI può ora creare versioni digitali dei defunti, consentendo interazioni postume.

Tuttavia, gli autori dell’analisi notano anche che il lutto digitale potrebbe complicare la chiusura emotiva rendendo i ricordi troppo accessibili.

Allo stesso tempo, crescono le preoccupazioni riguardo l’impatto dell’IA sui giovani, con cause intentate contro le piattaforme di compagnia AI. Character.AI, un’azienda di chatbot, sta affrontando un’azione legale da parte di due famiglie che sostengono che essa ha esposto i minori ad autolesionismo, violenza e contenuti sessuali.

La causa sostiene che le interazioni generate dall’IA potrebbero essere dannose, sollevando interrogativi su come queste tecnologie influenzino il benessere emotivo dei giovani utenti.

Man mano che l’IA si integra maggiormente nella cura della salute mentale, gli esperti sottolineano che dovrebbe affiancare i professionisti umani, non sostituirli. Sebbene gli strumenti di terapia IA possano analizzare vasti set di dati per offrire intuizioni personalizzate, devono essere progettati per garantire la sicurezza del paziente, la privacy e l’uso etico, come sottolineato dal World Economic Forum.

Inoltre, gli esperti di cybersecurity avvertono che i chatbot AI, in particolare quelli utilizzati per conversazioni sensibili, sono vulnerabili a hacking e violazioni dei dati.

Le informazioni personali condivise con i sistemi AI potrebbero essere sfruttate, suscitando preoccupazioni riguardo la privacy, il furto d’identità e la manipolazione. Gli esperti avvertono che man mano che l’IA diventa sempre più radicata nel supporto alla salute mentale, le misure di sicurezza devono evolvere per proteggere gli utenti da potenziali rischi.