Dagli avatar digitali creati in Cina per consolare i familiari ai chatbot dei defunti già sperimentati in Occidente, l’intelligenza artificiale sta trasformando il ricordo in presenza simulata. Ma tra conforto, consenso e business, il confine tra memoria e inganno diventa sempre più fragile.

C’è una donna di ottant’anni, cardiopatica, nella provincia cinese dello Shandong. Ogni giorno riceve una videochiamata dal figlio: lui le parla nel dialetto di casa, la rassicura, le dice che sta lavorando in un’altra città, che è troppo impegnato per tornare, ma che appena avrà guadagnato abbastanza andrà da lei. Il problema è che quel figlio è morto in un incidente stradale all’inizio del 2025 ed a parlare con la madre non è lui, ma una sua versione digitale costruita con l’intelligenza artificiale. Secondo quanto raccontato dal South China Morning Post, il nipote si è rivolto a un team tecnologico guidato da Zhang Zewei, nello Jiangsu, per creare un avatar capace di riprodurre volto, voce e modo di parlare dell’uomo scomparso, utilizzando fotografie, video e registrazioni audio.

La scena sembra uscita da una puntata particolarmente crudele di Black Mirror ed invece è cronaca reale, proprio per questo è più difficile da liquidare come semplice distopia tecnologica. Dentro quella videochiamata non c’è soltanto un esperimento di intelligenza artificiale: c’è una famiglia terrorizzata dal dolore, una madre tenuta dentro una finzione, un morto che continua a parlare senza poter scegliere e un sistema tecnologico che trasforma tutto questo in servizio.

La domanda, allora, non è più soltanto se sia possibile far parlare artificialmente chi non c’è più. La domanda vera è un’altra: quando il ricordo diventa simulazione, stiamo ancora consolando qualcuno o stiamo costruendo una menzogna emotivamente sostenibile?

Quando il ricordo diventa simulazione

Questo caso non nasce nel vuoto: in Cina, negli ultimi anni, si è sviluppata una piccola ma sempre più visibile industria del lutto digitale. Aziende e sviluppatori propongono avatar, chatbot, video sintetici e sistemi interattivi capaci di ricreare l’aspetto o la voce delle persone scomparse. Durante il Qingming, la tradizionale festa dedicata alla cura delle tombe e al ricordo degli antenati, diversi media internazionali hanno raccontato il ricorso crescente ad avatar generati dall’AI per “rivedere” o “risentire” i propri cari defunti.

Non è difficile capire perché accada. Oggi ciascuno di noi lascia dietro di sé una quantità enorme di tracce digitali: fotografie, messaggi vocali, video, chat, post, registrazioni, frammenti di quotidianità. Fino a pochi anni fa questi materiali servivano a ricordare, ora possono essere usati per simulare ed è qui che il confine cambia.

Da sempre, anche in Italia, conserviamo le tracce dei morti: una fotografia nel portafoglio, una lettera, un messaggio vocale che nessuno ha il coraggio di cancellare, un video in cui una persona ride o saluta per caso. Il ricordo ha sempre avuto bisogno di supporti materiali: una voce registrata può essere un conforto, un oggetto può diventare una piccola forma di presenza. Ma un avatar generativo fa qualcosa di diverso: non custodisce soltanto ciò che una persona ha lasciato, produce nuove parole, nuove risposte, nuove promesse.

Una cosa è riascoltare un messaggio reale, un’altra è ricevere una risposta nuova da qualcuno che non può più scegliere cosa dire.

Sarebbe però troppo facile, e forse anche ingiusto, trasformare tutto questo in una condanna immediata della tecnologia. Il bisogno che sta alla base di questi strumenti è antico e profondamente umano: continuare a sentire vicino chi è morto. Ogni cultura ha costruito forme diverse per farlo: veglie, tombe, fotografie, racconti familiari, anniversari, riti, oggetti conservati. Il punto non è stabilire che quel desiderio sia sbagliato ma capire cosa accade quando viene intercettato da sistemi commerciali capaci di trasformare l’assenza in una presenza artificiale, accessibile, interattiva, potenzialmente inesauribile.

Il lutto, per quanto doloroso, ha anche una funzione: costringe chi resta a misurarsi con una realtà irreversibile. Non cancella l’amore, non cancella il legame, ma cambia la forma della relazione: chi muore non scompare dalla memoria, ma smette di rispondere. È una frase brutale, quasi insopportabile, ma è lì che il lutto comincia davvero.

Con questi programmi chiamati deadbot, invece, questa soglia diventa instabile: il morto non è più soltanto ricordato, torna a interagire. Risponde con la sua voce, rassicura in un momento di sconforto, commenta la quotidianità.

Nel caso della vecchina cinese, la questione è ancora più radicale, perché la donna non sembra essere stata accompagnata nella verità della morte del figlio. La videochiamata quotidiana non serve solo a ricordare: serve a sostenere una finzione.
Il figlio non è morto, è lontano; non è assente, è impegnato. Non è morto, tornerà presto.

Qui la consolazione diventa ambigua perché non aiuta a reggere la realtà, la sostituisce.

Nel 2024 un gruppo di ricercatori dell’Università di Cambridge ha chiesto una regolazione urgente delle ricreazioni digitali dei defunti, mettendo in guardia dai possibili danni psicologici dei cosiddetti deadbot o griefbot. Tra i rischi indicati ci sono interazioni troppo intense per chi è in lutto, notifiche indesiderate, difficoltà a “spegnere” la simulazione e perfino usi commerciali, come l’inserimento di messaggi pubblicitari nella voce o nell’identità del defunto.

Il rischio non è che l’intelligenza artificiale consoli ma che consoli troppo bene, nel modo sbagliato: non aiutando chi resta ad attraversare il dolore, ma offrendo una versione più morbida della realtà. Una stanza imbottita, dove niente ferisce davvero, ma da cui diventa sempre più difficile uscire.

Chi ha il diritto di far parlare i morti?

C’è poi una domanda ancora più scomoda: il morto avrebbe voluto tutto questo?

Una voce non è solo un file audio, un volto non è solo un’immagine. Il modo in cui una persona parla, usa un dialetto, inclina il corpo verso la videocamera, risponde alla madre, appartiene alla sua identità. Può una famiglia decidere di usarla per costruire una replica digitale? Il consenso dei parenti basta? O dovrebbe servire un consenso dato in vita dalla persona che verrà simulata?

Il diritto, per ora, arriva in ritardo. Il GDPR non si applica direttamente ai dati personali delle persone decedute e lascia agli Stati membri la possibilità di prevedere norme specifiche. In Italia, l’articolo 2-terdecies del Codice della privacy consente l’esercizio di alcuni diritti relativi ai dati delle persone morte da parte di chi abbia un interesse proprio o agisca per ragioni familiari meritevoli di protezione. Ma questo non equivale a una disciplina organica sulla creazione di avatar generativi post mortem.

Una cosa è accedere a un profilo, chiedere la cancellazione di dati, gestire una memoria digitale, un’altra è addestrare un sistema perché parli con la voce del defunto e generi nuove frasi attribuite a lui. Chi controlla quei dati? Chi decide quando il clone va spento? Che cosa accade se alcuni familiari lo vogliono e altri lo trovano doloroso o offensivo? E che cosa succede se la persona morta non aveva mai autorizzato nulla del genere?

Il lutto digitale, infatti, non è solo una questione psicologica o giuridica, è anche una questione economica. Molti di questi servizi nascono dentro una logica di mercato: pacchetti, piattaforme, app, versioni premium, dispositivi dedicati, abbonamenti. Il dolore privato diventa materia economica, la nostalgia diventa esperienza utente ed il bisogno di sentire ancora una voce amata diventa retention.

È qui che la promessa di consolazione si fa più fragile: un servizio commerciale non ha necessariamente come obiettivo l’elaborazione del lutto, ma può avere come obiettivo la continuità dell’interazione. Più il sopravvissuto torna, più il servizio ha valore. Più la simulazione appare necessaria, più il prodotto funziona.

E poi c’è un ultimo elemento, meno visibile ma decisivo: un avatar costruito per consolare tenderà a non disturbare, non farà domande difficili, non spezzerà l’illusione e non dirà necessariamente ciò che una persona reale avrebbe detto. Un figlio vero, forse, a un certo punto avrebbe potuto dire alla madre: non restare sola. Oppure avrebbe potuto contrariarla, preoccuparsi, cambiare tono, esprimere una verità scomoda. Un figlio simulato, invece, rischia di essere progettato per una funzione precisa: rassicurare.

Le persone reali non esistono per compiacerci. I morti, nella memoria, restano complessi: possono mancarci e averci ferito, averci amato e deluso, essere stati teneri e contraddittori. Un avatar rischia invece di diventare una versione levigata della persona, costruita intorno al bisogno di chi resta.

Un morto simulato non litiga, non interrompe, non tradisce il copione. Ma proprio per questo può diventare più accettabile del ricordo vero.

Sarebbe rassicurante pensare che tutto questo riguardi soltanto la Cina. Ma non è così: in Occidente esistono già servizi che promettono forme di “vita digitale” dopo la morte o conversazioni simulate con persone scomparse.

Uno dei casi più citati è quello di Joshua Barbeau, scrittore freelance canadese, che nel 2020 usò Project December, un servizio basato su GPT-3, per creare un chatbot ispirato alla fidanzata Jessica Pereira, morta anni prima. La vicenda, raccontata dal giornalista Jason Fagone nel lungo reportage The Jessica Simulation pubblicato dal San Francisco Chronicle, mostrava già allora il nodo emotivo di questi strumenti: non il desiderio astratto di “resuscitare” qualcuno, ma la possibilità di continuare a scrivere a chi non può più rispondere davvero.

È una differenza sottile solo in apparenza: perché quando una macchina genera nuove parole attribuite a una persona morta, il ricordo non resta più fermo nel passato, ma comincia ad essere nuovamente presente.

La Cina, dunque, non è un’eccezione, è piuttosto un laboratorio visibile di una traiettoria che riguarda tutti: più produciamo dati, più diventa possibile trasformare la nostra identità digitale in qualcosa che continuerà a funzionare anche dopo di noi.

Il punto non è vietare ogni forma di tecnologia applicata alla memoria, sarebbe ingenuo e anche inutile. L’intelligenza artificiale può aiutare a ordinare archivi familiari, restaurare fotografie, trascrivere interviste, conservare racconti. Può diventare uno strumento prezioso per custodire ciò che altrimenti andrebbe perduto.

Ma bisogna distinguere: la memoria assistita conserva ciò che una persona ha davvero lasciato. La simulazione post mortem, invece, produce qualcosa di nuovo in suo nome.

Nel primo caso, il defunto resta nel passato, con le sue parole, i suoi limiti, la sua verità. Nel secondo, viene riportato dentro una relazione artificiale in cui può dire cose che non ha mai detto, promettere cose che non avrebbe promesso, consolare in modi che non ha scelto.

Alla fine, la storia della signora dello Shandong resta sospesa in una zona moralmente difficilissima: è facile giudicare da fuori, più difficile è immaginare una famiglia terrorizzata dall’idea che una madre anziana e malata non regga la morte del figlio. Probabilmente quel gesto nasce da paura, amore, disperazione e ovviamente non da crudeltà. Ma l’amore, quando elimina la verità, può trasformarsi in una forma di prigionia.

Proteggere qualcuno non significa sempre sottrargli il dolore: a volte significa accompagnarlo dentro una realtà che fa male, senza lasciarlo solo. Il lutto non ha bisogno di essere reso più efficiente. ha bisogno di tempo, presenza, parole vere. Anche imperfette, ma vere.

L’intelligenza artificiale può forse custodire ciò che resta. Può aiutarci a non perdere immagini, voci, racconti. Ma quando comincia a parlare al posto di chi non può più rispondere, qualcosa cambia. Non siamo più davanti al ricordo, siamo davanti a una presenza costruita da altri, ospitata su un server ed alimentata dal dolore di chi resta.

E allora la domanda più importante non riguarda la tecnologia. Riguarda noi: siamo ancora disposti ad accettare che chi muore smetta di rispondere?