Posted on by Andrea Monti

Dal lutto al business: AI, chatbot, dati personali e la promessa dell’immortalità

“Digital resurrection” è un’espressione fuorviante e impropria che, in realtà, costituisce un altro aspetto problematico dell’identità informazionale e del controllo sui dati che ci riguardano, o sul loro sfruttamento economico di Andrea Monti – Inizialmente pubblicato su Italian Tech – La Repubblica

Periodicamente, si torna a parlare di “digital resurrection”, la creazione di cloni di persone decedute resa possibile dall’impiego sinergico di AI generativa, tecnologie olografiche e analisi dei contenuti relativi al “caro estinto”. Ovviamente il clone è solo un’apparenza informazionale. Non è “vivo” né “cosciente” ma deve solo sembrare in grado di esserlo; non ha memoria né identità, ma deve dare l’impressione di possederle. Tanto basta per creare un nuovo mercato.

Dal duetto virtuale agli avatar degli ABBA: l’evoluzione della simulazione

Fenomeni del genere non sono certo nuovi, se si pensa a Unforgettable il celeberrimo duetto fra Natalie Cole e il padre Nat. Allora —era il 1992— le tecnologie erano chiaramente artigianali e l’interazione fra padre e figlia era soltanto apparente, ma dal punto di vista di chi guarda il risultato non è troppo diverso da quello che si ottiene con sistemi più sofisticati.

Vent’anni dopo —nel 2022— è la volta degli Abba che in Voyage replicano la loro apparenza esteriore del 1979 per realizzare un concerto nel quale appaiono soltanto i loro cloni. E come dimenticare il cameo postumo di Carrie Fisher in un episodio del franchise di Guerre Stellari?

La mercificazione dell’intimità: dall’intrattenimento al lutto

Oggi, lo sfruttamento dell’identità informazionale —l’insieme di dati che definiscono chi siamo— inizia ad uscire dai confini dell’intrattenimento per invadere anche spazi personalissimi, come nel caso della vittima di un omicidio i cui parenti fanno perdonare l’assassino dalla replica digitalizzata del deceduto.

Questo è il sintomo della relazione tossica che si sta instaurando con i chatbot e le tecnologie generative, fomentata dall’uso spregiudicato e ingannevole per fini commerciali di parole come appunto “resurrezione digitale”. Ma è anche un potente virus cognitivo che veicola ideologie come il transumanesimo, che predicano il superamento della condizione umana e della morte tramite il potenziamento tecnologico, per dare vita a una “umanità superiore”.

Il nodo giuridico: chi controlla l’identità informazionale post-mortem?

Il convitato di pietra in questo dibattito fra sociologia, psicologia, tecnologie dell’informazione e pragmatici interessi commerciali si chiama “dato” —o meglio, definizione della sua natura giuridica.

La creazione di un chatbot personalizzato —perché di questo si tratta quando si parla di resurrezione digitale— richiede l’accesso a una rilevante quantità di dati relativi al soggetto del quale si vuole (cercare di) imitare la personalità esteriore. Questo significa che si possono essere solo due opzioni per ottenere il risultato: o l’interessato li consegna volontariamente a un’azienda che si occupa di sviluppare il chatbot, oppure i dati sono consegnati da qualcun altro.

I diritti degli eredi legittimi sui dati del defunto (specie se famoso)
Se questo qualcun altro è l’erede legittimo —cioè chi è riconosciuto dalla legge come tale— il problema non si pone. Fotografie, video, registrazioni, contenuti del defunto fanno parte del cosiddetto “asse ereditario” e quindi entrano direttamente, insieme a relativi diritti, nella piena disponibilità dell’erede. Quindi, non solo l’erede ha diritto di accedere senza limiti e senza condizioni, per esempio, ad account di posta elettronica, profili social o storage del defunto, ma può anche farne quello che vuole. Il che implica (far) realizzare il feticcio animato del caro estinto e, nel caso si trattasse di persona famosa, sfruttare economicamente la possibilità di farlo comparire in eventi, film o trasmissioni.

Questo aspetto è particolarmente importante in relazione allo sfruttamento economico della “memoria” di persone famose. Gli eredi di un artista, infatti, non acquisiscono soltanto i diritti sulla produzione creativa del proprio avo, ma anche quelli di guadagnare sulla sua identità, grazie alla legge sul diritto d’autore che consente l’attribuzione di diritti sul ritratto di una persona. Certo, quando fu pensata, nessuno immaginava che la norma che tutela il ritratto potesse essere applicata anche alla possibilità di animarlo. Ma questo non cambia i termini della questione: il diritto sul ritratto si estende a qualsiasi utilizzo tecnologicamente possibile, presente e futuro. Non a caso, nel mondo del cinema, la maggiore preoccupazione degli attori —e dei loro eredi— è quella di vedersi facilmente sostituiti da cloni digitalizzati in grado di recitare, o comunque di “stare sul set” con grande autonomia.

Contratti, consenso e diritti d’autore nel post-mortem informazionale

Un po’ più complesso è il caso di chi ha acquisito il diritto di utilizzare i dati del defunto tramite un contratto stipulato quando era in vita, per esempio, accettando una ipotetica clausola di “trasferimento della loro proprietà” in cambio di un servizio “gratuito” o perché un “legittimo interesse” di un’azienda è stato ritenuto prevalente sul diritto di una persona.

Quando una persona viene meno, infatti, i contratti che questa ha stipulato si estinguono (una delle prime tristi incombenze successive a un lutto è proprio la chiusura delle utenze o dei rapporti bancari). Dunque, venendo meno il contratto “a monte”, chi aveva acquisito il diritto di disporre a proprio piacimento dei dati di una persona non potrebbe più farlo, a meno che gli eredi non acconsentano a stipulare un nuovo accordo.

L’impatto sulle AI company dello sfruttamento della memoria individuale

Se confermata, un’ipotesi del genere potrebbe avere un impatto pesantissimo sull’operatività delle AI company ed è plausibile ritenere che, magari negli USA, verrà avviata qualche azione giudiziaria per vedere riconosciuto un indennizzo agli eredi di qualcuno la cui identità informazionale è finita in un dataset usato per addestrare qualche modello.

Il primo round, combattuto nell’Unione Europea, ha visto una Corte tedesca riconoscere che i dati degli utenti (in vita) sono utilizzabili da parte di una Big Tech sulla base di un “legittimo interesse senza bisogno di contrattualizzare o pagare alcunché.

Ora tocca vedere se —e dove— ci sarà una seconda ripresa, per decidere se questo “liberi tutti” vale anche per i dati degli ex clienti, non solo e non tanto per organizzare una finta resurrezione digitale, ma per continuare a saziare la fame degli algoritmi e riempire le casse di Big Tech.

Possibly Related Posts: