Attribuire tout-court alla progettazione di un prodotto la responsabilità dei comportamenti individuali può modificare in profondità il confine tra neutralità tecnologica e intervento attivo sul processo decisionale degli utenti, con effetti che possono estendersi ben oltre il singolo caso giudiziario – di Andrea Monti – Inizialmente pubblicato su Italian Tech – La Repubblica
La condanna in primo grado pronunciata dalla Superior Court di Los Angeles nella causa promossa da “KGM” contro Meta e Google crea più problemi di quanti ne risolve perché, ferme restando le eventuali responsabilità delle parti chiamate in giudizio, rinforza il concetto che gli utenti non sono responsabili dei propri comportamenti.
La controversia, in breve
In poche parole, la Corte ha ritenuto che Meta e Google avessero deliberatamente progettato i propri servizi per indurre “dipendenza” negli utenti. Concretamente, questo significa che le piattaforme avrebbero, da un lato, fatto in modo che i sistemi di raccomandazione dei contenuti e le funzionalità rese disponibili agli utenti producessero assuefazione all’utilizzo; mentre dall’altro avrebbero omesso di informare gli utenti sulle conseguenze dell’uso della piattaforma e attuato sistemi di controllo dell’età poco efficaci.
Neutralità e (non)responsabilità
Questa decisione, insieme alle altre che sono state emanate in questo periodo, evidenzia un cambio di approccio al tema delle responsabilità delle piattaforme per i comportamenti degli utenti e per i danni che questi ultimi subiscono per via del modo in cui le prime sono progettate.
La semplice prestazione di un servizio online non implica automaticamente la responsabilità di chi lo eroga per le azioni degli utenti. Perché una piattaforma possa essere coinvolta è infatti necessario che abbia un comportamento attivo nel determinare le scelte individuali.
Questa regola, fissata per esempio, dalla veneranda direttiva e-commerce che risale al 2000, ha spesso consentito a Big Tech di invocare la propria neutralità tecnologica e dunque la non responsabilità per quello che accadeva tramite le loro piattaforme. All’epoca, infatti, le capacità di tracciamento e profilazione erano certamente meno efficaci in termini di condizionamento degli utenti. Quindi, per diverso tempo ci sono stati effettivamente margini per sostenere l’estraneità delle piattaforme alle conseguenze causate dal loro utilizzo. Tuttavia, l’affinarsi dei metodi per fornire contenuti e prodotti personalizzati e la progressiva accumulazione di enormi quantità di dati ha reso sempre più difficile tracciare una linea chiara fra ciò che rappresenta una semplice “attività di marketing” e ciò che, invece, costituisce manipolazione attiva del comportamento individuale dalla quale sorgono specifiche responsabilità giuridiche.
I dubbi sulla sentenza californiana
Nel caso specifico della sentenza emessa dalla Superior Court di Los Angeles questo principio di diritto sembra essere stato applicato senza valutare adeguatamente alcuni aspetti che pure avrebbero richiesto maggiore considerazione.
In primo luogo, la sentenza sembra ignorare la responsabilità dei genitori di “KGM” che la hanno lasciata sola davanti allo schermo per anni, senza curarla e senza esercitare il controllo che avrebbero dovuto. Questo, ovviamente, non esclude in astratto la responsabilità del prestatore dei servizi per il modo in cui sono stati progettati e resi fruibili; ma l’eventuale presenza di difetti o di funzionalità deliberatamente realizzate per creare assuefazione non elimina la corresponsabilità genitoriale.
In secondo luogo, la sentenza non spiega chiaramente come avrebbe potuto Meta sapere dei problemi mentali della ragazza e, anche se li avesse scoperti, cosa avrebbe dovuto fare —un tema comune, questo, alla gestione delle piattaforme di AI.
In terzo luogo, non sembra che ci siano evidenze dirette che colleghino il modo in cui è progettata una piattaforma e le conseguenze di queste scelte su un singolo individuo. Sembra infatti che il ragionamento sia stato questo: i social media sono progettati per creare dipendenza, la ragazza era dipendente da social media, i social media sono responsabili. Ma anche se fosse dimostrato che una piattaforma fosse effettivamente stata sviluppata per generare dipendenza, c’è qualche prova che in questo caso SPECIFICO le scelte progettuali di Meta e Alphabet abbiano effettivamente influenzato la capacità di autodeterminazione di KGM?
La responsabilità statistica è il nodo da sciogliere
A prescindere dal merito specifico dei contenuti della sentenza, l’aspetto che meriterebbe di essere affrontato è l’attribuzione o meno di una responsabilità generale per il modo in cui è progettato un prodotto a prescindere dalla possibilità di dimostrare il danno specificamente subito da una persona.
Il tema non è nuovo nella giurisprudenza (si parla da decenni di “causalità probabilistica”) e nell’ambito della responsabilità sociale dell’impresa. Nonostante, infatti, la decisione sia stata presentata come “rivoluzionaria”, in realtà si inserisce nell’ultradecennale dibattito che ha coinvolto le industrie dello zucchero, dell’alcool e del tabacco. Anche in questi settori è stato messo in discussione il modo in cui l’ingegneria di prodotto e le strategie di comunicazione fossero o meno orientate a generare dipendenza nei consumatori.
Ad oggi la questione è ancora dibattuta, ma di certo se l’orientamento californiano dovesse consolidarsi nei gradi successivi di giudizio, l’effetto non sarebbe soltanto quello di ridefinire i confini della responsabilità delle piattaforme digitali, ma di modificare più in profondità l’equilibrio tra autonomia individuale e doveri di protezione da parte dell’industria.
Serve stabilire che il software è un prodotto, non un’opera letteraria
Per quanto controintuitivo possa sembrare, nella UE —e dunque anche in Italia— il software non è un prodotto ma un’opera creativa, non diversa, in altri termini, da un romanzo, un quadro, una fotografia o una canzone. Il risultato di questo inquadramento giuridico è che, a differenza di quanto accade nel mondo industriale, al software non si applicano le norme sulla responsabilità del produttore, con particolare riferimento agli obblighi di garantire un determinato livello di sicurezza.
Se, ricorrendo a una storica e abusatissima comparazione, il software fosse un’automobile, prima di poter essere messo in circolazione dovrebbe essere omologato dimostrando di essere stato progettato e costruito rispettando tutte le prescrizioni sulla sicurezza e sulla incolumità di chi lo deve usare. Questo risolverebbe alla base i problemi su cui giuristi, esperti di etica e tecnici si interrogano da tempo. Eppure, mentre nella pratica e nelle aule di giustizia, sempre di più si sta andando verso questa direzione, i parlamenti non sembrano interessati ad affrontare il tema.
È abbastanza paradossale che mentre la UE sforna elefantiaci regolamenti sulla sicurezza dei dati e dei sistemi, rimane sostanzialmente indifferente verso l’incolumità delle persone che questi dati e sistemi devono utilizzare o, meglio, subire.
Possibly Related Posts:
- La sorveglianza di massa in tempo di guerra è un male necessario. Ma chi dice che siamo in guerra?
- Anthropic non è un’anima bella. Non come vogliono farci credere
- Il (vero) motivo per il quale Anthropic dice no alle armi autonome
- La California prova a risolvere diversamente il problema dell’età online
- Il nuovo esercito di terracotta dell’impero cinese è fatto di robot