Anthropic cambia in corsa i safeguard di Fable 5 e un tribunale tedesco afferma la responsabilità di Google per i risultati di AI Overview: la responsabilità del fornitore per il funzionamento dei sistemi di AI si fa strada anche oltre lo schermo dei disclaimer di Andrea Monti – Inizialmente pubblicato da Italian Tech-La Repubblica
Due casi apparentemente scollegati, il rilascio di Fable 5 da parte di Anthropic e una condanna civile in primo grado di Google per le allucinazioni di AI Overview, sono in realtà connessi al tema della neutralità o meno di chi sviluppa e offre servizi basati su AI. Da un lato (Anthropic) in alcuni casi i risultati forniti dal servizio sono deliberatamente degradati o meno affidabili e non segnalati all’utente, dall’altro (Google) i risultati sbagliati sono considerati un fatto “fisiologico” e come tale non generatore di responsabilità. Ma è veramente così?
Il caso Fable 5: safeguard invisibili e output degradati
Il 9 giugno 2026 Anthropic ha rilasciato un nuovo modello, Fable 5, particolarmente efficiente —scrive l’azienda— nello sviluppo software, nella ricerca scientifica e nella biologia.
Annegata nelle trecento e più pagine della Model & System Card (il documento che descrive il modello in termini “comprensibili”) c’era un’affermazione di questo tenore: Using Claude to develop competing models already violates our Terms of Service, but enforcing this restriction through our safeguards avoids accelerating the actors most willing to violate these terms. Unlike our interventions for cybersecurity, biology and chemistry, and distillation attempts, these safeguards will not be visible to the user. Fable 5 will not fall back to a different model. Instead, the safeguards will limit effectiveness through methods such as prompt modification, steering vectors, or parameter-efficient fine-tuning (PEFT). These interventions will not affect the vast majority of coding work.
Tradotto, questo significa due cose. La prima è che Anthropic utilizza il safeguarding —le “misure di sicurezza”— non solo per la tutela dei minori, per impedire di costruire le bombe ecc. ecc.— ma anche, e forse soprattutto per proteggere i propri investimenti; la seconda che una necessità del tutto legittima viene soddisfatta “intercettando” il prompt —il comando impartito dall’utente— e modificando i risultati in modo da renderli inattendibili ma, e questo è il punto, all’insaputa dell’utente.
Le proteste dei ricercatori hanno spinto Anthropic a fare marcia indietro, ora l’entrata in funzione dei sistemi di sicurezza è resa evidente come conferma un messaggio pubblicato l’undici giugno 2026 su X dall’account ClaudeDevs e la Model & System Card non contiene più le frasi incriminate. Il punto, tuttavia, rimane: per tutelare i propri interessi, Big Tech può spingersi al punto di adottare contrattualmente misure così forti sul funzionamento di un proprio prodotto?
È vero che oramai tutti i servizi basati su AI contengono, da qualche parte, un disclaimer che avvisa della possibilità di risultati degradati o non attendibili, ma questo non basta certamente a giustificare la scelta di provocarli deliberatamente e di nascondere all’utente —o meglio, al cliente, cioè al soggetto pagante— il momento in cui la limitazione entra in funzione.
Nemmeno si potrebbe dire che in realtà l’informazione era disponibile visto che era chiaramente reperibile nella corposa Model Card e che quindi il problema non si pone. A parte la questione puramente contrattuale —erogazione di un servizio che a determinate condizioni offre risultati non corretti in quantità potenzialmente maggiore rispetto a quello che ci si potrebbe aspettare— il tema posto dalla scelta di Anthropic è e rimane la configurabilità del diritto di attivare misure del genere senza che, nel normale utilizzo, il cliente se ne renda conto caso per caso.
Google AI Overview: non solo un motore di ricerca
Una recente sentenza del tribunale regionale di Monaco ha stabilito la responsabilità autonoma di Google per i risultati prodotti dalla funzionalità AI Overview che fornisce una sintesi generata con l’AI —e non dall’AI— dei risultati della ricerca. Nello specifico, due aziende hanno portato Google in giudizio sostenendone la responsabilità per dei risultati asseritamente falsi e, come tali, diffamatori.
La corte ha accolto quasi tutte le ragioni delle due aziende sulla base di una serie di presupposti consolidati anche al di fuori del diritto tedesco. Il primo, e più importante, è quello della responsabilità di chi offre un servizio basato su software (a maggior ragione se ne è anche l’autore): il fatto che un programma non funzioni perfettamente, fatto particolarmente vero e rilevante per le applicazioni AI, non elimina la responsabilità di chi ne consente l’utilizzo. Come detto, si tratta di una questione fondamentale nel dibattito sull’AI e questa sentenza fa giustizia —sperabilmente— di tutti i tentativi di romanticizzare l’intelligenza artificiale attribuendole “coscienza”, “sentimenti” e “vitalità”. Riecheggiando l’approccio statunitense, la corte afferma un principio pragmatico: l’AI è opera di qualcuno, e questo qualcuno paga i danni se l’opera non funziona come dovrebbe.
Il che ci porta al secondo punto, cioè la definizione di quale dovrebbe essere il comportamento atteso di un servizio come AI Overview. È vero, l’AI “sbaglia di default” —nel senso che non è fatta per produrre risultati sempre e deterministicamente esatti— ma questo non elimina la responsabilità di chi la rende disponibile. Nel caso specifico, ragiona la corte, AI Overview non si limita a fornire un elenco di risultati ma interviene attivamente estraendo delle informazioni e riorganizzandole il che significa realizzare un contenuto diverso che non è semplicemente la somma delle singole parti.
Se tuttavia, e veniamo al terzo passaggio, il testo prodotto dal software contiene elementi aggiuntivi non presenti nelle fonti utilizzate e questi elementi aggiuntivi sono, per esempio, ritenuti diffamatori, allora chi si ritiene leso deve rivalersi su chi ha reso disponibili i nuovi contenuti —cioè la piattaforma.
Il ruolo attivo dell’AI nell’analisi dei risultati e nella generazione della loro sintesi, siamo al quarto e ultimo passaggio del ragionamento della corte, impedisce di considerare Google come un semplice intermediario tecnologico. Al contrario, la piattaforma di ricerca integrata con l’AI svolge un ruolo attivo nel presentare le informazioni e dunque rimane la responsabilità per i risultati.
Il mito appannato della neutralità delle piattaforme
Questa decisione, ancora appellabile, è stata salutata come un evento storico ma in realtà, come detto, si limita ad applicare anche all’AI dei principi consolidati in materia di responsabilità del fornitore di quelli che un tempo si chiamavano “servizi della società dell’informazione”.
Ai tempi della veneranda direttiva 31/2000 sull’e-commerce era abbastanza chiara la distinzione fra intermediario “neutro” e operatore che non si poteva qualificare tale. Il primo era quello che, sostanzialmente, non esercitava alcuna interazione attiva con l’utente (controllo preventivo dei contenuti, per esempio), mentre l’altro era quello che esercitava condizionamenti sull’utente (messa a disposizione di informazioni selezionate e rielaborate, manipolazione del comportamento).
Oggi, e anche prima dell’avvento dei servizi basati su AI, la distinzione rimane quasi soltanto sulla carta perché quasi nessun servizio di piattaforma è realmente “neutro” rispetto agli utenti. La dimostrazione empirica arriva dalla (discutibile) recente sanzione della Commissione UE a Temu, e da una sentenza della Corte di giustizia UE che, in nome del GDPR, impone al gestore di una piattaforma di annunci la verifica preventiva della liceità di quanto deve essere poi reso disponibile all’utenza.
I disclaimer non cancellano la responsabilità
Il caso di Fable 5 e quello di AI Overview sono una spia dell’ulteriore limitazione del concetto di “neutralità” dell’intermediario.
La perdita di neutralità dei servizi basati su AI è, infatti, una conseguenza inevitabile della maggiore autonomia dell’interazione con l’utente. È comprensibile che Big Tech provi a limitare le proprie responsabilità in nome di “autonomie agentiche” o altre marketing buzzword. Scrivere “XYZ può sbagliare” è un modo per indurre surrettiziamente la percezione che non sia chi offre il servizio a dover pagare i danni perché “è colpa dell’AI”, ma la sentenza tedesca ricorda che questo approccio non funziona. In altri termini, il fatto che un software “faccia da solo” non significa trasferire sul programma la responsabilità giuridica per le scelte di progettazione che condizionano il modo in cui opera.
Questo significa che il diavolo, come insegna un vecchio proverbio, è nei dettagli e che dunque a Big Tech non basterà rifugiarsi dietro affermazioni generali e di principio per affrontare le future controversie. Il campo di battaglia sarà la valutazione caso per caso e in concreto del modo in cui chi controlla il modello ne ha disciplinato il funzionamento.
Possibly Related Posts:
- Temu, il DSA e la regolazione europea come strumento geopolitico
- Perché ignorare i progressi industriali dei chip cinesi è pericoloso per la UE
- Il vero caso Majorana non è la scomparsa: è l’antimateria
- Hanta, Ebola e la lezione dimenticata del Covid: perché il contact tracing resta un tabù
- La Cina ha davvero bisogno dei chip Usa per la sua IA?