L’open source è comunista? Chi, ma soprattutto perché, ha paura dell’IA “aperta”

Le Big Tech americane presentano i modelli cinesi open weight come una minaccia ideologica e di sicurezza. Ma dietro l’allarme sull’“AI Communism” c’è soprattutto la paura di perdere il controllo industriale, commerciale e politico del mercato dell’intelligenza artificiale di Andrea Monti – Inizialmente pubblicato su Italian Tech – La Repubblica

Un articolo del Wall Street Journal del 20 luglio dà conto dell’allarme lanciato dalle AI Big Tech (Anthropic e Open AI), spaventate dalla diffusione di modelli cinesi economici e più che efficienti, asseritamente realizzati utilizzando come base quelli americani. La preoccupazione espressa da queste aziende riguarda, in particolare, la creazione di un ambiente distopico basato sull’AI cinese e rischi inaccettabili per la sicurezza. Da qui, la richiesta di un intervento normativo per fermare la crescente adozione di tecnologie concorrenti da parte di imprese americane.

Il rispetto della legge invocato a senso unico

Sgombriamo il campo dall’ipocrisia delle accuse di “violazione della proprietà intellettuale” e abuso dei termini e condizioni per l’uso dei modelli USA da parte delle aziende cinesi. In proposito, è appena il caso di ricordare che Anthropic ha utilizzato illecitamente un’enorme quantità di opere protette dal diritto d’autore per addestrare i propri modelli, tanto da avere accettato, con un accordo giudiziale, di pagare un risarcimento di un miliardo e mezzo di dollari ai titolari dei diritti. Anche i modelli di OpenAI hanno qualche criticità giuridica visto che sono basati sullo scraping indiscriminato di contenuti online che, pur essendo consultabili senza corrispettivo, non necessariamente possono essere riutilizzati a scopo commerciale.

Per essere chiari, il fatto che anche le Big Tech USA possano avere violato la legge non attenua né elimina l’eventuale responsabilità dei concorrenti cinesi per avere fatto lo stesso. Il punto è, semmai, che con le leggi attuali sarebbe stato impossibile sviluppare le tecnologie AI e su questo sarebbe necessaria una riflessione, specie nella UE.

Dunque, se c’è realmente un problema di violazione su larghissima scala dei diritti individuali — e c’è — allora non si capisce perché nessun magistrato abbia ancora aperto un’indagine penale per accertare la commissione di illeciti, da chiunque commessi, che vanno dalla duplicazione abusiva di opere dell’ingegno al trattamento di dati personali su larga scala; e per giustificare questa inerzia nemmeno si potrebbe dire che i fatti sono avvenuti al di fuori dell’Italia o della UE perché in materia penale l’articolo 6 del Codice penale stabilisce la giurisdizione italiana se anche una parte del reato ha una “connessione” con il nostro Paese.

L’open source è veramente comunista?

Le accuse mosse ai modelli cinesi, in particolare secondo il post su X di un manager di OpenAI, riguardano oltre allo sfruttamento parassitario e illegale dei modelli fondazionali made in USA, il fatto che l’approccio basato sull’open source e sull’open weight sia una forma di “AI Communism” in base al quale l’AI sarebbe “un bene pubblico fornito dallo Stato come una sorta di infrastruttura pubblica digitale”.

Se questi argomenti sembrano familiari è perché lo sono. Nel 2001 Steve Ballmer, allora CEO di Microsoft, dichiarò che Linux era un cancro perché la GPL — la licenza d’uso che ne regolava l’utilizzo — imponeva la libertà di accesso al codice sorgente e il diritto di modificarlo e, nello stesso periodo, sui media e in ambito accademico si parlava apertamente della compatibilità fra l’idea di software libero e il pensiero comunista. Niente di nuovo sotto il sole, quindi.

In realtà non ci sono elementi per sostenere una tesi del genere che è smentita, nei fatti, proprio da come si è evoluto il mercato basato sul software libero e sull’open source (che non sono esattamente la stessa cosa). Se oggi esiste la Big Internet lo dobbiamo, in larga parte, al software libero e all’impegno di numerosissime comunità di sviluppatori, e sia Apple, sia Google hanno utilizzato l’open source come base per la costruzione rispettivamente di OSX e Android. Già solo queste considerazioni empiriche dovrebbero essere sufficienti a smontare critiche prive di senso oggi ancora più che allora.

Quasi trent’anni fa non c’erano evidenze dell’effettiva sostenibilità di un progetto industriale basato su software libero e quindi poteva anche avere senso una critica non sorretta da fatti. Oggi, però, riproporre quegli argomenti a fronte di prove concrete dell’efficacia industriale dell’open source significa cercare di spostare sul piano ideologico il problema strutturale dell’approccio alla commercializzazione del software — e dunque dell’AI — tramite licenze “chiuse”, che consentono, cioè, di mangiare la torta ma senza sapere come è fatta e cosa c’è dentro.

Il problema non è il socialismo ma la moltiplicazione della concorrenza

Senza ripercorrere la storia di come le multinazionali del software abbiano usato il diritto d’autore e una discutibile concezione di “libero mercato” per creare un sistema basato sul lock-in tecnologico (l’impossibilità o la seria difficoltà di migrare da un sistema all’altro), il problema vero creato dai modelli AI open source e open weight sta nel fatto, puro e semplice, che non sono sotto il controllo americano e che, dunque, consentono la creazione di un mercato aperto e competitivo dove gli utilizzatori hanno libertà di scelta. Cioè, se vogliamo ancora usare categorie superate dalla Storia, esattamente il contrario di un sistema socialista dove non esistono mercato e concorrenza.

A questo si dovrebbe aggiungere il fatto che se i modelli open source e open weight attirano una quantità rilevante di utenti, si riduce la redditività delle AI Big Tech e dunque la loro attrattività per gli investitori. Se questa considerazione fosse corretta, infatti, le conseguenze per l’intera filiera (a partire dai data-centre a salire) potrebbero essere molto problematiche.

I “guardrail” e l’AI azzoppata

I “guardrail” sono i “meccanismi di sicurezza” che impediscono ai modelli di fornire risposte illegali o “inappropriate”. Sono incorporati nei modelli USA “per il nostro bene” e per “tutelare la sicurezza nazionale” ma in realtà servono per limitare la responsabilità delle piattaforme per le conseguenze del loro utilizzo se qualcuno li usa per imparare come “fare le bombe”, commettere atti illeciti o autolesionistici, suicidi inclusi.

I modelli open weight, invece, possono essere costruiti senza queste limitazioni il che li rende particolarmente efficienti anche come strumento di difesa da attacchi di varia natura. Il caso più recente è quello dell’attacco involontario recentemente sferrato da un modello di OpenAI ai server di Hugging Face, il più grande “deposito” di modelli AI. Un documento pubblicato sul sito ufficiale del repository, afferma chiaramente che i guardrail inseriti nei frontier model commerciali hanno bloccato la possibilità di gestire l’attacco e solo l’impiego di un modello open weight (cinese) ha consentito di rimediare ad una situazione che, altrimenti, avrebbe potuto avere conseguenze di ben altro tipo.

Da qui una domanda banale quanto gravida di conseguenze: cosa ce ne facciamo di modelli AI che, nel momento del bisogno, non servono?

La questione non riguarda soltanto la sicurezza di reti e sistemi ma anche l’utilizzo di AI in settori come, per esempio, la difesa, la giustizia e la salute. Per esempio, è di ben poca utilità un modello che non consente il pieno controllo di sistemi d’arma e che si “blocca” di fronte a necessità strategiche o tattiche; allo stesso modo non è particolarmente utile un modello che si rifiuta di analizzare un caso di omicidio o sviluppare un nuovo psicofarmaco sul presupposto che i risultati sono “inappropriati”. Il che conduce al cuore del problema, e cioè che nell’AI esistono due grandi ecosistemi: uno è quello per “usi riservati”, al quale accedono governi e grandi poteri privati (Big Tech, appunto) e l’altro — quello fatto di modelli “azzoppati” — messo a disposizione per tutti gli altri.

AI azzoppata e sovranità tecnologica

Questo significa due cose: la prima è che i servizi basati sui “modelli azzoppati” sono azzoppati anch’essi e che, dunque, gli slogan pubblicitari su innovazione e sulla possibilità di fare “cose mai viste” andrebbero fortemente ridimensionati. La seconda, è che se il mercato rimane un oligopolio non ci sarà mai una reale possibilità di competere alla pari con l’industria americana. Il che significa riconoscere che qualsiasi progetto sulla sovranità tecnologica è semplicemente irrealizzabile a meno di non percorrere strade alternative, come appunto quelle aperte dai modelli open weight e open source.

È realistico pensare che la Cina stia puntando a questo modo di far circolare i modelli come leva geopolitica per alterare le dinamiche di mercato, ma questo non cambia i termini generali della questione: se la UE vuole rivendicare il proprio spazio in un mercato dominato da due soggetti estremamente ingombranti dovrebbe sostenere con forza questo modello di sviluppo, eliminando tutte quelle farraginosità regolamentari che mettono una palla di piombo al piede di un’AI già azzoppata dal ritardo industriale e tecnologico.

Possibly Related Posts: