Quando l'AI sbaglia, chi paga? Il tribunale tedesco responsabilizza Google per le AI Overviews

Una sentenza che cambia la logica della responsabilità digitale

La Corte regionale di Monaco ha emesso una decisione preliminare che rompe con un principio consolidato nel diritto digitale: i motori di ricerca non sono responsabili dei contenuti prodotti da terzi. Secondo i giudici tedeschi, questo principio non regge più quando in gioco c'è l'intelligenza artificiale generativa. Google, in quanto sviluppatore e gestore di AI Overviews, è stata ritenuta responsabile delle affermazioni false generate automaticamente dal sistema e mostrate agli utenti in cima ai risultati di ricerca.

Il caso ha preso avvio dalla segnalazione di due editori che avevano scoperto di essere associati, senza alcun fondamento, a pratiche commerciali scorrette, truffe e abusi legati agli abbonamenti. Le aziende avevano inizialmente inviato una lettera di diffida a Google, che aveva respinto ogni responsabilità sostenendo che i riassunti generati dall'AI avvertono già gli utenti della possibilità di errori e invitano a verificare le informazioni in modo autonomo.

Perché l'AI generativa è diversa da un motore di ricerca tradizionale

Il punto centrale della sentenza sta in una distinzione tecnica e giuridica precisa. I motori di ricerca tradizionali si limitano a presentare link a contenuti prodotti da terzi: la responsabilità, in caso di informazioni false, ricade sugli autori originali. AI Overviews funziona in modo diverso: sintetizza, interpreta e combina informazioni da fonti diverse, producendo affermazioni nuove che non compaiono in nessuna delle fonti citate.

Nel caso specifico, il sistema aveva combinato informazioni riguardanti altre aziende, segnalate per possibili pratiche illecite, con i dati dei ricorrenti, generando associazioni inesistenti. I giudici hanno concluso che si tratta di contenuto autonomo, non di una semplice aggregazione di link, e che quindi la protezione normalmente garantita ai motori di ricerca non si applica.

Il tribunale ha anche chiarito che la correzione del problema non può essere delegata a terzi: solo Google può intervenire sulla tecnologia sottostante, e quindi solo Google ne risponde. Né la libertà di espressione può essere invocata a protezione, poiché i contenuti prodotti dall'AI non rappresentano l'opinione di un individuo ma il risultato di un sistema algoritmico progettato, addestrato e controllato da un'azienda.

Il disclaimer non è sufficiente: un segnale chiaro per tutto il settore

Uno degli aspetti più rilevanti della sentenza riguarda l'efficacia dei disclaimer. Google, come molte altre aziende del settore, avverte gli utenti che i contenuti generati dall'AI possono contenere errori. I giudici hanno ritenuto che questa avvertenza non escluda la responsabilità legale. Il ragionamento è stringente: se le fonti originali non hanno mai prodotto quelle affermazioni, non possono essere citate in giudizio. Le vittime di informazioni false resterebbero quindi senza alcuna tutela, a meno che la responsabilità non ricada su chi ha creato e distribuito il sistema.

Questo ragionamento si applica direttamente anche ad altri operatori del settore. Sistemi come quelli di OpenAI, Anthropic e Perplexity AI adottano lo stesso approccio: avvisano dell'esistenza di possibili errori e raccomandano la verifica delle informazioni. Se la logica della corte tedesca dovesse consolidarsi, queste avvertenze non sarebbero sufficienti a esonerare i developer dalla responsabilità per i danni causati da allucinazioni o associazioni erronee.

Implicazioni operative per le aziende che integrano AI nei propri flussi

Per i decision maker aziendali, questa sentenza introduce variabili concrete da considerare. Chi utilizza strumenti di AI generativa per produrre contenuti destinati al pubblico, elaborare dati su persone o aziende, o automatizzare la comunicazione esterna, deve interrogarsi su chi detiene la responsabilità in caso di output errati o lesivi.

Le aree più esposte includono: il marketing automatizzato con contenuti generati dall'AI, i sistemi di customer care basati su chatbot, la produzione di report o analisi su terze parti, e qualsiasi funzione in cui l'output dell'AI viene presentato come informazione attendibile. In questi contesti, il disclaimer non è una copertura legale sufficiente se il sistema produce affermazioni autonome non tracciabili a fonti verificabili.

Una decisione non definitiva, ma già rilevante

Google ha precisato che la decisione non è ancora definitiva e ha lasciato intendere che valuterà un ricorso. La società ha ribadito il proprio investimento nella qualità delle AI Overviews e nella correttezza delle informazioni prodotte. È tuttavia significativo che il tribunale abbia già imposto la rimozione delle affermazioni ritenute diffamatorie e abbia attribuito a Google l'80% delle spese processuali.

Indipendentemente dall'esito definitivo del caso, la sentenza ha già il valore di un segnale: i sistemi di AI generativa integrati in piattaforme ad ampia diffusione non possono sottrarsi alle regole ordinarie di responsabilità civile semplicemente perché il contenuto è prodotto da un algoritmo. Il fatto che sia generato da una macchina non lo rende anonimo o privo di un autore giuridicamente identificabile.

Cosa osservare nei prossimi mesi

Il caso tedesco non è isolato. In diversi paesi europei e negli Stati Uniti sono in corso discussioni legislative e procedimenti giudiziari che riguardano la responsabilità dei fornitori di AI per i danni causati dai propri sistemi. L'AI Act europeo introduce obblighi specifici per i sistemi ad alto rischio, ma il perimetro della responsabilità civile per i contenuti generati rimane in larga misura ancora da definire.

Per le aziende che sviluppano o adottano soluzioni di AI generativa, i prossimi mesi richiederanno attenzione crescente alla governance dei contenuti prodotti automaticamente, alla tracciabilità delle fonti e alla definizione chiara di chi risponde in caso di errore. La sentenza di Monaco non è ancora legge, ma anticipa un orientamento che le organizzazioni farebbero bene a non ignorare.