AI e dati aziendali sensibili: come stabilire cosa può vedere un assistente AI

Perché la domanda «questa AI è sicura?» è mal posta

Chiedersi se un singolo assistente AI sia sicuro equivale a chiedersi se un dipendente sia affidabile senza specificare a quali cartelle, sistemi o password abbia accesso. La sicurezza non è una proprietà del modello, è una conseguenza del perimetro di dati che gli viene concesso e del processo di controllo che lo accompagna.

Il 49,6% delle PMI italiane cita i costi elevati come barriera all'adozione dell'AI e il 55,1% cita la mancanza di competenze digitali adeguate, secondo il dato ISTAT 2024 ripreso da Confindustria «L'IA per il Sistema Italia» 2025. Dietro questi due numeri si nasconde spesso un terzo ostacolo raramente misurato: l'assenza di un criterio chiaro su cosa un sistema automatizzato possa vedere.

Il report BBC+EBU «News Integrity in AI Assistants» 2025 ha valutato 2.709 risposte generate da assistenti AI generici in 18 paesi: il 45% presentava almeno un problema significativo e il 31% aveva problemi di attribuzione della fonte (claim non supportati, fonti inesistenti o assenti). Questi dati riguardano l'accuratezza dei contenuti, non l'accesso a dati riservati, ma indicano lo stesso principio: un sistema AI usato senza supervisione e senza regole chiare produce output che un'azienda non può controllare.

Da quale principio operativo conviene partire?

Il principio è semplice e vale per qualunque assistente AI, indipendentemente dal fornitore: nessun accesso viene concesso per default a dati sensibili, ogni accesso viene concesso processo per processo, con un responsabile umano che verifica l'output prima che diventi decisione operativa.

Questo approccio si chiama supervisione umana attiva (in inglese human-in-the-loop) ed è già descritto in modo esplicito nei casi analizzati dal report SDA Bocconi «L'IA come leva per le piattaforme gestionali» 2025: un'azienda manifatturiera italiana del settore ferroviario, citata nel report come Movinter, ha dichiarato che «un ulteriore elemento critico riguarda la definizione delle responsabilità in caso di decisioni errate prese da sistemi automatizzati».

Definire la responsabilità prima di introdurre un assistente AI significa rispondere a tre domande operative: chi ha accesso a quali dati, chi controlla l'output prima che diventi azione, e chi può revocare l'accesso in caso di anomalia.

Cosa cambia rispetto a un normale controllo permessi IT

Un sistema di permessi tradizionale (Active Directory, ruoli ERP - il gestionale aziendale) limita chi può leggere una cartella. Un assistente AI applicato a un processo aziendale introduce un livello ulteriore: il sistema non solo legge dati, ma li elabora, li combina e ne genera di nuovi. Il controllo va quindi esteso a cosa il sistema può fare con i dati letti, non solo a cosa può leggere.

Quale caso aziendale dimostra che il metodo funziona?

Il caso pubblico più citato per l'AI applicata a un processo delimitato è quello di Pusterla 1880, PMI italiana del packaging di lusso, documentato nel report Anitec-Assinform «Agenti di IA - Paper #3» 2025 (p.41). L'azienda ha applicato un sistema AI multi-agente esclusivamente al processo di preventivazione, con un perimetro di dati limitato alle informazioni di costo e pricing necessarie a quel singolo processo. Il risultato misurato è una riduzione del 90% del tempo dedicato alla stima costi.

Il dato non descrive un'adozione generalizzata di AI in tutta l'azienda, ma un'applicazione mirata con un perimetro definito: esattamente il principio che riduce il rischio di esposizione di dati non pertinenti.

Un secondo riferimento utile viene dal caso Farmol, azienda italiana di contract manufacturing nel settore personal care, citato in SDA Bocconi 2025 (p.27): «Senza un ERP moderno e una raccolta dati integrata, non è possibile implementare soluzioni AI in modo efficace». Prima di concedere accessi a un assistente AI, va quindi verificata la qualità e la struttura dei dati esistenti, non solo la policy di sicurezza del fornitore scelto.

Come si applica in pratica in una PMI

1. Mappare i dati sensibili per processo: elencare quali dati (anagrafiche clienti, credenziali, contratti, dati bancari) sono coinvolti in ciascun processo candidato all'automazione, prima di scegliere qualsiasi strumento.
2. Definire un perimetro minimo di accesso: concedere all'assistente AI solo i dati strettamente necessari al singolo processo, mai un accesso esteso «per comodità futura».
3. Assegnare un responsabile umano di verifica: ogni output generato da un sistema AI applicato a un processo critico (contabile, commerciale, clienti) va validato da una persona identificata, con nome e ruolo, prima di diventare azione operativa.
4. Misurare gli errori, non solo i risultati: tracciare quante volte l'output richiede correzione umana è un KPI (indicatore chiave di prestazione) tanto importante quanto il tempo risparmiato.
5. Rivedere il perimetro ogni trimestre: gli accessi concessi a un sistema AI vanno ridotti o ampliati sulla base dei dati raccolti nei mesi precedenti, non lasciati invariati a tempo indeterminato.

Quanto tempo serve per vedere i primi risultati misurabili?

Nei pattern documentati da Confindustria 2025 su oltre 240 casi d'uso italiani, i primi risultati misurabili su un singolo processo delimitato arrivano tipicamente in 4-12 settimane, un intervallo compatibile con il caso Pusterla 1880 sopra citato. Il tempo si allunga quando i dati di partenza sono dispersi tra più sistemi non integrati (Excel, email, gestionale, cartelle condivise), condizione descritta come ricorrente in tutti i 16 casi analizzati dal report SDA Bocconi 2025.

Il metodo in tre fasi: Misuriamo, Ottimizziamo, Automatizziamo

Nella prima fase si misura lo stato attuale del processo: quali dati vengono trattati, chi vi accede oggi, quanto tempo richiede e quanti errori genera in assenza di automazione. Senza questa fotografia iniziale non esiste un termine di paragone per valutare un intervento successivo.

Nella seconda fase si ottimizza il processo stesso, eliminando passaggi ridondanti e ridefinendo un perimetro di dati minimo necessario, prima di introdurre qualunque automazione. Ottimizzare prima di automatizzare evita di irrigidire un processo inefficiente dentro un sistema automatizzato.

Nella terza fase si automatizza con un perimetro di accesso ai dati già definito e con un responsabile umano di supervisione già assegnato, misurando in modo continuativo gli scostamenti tra output atteso e output effettivo.

Questo metodo si applica in modo trasversale a automazione documentale con controllo degli accessi e a compliance operativa nei processi automatizzati, due aree in cui il perimetro dei dati trattati è particolarmente sensibile.

Per una PMI che valuta dove intervenire per prima, la mappatura dei processi esistenti tramite process mining per individuare i processi a rischio dati è spesso il punto di partenza più concreto, prima di qualsiasi automazione. Una panoramica generale sui criteri di adozione dell'AI applicata nelle PMI italiane è disponibile su AI applicata per le PMI italiane.

Domande frequenti

Un assistente AI generico come ChatGPT può essere usato in sicurezza in azienda?

Può essere usato solo con un perimetro di dati esplicitamente limitato e con supervisione umana sistematica sull'output. Il 45% delle risposte di assistenti AI generici presenta almeno un problema significativo, secondo lo studio BBC+EBU 2025 su 2.709 risposte in 18 paesi. Questo dato non implica che lo strumento sia inutilizzabile, ma che va impiegato senza concedere accesso diretto a dati sensibili non verificabili in tempo reale da una persona responsabile.

Chi è responsabile se un sistema AI genera un errore che coinvolge dati di un cliente?

La responsabilità va definita prima dell'implementazione, assegnando un referente umano che valida l'output prima che diventi azione operativa verso il cliente. Un'azienda manifatturiera italiana del settore ferroviario, citata nel report SDA Bocconi 2025 come Movinter, ha dichiarato che la definizione delle responsabilità in caso di decisioni errate prese da sistemi automatizzati resta un elemento critico da chiarire in anticipo, non da gestire dopo un incidente.

Quali dati non vanno mai dati in pasto a un assistente AI senza controllo?

Credenziali di accesso, dati bancari, informazioni contrattuali riservate e dati sanitari o giudiziari dei dipendenti non vanno mai condivisi con un assistente AI privo di un ambiente controllato e tracciabile. La regola operativa è: se il dato, se esposto, causerebbe un danno reputazionale o legale, l'accesso va negato per default e concesso solo con un processo di autorizzazione esplicito e documentato.

Perché molte PMI italiane non hanno ancora un criterio chiaro di accesso ai dati per l'AI?

Solo l'8,2% delle PMI italiane utilizza AI applicata, contro il 13,5% della media UE, secondo ISTAT 2024. Il ritardo dipende in parte dai costi (49,6% delle PMI li cita come barriera) e in parte dalla mancanza di competenze digitali adeguate (55,1%), secondo lo stesso dato ripreso da Confindustria 2025. In assenza di un criterio di accesso ai dati definito internamente, molte PMI evitano del tutto l'adozione, perdendo l'opportunità di applicare AI a processi delimitati e a basso rischio.

Da dove conviene partire per introdurre AI applicata senza rischi sui dati?

Conviene partire da un singolo processo con un perimetro di dati facilmente delimitabile, come la preventivazione o la classificazione documentale, misurando prima lo stato attuale e poi il risultato dopo l'intervento. Il caso Pusterla 1880, documentato in Anitec-Assinform 2025, mostra una riduzione del 90% del tempo di stima costi applicando AI a un solo processo con accessi delimitati, non all'intera organizzazione.

Chi vuole verificare quale processo aziendale può essere automatizzato con un perimetro di dati sicuro può prenotare un confronto operativo.