AI Act e PMI: la responsabilità è dell'utilizzatore

Dodici modelli di intelligenza artificiale tra i più diffusi al mondo. Tutti testati rispetto alle norme europee su consenso, profilazione, manipolazione e gestione dei dati sensibili. Risultato: nessuno conforme in tutti gli scenari. Il più performante — Claude Opus 4.7 di Anthropic — ha rispettato il diritto europeo nel 54% dei casi. Il peggiore, nel 7%. Mistral, l'unico modello europeo incluso nel test, si è fermato sotto il 12%.

Questi sono i dati dello studio Aithos pubblicato a giugno 2026, condotto dalla fondazione di ricerca olandese non profit che ha sviluppato il sistema LARA per testare i modelli in scenari agentici reali. I ricercatori hanno verificato sei disposizioni dell'AI Act — dalla manipolazione delle vulnerabilità al social scoring, dal riconoscimento emotivo alla profilazione per provenienza — e sei articoli del GDPR. In tutti gli scenari testati, i modelli hanno accettato di monitorare lo stato emotivo dei dipendenti. In tutti, hanno accettato di sfruttare vulnerabilità personali per chiudere una vendita.

Il punto che interessa alle piccole imprese italiane che usano questi strumenti ogni giorno: chi risponde quando i modelli non rispettano la legge?

Provider e deployer: due ruoli, responsabilità diverse

L'AI Act divide il mercato in ruoli con responsabilità distinte. Il provider è chi sviluppa e commercializza il modello: OpenAI, Anthropic, Google, Meta. Il deployer è chi lo utilizza in un contesto aziendale per svolgere compiti concreti.

La quasi totalità delle piccole e medie imprese italiane è deployer. Nella maggior parte dei casi l'utilizzo è diretto: un abbonamento a ChatGPT per redigere documenti, un account Claude per analizzare contratti, Gemini per classificare richieste dei clienti. L'interazione avviene tramite l'interfaccia generica del provider, senza governance dei dati, senza tracciabilità degli output, senza controllo sulla versione del modello utilizzato. È un approccio molto diverso da quello di chi integra gli stessi modelli in un'architettura progettata per l'azienda — con regole definite, perimetri di utilizzo e indipendenza dal singolo fornitore — ma il Regolamento assegna gli stessi obblighi a entrambi. Il livello di rischio effettivo, però, cambia radicalmente.

Gli obblighi del deployer sono meno gravosi di quelli del provider — nessun fascicolo tecnico, nessuna marcatura CE, nessuna registrazione nei database europei — ma esistono e sono già applicabili. L'articolo 26 del Regolamento UE 2024/1689 disciplina esplicitamente gli obblighi di chi utilizza sistemi AI ad alto rischio. La valutazione del rischio dipende dal caso d'uso specifico.

Quello che aggrava la situazione è la struttura contrattuale della maggior parte degli strumenti AI. I termini di servizio di quasi tutti i provider trasferiscono all'utilizzatore la responsabilità degli output: se il modello genera contenuti errati, discriminatori o non conformi e l'azienda li utilizza con clienti, dipendenti o candidati, il peso del controllo finale ricade su chi li ha impiegati. Questo è il funzionamento ordinario del mercato AI, coerente con l'impianto del Regolamento e dichiarato nei termini di servizio di ogni provider.

Il contesto d'uso determina la conformità

Lo studio Aithos ha verificato se i modelli rispettino il diritto europeo quando vengono usati come agenti per compiti aziendali tipici: gestione delle risorse umane, supporto commerciale, classificazione clienti, comunicazione con utenti finali.

I risultati mostrano un meccanismo strutturale. I modelli violano le norme perché operano senza i vincoli contestuali che spettano a chi li integra nei processi. Quando un'azienda affida a uno strumento AI la gestione di una parte del ciclo commerciale o delle risorse umane attraverso un'interfaccia generica, il modello opera secondo il proprio addestramento — senza conoscere le norme del settore, i vincoli contrattuali dell'azienda, i limiti imposti dal GDPR sul trattamento di quei dati specifici. Questi vincoli contestuali possono essere definiti solo da chi progetta l'architettura in cui il modello viene inserito.

Il Regolamento rende esplicito questo trasferimento di rischio. Il provider garantisce che il modello esista e funzioni. L'azienda che lo usa garantisce che venga impiegato in modo conforme al contesto, alle finalità dichiarate e alle norme applicabili. Questa garanzia non è una dichiarazione di intenti: richiede tracciabilità degli output, governance dei dati in ingresso, regole di perimetro — strumenti che un abbonamento consumer non include e che una soluzione integrata incorpora per progettazione.

Due modi di usare l'AI in azienda, una sola responsabilità

La distinzione che il Regolamento rende implicita — e che la pratica rende urgente — è quella tra due modalità profondamente diverse di portare l'intelligenza artificiale dentro un'azienda.

La prima è l'uso diretto tramite interfaccia consumer. L'azienda sottoscrive un abbonamento a ChatGPT, Claude, Gemini o Copilot. Ogni dipendente accede con le proprie credenziali, interagisce con il modello attraverso l'interfaccia generica del provider, inserisce dati, riceve output, li utilizza nei processi di lavoro. Non esiste governance centralizzata: nessun controllo su quali dati entrino nel sistema, nessuna tracciabilità degli output, nessuna regola di perimetro. Se domani il modello cambia versione o il provider modifica i termini di servizio, l'azienda subisce il cambiamento.

La seconda è l'integrazione in un'architettura progettata per quel contesto aziendale specifico. Gli stessi modelli — accessibili via API — vengono inseriti in una pipeline che definisce i vincoli prima dell'interazione: quali dati possono essere trasmessi, quali output sono ammissibili, quali regole normative devono essere rispettate, con quale tracciabilità. L'interfaccia è proprietaria, le regole sono definite dall'azienda o da chi la supporta, il provider è intercambiabile.

Sul piano normativo, entrambe le modalità generano obblighi identici per il deployer. Sul piano pratico, la capacità di rispondere a quegli obblighi — e soprattutto di dimostrarlo — è radicalmente diversa. Un abbonamento consumer, per quanto aggiornato al piano enterprise, non è un'architettura.

Tre aree di rischio concreto per le piccole imprese

La maggior parte delle piccole imprese italiane usa l'AI per attività che non rientrano formalmente tra i sistemi ad alto rischio. Il confine, però, è più vicino di quanto appaia, e in alcuni casi già attraversato.

La selezione del personale è l'area più esposta. Qualsiasi sistema che contribuisca — anche parzialmente — a filtrare curricula, classificare candidati o supportare valutazioni sulle persone rientra nell'Allegato III dell'AI Act, che elenca i sistemi ad alto rischio. Questo include strumenti di uso comune impiegati per scopi HR anche senza essere stati progettati specificamente per questo.

Lo scoring dei clienti è un'altra zona critica, particolarmente rilevante per chi opera nel credito al consumo, nei servizi finanziari o in qualsiasi contesto in cui l'AI contribuisce a decisioni sull'accesso a prodotti o servizi. Secondo il Regolamento, è sufficiente che il sistema influenzi la decisione in modo significativo.

L'uso informale con dati personali è la terza area, ed è quella più diffusa. Un account personale o gratuito di ChatGPT, Claude o Gemini non è stato progettato per dati aziendali sensibili. I piani business ed enterprise offrono garanzie diverse: accordo sul trattamento dei dati firmabile, dati non utilizzati per l'addestramento del modello, controlli amministrativi. Per uso professionale con dati di clienti o dipendenti, la scelta del piano business è il requisito minimo per avere una posizione contrattuale difendibile — ma resta un punto di partenza. Il piano business migliora le condizioni contrattuali sul trattamento dei dati; non risolve l'assenza di governance sull'uso quotidiano. Chi interroga il modello, con quali dati, per quale finalità, con quale tracciabilità: queste domande trovano risposta solo in un'architettura progettata per il contesto aziendale.

La legge italiana n. 132 del 23 settembre 2025 ha recepito il quadro europeo designando AgID e ACN come autorità nazionali competenti. La conformità è ormai un percorso concreto.

Agosto 2026: cosa cambia concretamente

Dal 2 febbraio 2025 sono già obbligatori i divieti sulle pratiche AI inaccettabili e gli obblighi di alfabetizzazione sull'intelligenza artificiale per i dipendenti che utilizzano questi strumenti. Molte piccole aziende non ne sono consapevoli, perché nessuno gliel'ha comunicato esplicitamente.

Dal 2 agosto 2026 entrano in vigore gli obblighi di trasparenza dell'articolo 50: quando un'interazione o un contenuto è generato da un sistema AI, l'utente deve poterlo sapere. Questo riguarda chatbot sul sito, assistenti automatizzati nelle comunicazioni con i clienti, contenuti generati con AI e pubblicati come propri. L'obbligo di trasparenza richiede un responsabile e una traccia documentata.

Sempre dal 2 agosto, i poteri di intervento sanzionatorio delle autorità nazionali diventano operativi sui modelli per finalità generali. Le sanzioni seguono la logica già vista con il GDPR: fino a 35 milioni di euro o il 7% del fatturato mondiale per le violazioni più gravi, con soglie ridotte per le imprese di dimensioni contenute. Il Digital Omnibus ha spostato al 2027-2028 le scadenze per i sistemi ad alto rischio nei settori più complessi. Gli obblighi già in vigore restano invariati.

La conformità è un esercizio di chiarezza

La posizione normativa di un'azienda dipende dall'avere un quadro chiaro di cosa si usa, per quale finalità, con quali dati — e dalla capacità di dimostrarlo se richiesto.

Il percorso parte da una mappatura: quali strumenti AI sono attivi in azienda — inclusi quelli introdotti informalmente dai singoli dipendenti — quale piano contrattuale è attivato per ciascuno, quali dati vi transitano e con quale finalità. Da questa fotografia emerge il profilo di esposizione reale. La policy interna e la traccia documentata della formazione — obbligatoria già dal 2025 — sono i passi successivi, dentro un percorso che arriva fino alla governance dell'architettura di utilizzo.

Per le piccole aziende, l'aggravio operativo di questo percorso è contenuto. Il punto di partenza è la mappatura. Senza sapere quali sistemi AI vengono usati, da chi, per quale finalità e con quali dati, qualsiasi valutazione di conformità è costruita nel vuoto. Il costo dell'adeguamento preventivo è, secondo stime della Commissione europea, da tre a cinque volte inferiore al costo di rimedio dopo un intervento sanzionatorio.