L'intelligenza artificiale è entrata nelle applicazioni di tutti i giorni: un assistente che risponde agli utenti, un motore che classifica i documenti, una funzione che riassume testi o suggerisce risposte. Integrare un modello di IA oggi richiede poche righe di codice e una chiamata a un'API. Proprio per questo è facile sottovalutare un aspetto: da quando è in vigore l'AI Act, il Regolamento (UE) 2024/1689, chi mette un sistema di IA nelle mani degli utenti ha obblighi precisi.
In questo articolo vediamo cosa prevede il regolamento per chi sviluppa o utilizza applicazioni con funzionalità di IA, quali sono le scadenze e come impostare un progetto in modo che sia conforme fin dall'inizio.
Le scadenze dell'AI Act: cosa è già in vigore
L'AI Act è entrato in vigore il 1° agosto 2024, ma si applica in modo graduale:
- 2 febbraio 2025: diventano applicabili i divieti sulle pratiche di IA vietate (art. 5) e l'obbligo di alfabetizzazione in materia di IA (art. 4), cioè garantire che chi usa o gestisce sistemi di IA abbia competenze adeguate.
- 2 agosto 2025: entrano in applicazione gli obblighi per i fornitori di modelli di IA per finalità generali (i grandi modelli linguistici), le regole sulla governance e il sistema sanzionatorio.
- 2 agosto 2026: il regolamento diventa applicabile nella sua generalità, compresi gli obblighi di trasparenza dell'art. 50 e, secondo il testo originario, quelli per i sistemi ad alto rischio elencati nell'Allegato III.
- 2 agosto 2027: si applicano gli obblighi per i sistemi ad alto rischio che sono componenti di sicurezza di prodotti già regolati dalla normativa UE, come dispositivi medici o macchinari.
A novembre 2025 la Commissione europea ha proposto, con il pacchetto Digital Omnibus, di posticipare l'applicazione degli obblighi per i sistemi ad alto rischio, collegandola alla disponibilità di norme tecniche armonizzate: al più tardi dicembre 2027 per i sistemi dell'Allegato III e agosto 2028 per quelli dell'Allegato I. Il rinvio riguarda l'alto rischio. Divieti, alfabetizzazione e obblighi di trasparenza non cambiano: chi integra l'IA in un'applicazione deve già oggi tenerne conto.
Fornitore o deployer: quale ruolo hai?
Il primo passo è capire che ruolo si ricopre, perché gli obblighi dipendono da questo.
- Il fornitore (provider) è chi sviluppa un sistema di IA, o lo fa sviluppare, e lo immette sul mercato o lo mette in servizio con il proprio nome o marchio.
- Il deployer è chi utilizza un sistema di IA sotto la propria autorità nell'ambito di un'attività professionale: per esempio un'azienda o un ente che adotta un'applicazione con funzioni di IA per i propri processi.
Chi integra un modello di terze parti, come un modello linguistico raggiungibile via API, all'interno di un proprio prodotto, di norma diventa fornitore del sistema di IA che ne risulta. Il fornitore del modello resta responsabile degli obblighi sul modello (documentazione tecnica, politica sul diritto d'autore, sintesi dei dati di addestramento) e deve mettere a disposizione di chi lo integra le informazioni necessarie per rispettare il regolamento. Ma la responsabilità di come quel modello viene usato nell'applicazione, verso gli utenti finali, è di chi l'ha integrato.
Attenzione anche all'art. 25: un deployer o un distributore diventa a sua volta fornitore se appone il proprio nome su un sistema ad alto rischio, lo modifica in modo sostanziale o ne cambia la finalità facendolo diventare ad alto rischio.
I quattro livelli di rischio
L'AI Act non regola la tecnologia in sé, ma l'uso che se ne fa. Lo stesso modello può essere irrilevante dal punto di vista normativo in un'applicazione e ad alto rischio in un'altra.
Pratiche vietate
L'art. 5 vieta alcuni usi considerati inaccettabili, tra cui le tecniche manipolative o subliminali che distorcono il comportamento delle persone, lo sfruttamento delle vulnerabilità legate a età, disabilità o condizione economica, il social scoring, la creazione di banche dati di riconoscimento facciale tramite raccolta indiscriminata di immagini da internet o da videosorveglianza, e il riconoscimento delle emozioni sul luogo di lavoro e negli istituti di istruzione, salvo motivi medici o di sicurezza. Quest'ultimo punto è da tenere presente per chiunque sviluppi software per scuole, università o gestione del personale.
Sistemi ad alto rischio
Sono i sistemi elencati nell'Allegato III, usati in ambiti dove un errore può incidere sui diritti delle persone: biometria, infrastrutture critiche, istruzione (ammissioni, valutazione dell'apprendimento, sorveglianza durante le prove), lavoro (selezione del personale, valutazione delle prestazioni, assegnazione dei compiti), accesso a servizi essenziali pubblici e privati (come prestazioni di assistenza o valutazione del merito creditizio), giustizia, migrazione e attività di contrasto.
L'art. 6, paragrafo 3, prevede un'eccezione: un sistema che rientra in questi ambiti non è ad alto rischio se non presenta un rischio significativo, per esempio perché svolge un compito procedurale limitato o migliora il risultato di un'attività umana già completata. L'eccezione non vale mai se il sistema effettua profilazione di persone fisiche, e la valutazione va documentata prima dell'immissione sul mercato.
Per i sistemi ad alto rischio il fornitore deve, tra le altre cose, adottare un sistema di gestione dei rischi, garantire la qualità dei dati di addestramento, redigere la documentazione tecnica, prevedere la registrazione automatica degli eventi, fornire istruzioni chiare ai deployer, progettare il sistema per la sorveglianza umana, assicurarne accuratezza, robustezza e cybersicurezza, dotarsi di un sistema di gestione della qualità, completare la valutazione di conformità e registrare il sistema nella banca dati UE.
Anche il deployer ha obblighi: usare il sistema secondo le istruzioni, affidare la sorveglianza umana a persone competenti, conservare i log per almeno sei mesi e informare i lavoratori quando il sistema è usato sul luogo di lavoro. Gli enti pubblici e i privati che erogano servizi pubblici devono inoltre svolgere una valutazione d'impatto sui diritti fondamentali prima di utilizzare un sistema ad alto rischio.
Sistemi con obblighi di trasparenza
È la categoria che riguarda più da vicino la maggior parte delle applicazioni. Dal 2 agosto 2026 l'art. 50 prevede che:
- i sistemi che interagiscono direttamente con le persone, come chatbot e assistenti virtuali, devono essere progettati in modo che l'utente sappia di stare interagendo con un'IA, a meno che non sia evidente dal contesto;
- i sistemi che generano testi, immagini, audio o video sintetici devono marcare i contenuti in un formato leggibile da una macchina, così che siano riconoscibili come generati o manipolati artificialmente;
- chi usa sistemi di riconoscimento delle emozioni o di categorizzazione biometrica deve informare le persone esposte;
- chi pubblica deepfake, o testi generati dall'IA per informare il pubblico su questioni di interesse pubblico, deve dichiararlo, salvo che il testo sia stato sottoposto a revisione umana e qualcuno se ne assuma la responsabilità editoriale.
Rischio minimo
Filtri antispam, suggerimenti di completamento, classificazione automatica di documenti interni: la maggior parte dei sistemi di IA non ha obblighi specifici oltre all'alfabetizzazione. Il regolamento incoraggia l'adozione volontaria di codici di condotta.
Le sanzioni
L'art. 99 prevede sanzioni fino a 35 milioni di euro o al 7% del fatturato mondiale annuo per le pratiche vietate, fino a 15 milioni o al 3% per la violazione degli altri obblighi e fino a 7,5 milioni o all'1% per informazioni inesatte fornite alle autorità. Per le PMI e le startup si applica l'importo più basso tra i due.
E in Italia? La legge 132/2025
Con la Legge 23 settembre 2025, n. 132, in vigore dal 10 ottobre 2025, l'Italia si è dotata di una legge nazionale sull'intelligenza artificiale che affianca l'AI Act. La legge designa AgID e ACN come autorità nazionali per l'IA e introduce alcune regole specifiche: nella pubblica amministrazione l'IA può essere usata solo come supporto, mentre le decisioni restano in capo alla persona responsabile del procedimento; i datori di lavoro devono informare i lavoratori sull'uso di sistemi di IA; i professionisti devono comunicare ai clienti quando ne fanno uso. La legge introduce anche il reato di diffusione illecita di contenuti generati o alterati con l'IA (deepfake).
Come impostare un'applicazione con IA conforme all'AI Act
Adeguarsi a posteriori è sempre più costoso che progettare bene dall'inizio. Ecco i passaggi che seguiamo nei progetti in cui integriamo funzionalità di IA.
- Mappare gli usi dell'IA. Per ogni funzionalità si chiarisce cosa fa il sistema, su quali dati lavora, chi ne vede i risultati e quali decisioni influenza. È la base per stabilire il livello di rischio.
- Chiarire i ruoli. Fornitore e deployer hanno responsabilità diverse: va stabilito per iscritto chi fa cosa, soprattutto quando l'applicazione è sviluppata per conto di un cliente.
- Progettare la trasparenza nell'interfaccia. L'avviso che si sta parlando con un'IA, l'etichetta sui contenuti generati, la spiegazione di come è stato prodotto un suggerimento: sono scelte di UX prima ancora che obblighi legali.
- Prevedere la supervisione umana. Nelle funzioni che incidono su persone, il sistema propone e una persona decide. L'interfaccia deve rendere facile controllare, correggere e annullare.
- Tracciare. Log delle richieste, delle risposte e delle versioni del modello utilizzate permettono di ricostruire cosa è successo e sono un requisito esplicito per i sistemi ad alto rischio.
- Scegliere con cura il modello e il fornitore. Documentazione disponibile, localizzazione dei dati, condizioni d'uso: elementi che diventano parte della conformità dell'applicazione.
- Formare chi usa il sistema. L'alfabetizzazione in materia di IA è già obbligatoria: anche una breve formazione per gli utenti interni fa la differenza.
Il vantaggio di un'applicazione su misura
Con una soluzione standard, le scelte su trasparenza, log e supervisione umana le fa qualcun altro. Con un'applicazione sviluppata su misura, invece, ogni aspetto può essere modellato sui requisiti dell'AI Act e sui processi dell'organizzazione: dove compare l'avviso all'utente, quali dati vengono inviati al modello, quanto a lungo si conservano i log, chi approva un risultato prima che diventi definitivo.
In Plurimedia integriamo l'intelligenza artificiale nelle applicazioni custom tenendo insieme le due cose: funzionalità che portano valore e un'architettura che regge alla verifica normativa. Se state valutando di introdurre l'IA nei vostri software, o volete capire come si collocano quelli che già usate, possiamo affrontarlo insieme.
minuti di lettura