Dall’AI Act al D.Lgs. 231/2001: come la colpa di organizzazione algoritmica trasforma il MOG

L’introduzione dell’art. 25-vicies del d.lgs. 231/2001, rubricato “Delitti commessi mediante l’impiego di sistemi di intelligenza artificiale”, segna un passaggio decisivo nell’adeguamento del quadro sanzionatorio nazionale al Regolamento (UE) 2024/1689 (AI Act) e alla normativa interna di recepimento. L’AI non è più solo oggetto di disciplina tecnica e di soft law aziendale: entra a pieno titolo nel catalogo autonomo dei reati presupposto dell’ente, con conseguenze dirette sul Modello di Organizzazione e Gestione ex d.lgs. 231/2001 (MOG 231).

L’art. 25-vicies si innesta su una duplice direttrice penale: da un lato la sicurezza e la sorveglianza nei sistemi di IA ad alto rischio (art. 437-bis c.p.), dall’altro la tutela della persona e dell’integrità informativa rispetto ai contenuti manipolati e deepfake (art. 612-quater c.p.).

1. La base penale: 437-bis c.p. e 612-quater c.p.

1.1. Art. 437-bis c.p. – Omessa adozione di misure di sicurezza nei sistemi di IA

L’art. 437-bis c.p. (nuova figura di reato introdotta nel contesto dell’attuazione dell’AI Act) colpisce chi progetta, addestra o impiega professionalmente sistemi di IA ad alto rischio e:

• omette di adottare cautele tecniche adeguate (security by design, robustezza, affidabilità, mitigazione del bias);
• non predispone un’effettiva sorveglianza umana (“human-in-the-loop” o “human-on-the-loop”) sulle decisioni automatizzate;

quando da tali omissioni derivi un pericolo concreto per la vita o l’incolumità pubblica.

La norma recepisce in chiave penale i requisiti di gestione del rischio e di human oversight previsti per i sistemi di IA ad alto rischio dal Regolamento UE, puntando direttamente sulla colpa organizzativa dei soggetti che governano l’uso dell’IA.

1.2. Art. 612-quater c.p. – Deepfake e contenuti manipolati

L’art. 612-quater c.p. disciplina invece l’illecita diffusione di contenuti generati o alterati con sistemi di IA, punendo il soggetto che:

• crea o manipola immagini, video, audio o testi con IA;
• li diffonde senza il consenso della persona ritratta o coinvolta;
• arreca un danno ingiusto (reputazionale, personale, patrimoniale) o comunque trae in inganno sulla genuinità dei contenuti.

Questa fattispecie valorizza l’impatto dell’IA sulla dimensione informativa e reputazionale: il deepfake non è solo un problema etico, ma un illecito penale con potenziale riflesso sulla responsabilità degli enti.

2. Il testo dell’art. 25-vicies d.lgs. 231/2001

Alla luce di queste premesse, il nuovo art. 25-vicies si presenta come una categoria autonoma di reati presupposto nel d.lgs. 231/2001, specificamente dedicata all’IA. Il testo normativo (che riportiamo integralmente) è il seguente:

Art. 25-vicies (Delitti commessi mediante l’impiego di sistemi di intelligenza artificiale)

1. In relazione alla commissione del delitto di cui all’articolo 437-bis del codice penale (Omessa adozione di misure di sicurezza nei sistemi di intelligenza artificiale e alterazione illecita dei sistemi), si applica all’ente la sanzione pecuniaria da seicento a mille quote.
2. In relazione alla commissione del delitto di cui all’articolo 612-quater del codice penale (Illecita diffusione di contenuti generati o manipolati con sistemi di intelligenza artificiale), si applica all’ente la sanzione pecuniaria da duecento a settecento quote.
3. Nei casi di condanna per i delitti di cui ai commi 1 e 2, si applicano le sanzioni interdittive previste dall’articolo 9, comma 2, per una durata non inferiore a tre mesi e non superiore a due anni.

Tre elementi spiccano con immediatezza:

• la soglia sanzionatoria molto elevata per l’ente (fino a 1.000 quote per 437‑bis), coerente con la gravità del pericolo per vita e incolumità pubblica;
• il riconoscimento della rilevanza penale dei deepfake ai fini 231 (612‑quater), con sanzione fino a 700 quote;
• il ricorso alle sanzioni interdittive ex art. 9 d.lgs. 231/2001 (interdizione dall’esercizio dell’attività, sospensione/revoca di autorizzazioni, divieto di contrattare con la P.A., ecc.), per un arco temporale significativo (3–24 mesi).

3. Colpa di organizzazione algoritmica e profili di rischio per l’ente

3.1. Colpa di organizzazione algoritmica

Con il 25‑vicies, prende forma un vero e proprio concetto di “colpa di organizzazione algoritmica”: l’ente risponde non solo per la mancata adozione di misure tradizionali, ma per non aver strutturato presidi idonei a governare l’uso dell’IA nei propri:

• processi decisionali (es. scoring automatico, profiling, allocazione di risorse);
• processi di marketing e comunicazione (campagne, contenuti personalizzati, gestione social);
• processi operativi (logistica, manutenzione predittiva, gestione rischi operativi);
• processi di sviluppo software e data science (modelli addestrati su dati propri o di terzi, pipeline MLOps).

La colpa di organizzazione algoritmica si manifesta su due piani:

1. Sicurezza e sorveglianza (437-bis c.p.): assenza o inadeguatezza di misure tecniche, organizzative e di human oversight sui sistemi di IA ad alto rischio, con esposizione a pericoli concreti per la vita e l’incolumità pubblica.
2. Integrità informativa e reputazionale (612-quater c.p.): uso disinvolto di strumenti IA per la creazione o diffusione di contenuti falsificati, senza policy e controlli che ne impediscano l’impiego illecito.

3.2. Impatto sanzionatorio

Sul piano sanzionatorio, l’ente rischia:

• per il 437-bis c.p. (comma 1 art. 25‑vicies): 600–1.000 quote, con importi complessivi di assoluta rilevanza, specie se rapportati al fatturato;
• per il 612-quater c.p. (comma 2): 200–700 quote, comunque significative, soprattutto in caso di pluralità di episodi o danno reputazionale di vasta portata;
• in entrambi i casi, l’applicazione delle sanzioni interdittive ex art. 9 d.lgs. 231/2001:
  • interdizione dall’esercizio dell’attività;
  • sospensione o revoca di autorizzazioni, licenze o concessioni;
  • divieto di contrattare con la Pubblica Amministrazione;
    per una durata tra tre mesi e due anni.

In concreto, un incidente grave su un sistema di IA ad alto rischio, o una campagna di deepfake che coinvolga la reputazione di terzi, può condurre non solo a multe ingenti, ma a blocchi operativi e reputazionali tali da incidere sulla stessa sopravvivenza dell’impresa.

4. Adeguamento del MOG 231: presidi specifici per l’IA

Alla luce di 25‑vicies, il MOG 231 va ripensato in modo strutturale. Le direttrici di intervento principali sono le seguenti.

4.1. Mappatura dell’IA (AI Inventory)

Primo passo è una mappatura sistematica dei sistemi di IA in uso:

• censimento di tutti gli strumenti di IA generativa (testo, immagini, video, audio) e predittiva (scoring, raccomandazione, anomaly detection);
• inclusione sia di soluzioni sviluppate internamente sia di software forniti da terzi (SaaS, API, modelli pre-addestrati);
• classificazione del livello di rischio secondo i criteri fissati dal AI Act (sistemi vietati, ad alto rischio, a rischio limitato, general purpose, ecc.);
• individuazione dei process owner e dei referenti di compliance per ciascun sistema.

Questa AI Inventory diventa la base per orientare protocolli, formazione e controlli, in analogia con la mappatura dei processi sensibili già prevista per altre aree di reato (es. ambiente, tributi, contrabbando).

4.2. Policy di Governance & Human-in-the-Loop

Va poi adottata una policy di governance dell’IA, strettamente integrata nel MOG 231, che preveda:

• definizione delle modalità d’uso consentite di IA, distinguendo tra:
  • uso interno sperimentale e di test;
  • uso in processi critici o ad alto rischio (decisionali, di sicurezza, di impatto su terzi);
• disciplina del controllo umano effettivo (human-in-the-loop / human-on-the-loop):
  • chi ha il potere/dovere di validare le decisioni automatizzate;
  • quali decisioni non possono essere prese in modo puramente algoritmico;
  • come documentare la revisione umana (checklist, firme digitali, approvazioni in sistemi di workflow);
• regole su data governance (qualità dei dati, non discriminazione, gestione dei dataset di addestramento) coerenti con gli obblighi dell’AI Act.

In assenza di questi presidi, l’ente rischia di vedersi contestare la colpa di organizzazione algoritmica in caso di incidente o di decisioni dannose assunte sulla base di sistemi di IA.

4.3. Tracciabilità dei log (Audit Trail)

Per rendere verificabile la diligenza organizzativa, è fondamentale prevedere un sistema robusto di audit trail:

• conservazione dei prompt e delle istruzioni date ai sistemi di IA;
• storicizzazione degli output generati (contenuti, decisioni, raccomandazioni);
• registrazione delle revisioni umane (correzioni, blocchi, approvazioni);
• tracciabilità dei modelli e delle versioni (model versioning, changelog degli algoritmi).

Questa tracciabilità consente, in caso di indagine o ispezione, di ricostruire:

• se l’ente aveva predisposto controlli adeguati;
• se i soggetti coinvolti hanno rispettato le policy;
• se eventuali violazioni derivano da singoli comportamenti devianti o da lacune organizzative.

4.4. Qualifica dei fornitori IT e contratti di fornitura

Nell’ottica 25‑vicies, i fornitori IT che sviluppano o forniscono sistemi di IA diventano anelli critici della catena di responsabilità. Il MOG 231 dovrebbe prevedere:

• procedure di qualifica dei fornitori che richiedano:
  • certificazioni di sicurezza (ISO/IEC 27001, 27701, ecc.);
  • evidenze di conformità all’AI Act per i sistemi ad alto rischio;
• clausole contrattuali specifiche su:
  • responsabilità per malfunzionamenti o vulnerabilità dei sistemi di IA;
  • obblighi di trasparenza sul funzionamento dei modelli (documentation, model cards);
  • impegni sulla gestione di incidenti di sicurezza o di abuso dell’IA.

L’assenza di questi presidi contrattuali può essere letta come ulteriore indice di negligenza organizzativa in caso di reato presupposto commesso con sistemi forniti da terzi.

4.5. Flussi verso l’OdV e ruolo dell’Organismo di Vigilanza

Il nuovo perimetro di rischio IA impone un rafforzamento del ruolo dell’Organismo di Vigilanza (OdV):

• definizione di flussi informativi periodici verso l’OdV, relativi a:
  • introduzione o modifica di sistemi di IA;
  • aggiornamenti di algoritmi o modelli (major release, retraining);
  • incidenti di sicurezza, malfunzionamenti, segnalazioni di deepfake o contenuti manipolati;
• inserimento nel piano di attività dell’OdV di:
  • audit sugli AI Inventory e sulle policy di governance;
  • verifiche campionarie sui log e sulle decisioni automatizzate;
  • monitoraggio dei rapporti con fornitori IT e dei contratti di fornitura IA.

In questo modo, l’OdV diventa presidio centrale nella prevenzione dei delitti commessi mediante l’impiego di sistemi di IA, contribuendo a rendere “viva” la Parte Speciale 25‑vicies del modello 231.

5. Inquadramento nel sistema 231 e implicazioni strategiche

L’art. 25‑vicies va letto in continuità con l’evoluzione del d.lgs. 231/2001:

• come i reati ambientali (art. 25‑undecies) hanno imposto una revisione profonda dei processi produttivi e delle autorizzazioni ambientali;
• come i reati tributari (art. 25‑quinquiesdecies) hanno portato la compliance fiscale dentro il MOG;
• come il contrabbando (art. 25‑sexiesdecies) ha integrato logistica, dogane e accise nel perimetro 231;
• e come i reati informatici e sugli strumenti di pagamento (art. 25‑octies e 25‑octies.1) hanno avvicinato la sicurezza IT al diritto penale dell’impresa;

così i delitti commessi mediante IA spingono l’ente a fare un salto di qualità, integrando in modo strutturale:

• governance tecnologica,
• risk management algoritmico,
• etica digitale

all’interno della cultura di compliance 231.

Conclusioni: dal rischio tecnico al rischio penale-organizzativo

L’AI Act e il nuovo art. 25-vicies d.lgs. 231/2001 trasformano l’IA da semplice asset tecnologico a fattore di rischio penale-organizzativo. L’ente non è chiamato solo a “usare bene” l’IA: deve progettare e mantenere un sistema di presidi – tecnici, organizzativi, contrattuali e formativi – che riduca in modo concreto il rischio di:

• omessa sicurezza o sorveglianza sui sistemi ad alto rischio (437‑bis c.p.);
• diffusione di deepfake e contenuti manipolati (612‑quater c.p.).

Il MOG 231, se adeguatamente aggiornato nelle sue Parti Generale e Speciali, può diventare un laboratorio di responsabilità algoritmica, capace di dimostrare alle Autorità – in caso di indagine – che l’ente ha fatto tutto il ragionevolmente esigibile per prevenire i delitti commessi mediante l’impiego di sistemi di intelligenza artificiale.