Dall’AI Act alla prassi: l’integrazione dell’IA tra obblighi normativi e controllo umano

di Marco Verghi (Avvocato, componente della Commissione Informatizzazione, Intelligenza Artificiale e Processo Penale Telematico di ADU Italia)

Modalità di approccio all’Utilizzo dei Sistemi AI

Dopo l’importantissimo intervento avuto a livello comunitario, con l’AI Act, anche l’Italia ha iniziato a muovere i primi passi verso una legislazione targata IA; si tratta del DDL sull’Intelligenza Artificiale, approvato dal nostro Governo il 23 aprile 2024, il quale individua “criteri regolatori capaci di riequilibrare il rapporto tra le opportunità che offrono le nuove tecnologie e i rischi legati al loro uso improprio, al loro sottoutilizzo o al loro impiego dannoso”.
Dalle prime norme, si può desumere come l’Italia sia rimasta fedele ai principi affermati in materia di IA dalla Comunità Europea, soprattutto con riferimento alle definizioni riportate nell’art. 2 del DDL, e si rileva che ci sono ambiti in cui il disegno di legge italiano interviene nello specifico, ossia Sanità e Disabilità, Lavoro, P.A., Diritto D’autore e Diritto penale.
L’Intelligenza Artificiale va impiegata soltanto per funzioni di supporto sull’attività professionale, ben può essere utilizzata per la ricerca normativa, di Giurisprudenza, di predisposizione di bozze o di sintesi.
È rilevante sottolineare l’informativa data dal C.N.F. sull’utilizzo dei Sistemi di Intelligenza Artificiale tenendo conto che il modulo che il Professionista deve fare firmare al cliente è stato comunicato ai Presidenti degli Ordini Territoriali.
Il C.N.F. si allinea a quanto previsto per Giudici e P.M. dalla circolare approvata dal Consiglio Superiore della Magistratura l’8 Ottobre 2025, (in attesa che ad Agosto 2026 entri in vigore l’AI act, il regolamento europeo del 13/06/2024 n. 1689 del Parlamento dell’UE e del Consiglio, quando i Magistrati potranno utilizzare soltanto strumenti a marcatura CE.
Nell’informativa C.N.F. l’Avvocato avrà cura di avvertire l’assistito (seguendo il modulo di compilazione allegato in calce) che “ove ritenuto utile”, ricorrerà ai sistemi di intelligenza artificiale (sistemi intelligenti) durante l’esecuzione dell’incarico, sia giudiziale, che stragiudiziale, come ad esempio: per l’Analisi preliminare di Documenti, per la gestione di attività organizzative e di segreteria.
Tutto questo nel pieno rispetto del regolamento Ue sulla privacy n. 2016/679 (Gdpr) e dei doveri deontologici che regolano la professione forense, in modo da tutelare il Diritto alla riservatezza del cliente con adeguate competenze giuridiche e capacità espositive, l’Avvocato potrà avvalersi di queste tecnologie innovative, avendo coscienza dei Diritti fondamentali dell’assistito, senza trascurare la realtà umana, psicosociale dei casi trattati evitando i rischi legali ed etici inerenti e avendo sempre il supporto di una buona preparazione legale e teorica di base.

Accurata verifica da parte del Professionista dell’utilizzo dei chatbot

L’AI Act stabilisce regole armonizzate per lo sviluppo, l’immissione sul mercato e l’uso dei sistemi di IA, con obblighi graduati per pratiche vietate, modelli a finalità generale (GPAI) e sistemi ad alto rischio; ne discende per i “deployer” (utilizzatori professionali) l’esigenza di documentare l’uso dei sistemi, predisporre misure di gestione del rischio e, quando applicabile, eseguire valutazioni d’impatto sui diritti fondamentali.
In Italia, il recepimento della Direttiva NIS2 estende misure tecniche ed organizzative per la sicurezza delle reti e dei sistemi a un numero più ampio di soggetti, rafforzando governance, gestione delle vulnerabilità, segnalazione degli incidenti e responsabilità degli apicali.
Tornando al versante etico-professionale, come già preannunciato sopra, il CNF ha promosso la diffusione in Italia della Guida del CCBE sull’uso dell’IA generativa da parte degli avvocati, ribadendo i cardini di controllo umano, riservatezza, responsabilità e trasparenza verso il cliente. Il quadro deontologico si aggiorna inoltre con modifiche al Codice, sebbene le norme specifiche sull’IA vadano lette in combinazione con i doveri generali di lealtà, segreto professionale e competenza.
Le analisi ENISA mostrano come, in Europa, DDoS, ransomware e attacchi ai dati restino le minacce più rilevanti, insieme al crescente rischio legato a supply chain e API. I dati Clusit confermano nel primo semestre 2024 un aumento del 23% degli attacchi gravi, con manifatturiero e sanità tra i settori più colpiti, scenario indicativo anche per chi gestisce dati giuridici sensibili.
Per gli studi legali, la banca dati giuridica costituisce l’asset centrale e richiede un approccio integrato: mappatura e classificazione dei dati, hardening dell’infrastruttura, cifratura, logging e monitoraggio, affiancati da penetration test e verifiche dedicate alle API, spesso punto di interconnessione tra gestionali, sistemi documentali e strumenti di IA. Le linee OWASP, in particolare le vulnerabilità di Broken Object Level Authorization e Security Misconfiguration, sono un riferimento imprescindibile per la sicurezza applicativa. Parallelamente, chi opera con la PA dovrebbe allinearsi alle Misure Minime AgID e alle Linee Guida sull’interoperabilità, mantenendo un dialogo tecnico costante con AgID e strutture ICT interne.
Un focus specifico va dedicato alla sicurezza delle API dei sistemi legali e di knowledge management, spesso vettori di esfiltrazione massiva: test “shiftleft”, gateway API con ratelimiting, mTLS, validazione degli schemi e token a vita breve riducono drasticamente la superficie d’attacco. L’adozione dell’IA richiede tracciabilità e documentazione: registro interno degli strumenti, basi giuridiche del trattamento, minimizzazione dei dati, informative e controlli umani. Il Garante ha richiamato più volte l’attenzione sui rischi dell’addestramento tramite web scraping e sulla necessità di DPIA e supervisione del DPO.
Dal lato normativo, l’AI Act impone a chi utilizza sistemi ad alto rischio la gestione del rischio, qualità dei dati, audit trail, sicurezza e supervisione umana, mentre per i modelli a finalità generale valgono obblighi rafforzati di trasparenza, incluse informazioni sui dataset di addestramento.
Il professionista, soprattutto, garantisce che l’output fornito dai sistemi IA sarà oggetto di una “attenta ed accurata verifica” da parte dello stesso Professionista, sia in sede di generazione del prodotto che di controllo delle fonti.
Nelle Cause Civili arrivano, le prime condanne per responsabilità processuale aggravata a carico della parte perché il Difensore ricorre in modo indiscriminato ai chatbot per ricorsi in serie o comunque non confezionati ad hoc per la controversia specifica (dai Tribunali di Latina e di Torino arrivano le prime sentenze contro il Ricorso a stampone o troppo astratto).
L’algoritmo può essere quindi impiegato nelle attività di supporto e di natura organizzativa, ma sempre sotto controllo di adeguato pensiero critico da parte dell’operatore!
Tornando al Settore del Diritto Penale, l’intervento del DDL opera su due fronti (art. 25): esso non solo prevede l’introduzione di circostanze aggravanti comuni e di alcune aggravanti speciali nelle ipotesi in cui i reati vengano commessi con “l’impiego di sistemi di intelligenza artificiale”, ma prevede altresì l’introduzione di un nuovo reato, ossia il c.d. reato di deepfake.
Possiamo dunque sintetizzare il quadro normativo essenziale.
Con l’AI Act l’uso dell’IA a supporto dell’autorità giudiziaria rientra, in linea generale, tra i sistemi ad alto rischio. Ciò comporta requisiti stringenti su gestione dei rischi, qualità dei dati, documentazione e tracciabilità, trasparenza, sorveglianza umana, accuratezza e cybersicurezza. La Legge 23 settembre 2025, n. 132, all’art. 15, ribadisce che le scelte su interpretazione e applicazione della legge, valutazione dei fatti e delle prove e provvedimenti restano sempre in capo al magistrato, mentre al Ministero della Giustizia spetta disciplinare gli impieghi per organizzazione dei servizi, semplificazione del lavoro e attività amministrative.

La fase transitoria (fino ad agosto 2026)

Nel periodo che porta all’entrata a regime dell’AI Act, l’uso dell’IA nell’attività giurisdizionale è consentito solo per i sistemi autorizzati dal Ministero e collocati nel dominio giustizia, con tracciabilità dei processi e sorveglianza umana.
Resta precluso l’impiego di servizi generalisti per attività decisionali o istruttorie e l’immissione di atti o dati sensibili in piattaforme non istituzionali, anche se anonimizzati. È invece possibile utilizzare strumenti che svolgono compiti procedurali limitati, migliorano attività già concluse o preparano valutazioni da svolgere con revisione umana, come previsto dall’art. 6, par. 3, AI Act.
Cosa si può fare subito negli uffici giudiziari:

• Ricerche dottrinali e costruzione di stringhe di ricerca su banche dati istituzionali/commerciali;
• Sintesi e abstract per classificare provvedimenti ostensibili e contributi scientifici, catalogazione per materia;
• Organizzazione del lavoro: reportistica statistica, comparazione documentale, confronto tra programmi di gestione e dati di registro;
• Bozze standard per affari semplici e attività seriali a bassa complessità, da adattare al caso;
• Controlli documentali su allegazioni amministrativo-contabili opportunamente anonimizzate;
• Calendari d’udienza e gestione agende secondo criteri predefiniti;
• Tabelle e grafici da registri;
• traduzione assistita;
• revisione linguistica/stilistica;
• Ricerche giurisprudenziali: è ammissibile il supporto tecnico alla ricerca (query e classificazioni).

Non rientrano nella deroga, invece, strumenti che selezionano automaticamente la “giurisprudenza più rilevante”, suggeriscono orientamenti o emanano schemi motivazionali che incidono sulla valutazione del giudice.
Le cautele operative raccomandate:

• Sovranità dei dati: informazioni del dominio giustizia custodite in ambienti non accessibili a terzi; preferenza per modelli residenti su server ministeriali o installazioni locali (anche open source) su hardware adeguato;
• Protezione dati: minimizzazione degli input; no a dati sensibili/atti processuali su piattaforme non istituzionali; valutazione del rischio di re identificazione.
• Sorveglianza umana e audit: controllo critico degli output, log delle interazioni e audit periodici; sandbox regolatoria Ministero–CSM per sperimentazioni tracciate.
• Formazione: percorsi strutturati per magistrati, avvocati e personale su fondamenti dell’IA, bias, drift, tecniche di verifica e uso responsabile.

Dopo agosto 2026:
L’impiego di IA in ambito giudiziario sarà possibile con soli sistemi marcati CE, registrati nella banca dati UE e conformi ai requisiti per l’alto rischio.
Poiché al singolo giudice non sarà realistico vagliare gli algoritmi, la verifica si concentrerà sull’output: pertinenza rispetto al caso, coerenza giuridica, replicabilità su fonti ufficiali e assenza di errori rilevanti. Resta centrale l’esperienza processuale: oralità, immediatezza percettiva, contraddittorio.
Implicazioni per l’avvocatura: gli uffici introdurranno policy IA più esigenti su atti e dati. Gli studi dovranno investire in formazione, adottare criteri di accountability e privilegiare fonti qualificate e argomentazioni controllabili. L’IA non sostituisce argomentazione e valutazione probatoria.