Views: 51

di Rafael Patron, Presidente del Comitato Tecnico-Scientifico AIPIA

Al 75° Congresso nazionale della Società italiana di neurochirurgia i chirurghi hanno ripetuto che l’IA non sostituisce il medico. Quel principio, oggi, non è più soltanto una posizione deontologica. Per l’intelligenza artificiale in sanità il diritto europeo lo ha già tradotto in obblighi precisi, che riguardano chi progetta i sistemi ma anche chi li usa in corsia e in ambulatorio.

Il principio di Catania, prima ancora della norma

Il congresso, tornato in Sicilia dopo 41 anni, ha messo insieme numeri importanti: oltre 700 lavori scientifici, 95 sessioni, più di 30 relatori internazionali da 19 Paesi. Il tema dichiarato teneva insieme anatomia, tecnica chirurgica, tecnologie e intelligenza artificiale. Come ha raccontato Messina Medica, le prime applicazioni dell’IA in neurochirurgia riguardano soprattutto la ricerca: analisi delle immagini, riconoscimento delle caratteristiche delle lesioni, supporto alla pianificazione dell’accesso chirurgico. Strumenti di supporto, appunto, che devono essere validati da studi adeguati prima di entrare nella pratica.

Le frasi che restano sono due. «La tecnologia, però, non è un fine: deve essere utilizzata quando può offrire un beneficio concreto al paziente», ha detto il presidente uscente Domenico d’Avella. E Giuseppe Barbagallo, presidente del congresso: «La vera innovazione non consiste nell’utilizzare la tecnologia più avanzata in ogni situazione».

Chi ha letto il Regolamento (UE) 2024/1689, l’AI Act, riconosce in queste parole lo spirito di alcuni suoi articoli.

Quando l’intelligenza artificiale in sanità diventa «ad alto rischio»

L’art. 6, par. 1, dell’AI Act considera ad alto rischio un sistema di IA in due condizioni congiunte. Il sistema è esso stesso un prodotto disciplinato dalla normativa di armonizzazione elencata nell’Allegato I, oppure ne costituisce un componente di sicurezza; e quel prodotto deve passare una valutazione di conformità da parte di terzi prima di arrivare sul mercato. Nell’Allegato I figurano i regolamenti europei sui dispositivi medici e sui dispositivi medico-diagnostici in vitro. Tradotto per il clinico: un software che contribuisce alla diagnosi o alla pianificazione di un intervento, e che come dispositivo medico richiede l’intervento di un organismo notificato, ricade di norma in questa categoria.

Il Regolamento (UE) 2026/1744, il cosiddetto Digital Omnibus sull’IA in vigore dal 27 luglio 2026, ha aggiunto all’art. 6 alcune precisazioni. Le funzioni accessorie, come quelle di comodità o di controllo qualità, non bastano da sole a fare di un sistema un componente di sicurezza; lo diventano però quando un loro malfunzionamento mette a rischio la salute o la sicurezza delle persone. In medicina, dove questo rischio è la regola più che l’eccezione, il margine di ambiguità è stretto.

Sulle date di applicazione degli obblighi per questi sistemi il quadro è stato rivisto proprio dal Digital Omnibus: conviene verificarle sul testo consolidato, anziché affidarsi a scadenze circolate nei mesi scorsi.

Il diritto di non usare il sistema

Il passaggio più vicino alle parole di d’Avella è l’art. 14, dedicato alla sorveglianza umana. I sistemi ad alto rischio devono essere progettati in modo da poter essere controllati efficacemente da persone fisiche per tutto il tempo in cui sono in uso. Il par. 4 entra nel dettaglio. Chi esercita la sorveglianza deve restare consapevole della tendenza a fare affidamento automatico, o eccessivo, sull’output del sistema: il regolamento la chiama esplicitamente «automation bias». Deve poter decidere, in ogni situazione specifica, di non usare il sistema, oppure di ignorarne, correggerne o ribaltarne il risultato. E deve poterlo interrompere con un pulsante di arresto o con una procedura equivalente che lo porti in uno stato sicuro. Scegliere di non usare la tecnologia quando non serve al paziente, dunque, è una facoltà che la norma impone di garantire, oltre che una buona pratica clinica.

Poi ci sono gli obblighi di chi usa. L’AI Act lo chiama deployer: la persona fisica o giuridica che impiega il sistema sotto la propria autorità, quindi l’azienda sanitaria o la casa di cura, ma anche il libero professionista nel proprio studio. L’art. 26 gli chiede di usare il sistema secondo le istruzioni del fornitore, di affidare la sorveglianza umana a persone con la competenza, la formazione e l’autorità necessarie, di monitorarne il funzionamento. Se emerge un rischio, l’uso va sospeso e vanno informati il fornitore e l’autorità di vigilanza del mercato; un incidente grave va segnalato immediatamente.

Il medico che lavora in struttura, in altre parole, è spesso proprio la persona a cui quella sorveglianza viene affidata.

Resta l’art. 4, sull’alfabetizzazione in materia di IA, riscritto dal Digital Omnibus. Nella versione vigente fornitori e deployer adottano misure per sviluppare l’alfabetizzazione del personale e di chi usa i sistemi per loro conto, tenendo conto di conoscenze tecniche, esperienza, formazione e contesto d’uso. Le domande e risposte della Commissione europea chiariscono che l’obbligo vale dal 2 febbraio 2025 e che dall’agosto 2026 la vigilanza spetta alle autorità nazionali. Non serve alcun certificato: bastano evidenze interne della formazione svolta. Per i sistemi ad alto rischio resta in più il dovere di preparare chi esercita la sorveglianza.

Cosa aggiunge l’OMS sui modelli generativi

Il regolamento europeo guarda soprattutto al prodotto. L’Organizzazione mondiale della sanità, con la guida su etica e governance dei grandi modelli multimodali pubblicata il 18 gennaio 2024, guarda di più all’uso quotidiano, quello dei sistemi che scrivono, riassumono e rispondono. Le raccomandazioni sono oltre 40, rivolte a governi, aziende tecnologiche e operatori sanitari. Tra i rischi per i sistemi sanitari l’OMS indica proprio l’automation bias, insieme a risposte false, incomplete o distorte, alla sicurezza informatica e alle disuguaglianze di accesso. Agli sviluppatori chiede di coinvolgere medici, ricercatori e pazienti fin dalle prime fasi di progettazione e di costruire modelli per compiti ben definiti, con accuratezza e affidabilità adeguate; ai governi, audit indipendenti dopo l’immissione in uso.

Per chi usa un assistente generativo per sintetizzare una cartella o preparare una lettera di dimissione, il messaggio è lineare. La responsabilità del contenuto finale resta a chi lo firma.

Dalla deontologia medica all’etica di chi costruisce i sistemi

Messina Medica ha già seguito da vicino la legge italiana sull’intelligenza artificiale e le sue ricadute sulla professione, e ha raccontato come l’IA stia entrando nella medicina siciliana. Il quadro europeo completa quel lavoro. C’è però un aspetto che le norme lasciano in parte aperto: il rapporto tra il medico che usa uno strumento e il professionista che lo ha progettato, addestrato o integrato nei sistemi dell’ospedale.

Su questo terreno si muove l’Associazione Italiana Professionisti dell’Intelligenza Artificiale (AIPIA), che riunisce sviluppatori, data scientist, ricercatori e consulenti. Il suo codice etico per i professionisti dell’IA contiene un principio, la centralità della persona, che suona familiare a qualunque medico: l’IA è uno strumento di supporto e le decisioni di maggiore rilievo etico o giuridico restano sotto supervisione e responsabilità umana. Accanto a questo, trasparenza e tracciabilità delle logiche di funzionamento, tutela dei dati personali secondo il GDPR, attenzione ai bias che producono discriminazioni, formazione continua.

Per un iscritto all’Ordine è un riferimento utile in un momento preciso, quello in cui la propria struttura valuta un fornitore. Sapere quali impegni deontologici dovrebbero vincolare chi sta dall’altra parte del software permette di fare domande più puntuali, e di riconoscere le risposte evasive.

Cinque domande prima di adottare uno strumento con IA

Quando un sistema arriva in reparto, o viene proposto per lo studio, alcune verifiche si possono fare prima di usarlo sul primo paziente:

• È un dispositivo medico marcato, con quale classe e quale destinazione d’uso dichiarata dal fabbricante?
• Le istruzioni per l’uso spiegano limiti, popolazioni su cui è stato validato e condizioni in cui l’output non è affidabile?
• Chi, nella struttura, è stato incaricato della sorveglianza umana, e con quale formazione?
• Come si ignora o si corregge il risultato del sistema, e come lo si ferma?
• A chi si segnala un errore o un incidente, e con quali tempi?

Se a una di queste domande nessuno sa rispondere, il problema non riguarda la tecnologia ma l’organizzazione che la sta adottando. Ed è lì che il giudizio clinico, quello che i neurochirurghi di Catania hanno messo al centro, ha bisogno di essere protetto prima ancora che esercitato.

Rafael Patron, Presidente del Comitato Tecnico-Scientifico AIPIA

Testo inviato alla nostra redazione dall’AIPIA (Associazione ltaliana Professionisti Intelligenza Artificiale)