Libro Bianco su IA e prodotti medici a cura della FDA statunitense
a cura di Raffaella Aghemo
Il 15 marzo scorso, la FDA statunitense, l’ente governativo statunitense che si occupa della regolamentazione dei prodotti alimentari e farmaceutici, dipendente dal Dipartimento della salute, ha pubblicato un nuovo libro bianco intitolato “Intelligenza artificiale e prodotti medici: come CBER, CDER, CDRH e OCP stanno lavorando insieme”, il quale ha lo scopo di far luce su come i centri della FDA si stiano coordinando per aggiornare la regolamentazione del ciclo di vita dei prodotti medici.
Si legge infatti nella introduzione: «L’Intelligenza artificiale (AI) ha il potenziale per rivoluzionare l’assistenza sanitaria facendo avanzare lo sviluppo dei prodotti medici, il miglioramento della cura dei pazienti e l’aumento delle capacità degli operatori sanitari. In linea con la sua missione di protezione, promozione e progresso della salute pubblica e sulla base dell’impegno di lunga data dell’Agenzia a sostenere il lavoro innovativo nello sviluppo e nella regolamentazione dei prodotti medici, il Centro per la valutazione e la ricerca biologica della Food and Drug Administration (FDA) (CBER) ), il Centro per la valutazione e la ricerca sui farmaci (CDER), il Centro per i dispositivi e la salute radiologica (CDRH) e l’Office of Combination Products (OCP) pubblicano congiuntamente questo documento per fornire maggiore trasparenza su come i centri per i prodotti medici della FDA stanno collaborando per salvaguardare la salute pubblica, promuovendo al contempo l’innovazione responsabile ed etica.»
Mi è piaciuto particolarmente il passo successivo, che richiama fortemente l’approccio che l’Unione Europea ha dato al primo disegno normativo sull’Intelligenza Artificiale, quando si legge che: «È importante sottolineare che la gestione dell’intelligenza artificiale richiede un quadro normativo basato sul rischio costruito su solidi principi, standard, migliori pratiche e strumenti scientifici normativi all’avanguardia che possono essere applicati a tutte le applicazioni di intelligenza artificiale ed essere adattati al prodotto medico pertinente.»
Sono delineate quattro aree di interesse nello sviluppo dell’IA in ambito medicale, riportate nella immagine sotto.
1. Promuovere la collaborazione per salvaguardare la salute pubblica
I Centri per i prodotti medici della FDA lavorano a stretto contatto con sviluppatori, gruppi di pazienti, mondo accademico, regolatori globali e altre parti interessate per coltivare un approccio normativo incentrato sul paziente che enfatizzi la collaborazione e l’equità sanitaria.
Per continuare a promuovere questi partenariati di collaborazione, l’Agenzia intende:
A. Sollecitare il contributo di una serie di parti interessate per considerare gli aspetti critici dell’uso dell’intelligenza artificiale nei prodotti medici, come trasparenza, spiegabilità, governance, pregiudizi, sicurezza informatica e garanzia della qualità.
B. Promuovere lo sviluppo di iniziative educative per supportare gli organismi di regolamentazione, gli operatori sanitari, i pazienti, i ricercatori e l’industria mentre affrontano l’uso sicuro e responsabile dell’IA nello sviluppo di prodotti medici e nei prodotti medici.
C. Continuare a lavorare a stretto contatto con i collaboratori globali per promuovere la cooperazione internazionale su standard, linee guida e migliori pratiche per incoraggiare la coerenza e la convergenza nell’uso e nella valutazione dell’IA nel panorama dei prodotti medici.
2. Promuovere lo sviluppo di approcci normativi a sostegno dell’innovazione
I Centri per i prodotti medici della FDA intendono sviluppare politiche che forniscano prevedibilità e chiarezza normativa per l’uso dell’intelligenza artificiale come parte del loro impegno di lunga data per proteggere la salute pubblica e promuovere l’innovazione. Ciò comprende:
A. Continuare a monitorare e valutare le tendenze e le questioni emergenti per individuare potenziali lacune e opportunità di conoscenza, anche nelle proposte normative, consentendo adattamenti tempestivi che forniscano chiarezza per l’uso dell’intelligenza artificiale nel ciclo di vita dei prodotti medici.
B. Sostenere gli sforzi della scienza normativa per sviluppare una metodologia per valutare gli algoritmi di intelligenza artificiale, identificare e mitigare i bias e garantire la robustezza e la resilienza degli algoritmi di intelligenza artificiale per resistere ai mutevoli input e condizioni clinici.
C. Sfruttare e continuare a sviluppare le iniziative esistenti per la valutazione e la regolamentazione dell’uso dell’IA nei prodotti medici e nello sviluppo di prodotti medici, compresa la produzione.
D. Pubblicazione di linee guida relative all’uso dell’intelligenza artificiale nello sviluppo di prodotti medici e nei prodotti medici
3. Promuovere lo sviluppo di standard, linee guida, migliori pratiche e strumenti per il ciclo di vita dei prodotti medici
I centri per i prodotti medici della FDA si impegnano a sostenere gli standard di sicurezza ed efficacia dei prodotti medici abilitati all’intelligenza artificiale. Basandosi sui principi guida delle buone pratiche di machine learning, l’Agenzia prevede di:
A. Continuare a perfezionare e sviluppare considerazioni per valutare l’uso sicuro, responsabile ed etico dell’IA nel ciclo di vita dei prodotti medici (ad esempio, fornendo un’adeguata trasparenza e affrontando i problemi di sicurezza anche informatica).
B. Identificare e promuovere le migliori pratiche per la sicurezza a lungo termine e il monitoraggio delle prestazioni nel mondo reale dei prodotti medici abilitati all’intelligenza artificiale.
C. Esplorare le migliori pratiche per documentare e garantire che i dati utilizzati per addestrare e testare i modelli di intelligenza artificiale siano idonei all’uso, compresa la rappresentazione adeguata della popolazione di destinazione.
D. Sviluppare un quadro e una strategia per la garanzia della qualità degli strumenti o dei sistemi abilitati all’intelligenza artificiale utilizzati nel ciclo di vita dei prodotti medici, sottolineando il monitoraggio continuo e la mitigazione dei rischi.
4. Sostenere la ricerca relativa alla valutazione e al monitoraggio delle prestazioni dell’intelligenza artificiale
Per ottenere informazioni preziose sull’impatto dell’intelligenza artificiale sulla sicurezza e sull’efficacia dei prodotti medici e in base alle risorse disponibili, i Centri intendono sostenere progetti dimostrativi chesiano abili a:
A. Identificare progetti che evidenzino diversi punti in cui possono essere introdotti errori nel ciclo di vita dello sviluppo dell’IA e come affrontarli, anche attraverso la gestione del rischio.
B. Sostenere progetti che considerino le disuguaglianze sanitarie associate all’uso dell’intelligenza artificiale nello sviluppo di prodotti medici per promuovere l’equità e garantire la rappresentatività dei dati, sfruttando gli sforzi continui in materia di diversità, equità e inclusione.
C. Supportare il monitoraggio continuo degli strumenti di intelligenza artificiale nello sviluppo di prodotti medici nell’ambito di progetti dimostrativi per garantire l’aderenza agli standard e mantenere prestazioni e affidabilità durante tutto il loro ciclo di vita.
Concludendo, sebbene ancora non siano delineate le modalità con le quali la FDA delegherà o eseguirà tali compiti, manifesta un confermato impegno per un utilizzo etico e responsabile dei sistemi algoritmici, aggiungendo inoltre, in una nota in prima pagina, una distinzione tra l’uso tipico dell’IA nei farmaci e nei dispositivi che è, allo stesso tempo, palesemente ovvia e inaspettatamente chiarificatrice: «L’uso dell’intelligenza artificiale nel ciclo di vita dei prodotti medici per lo sviluppo di farmaci, prodotti biologici, dispositivi o prodotti combinati può differire. Ad esempio, per i farmaci e i prodotti biologici, il prodotto finale è in genere il farmaco o il prodotto biologico stesso, che generalmente non includerà l’intelligenza artificiale in quel prodotto finale. Per i dispositivi, il prodotto finale è il dispositivo, che a sua volta può essere abilitato all’intelligenza artificiale».
Riproduzione Riservata
Avv. Raffaella Aghemo
