Human oversight in AI process e standard of care

a cura di Raffaella Aghemo

JONG vs BLUE SHIELD OF CALIFORNIA (24CV069627).

Il querelante Jeremy Jong avrebbe presentato una #classaction contro Blue Shield of California (Blue Shield), una delle più grandi compagnie di assicurazione medica negli Stati Uniti,
sostenendo che Blue Shield utilizzi un software di intelligenza artificiale chiamato Claims Data Activator per semplificare il processo di autorizzazione preventiva delle richieste di indennizzo dei suoi assicurati.
Si legge nel documento allegato al punto 4 infatti: «In realtà la convenuta impiega sistematicamente un software di intelligenza artificiale noto come Claims Data Activator per snellire il processo di autorizzazione preventiva delle sue richieste di risarcimento non lette e consentire ai medici di negare automaticamente la copertura in massa per trattamenti, farmaci e test che non corrispondono a determinati criteri prestabiliti, eludendo così il processo di revisione da parte del singolo medico richiesto dalla legge.»

Implicito nell’affermazione dei querelanti è che Blue Shield stia utilizzando il suo software di intelligenza artificiale in un modo che non includa una supervisione umana sufficiente. Nello specifico, una volta che il software AI di Blue Shield determina che i test, i trattamenti o le procedure per i quali un assicurato ha presentato una richiesta di pre-autorizzazione non sono accettati o necessari dal punto di vista medico, i medici di Blue Shield approvano i dinieghi senza esaminare individualmente i file degli assicurati.

Quale dovrà essere, pertanto, per il tribunale, a valle dell’esito di questa causa federale, lo standard di cura necessario? Se lo standard di cura richiesto fosse tale da vanificare i vantaggi dell’utilizzo di un sistema di Intelligenza Artificiale, e fosse richiesta una supervisione umana, come quantificarla in termini di misurazione?

Riproduzione Riservata

Avv. Raffaella Aghemo