AI Civil Rights Act per eliminare i pregiudizi dell’intelligenza artificiale

a cura di Raffaella Aghemo

Il senatore Markey presenta l’AI Civil Rights Act per eliminare i pregiudizi dell’intelligenza artificiale e stabilire misure di salvaguardia sull’uso degli algoritmi nelle decisioni che hanno un impatto sui diritti delle persone, sulle libertà civili e sui mezzi di sussistenza.

Sto introducendo l’ Artificial Intelligence Civil Rights Act per garantire che l’era dell’intelligenza artificiale non replichi e non potenzi i pregiudizi e le discriminazioni già prevalenti nella società odierna. Non ci sono dubbi: possiamo avere una rivoluzione dell’intelligenza artificiale in questo paese proteggendo al contempo i diritti civili e le libertà degli americani comuni, possiamo supportare l’innovazione senza aumentare i pregiudizi e le discriminazioni e possiamo promuovere la competizione salvaguardando i diritti delle persone”.
“I sistemi di intelligenza artificiale, che già oggi hanno un impatto sulle decisioni relative a credito al consumo, forze dell’ordine, immigrazione, edilizia abitativa e assistenza sanitaria, possono essere ingiusti in qualsiasi direzione e in più direzioni contemporaneamente, perché i sistemi generano previsioni basate su inferenze da set di dati complessi. Valutare l’equità degli input nei sistemi e dei risultati è un controllo essenziale, altrimenti rischiamo modelli che legano insensatamente il nostro futuro al nostro passato spesso problematico. Semplicemente non possiamo permetterci di implementare prima i sistemi e controllarli dopo, né tale approccio sarebbe coerente con una democrazia multiculturale che si sforza di ottenere opportunità per tutti”, ha affermato Laura MacCleery, Senior Policy Director, UnidosUS .

Il senatore Edward J. Markey (D-Mass.), membro del Comitato del Senato per il commercio, la scienza e i trasporti, ha presentato il suo Artificial Intelligence (AI) Civil Rights Act , una legislazione completa sui diritti civili dell’intelligenza artificiale che porrà rigide barriere di protezione all’uso di algoritmi da parte delle aziende per decisioni consequenziali, garantirà che gli algoritmi vengano testati prima e dopo l’implementazione, aiuterà a eliminare e prevenire i pregiudizi e rinnoverà la fiducia degli americani nell’accuratezza e nell’equità degli algoritmi complessi.

In particolare, l’ AI Civil Rights Act :

• Regolamenta gli algoritmi coinvolti nelle decisioni importanti, come quelle che hanno un impatto sui diritti delle persone, sulle libertà civili e sui mezzi di sussistenza, tra cui occupazione, servizi bancari, assistenza sanitaria, sistema di giustizia penale, strutture pubbliche e servizi governativi;
  - Vieta agli sviluppatori e agli operatori di offrire, concedere in licenza o utilizzare algoritmi coperti che discriminino in base alle caratteristiche protette o che causino un impatto disparato;
  - Richiede agli sviluppatori e agli utilizzatori degli algoritmi coperti di completare valutazioni pre-implementazione e valutazioni dell’impatto post-implementazione sottoposte a revisione indipendente per identificare, valutare e mitigare qualsiasi potenziale uso distorto o risultati discriminatori;
  - Richiede agli sviluppatori e agli implementatori di attenuare eventuali danni identificati dalle valutazioni pre-implementazione e dalle valutazioni di impatto e di garantire che tutti gli algoritmi interessati funzionino ragionevolmente bene e siano coerenti con il loro scopo pubblicizzato;
  - Aumenta la trasparenza in merito all’uso di algoritmi coperti in decisioni consequenziali, incluso il diritto degli individui di presentare ricorso contro una decisione algoritmica a un decisore umano; e
  - Autorizza la Federal Trade Commission, i procuratori generali degli Stati e i privati ​​a far rispettare la legge.

Riproduzione Riservata

Avv. Raffaella Aghemo