L’AI Act, cioè il nuovo regolamento sull’Intelligenza Artificiale proposto dalla Commissione Europea ha superato la prima fase di approvazione. A rendere particolarmente interessante questa iniziativa è l’introduzione di un criterio di distinzione tra AI in base al loro livello di rischio per gli utenti: "inaccettabile", "elevato", "limitato" e "minimo".
Il livello di rischio più alto comprende tutte le tecnologie vietate in quanto considerate pericolose per la sicurezza delle persone, mettendone a rischio anche i diritti e la sussistenza. Per questo motivo non potrà essere autorizzato l’uso di sistemi per l’identificazione biometrica remota in tempo reale all’interno di aree accessibili al pubblico.
Nello stesso modo dovrebbero essere vietati i sistemi di identificazione biometrica non in tempo reale da remoto se non nei casi in cui questi ultimi vengano utilizzate dalle forze dell’ordine per perseguire crimini particolarmente gravi. In ogni caso per l’impiego di tali soluzioni sarà necessaria un’autorizzazione da parte dell’autorità giudiziaria.
Non dovrebbero essere utilizzabili neanche i sistemi di AI che classificano le persone in base a caratteristiche personali come per esempio il genere di appartenenza, la razza, l’etnia, le convinzioni politiche, la fede religiosa e lo status di cittadinanza. Questo soprattutto per evitare che tali funzionalità possano essere sfruttate con intenti discriminatori.
E’ infine previsto il divieto di utilizzare sistemi per il riconoscimento degli stati emotivi sia nei controlli di polizia che in ambito lavorativo o scolastico, sistemi predittivi per la prevenzione delle attività criminali (a esempio quelli che attingono a dataset di profilazione) e sistemi per la sorveglianza o altri scopi (ad esempio i social media) finalizzati alla creazione di database per la facial recognition.
