In audizione presso le Commissioni riunite Trasporti, Poste e Telecomunicazioni e Attività produttive, commercio e turismo della Camera dei Deputati, il Prof. Avv. Oreste Pollicino è intervenuto in merio alla proposta di Regolamento sull’intelligenza artificiale, c.d. AI Act.
Di seguito, i principali punti dell’analisi del Professore.
a) Il processo di uniformazione proposto da AI Act, messo a rischio dai margini di manovra lasciati agli stati membri (per esempio considerando 68).
b) La definizione di sistema intelligenza artificiale. Questa definizione “aperta” sarebbe, come si rileva dall’explanatory memorandum in apertura della proposta, in grado di garantire la massima conformità ai valori europei. Tuttavia, ad una lettura più attenta, si nota come manchi quasi del tutto il riferimento ai principi costituzionali. Sarebbe importante prendere maggiormente in considerazione la Carta dei diritti fondamentali dell’Unione europea, ad iniziare dal principio di proporzionalità.
c) Rapporto tra utilizzo, in certi casi, di dati biometrici e la disciplina del GDPR. Si sta trattando di dati considerati dalla normativa a protezione dei dati personali, in particolare dall’art. 9 del GDPR, dati sensibili. Per questa ragione, possono essere processati alla presenza di determinati requisiti, oltre che previa individuazione in una corretta base giuridica del trattamento (ex art. 6 del GDPR). Tale aspetto sembra entrare in conflitto con la libertà concessa agli Stati Membri di autorizzare utilizzi emergenziali della biometria.
d) Mentre l’art 22 del GDPR prevede un intervento reattivo da parte degli utenti, nella proposta di regolamento AI, il sistema di sorveglianza umana del meccanismo algoritmico non prevede in alcun modo un effetto intervento da parte dei soggetti interessati. In secondo luogo, vi sono una serie di impraticabilità dal lato tecnico, nel termine di comprendere appieno da parte di un essere umano le capacità e i limiti di un sistema AI ad alto rischio (si veda l’art. 14 (4)(a) dell’AI ACT). In terzo luogo, l’art. 14 AI Act non specifica quando, come e in quale fase del “trattamento” viene richiesta la supervisione umana, nonché sull’effettivo obbligo in capo agli utenti di garantire la supervisione umana. Dal punto di vista tecnico, una supervisione umana completa deve comportare la supervisione del sistema di IA durante il suo intero ciclo di vita, assicurando misure obbligatorie di trasparenza sull’uso delle applicazioni di IA, comprese le statistiche pubbliche sulle distribuzioni, gli obiettivi, lo scopo e gli sviluppatori.
e) Resta il grande problema della tutela del dato non personale, serbatoio privilegiato per i meccanismi di tutela di intelligenza artificiale ma che non è direttamente tutelato dal GDPR. Un vuoto assai pericoloso da riempire di contenuti normativi il prima possibile.
