COMO A EUROPA CLASSIFICA OS NÍVEIS DE RISCO NAS APLICAÇÕES DE IA

A proposta de regulamento que estabelece regras harmonizadas em matéria de inteligência artificial (Regulamento Inteligência Artificial) e foi um documento apresentado pela Comissão Europeia em abril de 2021, com o objetivo de promover a adoção e a inovação da IA na União Europeia, garantindo ao mesmo tempo a segurança e o respeito pelos direitos fundamentais dos cidadãos e dos valores da União.

A proposta classifica os sistemas de IA em quatro níveis de risco:

• inaceitável,
• elevado,
• limitado e
• mínimo.

Os sistemas de IA considerados inaceitáveis são aqueles que violam os valores e os princípios da União, como a dignidade humana, a igualdade e a democracia, e são proibidos ou sujeitos a restrições específicas.

Os sistemas de IA considerados de risco elevado são aqueles que podem causar danos significativos à segurança ou aos direitos fundamentais das pessoas, como os sistemas utilizados para fins de recrutamento, avaliação do crédito, vigilância ou aplicação da lei. Estes sistemas estão sujeitos a requisitos obrigatórios, como a avaliação da conformidade, a transparência, a supervisão humana e a robustez.

Os sistemas de IA considerados de risco limitado são aqueles que implicam uma interação com os utilizadores, como os assistentes virtuais ou os chatbots, e devem ser transparentes quanto à sua natureza e finalidade.

Os sistemas de IA considerados de risco mínimo são aqueles que representam um risco mínimo ou insignificante para os direitos fundamentais ou a segurança, como os jogos ou os filtros de imagem, e não estão sujeitos a requisitos específicos.

A proposta prevê ainda um sistema de governança e aplicação das regras, baseado na cooperação entre as autoridades nacionais competentes, a Comissão Europeia e um órgão consultivo europeu a ser constituído, que regulará a respeito de matérias envolvendo IA. A proposta estabelece também sanções para o incumprimento das regras, que podem ir até 6% do faturamento total anual mundial das empresas infratoras.

A proposta está atualmente em processo legislativo no Parlamento Europeu e no Conselho da União Europeia, onde será debatida e possivelmente alterada antes da sua adoção final.