Algumas disposições do Eu AI Act já estão valendo para fins de fiscalização. Desde domingo (02/02/25), as empresas devem cumprir tanto com os requisitos de letramento em IA como com as restrições de proibições de sistemas de IA de risco inaceitável, e em caso de descumprimento podem enfrentar penalidades.
Assim, a partir de agora os reguladores têm o poder de acabar com produtos inteiros de IA de “risco inaceitável” se decidirem que é necessário fazê-lo. O valor das penalidades dependerá da infração e do tamanho da empresa multada, sendo de até € 35 milhões (cerca de US$ 36 milhões), ou 7% de sua receita global — o que for maior.
O AI Act trouxe uma abordagem baseada no risco, com quatro níveis de risco para sistemas de IA:
Essa categorização está descrita no artigo 5º do regulamento.
A partir de 02/02/2025, os sistemas de IA considerados de risco inaceitável, ou seja, usados para qualquer uma das finalidades abaixo estão proibidos na UE:
- manipulação e engano prejudiciais baseados em IA;
- exploração prejudicial de vulnerabilidades baseada em IA;
- pontuação social;
- Avaliação ou previsão de risco de infração criminal individual;
- raspagem não direcionada de material da Internet ou de CFTV para criar ou expandir bancos de dados de reconhecimento facial;
- reconhecimento de emoções em locais de trabalho e instituições de ensino;
- categorização biométrica para deduzir certas características protegidas;
- identificação biométrica remota em tempo real para fins de aplicação da lei em espaços de acesso público.
Ainda, os requisitos chamados de “Literacia no domínio da IA”, que também entraram em vigor, estão previstos no art. 4º e tratam sobre o nível de alfabetização em IA de cada funcionário das empresas de IA sendo que essa alfabetização, ou seja, conhecimento suficiente sobre IA que deve estar alinhado com o contexto em que os sistemas de IA são usados e como grupos de pessoas podem ser afetadas pelos sistemas.
As demais disposições do EU AI Act serão aplicadas após um período de implementação de dois anos, a partir de 1º de agosto de 2026.
O time de especialistas em IA do Peck advogados está à disposição para lhe ajudar a entender todos os impactos nas novas regulamentações de IA no Brasil e no mundo e implementar medidas de governança adequadas à legislação europeia e brasileira.