Marco Civil aprovado pelo Senado estabelece regras mais rígidas para IA quando há impacto na vida humana
Veículos autônomos, diagnósticos médicos e controle de trânsito são alguns dos sistemas classificados como de ‘alto risco’; proposta também estabelece normas de proteção aos direitos autorais
Os sistemas de “alto risco”, como aqueles que impactam diretamente a vida humana ou os direitos fundamentais, terão regras mais rigorosas. Além disso, o uso de IA em contextos como veículos autônomos, seleção de estudantes e políticas públicas será mais restrito. Também são proibidos sistemas com “risco excessivo”, como os que envolvem armas autônomas e técnicas subliminares.
Sistemas de Inteligência Artificial de alto risco
- Veículos autônomos;
- Controle de trânsito e gestão de serviços essenciais (como abastecimento de água e eletricidade) com risco para a integridade física das pessoas ou interrupção ilegal ou abusiva dos serviços;
- Seleção de estudantes para acesso à educação e progressão acadêmica;
- Tomada de decisões sobre recrutamento, avaliação, promoção e demissão de trabalhadores;
- Avaliação de critérios para elegibilidade a serviços e políticas públicas;
- Investigação de fatos e aplicação da lei com risco às liberdades individuais, especialmente na administração da Justiça;
- Gestão de prioridade em serviços de emergência (como bombeiros e assistência médica);
- Estudo analítico de crimes;
- Diagnósticos médicos;
- Controle de fronteiras;
- Reconhecimento de emoções por identificação biométrica;
- Análise de dados para prevenção de crimes.
Uma das principais inovações do projeto é a introdução de uma avaliação preliminar de risco, obrigatória para sistemas generativos e de propósito geral, a fim de medir o impacto potencial antes de sua disponibilização no mercado. A proposta também estabelece regras de proteção aos direitos autorais, permitindo o uso de conteúdos protegidos para treinar IA em contextos de pesquisa e educação, sem prejudicar os interesses econômicos dos criadores.
No que se refere aos direitos dos cidadãos, o projeto assegura a proteção da privacidade e dos direitos de personalidade. O uso de IA para identificação biométrica e outras tecnologias deverá respeitar o consentimento prévio e evitar discriminação ou invasão de privacidade. Para sistemas que possam afetar diretamente os direitos dos trabalhadores, como em decisões automatizadas de recrutamento e demissões, será garantido o direito à revisão humana das decisões.
A Autoridade Nacional de Proteção de Dados (ANPD) será a responsável pela regulamentação e fiscalização da IA no Brasil, impondo sanções e multas quando necessário. A ANPD também coordenará o Sistema Nacional de Regulação e Governança de Inteligência Artificial (SIA), integrado por órgãos estatais e entidades de autorregulação, com o objetivo de harmonizar as políticas públicas e promover a transparência no uso da IA.
Além disso, o projeto assegura que os cidadãos afetados por sistemas de alto risco terão direito a explicações sobre as decisões tomadas pela IA, podendo contestá-las e solicitar revisão humana, especialmente quando essas decisões tiverem impacto jurídico significativo. O substitutivo também busca equilibrar a proteção de direitos individuais e sociais com o avanço tecnológico, estimulando a inovação, especialmente nas microempresas e startups nacionais, e promovendo o letramento digital da população para um melhor aproveitamento da tecnologia.
Leia também
Publicada por Felipe Dantas
*Reportagem produzida com auxílio de IA
Comentários
Conteúdo para assinantes. Assine JP Premium.