Lei que regulamenta a Inteligência Artificial entra em debate no Senado; veja principais pontos e desafios

Reprodução/Pixabay Legislação que regulamenta o uso de inteligência artificial entrou em debate no Senado

Entrou em tramitação no Senado Federal a proposta para regulamentar o uso da inteligência artificial, o PL 2338/2023, que busca regular a utilização da tecnologia no país e estabelecer diretrizes éticas para seu desenvolvimento e uso. O texto, que conta com um total de 45 artigos, estabelece normas gerais de caráter nacional para o desenvolvimento, implementação e uso responsável de sistemas de inteligência artificial (IA) no Brasil, com o objetivo de proteger os direitos fundamentais e garantir a implementação de sistemas seguros e confiáveis em benefício da pessoa humana, do regime democrático e do desenvolvimento científico e tecnológico.

O PL está estruturado em 14 Postos-Chave da Regulamentação da IA:

1. Sistema de inteligência artificial: Sistema computacional, com graus diferentes de autonomia (Art. 4º, I).
2. Fornecedor de sistema de inteligência artificial: Qualquer um que desenvolva um sistema de inteligência artificial, diretamente ou por encomenda (Art. 4º, II).
3. Operador de sistema de inteligência artificial: Qualquer um que utilize um software com inteligência artificial para uso comercial (Art. 4º, III).
4. Autoridade competente: Órgão ou entidade da Administração Pública Federal responsável por zelar, implementar e fiscalizar o cumprimento desta Lei em todo o território nacional (Art. 4º V), podendo cooperar com autoridades similares de outros países (Art. 32, V).
5. Direitos das pessoas: Todos poderão questionar como as empresas estão interagindo com os sistemas de IA
6. Avaliação de risco do sistema de inteligência artificial: Deverá ser feita pelo fornecedor de modo preliminar, após o desenvolvimento do software, e antes da comercialização para o mercado (Art. 13).
7. Governança dos sistemas de inteligência artificial: Qualquer empresa que crie ou use um sistema com IA, deverá estabelecer processos internos que incluam a Segurança da Informação em todas as áreas dentro e fora da empresa (Art. 19, VI).
8. Avaliação de impacto de algoritmo: Obrigação de qualquer empresa que crie ou use um sistema com IA de alto risco em realizar auditorias com empresas independentes e com profissionais dotados de conhecimentos técnicos, científicos e jurídicos para entrega de relatório (Art. 23).
9. Responsabilidade civil:  Qualquer empresa que prejudicar uma pessoa em virtude do uso de um sistema com IA é obrigada a repará-la integralmente, independentemente do grau de autonomia do sistema.
10. Código de boas práticas e de governança: Formas internas e externas para fazer a gestão de tudo o que envolva a criação e o uso da IA, além de criação de um Programa de Governança da Inteligência Artificial (Art. 30).
11. Comunicação de incidentes graves: As empresas deverão comunicar à autoridade competente a ocorrência de graves incidentes de segurança. (Art. 31)
12. Multas e outras sanções: As empresas que violarem a lei ou sofrerem incidentes poderão pagar multas de até R$ 50 milhões de reais ou outras sanções impostas pela autoridade competente, que seguirá uma dosimetria similar à LGPD (Art. 36)
13. Ambiente nacional para teste de softwares com IA: Ambientes regulatórios experimentais supervisionados (Sandbox Regulatório), em que a autoridade competente poderá autorizar o funcionamento de ambiente regulatório experimental para inovação em inteligência artificial para as entidades que o requererem e preencherem os requisitos especificados. (Art. 38).
14. Base de dados pública de inteligência artificial: Cabe à autoridade competente a criação e manutenção de base de dados de inteligência artificial de alto risco, acessível ao público, que contenha os documentos públicos das avaliações de impacto, respeitados os segredos comercial e industrial (Art. 43).

As regulamentações sobre IA já são comuns no cenário internacional. Alguns países já possuem leis específicas sobre inteligência artificial, entretanto vale lembrar que cada país pode ter abordagens e objetivos diferentes em relação à regulamentação da IA, dependendo das suas necessidades e características específicas. Alguns países são:

• União Europeia – Regulamento Geral de Proteção de Dados (RGPD) – Regulamento 2016/679 (UE) – estabelece regras para a proteção de dados pessoais onde inclui-se especificações por tratamento de dados por decisões automatizadas.
• Estados Unidos – Lei de Inovação e Desenvolvimento de Tecnologia em Inteligência Artificial (IAIDTA) – Lei 115-232 – estabelece uma estratégia nacional para o desenvolvimento e uso da IA nos Estados Unidos.
• Canadá – Estratégia de Inteligência Artificial do Canadá – estabelece uma estratégia nacional para o desenvolvimento e uso da IA no país.
• França – Lei de Orientação e Programação para a Reforma da Justiça – Lei nº 2019-222 – estabelece regras para o uso de algoritmos e IA no sistema judiciário francês.
• China – Plano de Desenvolvimento para a Nova Geração de Inteligência Artificial – estabelece metas e diretrizes para o desenvolvimento da IA na China.
• Japão – Estratégia de Sociedade 5.0 – estabelece uma visão de futuro para a sociedade japonesa na qual a IA é vista como um elemento-chave.

Vale destacar que existem vários desafios relacionados às leis de Inteligência Artificial (IA). Alguns dos principais desafios incluem:

• Atualização e adaptação: A rápida evolução da IA e suas aplicações apresentam o desafio de manter as leis atualizadas e adaptadas às mudanças tecnológicas. É essencial garantir que as regulamentações acompanhem o ritmo acelerado da IA para permanecerem eficazes e relevantes.
• Viés e discriminação: A IA pode reproduzir e amplificar viés e discriminação presentes nos dados de treinamento. Lidar com esse desafio requer o estabelecimento de medidas para identificar, mitigar e prevenir o viés algorítmico, garantindo que as decisões tomadas por sistemas de IA sejam justas e equitativas.
• Responsabilidade e responsabilização: Determinar a responsabilidade por ações ou decisões tomadas por sistemas de IA autônomos é um desafio complexo. As leis de IA devem abordar questões relacionadas à atribuição de responsabilidade e responsabilização em caso de danos ou consequências negativas decorrentes do uso da tecnologia.
• Conformidade e fiscalização: Assegurar a conformidade com as leis de IA e realizar a fiscalização adequada do seu cumprimento são desafios importantes. É necessário desenvolver mecanismos eficazes de monitoramento e supervisão para garantir que as organizações e os profissionais estejam em conformidade com as regulamentações.
• Cooperação internacional: A IA transcende fronteiras e levanta questões de cooperação e harmonização das leis em escala global. Estabelecer padrões e diretrizes comuns entre os países pode ser um desafio, exigindo esforços colaborativos e acordos internacionais para garantir a interoperabilidade e a compatibilidade das leis de IA.
• Educação e conscientização: Promover a educação e a conscientização sobre a IA e suas implicações é um desafio contínuo. É necessário fornecer recursos educacionais adequados para capacitar os profissionais e o público em geral sobre os aspectos técnicos, éticos e legais da IA, possibilitando uma compreensão mais ampla e informada da tecnologia.

Fora esses desafios, um outro ponto muito importante que deverá ser muito avaliado durante as discussões no Congresso Nacional é a interdisciplinaridade, ou multidisciplinaridade. A IA abrange diversos campos, como tecnologia, ética, direito e política. Entretanto, um ponto crítico ao PL 2338/2023 é a ausência ou pouquíssimo envolvimento dos profissionais de Tecnologia da Informação durante as discussões nas então comissões. Essa lacuna, perceptível na página 29 do texto, na lista de membros que compuseram a comissão (que de fato são de notório conhecimento jurídico), contraria a multidisciplinaridade, ainda que tenham sido consultados durante o processo, o que justifica a qualidade do texto com carência de pontos tecnológicos também importantes de serem observados durante as regulamentações para garantir o cumprimento prático. Desse modo, assista ao vídeo no meu Instagram @davisalvesphd, onde eu explico sobre as limitações técnicas para a regulamentação da Inteligência Artificial no Brasil.

 

Ver essa foto no Instagram

 

Uma publicação compartilhada por Prof. Davis Alves, Ph.D ✨ (@davisalvesphd)

Portanto, é inquestionável que elaborar leis de IA requer uma abordagem interdisciplinar que envolva especialistas de diferentes áreas para garantir que as questões técnicas, éticas, sociais e legais sejam adequadamente consideradas. Esperamos que agora, com o início das discussões no Legislativo, os profissionais de TI sejam envolvidos. Entretanto, é louvável o grande trabalho e esforço que os envolvidos na elaboração do PL 2338/2023 fizeram com o tema. De fato, um grande avanço para o nosso país. Parabéns a todos da comissão!

Quer se aprofundar no assunto, tem alguma dúvida, comentário ou quer compartilhar sua experiência nesse tema? Escreva para mim no Instagram: @davisalvesphd.

*Esse texto não reflete, necessariamente, a opinião da Jovem Pan.