O desafio da regulação da inteligência artificial: proteger direitos e estimular inovação

A inteligência artificial (IA) já está entre nós, moldando decisões que afetam desde a oferta de crédito até o o aos nossos dados de saúde, de educação e do mundo do trabalho. Por um lado, seus benefícios são inegáveis – como aumento de eficiência, personalização de serviços e avanços científicos. Entretanto, seu uso sem regulamentação adequada pode trazer riscos significativos a toda a sociedade.

Por isso, o Brasil, assim como outros países, se vê diante da necessidade de criar leis e diretrizes para regular o desenvolvimento e a aplicação da IA. O desafio é garantir que essa tecnologia seja usada de forma ética, segura e benéfica para a sociedade, garantindo a proteção dos direitos fundamentais da população em diferentes frentes. Na Câmara dos Deputados, o tema começou a ser debatido em 2019 e no ano seguinte foi aprovado o projeto de lei 21/ 2020, de autoria da deputada Luísa Canziani (PSD/PR), parlamentar do estado do Paraná.

No Senado Federal, o debate sobre o tema ganhou forças, e se desdobrou no projeto de lei 2.338/ 2023, de autoria do senador Rodrigo Pacheco (PSD/MG), que foi construído por meio de uma comissão de juristas. Esse projeto foi aprovado no Senado e agora está em debate na Câmara dos Deputados, que discutirá, numa Comissão Especial bastante heterogênea em sua composição, o futuro da regulação dessa nova tecnologia. Como membro titular da Comissão, entendo que há pontos centrais a serem tratados.

Prevenção de danos - Em primeiro lugar, é necessário ter uma lei que valha para todos. O texto aprovado limita o escopo da aplicação da futura lei, abrindo exceções genéricas já no primeiro artigo. Isso significa que sistemas de IA com grande potencial de impacto sobre a vida das pessoas podem ficar fora da regulação. Defendo que a lei se aplique a todos os sistemas que possam afetar direitos, a segurança pública ou o meio ambiente, independentemente do setor de origem.

Outro ponto é avaliar os riscos antes de o problema acontecer. Hoje, o projeto torna facultativa a avaliação de riscos antes da implantação de sistemas de IA. Em um cenário em que algoritmos podem tomar decisões automatizadas sobre demissões, cirurgias ou sentenças judiciais, essa avaliação precisa ser obrigatória. Prevenir danos é sempre mais eficiente e menos custoso do que repará-los.

Temos também que estabelecer uma governança algorítmica, que não pode ser opcional. Essa questão é frágil no texto do Senado, já que há flexibilização das exigências de governança sobre os algoritmos, como se medidas de transparência e prevenção só fossem necessárias diante de indícios de discriminação. A governança deve ser permanente, sobretudo em sistemas de alto risco. Não se combate preconceito algorítmico esperando o primeiro caso de injustiça acontecer.

A participação social é uma exigência democrática que tem de ser contemplada. A criação de um Sistema Nacional de Regulação da IA (SIA) é um ponto positivo do projeto, mas precisa incluir explicitamente a participação da sociedade civil. Sem isso, corremos o risco de construir regras técnicas sem diálogo, com baixa legitimidade e pouco alinhadas à realidade dos brasileiros e brasileiras.

Supervisão humana - É também essencial analisar a utilização da IA no mundo do trabalho: a supervisão humana é essencial. O texto atual retirou garantias importantes para os trabalhadores, como a exigência de supervisão humana em decisões automatizadas que envolvam punições ou demissões. Esse é um risco extremamente grave: algoritmos mal calibrados podem amplificar desigualdades e injustiças. Defendo a reinserção dessas salvaguardas no texto.

Além disso, outro ponto a ser destacado é o impacto dessas tecnologias nos postos de trabalho, que poderão ser automatizados por mecanismos de IA. Nesse sentido, é fundamental que a Câmara dos Deputados debata a implementação de tecnologias IA atrelada à manutenção da empregabilidade da população brasileira, bem como a sua qualificação para lidar com essas novas tecnologias.

O projeto traz uma lista de sistemas de IA considerados de alto risco, como os usados na segurança pública ou nos serviços de saúde. A tentativa de tornar essa lista fechada e imutável é um erro. A tecnologia avança rápido e a regulação precisa ter a mesma agilidade. Defendo que a lista seja exemplificativa, com critérios técnicos atualizáveis por órgão regulador competente.

Já o reconhecimento facial em espaços públicos exige limites claros. O uso de reconhecimento facial em tempo real, sobretudo por órgãos de segurança, precisa ser tratado com extrema cautela. A proposta atual permite esse uso sem exigir sequer autorização judicial. Esse é um risco à privacidade e à dignidade de toda a população, com impactos ainda mais graves sobre pessoas negras, indígenas e periféricas. A lei deve impor limites e salvaguardas.

É essencial que a responsabilização por danos causados por sistemas de IA leve em conta as particularidades dessa tecnologia. O modelo atual remete às regras genéricas do Código Civil, o que dificulta a reparação de danos. É preciso prever responsabilidade objetiva para os sistemas de alto risco e considerar toda a cadeia de desenvolvimento e operação da tecnologia.

Por fim, precisamos tratar da proteção dos direitos autorais, já que os sistemas de IA são, majoritariamente, construídos a partir do aprendizado de máquinas, o que envolve o processamento de grandes volumes de dados existentes. Nem sempre há respeito aos direitos autorais dos conteúdos utilizados- sejam livros, textos jornalísticos, obras de arte, dentre outros. O projeto a ser analisado na Câmara precisa priorizar essa questão, incluindo a remuneração dos autores.

Governos, empresas e sociedade devem colaborar para desenvolver políticas que equilibrem inovação, ética e direitos fundamentais. Sem isso, corremos o risco de ampliar desigualdades, comprometer a privacidade e perder o controle sobre sistemas cada vez mais autônomos. O Brasil tem a chance de fazer diferente, aprendendo com os avanços da União Europeia e os riscos que surgiram nos Estados Unidos e na China. Garantir uma regulação que promova a inovação, mas que não sacrifique os direitos das pessoas. Não há nada mais moderno do que proteger a dignidade humana. É isso que devemos garantir no debate da Câmara dos Deputados.