Uma regulamentação fundamental
Por iniciativa do Senador Rodrigo Pacheco (PSD/MG), tramita no Senado, tendo como relator o Senador Eduardo Gomes, o PL 2338/2023 dispõe sobre o uso da Inteligência Artificial. Pela sua relevância as Centrais Sindicais abaixo assinadas declaram seu apoio à iniciativa e à sua aprovação, pelas razões a seguir:
A utilização de Inteligência Artificial é uma realidade e acontece em escala cada vez maior, em todos os ramos do conhecimento e em todas as atividades profissionais, educativas e culturais. São sistemas com certo grau de autonomia que executam tarefas complexas, utilizando-se de grandes bancos de dados formados com técnicas sofisticadas de captura de informações, capazes de aprender e produzir previsões, recomendações ou decisões que podem influenciar o ambiente virtual ou real.
Esses sistemas demandam regulamentação, pois a sua utilização, sem que se respeitem determinados padrões éticos, pode gerar diversos distúrbios nos ambientes virtuais ou reais. A manipulação de informações com objetivos políticos, ideológicos ou comerciais; a disseminação das assim chamadas Fake News; a possibilidade de prever e de influenciar os comportamentos dos indivíduos, através do uso inteligente desses enormes bancos de dados, são desafios, entre outros, que não podem ser combatidos sem que, paralelamente ao seu desenvolvimento, sejam pensadas e criadas também as ferramentas adequadas e disponíveis para a população.
A primeira consideração necessária sobre o Projeto de Lei 2338 de 2023 é que uma regulamentação geral sobre a utilização da Inteligência Artificial é importante e fundamental. Não é possível garantir uma sociedade em que haja um grau razoável de autonomia pessoal, compatível com as garantias fundamentais expressas na Constituição Federal, sem que esses sistemas se subordinem a determinados princípios garantidores da segurança, transparência, rastreabilidade, não discriminação e, especialmente, supervisão e possibilidade de revisão humana.
Trata-se de um projeto pioneiro que deve ser amplamente discutido e aprovado. Nem o Parlamento Europeu aprovou a sua legislação sobre Inteligência Artificial. Certo é que o mundo precisa buscar não só uma convergência nas regras de uso da IA, mas, especialmente, incorporar a noção de cooperação global a fim de preservar a nossa própria existência.
O Projeto estabelece fundamentos para o desenvolvimento desses sistemas. Entre eles, a centralidade da pessoa humana, o respeito à privacidade e aos direitos humanos. Contempla valores democráticos, como a igualdade, a não discriminação e o respeito aos direitos trabalhistas. Também são previstos princípios, especialmente o da boa-fé; a autodeterminação e liberdade de escolha; participação humana no ciclo de 2 desenvolvimento e supervisão efetiva; transparência, explicabilidade, inteligibilidade e auditabilidade; rastreabilidade, prestação de contas e outros.
Esses princípios e fundamentos são importantes por estabelecerem garantias que devem ser respeitadas pelos sistemas. O respeito à privacidade garante, conjuntamente com a LGPD – Lei Geral de Proteção de Dados, que a intimidade das pessoas deve ser protegida. A não discriminação impede distinções, exclusões, restrições ou preferências em razão de características pessoais, como de etnia, cor, gênero, orientação sexual ou religiosa e outras, inclusive quando essa discriminação ocorrer de maneira indireta, quando critérios aparentemente neutros têm a capacidade de colocar em desvantagem pessoas de determinado grupo específico.
A participação humana é a garantia de que a pessoa afetada pela Inteligência Artificial poderá exigir a correção dos dados utilizados ou da decisão tomada mediante revisão humana. A rastreabilidade é importante para que tenhamos acesso a toda a cadeia de tomada de decisões, aos critérios utilizados pelo sistema e à explicação das decisões.
O Projeto estabelece direitos às pessoas afetadas pelos sistemas de Inteligência: direito à informação prévia quanto às suas interações com sistemas de inteligência artificial; à explicação sobre a decisão, recomendação ou previsão tomada por sistemas de inteligência artificial; a contestar decisões ou previsões de sistemas de inteligência artificial que produzam efeitos jurídicos ou que impactem de maneira significativa os interesses do afetado; à determinação e à participação humana em decisões de sistemas de inteligência artificial, levando-se em conta o contexto e o estado da arte do desenvolvimento tecnológico; à não-discriminação e à correção de vieses discriminatórios diretos, indiretos, ilegais ou abusivos; e direito à privacidade e à proteção de dados pessoais.
Há a previsão de direito à informação: quanto ao caráter automatizado da interação e da decisão em processos ou produtos que afetem a pessoa; à descrição geral do sistema, tipos de decisões, recomendações ou previsões que se destina a fazer e consequências de sua utilização para a pessoa; à identificação dos operadores do sistema de inteligência artificial e medidas de governança adotadas no desenvolvimento e emprego do sistema pela organização; ao papel do sistema de inteligência artificial e dos humanos envolvidos no processo de tomada de decisão, previsão ou recomendação; às categorias de dados pessoais utilizados no contexto do funcionamento do sistema de inteligência artificial; às medidas de segurança, de não-discriminação e de confiabilidade adotadas, incluindo acurácia, precisão e cobertura; e outras informações que serão definidas em regulamento.
O Projeto trata de outro aspecto importante que é a categorização dos riscos. Quanto maior o risco envolvido, maiores os controles envolvidos. Todo sistema deve passar por uma avaliação preliminar para essa classificação e nas hipóteses de risco excessivo, como na exploração das vulnerabilidades de pessoas idosas, ou crianças, a implantação do sistema é vedada.
Sempre que classificado como de alto risco (sistemas de identificação biométrica, aplicações da área de saúde, administração da justiça, veículos autônomos, investigações 3 criminais, aplicações em dispositivos de segurança na gestão e funcionamento de infraestruturas críticas – como trânsito, redes de abastecimento de água e energia – educação e avaliação profissional, crédito e outros listados no projeto), uma outra análise preliminar é exigida pelo projeto: a Avaliação de Impacto Algorítmico.
A Avaliação de Impacto Algorítmico é um processo contínuo, com uma série de condicionantes técnicas e etapas, realizada por profissional ou equipe de profissionais com independência funcional e conhecimentos técnicos, científicos e jurídicos, necessários para a realização do relatório. Procura acompanhar e registrar os riscos conhecidos e previsíveis dos sistemas, assim como seus benefícios; a probabilidade de consequências adversas, sua gravidade e a possibilidade de mitigação desses riscos, seu monitoramento constante e medidas de transparência ao público. A responsabilidade pela atualização da lista dos sistemas de risco excessivo e de alto risco, e da regulação e acompanhamento dos processos de Avaliação de Impacto Algorítmico é da “Autoridade Competente”.
Essa “Autoridade Competente” será designada pelo Poder Executivo, e terá diversas incumbências, entre elas: zelar pela proteção a direitos fundamentais e a demais direitos afetados pela utilização de sistemas de inteligência artificial; estimular a adoção de boas práticas, inclusive códigos de conduta, no desenvolvimento e utilização de sistemas de inteligência artificial; expedir normas para a regulamentação da Lei; fiscalizar e aplicar sanções, em caso de desenvolvimento ou utilização de sistemas de inteligência artificial realizado em descumprimento à legislação, mediante processo administrativo que assegure o contraditório, a ampla defesa e o direito de recurso; serão órgão central de aplicação desta Lei e do estabelecimento de normas e diretrizes para a sua implementação.
O aprendizado com a ANPD (na LGPD a ANPD – Autoridade Nacional de Proteção de Dados, inicialmente como órgão da Administração Pública Federal, posteriormente como autarquia especial) é que a criação e efetiva implantação da Autoridade é crucial para a aplicação da Lei e seu respeito. No entanto, diferentemente do ocorrido com a LGPD, o Projeto não cria a Autoridade, deixando a tarefa para o Executivo.
É a Autoridade o ente responsável pela aplicação de sanções, que podem chegar a multas de até 50 (cinquenta) milhões de reais ou até a suspensão definitiva da atividade, assim como da regulamentação e normativos que irão determinar as diretrizes de aplicação da lei em território nacional.
O PL nº 2338/2023 trata também da Responsabilidade Civil a que estão sujeitos os operadores e fornecedores de sistema, que têm a obrigação de indenizar por danos ocorridos; estabelece regras de comunicação de incidentes graves e estimula a criação de códigos de boas práticas e governança. As relações de trabalho podem ser afetadas pelos sistemas de Inteligência Artificial tanto com relação à empregabilidade, às condições contratuais, tomadas de decisão sobre promoções, despedidas e pelo impacto na organização do trabalho e da adoção de novas tecnologias que podem alterar completamente a estrutura empresarial.
Em todos esses casos é necessário o estímulo à adoção de soluções negociadas com a representação dos trabalhadores. A participação sindical através da negociação coletiva é relevante e se insere dentro de um ambiente de autocomposição de interesses que viabiliza a concretização de direitos trabalhistas ao mesmo tempo em que permite o desenvolvimento econômico considerando as especificidades de cada setor.
A própria OCDE (Organização para Cooperação e Desenvolvimento Econômico), no estudo “OECD Employment Outlook 2019 – The Future of Work”, afirma que “a negociação coletiva pode ajudar os trabalhadores e as empresas a adaptarem-se às oportunidades e desafios de um mundo de trabalho em mudança. Como instrumento para alcançar soluções flexíveis e consensuais, a negociação coletiva pode contribuir para criar direitos, regulamentar a utilização das novas tecnologias, ou fomentar a segurança e a adaptabilidade do mercado de trabalho”.
Enfim, o PL nº 2338/2023 aborda as principais questões foco de preocupação para a garantia dos direitos fundamentais e da centralidade e dignidade da pessoa humana. É absolutamente necessária alguma regulamentação com a maior urgência, uma vez que os sistemas proliferam de maneira descontrolada. A proposta apresenta ferramentas, que terão que ser utilizadas, e apenas nessa utilização, dado o caráter pioneiro do tema, é que essas ferramentas poderão se mostrar válidas e eficientes ou, ao contrário, carentes de reformulação e melhorias. Como a Inteligência Artificial se desenvolve em ritmo aceleradíssimo, é necessário que a Lei que venha a ser aprovada seja constantemente acompanhada, na mesma medida da fiscalização – ferrenha – para que seja e permaneça adequada à sua missão.
Por esta razão, as Centrais Sindicais apoiam o projeto e solicitam sua aprovação. Respeitosamente,
Assinam: CUT, Força Sindical, UGT, CTB, Nova Central, CSB, Intersindical e Central do Servidor
Faça o download do documento oficial:Nota PL 2338 2023
