O uso da inteligência artificial (IA) no Brasil e no mundo não é novidade, já incorporado à vida cotidiana da sociedade. Está presente nos aplicativos para celulares, na televisão Smart, nos assistentes pessoais e casas inteligentes e até no computador, quando acessamos sistemas de busca, com algoritmos de recomendação e relevância.
Recentemente, tem ganhado ainda mais enfoque o uso da IA no Brasil e no mundo, sobretudo em face da revolução dessa tecnologia, com criação dos modelos de linguagem de grande porte (do inglês, Large Language Models – LLM), que são os algoritmos avançados de inteligência artificial projetados par compreender e gerar texto em linguagem natural, como o GPT (Generative Pre-trained Transformer).
A questão que surge, com o avanço dessa tecnologia, é que muito tem que se ganhar, com grande potencial de inovação e desenvolvimento, mas também existem grandes riscos no uso da inteligência artificial.
Entre os riscos inerentes ao uso da inteligência artificial, importante destacar a possibilidade de seu uso para:
- Discriminação;
- Exclusão de acesso a bens e serviços à grupos historicamente marginalizados;
- Manipulação de opiniões e de discursos políticos;
- Disseminação de discurso de ódio e desinformação;
- Manipulação de conteúdo audiovisual que não permita diferenciar a realidade da ficção, com criação de conteúdos ultrarrealistas que facilite fraudes ou gere danos à imagem e a honra;
- Precarização do trabalho, com a redução massiva da força de trabalho sem o incentivo à capacitação e valorização do ser humano, além do impacto de decisões algorítmicas no mundo do trabalho.
Portanto, a criação de um marco regulatório no uso da IA no Brasil e no mundo é urgente, com danos reais na sociedade já experimentados cotidianamente, cabendo citar a utilização desenfreada do deepfake, que atualmente tem permitido a burla de sistemas de biometria, afetando a segurança biométrica, e ainda mais gravoso, sendo usado como instrumento de chantagem, manipulação e disseminação de fake news.
A IA afeta a todos. Afeta o cenário político, afeta a economia, os indivíduos no cenário nacional e internacional, e pode também afetar a própria integridade física e mental de grupos mais vulneráveis, como crianças, adolescentes e idosos.
Era mais do que necessário, assim, a implementação de um modelo de regulação para definir balizas que devem ser observadas no uso da IA no Brasil, evitando retrocessos e prejuízos à sociedade.
Nesse cenário, surgiram várias propostas legislativas no Congresso Nacional, tanto na Câmara dos Deputados como no Senado Federal, com proposta mais robusta que foi direcionada como Projeto de Lei nº 2.338, de relatoria do Senador Rodrigo Pacheco (PSD/MG), com a criação da Comissão Temporária Interna sobre Inteligência Artificial no Brasil – CTIA, em 15/02/23, após relatório final aprovado pela Comissão de Juristas responsável por elaborar o substitutivo sobre Inteligência Artificial no Brasil.
No curso da Comissão Temporária, várias foram as emendas propostas e as audiências públicas para debater a regulamentação da IA no Brasil, com apoio do setor público, setor privado e especialistas na área, cabendo destacar a Emenda nº 53, proposta pelo Senador Fabiano Contarato (PT/ES), em colaboração com a CUT Nacional, defendida na audiência pública do dia 02/07/24, em que promovia a busca de ampliação das proteções aos trabalhadores inicialmente propostas no texto do PL nº 2.338/23.
Inicialmente, no Substitutivo que começou a ser discutido no Senado Federal, tínhamos a seguinte proposição quanto aos direitos dos trabalhadores:
Seção II
Proteção ao trabalho e aos trabalhadores
Art. 55. O Conselho de Cooperação Regulatória de Inteligência Artificial/CRIA, em cooperação com o Ministério do Trabalho, deverá desenvolver diretrizes para dentre outros objetivos:
I – mitigar os potenciais impactos negativos aos trabalhadores, em especial os riscos de deslocamento de emprego e oportunidades de carreira relacionadas à IA;
II – potencializar os potenciais impactos positivos aos trabalhadores, em especial para melhoria da saúde e segurança do local de trabalho;
III – valorizar os instrumentos de negociações e convenções coletivas.
A emenda proposta, em sua íntegra, apresentava o seguinte:
Art. 55. A autoridade competente, as autoridades setoriais que compõe o SIA e o Conselho de Cooperação Regulatória e Inteligência Artificial/ CRIA, em cooperação com o Ministério do Trabalho, deverão desenvolver diretrizes e normativos para definição de políticas públicas, além do cumprimento pela Administração Pública, direta e indireta, empresas públicas e de todo o setor privado que tenham por finalidade, dentre outros objetivos:
I – mitigar os potenciais impactos negativos aos trabalhadores, em especial os riscos de deslocamento de emprego e oportunidades de carreira relacionadas;
II – potencializar os impactos positivos aos trabalhadores, em especial para melhoria da saúde e segurança do local de trabalho, além do treinamento e capacitação da força de trabalho, promovendo a valorização e o desenvolvimento profissional;
III – fomentar a negociação coletiva e a pactuação de acordos e convenções coletivas, promovendo o fortalecimento das entidades sindicais neste cenário e o avanço de discussões que visem a melhoria das condições de trabalho da categoria profissional, aliados ao desenvolvimento econômico;
IV – fomentar a ampliação dos postos de trabalho e da valorização dos trabalhadores em atividade, assim como o incremento das estruturas organizacionais do trabalho.
V- fomentar o desenvolvimento de programas de treinamento e capacitação contínua para os trabalhadores em atividade;
VI – desestimular e sancionar a demissão em massa ou substituição extensiva da força de trabalho pelo uso da Inteligência Artificial, especialmente quando desprovida de negociação coletiva;
VII – desestimular e sancionar as decisões automatizadas que instituam punições disciplinares e a dispensa de trabalhadores, garantindo-se a prevalência da decisão humanizada nesse contexto;
VIII – Realizar avaliação de impacto algorítmico do uso de sistemas de inteligência artificial sobre a força de trabalho, de forma a conter e mitigar externalidades negativas aos trabalhadores e ao ambiente de trabalho.
Buscava-se a alteração do caput do art. 56, no sentido de que todos os órgãos do Sistema Nacional de Regulação de IA fossem responsáveis pela elaboração de diretrizes e normas voltadas à proteção do trabalho, e não apenas o Conselho de Cooperação Regulatória, ampliando o debate e o papel dos órgãos do SIA também na proteção ao pleno emprego.
Também se buscou no inciso III que não ocorresse a mera valorização dos instrumentos de negociação e convenção coletiva, em sentido vago, mas o efetivo fomento e incremento de uma participação sindical, para garantir o debate e melhores condições à categoria profissional, como mais um agente importante para a garantia dos direitos dos trabalhadores, dentro dos avanços necessários ao uso da tecnologia e como meio de assegurar o bem-estar e a dignidade humana.
E, ainda, buscou-se com os incisos IV a VIII assegurar a continuidade do pleno emprego aos profissionais em atividade, com a preservação da dignidade humana acima do mero desenvolvimento tecnológico, de forma a permitir a responsabilidade do Poder Público e dos agentes de IA no fomento de qualificação e ampliação dos postos de trabalho existentes, e não a substituição em massa e abrupta da força de trabalho, o que, caso operado, culminaria em retrocesso social e encolhimento da economia, ao contrário do progresso pretendido.
A inclusão na íntegra da emenda apresentada forneceria ainda mais amparo aos trabalhadores e cumpriria com o objetivo da lei que é fomentar o desenvolvimento sustentável, de forma a reduzir os impactos negativos que o uso da IA possa ter sobre a força de trabalho nacional e, consequentemente, à economia nacional e às Políticas Públicas desenvolvidas no intuito de melhora do bem-estar social.
É importante ressaltar que não há como se falar em economia sustentável sem o pleno emprego. Sem emprego, não há consumo. Sem emprego, há sensível aumento da criminalidade e prejuízo à segurança pública. Sem emprego, não há desenvolvimento social. Sem emprego, não há dignidade.
Não havia pretensão de garantia absoluta do emprego, em prejuízo de eventual progresso econômico, mas sim que o país não prosseguisse no rumo errado ao desvalorizar ainda mais os seus trabalhadores e não permitir uma valorização e capacitação da sua força de trabalho existente, capacitação essa que é usualmente observada em países mais desenvolvidos.
A emenda representava marco importante para evolução do pleno emprego, com a ampliação da participação dos órgãos do SIA – Sistema Nacional de Regulação de IA e imposição de capacitação dos postos de trabalho existentes para transformação do cenário nacional, possibilitando, inclusive, maior avanço tecnológico e científico por meio da criação e evolução tecnológica, com o intuito de tornar o Brasil uma verdadeira potência no desenvolvimento e operação de inteligência artificial sustentável.
Após defesa na audiência pública, conforme fundamentação acima, a emenda chegou a ser adotada em sua íntegra pelo relator, Senador Eduardo Gomes (PL/TO), mas depois foi alvo de debate entre os demais senadores e foi acatado apenas parcialmente, com atual art. 58, que determina:
Seção II
Diretrizes para proteção ao trabalho e aos trabalhadores
Art. 58. A autoridade competente, as autoridades setoriais que compõem o SIA e o Conselho de Cooperação Regulatória de Inteligência Artificial (CRIA), em cooperação com o Ministério do Trabalho, deverá desenvolver diretrizes para dentre outros objetivos:
I – mitigar os potenciais impactos negativos aos trabalhadores, em especial os riscos de deslocamento de emprego e oportunidades de carreira relacionadas à IA;
II – potencializar os impactos positivos aos trabalhadores, em especial para melhoria da saúde e segurança do local de trabalho;
III – valorizar os instrumentos de negociações e convenções coletivas; e
IV – fomentar o desenvolvimento de programas de treinamento e capacitação contínua para os trabalhadores em atividade, promovendo a valorização e o aprimoramento profissional.
Apesar de não ser adotada no art. 58 a proteção contra decisões automatizadas no recrutamento e avaliações de desempenho e comportamento no trabalho, houve sua inclusão no art. 14, inciso III do PL nº 2.338/23, incluído no alto risco o sistema de IA que tenha por finalidade o recrutamento, triagem, filtragem, avaliação de candidatos, tomada de decisões sobre promoções ou cessações de relação de trabalho, avaliação do desempenho e do comportamento das pessoas e gestão de trabalhadores e acesso ao emprego por conta própria:
Art. 14. Considera-se de alto risco o sistema de IA empregado para as seguintes finalidades e contextos de usos, levando-se em conta a probabilidade e a gravidade dos impactos adversos sobre pessoa ou grupos afetados, nos termos da regulamentação:
(…)
III – recrutamento, triagem, filtragem, avaliação de candidatos, tomada de decisões sobre promoções ou cessações de relações contratuais de trabalho, avaliação do desempenho e do comportamento das pessoas afetadas nas áreas de emprego, gestão de trabalhadores e acesso ao emprego por conta própria;
A inclusão no alto risco impõe um maior cuidado no desenvolvimento e uso da IA, com imposição de um sistema de proteção e fiscalização mais rígidos, o que acaba por proteger o trabalhador contra esse tipo de uso de forma a lhe causar prejuízo.
A responsabilidade pela atualização da lista dos sistemas de risco excessivo e de alto risco, e da regulação e acompanhamento dos processos de avaliação de impacto algorítmico é da autoridade competente, papel que competirá à ANPD – Autoridade Nacional de Proteção de Dados, já instituída previamente em razão da LGPD.
Cabe destacar aqui, ainda que brevemente, outros pontos do Projeto de Lei, por trazerem inegável avanço sobre o uso adequado da IA, como:
- Regulação assimétrica, com a categorização dos riscos, impondo diferentes obrigações aos agentes de IA, de forma proporcional e de acordo com o risco oferecido pelo sistema, proibindo os riscos excessivos;
- Introdução de um sistema de governança e transparência, com avaliações de impacto algorítmico e de mecanismos de fiscalização, com a criação de um ecossistema de inteligência artificial ético e transparente;
- A criação do SIA – Sistema Nacional de Regulação e Governança de IA, com a inclusão da ANPD como órgão de coordenação, a participação das autoridades setoriais na disposição sobre aspectos técnicos e específicos de aplicação da IA em cada setor, criação do Conselho de Cooperação Regulatória de Inteligência Artificial – CRIA e o Comitê de Especialistas e Cientistas de Inteligência Artificial – CECIA;
- Imposição de avaliação de impacto algorítmico ao desenvolvedor e aplicador em sistemas de alto risco, realizada por profissional ou equipe de profissionais com conhecimentos técnicos, científicos, regulatórios e jurídicos;
- Proteção aos direitos autorais dos criadores de conteúdo e obras artísticas.
De toda forma, tem-se como positivas as disposições contidas no PL nº 2.338/23, com inegáveis avanços e criação de um marco regulatório robusto, com avanço significativo nas alterações promovidas no projeto de lei quanto à proteção dos trabalhadores, que dão maior respaldo contra o uso indiscriminado da Inteligência Artificial, assim como garante maior participação sindical nas negociações coletivas sobre o tema.
O texto, com todas as alterações promovidas no curso da sua tramitação, foi aprovado no dia 10/12/2024, no plenário do Senado, em votação simbólica, com apenas quatro senadores se manifestando de forma contrária, com encaminhamento para votação na Câmara dos Deputados.
Aprovado o PL nº 2.338/23, há previsão de que a maioria dos dispositivos entrará em vigor em dois anos depois da sua publicação, visando a adequação do SIA e dos agentes de IA.
Brasília, 18 de dezembro de 2024.
