Consultor Jurídico

Opinião

Uma política para a inteligência artificial no Brasil

Por  e 

O mundo passa por uma grande transformação causada pelos impactos da tecnologia em diversas áreas como a saúde, a indústria, a agricultura, dentre muitas outras. No centro dessa metamorfose está a inteligência artificial (IA), que alcança padrões cada vez mais arrojados na execução de tarefas que vão desde a sugestão de música em um aplicativo até a realização do diagnóstico precoce de uma doença.

No âmbito do Poder Judiciário brasileiro, inúmeras iniciativas envolvendo o uso de IA estão sendo desenvolvidas. Desde 2020, o Centro de Inovação, Administração e Pesquisa do Judiciário da FGV Conhecimento conduz uma pesquisa com o propósito de fazer uma análise quantitativa e qualitativa da inteligência artificial nos tribunais brasileiros. O relatório da 2ª edição do estudo "Tecnologia aplicada à gestão dos conflitos no âmbito do Poder Judiciário", publicado em 2022, mapeou 64 iniciativas de IA em 44 Tribunais (STF, STJ, TST, os cinco TRFs, 23 Tribunais de Justiça e 13 TRTs), mais o CNJ. A 1ª edição registrou 55 iniciativas em 35 tribunais (STF, STJ, TST, os cinco TRFs, 19 tribunais estaduais e 8 TRTs), mais a plataforma Sinapses do CNJ.

Esses modelos computacionais [1] estão em diferentes fases e são voltados tanto à atividade-meio (por exemplo, chatbots para orientação dos cidadãos) quanto à atividade-fim dos tribunais (como avaliação sobre a concessão de gratuidade de justiça; classificação automática de documentos; agrupamento de processos por similaridade e encaminhamento de casos à conciliação [2]).

A diversidade do alcance da IA gerou um intenso debate acerca da sua regulação. Nesse sentido, se seguiram uma série de propostas legislativas que buscam conferir os primeiros nortes sobre o tema; o que, desde o princípio, gerou bastante controvérsia. Isso porque o uso da IA passou a ser visto como uma questão de soberania e de proteção industrial.

Na União Europeia, uma série de normativas buscaram regular a aplicação dessa tecnologia e, inicialmente, a perspectiva foi em um sentido mais principiológico. Assim, em 2018, a Comissão Europeia para a Eficácia da Justiça (Cepej) [3] publicou uma carta ética para o uso da IA no sistema de justiça. O documento aborda cinco princípios: respeito aos direitos fundamentais; não discriminação; qualidade e segurança; transparência e controle do usuário. Além disso, trata sobre a política de dados abertos para as decisões judiciais e possibilidades práticas para a efetividade de uma justiça preditiva.

De fato, os benefícios do uso de modelos de predição, tendo em vista a antecipação das decisões dos juízes, foram reconhecidos pela Cepej. Porém, vieses de raciocínio e inexatidões em alguns resultados apresentados já causaram a descontinuidade dos investimentos no desenvolvimento de uma IA para os tribunais pelo Ministério da Justiça na França [4], por exemplo. Isso mostra o quão importante é o monitoramento e a aferição dos ganhos proporcionados pela IA na prática.

O Ministério da Ciência, Tecnologia e Inovações definiu a Estratégia Brasileira de Inteligência artificial (Ebia), por meio da Portaria MCTI no 4.617 de 2021, alterada pela Portaria MCTI 4.979 de 2021[5], com eixos transversais (legislação, regulação e uso ético; governança e aspectos internacionais) e verticais (qualificações para um futuro digital; força de trabalho e capacitação; pesquisa, desenvolvimento, inovação e empreendedorismo; aplicação nos setores produtivos; aplicação no Poder Público e segurança pública).

Cabe destacar que este plano estratégico brasileiro tem uma conotação diferente de uma regulamentação sobre o tema, uma vez que a proposta da Ebia consiste, justamente, em apontar uma diretriz para o tratamento do assunto no país. Aliás, ela vem recebendo muitas críticas de especialistas em razão de seu caráter genérico e por não traçar um direcionamento claro para o desenvolvimento da IA no Brasil.

Em outubro de 2020, foram publicadas algumas normativas pelo bloco como a Resolução do Parlamento Europeu [6], de 20 de outubro de 2020, que contém recomendações à comissão sobre o regime relativo aos aspectos éticos da inteligência artificial, da robótica e das tecnologias conexas, de cunho mais abrangente, e que trata do ponto de vista principiológico, sobre a utilização dessas ferramentas em setores como saúde, educação, transporte, ambiente de trabalho, segurança e defesa nacional. Outro exemplo é a Resolução do Parlamento Europeu [7], de 20 de outubro de 2020, que contém recomendações à comissão sobre o regime de responsabilidade civil aplicável à inteligência artificial e defende que as regras de responsabilidade cubram toda a cadeia de operações da IA, bem como sinaliza a importância de prever regras diferentes conforme a gravidade dos riscos produzidos pelo uso da tecnologia. A proteção de direitos de propriedade intelectual também foi contemplada por Resolução do Parlamento Europeu [8] neste mesmo período.

Em abril de 2021, foi apresentada uma proposta de regulamento do Parlamento Europeu e do Conselho [9] com o intuito de estabelecer regras harmonizadas em matéria de IA, de modo a alcançar os seguintes objetivos específicos: garantir que os sistemas de IA inseridos no mercado europeu sejam seguros e respeitem a legislação em vigor em matéria de direitos fundamentais e valores do bloco; assegurar a segurança jurídica para facilitar os investimentos e a inovação no domínio da IA; melhorar a governança e a aplicação efetiva da legislação em vigor em matéria de direitos fundamentais e dos requisitos de segurança aplicáveis aos sistemas de IA; facilitar o desenvolvimento de um mercado único para a aplicação da IA.

Em que pese ser um diploma com mais disposições normativas, trata-se de uma proposta que mantém um perfil genérico e prevê, por exemplo, requisitos próprios, obrigações dos fornecedores e utilizadores nos sistemas de IA de alto risco; questões específicas relacionadas à transparência; medidas de apoio à inovação; governança; criação do Comitê europeu para a inteligência artificial; acompanhamento pós-comercialização dos sistemas de IA de risco elevado e sanções. O destaque desta proposta de regulamento, sem dúvida, é a maior especificidade e detalhamento em função do risco elevado de determinados sistemas de IA.

Os Estados Unidos tampouco contam com uma regulação federal sobre o assunto, mas a expectativa é grande para que isso ocorra em breve. Diversas instituições públicas e privadas vêm se adiantado na constituição de políticas internas sobre a IA. Alguns setores que empregam a IA de forma mais contundente como, por exemplo, o de fabricação de veículos autônomos [10]. Eles têm defendido a necessidade de uma regulação mais genérica a nível nacional e, à medida que ocorra o maior amadurecimento sobre os impactos desta tecnologia, cada setor seja tratado conforme a sua especificidade; o que parece bastante razoável.

O Centro de Inovação, Administração e Pesquisa do Judiciário da FGV Conhecimento acompanha a evolução da elaboração de uma proposta legislativa para o Brasil, tendo publicado duas notas técnicas [11], elaboradas por um grupo interinstitucional de pesquisadores, sobre o Projeto de Lei (PL) nº 21, de 2020, de autoria do deputado federal Eduardo Bismark e que, atualmente, se encontra em tramitação no Senado [12]. Essa vertente de estudo do centro, que tem como foco de interesse os aspectos éticos atinentes ao emprego da IA, é uma decorrência da pesquisa de "Tecnologia aplicada à gestão dos conflitos no âmbito do Poder Judiciário", a qual se encontra em sua 2ª edição [13].

O PL nº 21, de 2020 está estruturado em 16 artigos que tratam sobre as seguintes questões [14]: objetivo da lei (artigo 1º); aspectos conceituais (artigo 2º); critérios de interpretação da lei (artigo 3º); fundamentos do uso da IA (artigo 4º); objetivos do uso da IA (artigo 5º); princípios para o uso responsável (artigo 6º); direitos das pessoas interessada e defesa dos seus interesses (artigos 7º e 8º); deveres dos agentes (artigo 9º); diretrizes para a atuação da União, dos estados, do Distrito Federal e dos municípios em relação ao uso da inteligência artificial (artigos 10 a 15); vigência (artigo 16).

Do ponto de vista ético, o PL nº 21, de 2020 consagra um padrão fundamental para a abordagem da IA, que é a centralidade no ser humano. Nesse sentido, exige a adoção da IA sem vieses, livre de preconceitos, tendo em vista a promoção do bem-estar da sociedade, a redução das desigualdades sociais e o desenvolvimento sustentável, com promoção à igualdade, à pluralidade, à livre iniciativa e à defesa do consumidor e dos direitos trabalhistas (artigo 4º, III e IV; artigo 5º, I, III e IV; 6º, I, II e III).

Além disso, o legislador tem nítida preocupação com a proteção de dados pessoais, transparência, explicabilidade, segurança digital, responsabilização e prestação de contas (artigo 6º, IV; 7º, I e II; 9º, I, II e IV).

Especificamente no âmbito do Judiciário, o Conselho Nacional de Justiça (CNJ) publicou a Portaria nº 271, de 2020 [15], a qual regulamenta do uso da IA no âmbito do Poder Judiciário; e a Resolução nº 332, de 2020 [16], que dispôs sobre a ética, a transparência e a governança na produção e o uso de IA no Poder Judiciário. Essa normativas do CNJ estão bem alinhadas à proposta de contínuo investimento em inovação reforçada nas últimas gestões do órgão.

A propulsão da normatização do CNJ relacionada à digitalização e à inovação, somada à verificação do crescimento das iniciativas de IA nos tribunais, evidencia o dinamismo da propagação e evolução desta ferramenta no Judiciário. Diversas outras áreas sensíveis também experimentam progressos no uso desta ferramenta. Nesse sentido, é imperativo o acompanhamento do perfil e dos moldes que o marco legal da IA terá no país.

Atualmente, com base no substitutivo enviado ao Senado, é possível afirmar que a regulação da IA no Brasil assume um caráter mais generalista e, até o momento, sem desdobramentos para setores específicos. Por enquanto, é necessário aguardar o debate no Legislativo para ver se esse perfil de proposta normativa será confirmado ou se o país adotará uma postura regulatória mais exaustiva e/ou setorizada. Vale ressaltar que as notas técnicas publicadas pelo Centro do Judiciário da FGV Conhecimento indicaram o caminho da autorregulação, mas esta discussão está longe de ter uma posição mais definida.

 

[1] SALOMÃO, Luis Felipe; TAUK, Caroline Somesom. Objetivos do sistema de inteligência artificial: estamos perto de um juiz robô? Consultor Jurídico, Opinião, 11 mai. 2022. Disponível em:  https://www.conjur.com.br/2022-mai-11/salomao-tauk-estamos-perto-juiz-robo. Acesso em: 25 mai. 2022.

[2] BRAGANÇA, Fernanda; LOSS, Juliana; BRAGA, Renata. Inteligência artificial e solução consensual de conflitos no Poder Judiciário. Consultor Jurídico, Opinião, 22 mai. 2022. Disponível em: https://www.conjur.com.br/2022-mai-22/opiniao-inteligencia-artificial-solucao-consensual. Acesso em: 25 mai. 2022.

[3] Cf. COMISSÃO EUROPEIA PARA A EFICÁCIA DA JUSTIÇA (CEPEJ). Carta Europeia de Ética sobre o Uso da Inteligência Artificial em Sistemas Judiciais e seu ambiente. Estrasburgo, 3 e 4 de dez. 2018. Disponível em: https://rm.coe.int/carta-etica-traduzida-para-portugues-revista/168093b7e0. Acesso em: 24 mai. 2022.

[4] Idem.

[5] BRASIL. Ministério da Ciência e da Tecnologia. Portaria MCTI n. 4979, de 13 de julho de 20021. Altera o Anexo da Portaria MCTI nº 4.617, de 6 de abril de 2021, que Institui a Estratégia Brasileira de Inteligência Artificial e seus eixos temáticos. Disponível em: https://www.gov.br/mcti/pt-br/acompanhe-o-mcti/transformacaodigital/arquivosinteligenciaartificial/ia_estrategia_portaria_mcti_4-979_2021_anexo1.pdf. Acesso em 10 maio 2022.

[6] PARLAMENTO EUROPEU. Resolução do Parlamento Europeu, de 20 de outubro de 2020, que contém recomendações à Comissão sobre o regime relativo aos aspetos éticos da inteligência artificial, da robótica e das tecnologias conexas. Disponível em:  https://www.europarl.europa.eu/doceo/document/TA-9-2020-0275_PT.html#title1. Acesso em: 24 mai. 2022.

[7] PARLAMENTO EUROPEU. Resolução do Parlamento Europeu, de 20 de outubro de 2020, que contém recomendações à Comissão sobre o regime de responsabilidade civil aplicável à inteligência artificial. Disponível em: https://www.europarl.europa.eu/doceo/document/TA-9-2020-0276_PT.html. Acesso em: 24 mai. 2022.

[8] UNIÃO EUROPEIA. Parlamento Europeu. Resolução do Parlamento Europeu, de 20 de outubro de 2020, sobre os direitos de propriedade intelectual para o desenvolvimento de tecnologias ligadas à inteligência artificial. Disponível em: https://www.europarl. europa.eu/doceo/document/TA-9-2020-0277_PT.html. Acesso em 21 mai. 2022.

[9] COMISSÃO EUROPEIA. Proposta de regulamento do parlamento europeu e do conselho que estabelece regras harmonizadas em matéria de inteligência artificial (regulamento inteligência artificial) e altera determinados atos legislativos da união, 21 abr. 2021. Disponível em: https://eur-lex.europa.eu/legal-content/PT/TXT/HTML/?uri=CELEX:52021PC0206&from=EN. Acesso em: 24 mai. 2022.

[10] Cf. Artificial Intelligence Regulation: A coherent regulatory framework for automotive products is essential, 21 abr. 2021. Disponível em: https://www.automotiveworld.com/news-releases/artificial-intelligence-regulation-a-coherent-regulatory-framework-for-automotive-products-is-essential/. Acesso em: 25 mai. 2022.

[11] CENTRO DE INOVAÇÃO, ADMINISTRAÇÃO E PESQUISA DO JUDICIÁRIO. Nota Técnica sobre o Projeto de Lei 21/2020. Rio de Janeiro: FGV, 2021. Disponível em: https://ciapj.fgv.br/sites/ciapj.fgv.br/files/notatecnica.pdf. Acesso em 24 mai. 2022.

[12] CENTRO DE INOVAÇÃO, ADMINISTRAÇÃO E PESQUISA DO JUDICIÁRIO. Nota Técnica sobre o substitutivo ao Projeto de Lei 21/2020 enviado ao Senado Federal. Rio de Janeiro: FGV, 2022. Disponível em: https://ciapj.fgv.br/sites/ciapj.fgv.br/files/notatecnica_substitutivo_pl21_2020.pdf. Acesso em: 10 jun. 2022.

[13] CENTRO DE INOVAÇÃO, ADMINISTRAÇÃO E PESQUISA DO JUDICIÁRIO. Tecnologia aplicada à gestão dos conflitos no âmbito do Poder Judiciário. Brasília: FGV, 2022. Disponível em: https://ciapj.fgv.br/sites/ciapj.fgv.br/files/relatorio_ia_2fase.pdf. Acesso em: 24 mai. 2022.

[14] CENTRO DE INOVAÇÃO, ADMINISTRAÇÃO E PESQUISA DO JUDICIÁRIO. Nota Técnica sobre o Projeto de Lei 21/2020. Ob. Cit., p. 11.

[15] CONSELHO NACIONAL DE JUSTIÇA. Portaria Nº 271 de 4/12/2020. Regulamentação do uso de Inteligência Artificial no âmbito do Poder Judiciário. Disponível em: https://atos.cnj.jus.br/atos/detalhar/3613. Acesso em: 25 mai. 2022.

[16] CONSELHO NACIONAL DE JUSTIÇA. Resolução Nº 332 de 21/8/2020. Dispõe sobre a ética, a transparência e a governança na produção e o uso de Inteligência Artificial no Poder Judiciário e dá outras providências. Disponível em: https://atos.cnj.jus.br/atos/detalhar/3429. Acesso em 25 mai. 2022.




Topo da página

 é pesquisadora do Centro de Inovação, Administração e Pesquisa do Judiciário da FGV Conhecimento e Advogada.

Juliana Loss é coordenadora Acadêmica do Centro de Inovação, Administração e Pesquisa do Judiciário da FGV Conhecimento e diretora da Câmara de Mediação e Arbitragem da FGV.

 é professora da Universidade Federal Fluminense UFF/VR e pesquisadora colaboradora externa do Centro de Inovação, Administração e Pesquisa do Judiciário da FGV Conhecimento.

Revista Consultor Jurídico, 16 de junho de 2022, 6h04

Comentários de leitores

1 comentário

Aplausos para as autoras !!!

Rejane G. Amarante (Advogado Autônomo - Criminal)

Excelente artigo.

O que mais me incomoda é que em todas essas incipientes (negligentes ?) regulações nunca se estabelecem claramente as responsabildades em cada etapa do serviço.

Comentários encerrados em 24/06/2022.
A seção de comentários de cada texto é encerrada 7 dias após a data da sua publicação.