65 99249-7359 
Reprodução/Gustavo Moreno/STF
O Supremo Tribunal Federal (STF) identificou, pela primeira vez, uma petição com comandos ocultos destinados a influenciar sistemas de inteligência artificial da Corte e direcioná-los a uma decisão favorável a uma das partes. As instruções foram inseridas em letras brancas, em tamanho reduzido e com palavras fragmentadas. O ministro Cristiano Zanin determinou o envio do caso à Ordem dos Advogados do Brasil (OAB) e ao Ministério Público Federal (MPF) e aplicou multa de dois salários mínimos por violação do dever de lealdade processual.
O voto foi levado à Primeira Turma em sessão virtual iniciada nesta sexta-feira (25).
A OAB deverá analisar eventual infração ético-disciplinar atribuída ao advogado Ramon Oliveira Dias (OAB/MG 134.039). O MPF foi comunicado para avaliar se a conduta configura crime.
Os comandos ocultos utilizavam uma técnica conhecida como prompt injection, ou injeção de comandos, que consiste na inserção de instruções em um conteúdo destinado a ser processado por ferramentas de inteligência artificial.
Confira as últimas notícias do Fatos (CLIQUE AQUI)
Siga o instagram do Fatos (CLIQUE AQUI)
Participe do grupo do Fatos (CLIQUE AQUI).
No recurso analisado pelo Supremo, as instruções direcionavam eventual sistema de IA utilizado na leitura da petição a seguir determinada fundamentação e a conhecer e dar provimento ao recurso.
O conteúdo foi identificado pela Maria Shield, ferramenta da plataforma Maria, sistema de inteligência artificial desenvolvido pelo STF para auxiliar servidores em atividades como análise processual e produção de documentos.
A Maria Shield foi criada para detectar conteúdos potencialmente maliciosos inseridos em peças processuais, incluindo comandos ocultos destinados a interferir no funcionamento de sistemas de inteligência artificial.
O Núcleo de Inteligência Artificial da Secretaria-Geral de Tecnologia da Informação comunicou o gabinete de Zanin sobre a ocorrência em 3 de setembro.
A tentativa não interferiu na análise do processo.
Ao ser comunicado, Zanin registrou que "este Gabinete não utiliza inteligência artificial para análise e fundamentação dos processos".
O recurso também já havia sido rejeitado pelo ministro em 19 de agosto, antes da comunicação sobre os comandos ocultos.
Após receber a informação da área técnica, Zanin determinou que o episódio fosse certificado no processo e encaminhado à OAB e ao Ministério Público Federal.
No voto, o ministro afirmou que o prompt injection é "utilizado na tentativa de burlar filtros de tribunais que adotam inteligência artificial para análise de processos e fundamentação de decisões judiciais".
Zanin considerou que a conduta viola dever previsto no artigo 77, inciso IV, do Código de Processo Civil e fixou multa correspondente a dois salários mínimos.
O caso foi identificado no Agravo em Recurso Extraordinário (ARE) 1608713, apresentado por uma servidora que teve anulada a nomeação para o cargo de oficial do Ministério Público de Minas Gerais.
A disputa envolve a aplicação das regras de reserva de vagas para pessoas negras em concurso público e os critérios utilizados para o preenchimento dessas vagas.
Zanin havia negado seguimento ao recurso por considerar que as questões constitucionais levantadas não foram examinadas pelo tribunal de origem.
Segundo o ministro, modificar a conclusão também exigiria nova análise de fatos, provas e regras do edital do concurso, providência que não cabe nessa modalidade de recurso ao Supremo.
A parte recorreu à Primeira Turma. Ao levar o caso ao colegiado, Zanin manteve a rejeição do recurso e acrescentou as providências relacionadas aos comandos ocultos encontrados na petição.
