Sistema institucional detectou trechos ocultos que orientavam a própria inteligência artificial a alterar o tratamento da petição.
O Galileu, ferramenta de inteligência artificial desenvolvida pelo Tribunal Regional do Trabalho da 4ª Região (TRT-RS) e nacionalizada pelo Conselho Superior da Justiça do Trabalho (CSJT), identificou, na quarta-feira (12/5), uma tentativa de manipulação em petição inicial de processo julgado pela 3ª Vara do Trabalho de Parauapebas (PA). O sistema detectou trechos ocultos com instruções dirigidas à própria IA, caracterizando técnica conhecida como injeção de prompt, e emitiu alerta ao usuário, impedindo o processamento do conteúdo malicioso.
Relato técnico e decisão judicial
O Galileu limitou-se a relatar o fato técnico, sem qualificar a conduta nem propor encaminhamento processual. O juiz Luiz Carlos de Araújo Santos Junior, que proferiu a sentença nessa quarta-feira (12/5), não decidiu apenas com base no alerta: examinou o conteúdo apontado pelo sistema antes de adotar qualquer providência. Só após essa verificação humana, o magistrado avaliou a situação, decidiu sobre eventuais consequências e fundamentou a sua decisão.
Como o sistema agiu
Ao processar a petição inicial, o sistema identificou instruções ocultas que orientavam a IA a contestar a peça de forma superficial e a não impugnar documentos, independentemente do comando recebido. Diante da detecção, o Galileu emitiu alerta em destaque para o usuário e bloqueou o trecho inserido de forma maliciosa, preservando a necessidade de revisão humana.
Conforme a secretária-geral de tecnologia e inovação do TRT-RS, Natacha Moraes de Oliveira, o caso demonstra a importância de, ao utilizar ferramentas de IA, privilegiar soluções institucionais que adotam medidas técnicas especializadas. Segundo Natacha, o controle de ataques como injeção de comandos ou de dados exige técnicas específicas para identificação.
Conformidade com diretrizes e normas
O comportamento do Galileu — identificar a anomalia, alertar o usuário e preservar a decisão humana — está em conformidade com diretrizes técnicas internacionais sobre segurança em sistemas de inteligência artificial, que recomendam essa combinação de medidas diante de tentativas de injeção de prompt (OWASP LLM01; NIST AI 600-1 MS-2.7-007/MS-4.2-001; NCSC/CISA §1; MITRE ATLAS AML.T0051). O uso do Galileu observa a Resolução nº 615/2025 do CNJ, que disciplina o emprego de IA pelo Poder Judiciário com base em princípios como supervisão humana efetiva, segurança da informação, transparência e respeito aos direitos fundamentais.
Coordenadoria de Comunicação Social — Texto e imagem: TRT-4.
Assuntos nesse artigo:
#galileu, #inteligenciaartificial, #trt4, #csjt, #injecaodeprompt, #peticaoinicial, #parauapebas, #3avaradotrabalho, #luizcarlosdearaujosantosjunior, #alerta, #sentenca, #natachamoraesdeoliveira, #seguranca, #segurancapordesenho, #owasp, #nist, #mitre, #resolucao6152025, #cnj, #transparencia