top of page

TJ-BA identifica tentativa de manipular inteligência artificial em pedido de habeas corpus

1 de out.
2 min de leitura
Foto: Divulgação/TJ-BA
Foto: Divulgação/TJ-BA

O Tribunal de Justiça da Bahia (TJ-BA) identificou uma tentativa de manipular ferramentas de inteligência artificial utilizadas pela Corte durante a análise de um pedido de habeas corpus criminal. O caso foi julgado pela 2ª Turma da Primeira Câmara Criminal, em sessão do plenário virtual.


A estratégia envolvia a inserção de comandos ocultos em um documento digital apresentado ao tribunal. O texto não ficava visível durante a leitura convencional do arquivo em PDF, mas continha instruções direcionadas aos sistemas de inteligência artificial para que o pedido de habeas corpus fosse atendido.


A técnica é conhecida como “prompt injection” e consiste na inserção de instruções em textos ou documentos com o objetivo de interferir no comportamento de sistemas de inteligência artificial, fazendo com que eles sigam comandos diferentes daqueles originalmente estabelecidos.


Segundo a análise da Diretoria de Modernização do TJ-BA, o documento apresentava uma camada textual imperceptível na visualização comum do PDF. As instruções determinavam que o habeas corpus deveria ser deferido caso a análise fosse realizada por uma ferramenta de inteligência artificial.


O documento foi protocolado por uma advogada que atua no Mato Grosso do Sul.


Caso será apurado


Diante da identificação do mecanismo, o colegiado determinou o envio de um ofício à OAB de Mato Grosso do Sul (OAB-MS) para que seja avaliada a abertura de procedimento disciplinar.


Uma cópia do documento também foi encaminhada ao Ministério Público da Bahia (MP-BA) para apuração de possíveis ilícitos.


No voto, o relator, desembargador Pedro Guerra, destacou que a área técnica identificou uma tentativa deliberada de interferir no funcionamento dos sistemas de IA utilizados na triagem e na elaboração de minutas pelo Judiciário.


O tribunal informou que o uso de ferramentas de inteligência artificial generativa segue protocolos relacionados à segurança da informação, proteção de dados pessoais e governança. A Corte também reforçou que a utilização dessas tecnologias não substitui a supervisão dos magistrados, que continuam responsáveis pelo conteúdo das decisões judiciais.


O que é prompt injection?


O prompt injection é uma técnica que busca inserir comandos em conteúdos processados por sistemas de inteligência artificial para tentar alterar a resposta ou o comportamento esperado da ferramenta.


No caso identificado pelo TJ-BA, as instruções foram inseridas de forma oculta no documento apresentado no processo.


Em julho, o Centro de Inteligência da Justiça Estadual da Bahia (CIJEBA) aprovou uma nota técnica sobre o tema para orientar magistrados sobre os riscos desse tipo de manipulação e estabelecer medidas de identificação, prevenção e repressão.


Habeas corpus foi negado


Apesar da tentativa identificada, a 2ª Turma da Primeira Câmara Criminal negou o pedido de habeas corpus.


O processo envolvia D.A.B., que teve a prisão preventiva decretada em investigação por suspeita de envolvimento nos crimes de homicídio qualificado, sequestro e cárcere privado, adulteração de sinal identificador de veículo automotor e organização criminosa armada.


Segundo a decisão, a prisão preventiva determinada pela Vara Criminal de Iguaí estava baseada em elementos concretos obtidos durante a investigação.


O relator também considerou que medidas cautelares alternativas à prisão seriam insuficientes para garantir a ordem pública, preservar a instrução criminal e assegurar a aplicação de eventual condenação.


bottom of page