Comando oculto para inteligência artificial em contestação gera multa a advogados

A utilização da inteligência artificial no Direito exige responsabilidade, transparência e respeito às regras processuais. Uma sentença da 9ª Vara do Trabalho de São Paulo reforçou esse alerta ao condenar dois advogados por litigância de má-fé após a identificação de um comando oculto inserido em uma contestação.

A instrução tinha como objetivo interferir no funcionamento de ferramentas de inteligência artificial eventualmente utilizadas na análise do processo, direcionando o sistema para a elaboração de uma decisão de improcedência da ação.

Como o comando foi identificado?

De acordo com as informações divulgadas pelo Tribunal Regional do Trabalho da 2ª Região, o texto foi inserido no final da peça em fonte reduzida e na cor branca, tornando-se praticamente imperceptível durante uma leitura comum.

O conteúdo foi detectado durante o processamento do documento pelo Galileu, sistema utilizado para auxiliar na elaboração de minutas no âmbito da Justiça do Trabalho. A técnica é conhecida como prompt injection, expressão utilizada para definir a inserção de instruções destinadas a interferir no comportamento de uma ferramenta de inteligência artificial.

Por que a conduta foi considerada grave?

Na sentença, a magistrada entendeu que a inclusão dissimulada do comando violou deveres fundamentais do processo, como:

• boa-fé;

• cooperação;

• lealdade processual;

• respeito à regular prestação jurisdicional.

Segundo o entendimento adotado, a conduta representou uma tentativa deliberada de manipular o sistema para produzir um resultado previamente determinado em benefício da parte defendida.

A inteligência artificial pode ser utilizada como ferramenta de apoio, mas não como meio para interferir indevidamente na análise judicial ou comprometer a integridade do processo.

A penalidade foi aplicada aos advogados

A empresa reclamada não foi responsabilizada pela inserção do comando. A decisão considerou que a elaboração e a assinatura da contestação são atos ligados à atuação profissional dos advogados.

Por essa razão, os dois profissionais que assinaram a defesa foram condenados ao pagamento de multa correspondente a dez salários mínimos, em favor do reclamante.

Também foi determinado o envio de cópia da sentença e dos autos à Ordem dos Advogados do Brasil para análise e adoção das providências cabíveis. A decisão ainda pode ser objeto de recurso.

Inteligência artificial e responsabilidade profissional

O caso evidencia que o avanço das ferramentas de inteligência artificial também traz novas responsabilidades para os profissionais do Direito.

O uso adequado da tecnologia pode contribuir para a organização de informações, revisão de documentos e otimização de atividades. Contudo, todo conteúdo apresentado em um processo permanece sob a responsabilidade de quem o produz e assina.

Nesse cenário, alguns cuidados se tornam indispensáveis:

• revisar integralmente os documentos antes do protocolo;

• compreender como as ferramentas utilizadas processam os dados;

• evitar comandos ocultos ou mecanismos destinados a manipular sistemas;

• preservar o sigilo e a confidencialidade das informações;

• utilizar a tecnologia como apoio, mantendo a supervisão humana.

A inovação deve caminhar ao lado da ética profissional e da segurança jurídica. Mais do que dominar novas ferramentas, é necessário compreender seus limites e utilizá-las de maneira compatível com os deveres que orientam a atuação jurídica.