Edição nº 5

Palavra do Editor Prof. Dr. Bruno Bernardes Editor-chefe · IPBB e Conjecturas

Semanas atrás escrevi aqui, nesta coluna, algumas considerações sobre o problema da maliciosa técnica do prompt injection, em particular, acerca daquilo que denominei de prompt injection estrutural. Retomo este tema, já que os especialistas em inteligência artificial e tecnologia aplicada ao Direito pulularam nas últimas semanas nas redes sociais.

Quero falar, na verdade, de uma fina ironia, mascarada no início daquele texto sob duas siglas: LLM2P (LLM¹ to person – em tradução livre, entre modelos de linguagem e pessoas) e LLM2LLM (LLM to LLM – entre modelos de linguagem). No jogo de eufemismos que vivemos, quero brincar com os meus.

A lógica de Pollyana² e do paraíso das IAs, em que cada um agora tem uma skill ou um superpoder para chamar de seu, diz o seguinte: eu, homem médio, faço tudo, dialogo com os modelos de linguagem (LLM), reviso, rejeito os vieses algorítmicos e, ao final, tenho segurança nos resultados. É lindo, romântico e perfeito. Homem e máquina em simbiose profunda – e esse travessão aqui é meu estilo, não o que sobrou da revisão do texto. Essa é a lógica vendida, repetida, externada, a do LLM2P, na qual o modelo de linguagem está a serviço da humanidade.

O problema é que os modelos de linguagem escancararam a realidade. São características dessa realidade: (i) a inteligência é limitada, mas a burrice é infinita; (ii) expressar-se minimamente por escrito é uma dificuldade; (iii) a maioria desconhece a regra de que não se separa sujeito de predicado com vírgula. No Direito, somam-se outras duas características: (iv) a grande maioria dos textos tem aparência de gerador de lero-lero;³ (v) 99,9% dos operadores jurídicos acreditam erroneamente que “posto que” é sinônimo de “já que”.⁴

Dada a realidade acima, ficou muito fácil e previsível emular o conteúdo jurídico nos modelos de linguagem. Logo, conferindo eventuais alucinações de julgados, dá para usar com certa tranquilidade as IAs da vida para produzir conteúdo, porque, novamente, no jogo do gerador de lero-lero, produção de conteúdo é o mesmo que reproduzir conteúdo. Não há nada de novidade.

E é aí que a realidade, velada, mas inexorável, se impõe. A lógica passa a operar apenas entre máquinas. A intervenção humana acaba se limitando à descrição do contexto do prompt perfeito (que os oportunistas ou os colegas da mesa ao lado julgam ter). Tem-se, então, a exclusão humana, e a imposição do modelo LLM2LLM, como disse acima, entre modelos de linguagem apenas.

E o Direito? “Ah, isso dá um trabalho danado.” Peticionar é penoso. Aliás, descrevendo os fatos e não errando a forma, o resultado já não depende, via de regra, de quem escreve. Já virou súmula, repetitivo, IRDR, qualquer coisa que encaixote e massifique, na ânsia generalizadora dos tribunais, as especificidades de cada caso.

E julgar? “Vixe! Que trabalho!” Muitos processos distribuídos, muitas metas a cumprir, CNJ e sua lógica quantitativa e metrificante, capaz de extrair de números diagnósticos precisos de que a coisa vai de mal a pior. “Precisamos de servidores.” Mas para ter servidor exige-se concurso público, tem que se respeitar carga horária, o custo é alto. Expiemos nossa culpa orçamentária coletiva. “Então, o que acham de termos assessores, de livre nomeação?” – ótimo. Mas já não são mais suficientes. “Criemos então os ‘assistentes’.” Perfeito, mas é pouco. Ter estagiário talvez seja o caminho. “Mas o estágio acaba. Precisamos ter alguém já pronto, para ‘contribuir por mais tempo’.” “O que acha de ‘residentes jurídicos’?” “Mas nós precisamos buscar a paz social também” – diz o novel acadêmico, que depois de anos de exercício de poder, agora resolve cursar um mestrado profissional para convertidos. “Ótima ideia! A gente também podia criar uma campanha chamada ‘Conciliar é legal’, porque, convenhamos, instruir processo dá um trabalho danado.”

Nas duas pontas, então, há alguém sobrecarregado, que se vê obrigado, por limitação ou contingência, a copiar o prompt perfeito do colega da mesa ao lado. Aquele cansado de ver suas teses desconsideradas acaba por vacilar na ética. A ideia brilhante – um comando oculto na peça. “Cansei do jogo do contente”, talvez diga. O plano perfeito do Cebolinha.

“Você foi pego!” – vociferam as réguas moralizadoras. Litigância de má-fé! Inequivocamente. Tão inequívoca quanto a quebra de confiança na dinâmica do “eu finjo que te engano, você finge que acredita”. Você, advogado levado, poderia ter deixado tudo bem arranjado. Estaria peticionando pelo ChatGPT e eu julgando pelo Claude.

Foi-se o tempo dos artesãos.