A Dupla Face da Inteligência Artificial: Potência e Cautela

A ascensão da Inteligência Artificial (IA) representa um marco na automação e eficiência, transformando a maneira como as tarefas cotidianas são realizadas, desde a elaboração de textos complexos e a resposta a questionamentos até a criação de minutas de documentos legais. Sua capacidade de processar vastos volumes de dados em segundos a estabelece como uma ferramenta de inestimável valor para a produtividade. No entanto, o entusiasmo com a velocidade e a conveniência não deve ofuscar uma verdade crucial: a IA, por mais sofisticada que seja, não possui a capacidade de substituir o discernimento e o julgamento humano.

O principal ponto de atenção no uso dessas tecnologias é o fenômeno da "alucinação". Este termo descreve a tendência dos modelos de linguagem em fabricar dados inexistentes ou apresentar informações que, embora soem perfeitamente plausíveis e coerentes, são, na verdade, invenções sem qualquer base factual ou fonte confiável. A razão reside na forma como a IA é treinada: ela aprende a prever a próxima palavra ou frase com base em padrões, e não em uma compreensão de verdade ou contexto.

Diversos fatores contribuem para essa falibilidade. A falta de dados relevantes ou o acesso à fonte original de um documento pode levar a IA a preencher lacunas com meros padrões linguísticos, resultando em ficção. Além disso, a presença de vieses nos dados de treinamento ou a complexidade excessiva entre o dado de entrada e a resposta desejada podem desviar a saída da máquina da realidade. Acima de tudo, a IA carece de discernimento ético e contextual; ela opera por algoritmos e não compreende as nuances morais, as emoções humanas ou a complexidade das relações interpessoais que são vitais em muitas decisões.

As implicações dessas alucinações são particularmente graves em ambientes que exigem precisão absoluta, como o legal. Há casos documentados de IAs que inventaram decisões judiciais, citando casos, nomes de juízes e até números de processos que simplesmente não existem. Similarmente, o uso desassistido pode resultar na citação de leis e regulamentos revogados ou inaplicáveis à jurisdição consultada, ou ainda na criação de documentos com cláusulas nulas ou inadequadas, expondo indivíduos e empresas a riscos financeiros e litígios desnecessários. Nesse sentido, são diversas as notícias:

“Juiz usa inteligência artificial para fazer decisão e cita jurisprudência falsa; CNJ investiga caso”

https://g1.globo.com/politica/blog/daniela-lima/post/2023/11/13/juiz-usa-inteligencia-artificial-para-fazer-decisao-e-cita-jurisprudencia-falsa-cnj-investiga-caso.ghtml  (13/11/2023) 

“Advogado usa IA, cita casos inventados e perde no TJ de Santa Catarina” -

https://www.cartacapital.com.br/tecnologia/advogado-usa-ia-cita-casos-inventados-e-perde-no-tj-de-santa-catarina/ (08/02/2025)

“TRT-2 multa autora que citou precedentes inventados por IA em recurso”

https://www.conjur.com.br/2025-set-08/trt-2-multa-autora-que-citou-precedentes-inventados-por-ia-em-recurso/ (08/09/2025)

“Justiça condena Google a indenizar por erro de informação de inteligência artificial”

https://valor.globo.com/legislacao/noticia/2025/06/06/justica-condena-google-a-indenizar-por-erro-de-informacao-de-inteligencia-artificial.ghtml (06/06/2025)

Adicionalmente, a questão da regulamentação é uma preocupação premente. A ausência de um quadro legal consolidado sobre o uso e a responsabilidade das plataformas de IA, combinada com o risco de exposição de dados confidenciais, impõe uma camada de cautela que deve ser observada por qualquer usuário.

A Inteligência Artificial deve ser encarada como um poderoso assistente, e não como um decisor final. Seu uso mais eficaz reside em sua capacidade de oferecer pontos de partida, organizar ideias e rascunhar estruturas iniciais. A tomada de decisão final, especialmente em questões críticas, deve sempre ser guiada pela expertise humana.

A intervenção de um profissional, como um advogado, é indispensável, pois somente ele pode aplicar o critério ético, a contextualização precisa, o conhecimento prático e o juízo de valor que transcendem a capacidade algorítmica. Em última análise, a confiança e a segurança no ambiente digital dependem da prioridade máxima dada à verificação da informação e à privacidade dos dados, garantindo que a tecnologia sirva como um amplificador da competência humana, e nunca como seu substituto.

Por Clarissa Alencar, advogada do Luz e Ferreira Advogados.