Falhas no uso de inteligência artificial geram condenações

O Judiciário tem garantido indenização por falhas no uso de inteligência artificial (IA). Levantamento mostra que desde 2010, quando houve a primeira menção ao termo, 140 ações foram ajuizadas em busca de reparação e em 64% dos casos o pedido foi aceito em segunda instância.

O volume ainda é pequeno em relação ao mar de processos em tramitação no Judiciário. Mas especialistas da área cível destacam que a demanda vem aumentando e abrangendo temas cada vez mais diversificados.

O levantamento realizado não buscou, nos Tribunais de Justiça e Superior Tribunal de Justiça (STJ), apenas discussões de mérito envolvendo a inteligência artificial. Detectou acórdãos que mencionam o uso da IA em alguma etapa do andamento do processo. Foram localizadas 711 decisões. Além disso, 718 acórdãos citam a expressão como contexto geral, mas sem que a IA seja diretamente tratada no caso.

Só 140 decisões têm a inteligência artificial como causa de pedir e aprofundam o debate sobre o tema. Os Tribunais de Justiça que mais concentram processos sobre o tema são os de São Paulo (61 casos) e Rio Grande do Sul (49 casos).

Os temas mais recorrentes nesses processos são prevenção de fraudes financeiras, remoção de produtos que violam termos de uso de marketplace e adoção da IA para reconhecimento facial.

Até 2016, o único assunto levado ao Judiciário mencionando a IA era o de organização de conteúdos na internet. Só depois os temas começaram a se diversificar.

De acordo com o levantamento, 50 processos questionam mecanismos de busca e algoritmos usados no controle e restrição de uso das plataformas de tecnologia.

Uma decisão de 2021 do Tribunal de Justiça de Minas Gerais (TJMG), por exemplo, já mencionava o uso de IA nos processos de exclusão de contas de plataformas de tecnologia. “Sabe-se que diversas medidas adotadas em ambientes digitais advêm de decisões tomadas por máquinas mediante a aplicação de algoritmos”, afirma o acórdão em processo que questionava a suspensão da conta de uma empresa no WhatsApp.

Na ação, como o aplicativo não conseguiu justificar o motivo da exclusão do perfil nem a prévia notificação, a 16ª Câmara Cível concedeu tutela de urgência para ordenar o restabelecimento da conta no WhatsApp (processo nº 1.0000.20.597631-9/001).

Tipos diferentes de tecnologia, como algoritmos, IA generativa, reconhecimento facial, deep fakes e formas de automatização são tratados da mesma forma nos processos.

Outros 49 casos abordam fraudes bancárias. O único precedente do STJ trata desse assunto. Em decisão monocrática, a ministra Maria Thereza de Assis Moura não chegou a analisar o mérito do pedido feito pelo Banco Itaú, por aplicação da Súmula 7, o que teve o efeito de manter a decisão de segunda instância.

Nela, o Tribunal de Justiça de São Paulo (TJSP) entendeu que o banco possui conhecimento tecnológico suficiente para afastar práticas fraudulentas, “inclusive com utilização de inteligência artificial para detecção do perfil do consumidor e da transação realizada”. Foi determinada indenização por danos morais no valor de R$ 5 mil (processo nº 1010322-67.2018.8.26.0152).

O tema do reconhecimento facial só chegou ao Judiciário em 2021, mas desde então tem sido frequente em processos judiciais.

Um caso levado ao Tribunal de Justiça do Distrito Federal (TJDF), por exemplo, envolvia um motorista de aplicativo que foi desligado da plataforma porque o sistema de IA não reconheceu o rosto como sendo o mesmo da pessoa cadastrada.

Segundo a 2ª Turma Cível, no entanto, as partes concordaram, na assinatura do contrato, com a possibilidade de rescisão unilateral. “Não pode o Poder Judiciário impor a sua continuidade, sob pena de ofensa aos artigos 473, caput, 421 e 421-A, todos do Código Civil”, diz a decisão, que negou o pedido do motorista (processo nº 0707611-32.2021.8.07.0009).

Como ainda não há legislação específica sobre o tema, a grande maioria dos processos cíveis tem se apoiado no Código de Defesa do Consumidor (Lei nº 8.078, de 1991) e no Código Civil (Lei nº 10.406, de 2002).

Até agora, poucos casos envolvendo direito de imagem chegaram ao Judiciário, mas o número tende a aumentar. Em outubro de 2024, por exemplo, o TJSP analisou o pedido de um locutor que alegava que um shopping usou sua voz em campanha publicitária sem autorização. O shopping, por sua vez, tinha dito que a peça foi produzida por inteligência artificial (processo nº 1119021-41.2023.8.26.0100).

Os desembargadores da 6ª Câmara de Direito Privado entenderam que havia possibilidade de cometimento de plágio e violação de direitos de personalidade, uma vez que “tecnologias de IA se servem de bancos de dados prévios”. Assim, o colegiado anulou a sentença, que tinha negado o pedido do locutor, e ordenou a produção de prova pericial.

Equipe Marcelo Morais Advogados

*Com informações publicadas pelo jornal Valor Econômico