Sullivan & Cromwell pede desculpas ao tribunal após IA gerar citações legais falsas

TLDR

• Prestigiado escritório de advocacia submete documento judicial com citações fabricadas por IA

• Sullivan & Cromwell reconhece falhas de verificação em caso de falência

• Imprecisões geradas por IA comprometem submissão a tribunal federal

• Advogados da parte contrária descobrem jurisprudência fabricada em peça processual

• Incidente sublinha a necessidade crítica de protocolos de validação de IA reforçados

A profissão jurídica enfrenta um novo escrutínio sobre a fiabilidade da inteligência artificial na sequência de um erro significativo cometido por um prestigiado escritório de advocacia americano. A Sullivan & Cromwell reconheceu publicamente ter submetido um documento judicial repleto de citações de casos fabricadas por IA e referências jurídicas imprecisas. O incidente levou o escritório a conduzir uma investigação interna abrangente sobre as suas salvaguardas de inteligência artificial.

Citações fabricadas comprometem submissão a tribunal federal

O prestigiado escritório de advocacia descobriu falhas substanciais num documento de falência ao abrigo do Capítulo 15, relacionado com o litígio do Prince Group. Os sistemas de inteligência artificial produziram referências de casos fictícias e analisaram incorretamente disposições dos estatutos de falência dos Estados Unidos. Estas fabricações foram incluídas em materiais apresentados a um tribunal federal de falências em Nova Iorque.

Andrew Dietderich, que supervisiona a divisão de reestruturação do escritório, assumiu responsabilidade pessoal pelas deficiências do documento. Confirmou que, embora o escritório mantenha diretrizes estabelecidas para a utilização de IA, estes protocolos não foram cumpridos durante a criação deste documento em particular. A organização implementou desde então medidas corretivas para evitar a recorrência de erros impulsionados por IA em submissões jurídicas subsequentes.

A Boies Schiller Flexner, atuando em nome das partes adversas, identificou discrepâncias e chamou-as à atenção judicial. A sua análise revelou que certos casos referenciados eram inteiramente inexistentes ou citavam opiniões judiciais completamente não relacionadas. Consequentemente, o escritório apresentou uma versão emendada com anotações que identificavam claramente os erros produzidos pela IA.

Falhas de verificação evidenciam desafios sistémicos da IA

Este episódio demonstra as dificuldades generalizadas que os escritórios de advocacia enfrentam ao incorporar inteligência artificial para aumentar a produtividade e gerir cargas de trabalho. Numerosas práticas jurídicas recorrem a sistemas de IA para pesquisa jurídica e criação de documentos, mas protocolos de verificação inadequados continuam a criar vulnerabilidades. Os profissionais jurídicos têm de gerir a tensão entre eficiência operacional e precisão ao integrar a IA nos seus fluxos de trabalho.

A Sullivan & Cromwell afirmou que aplica políticas rigorosas de utilização de IA, incluindo a revisão manual obrigatória de todos os materiais gerados por IA. O escritório admitiu que os mecanismos de controlo de qualidade falharam neste assunto, permitindo que conteúdo defeituoso avançasse sem ser verificado. O incidente ampliou o escrutínio sobre os quadros de governação da inteligência artificial em contextos jurídicos críticos.

Os dados do setor revelam uma frequência crescente de alucinações de IA a aparecer em peças processuais judiciais, especialmente envolvendo precedentes jurídicos inventados. As investigações documentam mais de 1.300 ocorrências deste tipo em todo o mundo, com a maioria concentrada nos tribunais americanos. Este padrão emergente sublinha a necessidade imperativa de mecanismos de autenticação mais rigorosos ao utilizar IA em processos de documentação jurídica.

As implicações estendem-se para além do incidente isolado

O litígio do Prince Group centra-se em acusações de esquemas de fraude extensos, abrangendo práticas de trabalho coercivas e má conduta financeira. Os procuradores dos Estados Unidos iniciaram processos criminais e esforços de confisco de bens relacionados com as operações da organização. Consequentemente, a precisão nos documentos jurídicos torna-se primordial em assuntos que envolvam alegações transnacionais complexas.

A Sullivan & Cromwell já representou anteriormente clientes em assuntos de destaque, incluindo os processos de insolvência da exchange FTX. O escritório cobra honorários premium e gere casos de reorganização sofisticados que abrangem múltiplas jurisdições legais. Esta falha relacionada com IA gerou questões sobre o controlo de qualidade nas grandes empresas jurídicas.

O escritório mantém a sua investigação interna em curso enquanto reavalia os programas de formação e os quadros de conformidade que regem a implementação da inteligência artificial. O seu objetivo inclui reforçar as medidas de proteção e aumentar a responsabilidade ao longo dos fluxos de trabalho de criação de documentos. Com a integração da inteligência artificial a acelerar, a indústria jurídica confronta-se com expectativas crescentes para garantir a fiabilidade e eliminar erros dispendiosos.

The post Sullivan & Cromwell Issues Court Apology After AI Generates False Legal Citations appeared first on Blockonomi.