OpenAI detalha proteções em camadas no acordo com o Departamento de Defesa dos EUA

A OpenAI anunciou no sábado, 28 de fevereiro, que o acordo celebrado um dia antes com o Pentágono para implementar tecnologia na rede classificada do Departamento de Defesa dos EUA inclui salvaguardas adicionais para proteger os seus casos de uso.

O presidente dos EUA, Donald Trump, ordenou na sexta-feira que o governo deixasse de trabalhar com a Anthropic, e o Pentágono disse que declararia a startup um risco para a cadeia de abastecimento, dando um grande golpe no laboratório de inteligência artificial após um confronto sobre as medidas de segurança tecnológica. A Anthropic disse que contestaria qualquer designação de risco em tribunal.

Pouco depois, a rival OpenAI, que é apoiada pela Microsoft, Amazon, SoftBank e outros, anunciou o seu próprio acordo no final de sexta-feira.

"Achamos que o nosso acordo tem mais salvaguardas do que qualquer acordo anterior para implementações de IA classificadas, incluindo o da Anthropic", disse a OpenAI no sábado.

A empresa de IA afirmou que o contrato com o Departamento de Defesa, que a administração Trump renomeou para Departamento de Guerra, impõe três linhas vermelhas: a tecnologia OpenAI não pode ser usada para vigilância interna em massa, para dirigir sistemas de armas autónomas ou para quaisquer decisões automatizadas de alto risco.

"No nosso acordo, protegemos as nossas linhas vermelhas através de uma abordagem mais abrangente e multicamadas. Mantemos total discricionariedade sobre a nossa estrutura de segurança, implementamos via cloud, o pessoal autorizado da OpenAI está envolvido no processo e temos fortes proteções contratuais", disse a OpenAI.

O Pentágono assinou acordos no valor de até 200 milhões de dólares cada com os principais laboratórios de IA no ano passado, incluindo Anthropic, OpenAI e Google. O Pentágono procura preservar toda a flexibilidade na defesa e não ser limitado pelos avisos dos criadores da tecnologia contra o uso de IA pouco fiável para armas.

A OpenAI alertou que qualquer violação do seu contrato por parte do governo dos EUA poderia desencadear uma rescisão, embora tenha acrescentado: "Não esperamos que isso aconteça."

A empresa também disse que a rival Anthropic não deveria ser rotulada como um "risco para a cadeia de abastecimento", observando: "Deixámos a nossa posição sobre isto clara ao governo." – Rappler.com