Caitlin Kalinowski, ex-chefe de robótica da OpenAI, demitiu-se do seu cargo após trabalhar para a empresa por pouco mais de um ano. Kalinowski citou preocupações de que os militares dos EUA poderiam usar as ferramentas de IA da empresa para vigilância doméstica e para sistemas automatizados e direcionados em armas dos EUA.
A chefe de engenharia de hardware e robótica da OpenAI, Caitlin Kalinowski, deixou a empresa de IA após servir desde novembro de 2024. Kalinowski anunciou a sua demissão a 7 de março, citando preocupações sobre um acordo alcançado entre a OpenAI e o Departamento de Defesa dos EUA em fevereiro.
Militares dos EUA vão usar IA para vigilância doméstica, afirma Kalinowski
Segundo Kalinowski, a sua demissão foi motivada pela intenção do Departamento de Defesa dos EUA de usar ferramentas e capacidades de IA para realizar vigilância de cidadãos norte-americanos sem supervisão judicial. A ex-funcionária da OpenAI escreveu no X que a IA tem um papel vital a desempenhar na segurança nacional.
Ela explicou que o Departamento de Defesa dos EUA pretende usar IA para vigilância e armas autónomas, uma decisão com a qual discorda. Ela disse que a sua decisão "foi sobre princípios, não sobre pessoas" e que estava orgulhosa do que a equipa da OpenAI construiu durante o seu tempo na empresa.
Em fevereiro, o Pentágono dos EUA intensificou conversações com as principais empresas de IA sobre a implementação de modelos automatizados em sistemas classificados. O Cryptopolitan relatou que o Pentágono estava a pressionar conversações com a Anthropic e a OpenAI para incorporar ferramentas de IA em redes militares classificadas.
Emil Michael, o Diretor de Tecnologia do Pentágono, disse numa reunião na Casa Branca com líderes tecnológicos que os militares querem que os modelos de IA operem em redes classificadas e não classificadas sem limitações ou restrições.
As negociações entre o governo dos EUA e a Anthropic atingiram um impasse, pois os seus líderes traçaram linhas firmes de que a sua tecnologia não seria usada para operações de vigilância doméstica e sistemas de mira de armas autónomas. A empresa desafiou o ultimato do Pentágono para remover as salvaguardas de IA no final de fevereiro.
O CEO da Anthropic, Dario Amodei, manteve a sua posição, recusando-se a permitir que a tecnologia da empresa fosse usada em expedições militares. Em resposta, Trump instruiu todas as agências federais a parar de usar a tecnologia da Anthropic no final de fevereiro.
OpenAI impôs restrições à implementação militar de IA
O departamento de defesa chegou a um acordo com a OpenAI que desde então atraiu críticas. Sam Altman mencionou que o acordo parecia bastante oportunista e esclareceu que a empresa impôs restrições sobre como as suas ferramentas de IA serão usadas em operações militares.
No entanto, o desafio de Kalinowski afirma que o anúncio foi apressado, sem as salvaguardas necessárias implementadas. Ela acrescentou que a sua saída foi baseada em preocupações de governação, que são demasiado importantes para serem apressadas.
A OpenAI confirmou a saída de Kalinowski numa declaração, mas afirmou que as ligações da empresa com departamentos de defesa abrem caminho para o uso responsável de ferramentas de IA na segurança nacional.
Em fevereiro, a OpenAI anunciou que iria implementar uma versão personalizada do ChatGPT na plataforma empresarial de IA segura do Departamento de Guerra chamada GenAI.mil. A empresa observou que as suas colaborações com departamentos militares e de defesa derivam do papel crítico da IA na proteção de pessoas e na prevenção de conflitos.
O atrito entre o governo dos EUA e empresas de IA sobre o avanço militar da IA também levou mais investigadores a deixar as empresas de IA. Um dos principais investigadores de salvaguardas da Anthropic demitiu-se com uma declaração: "O mundo está em perigo."
Outro investigador da OpenAI também deixou o seu cargo, dizendo que a tecnologia de IA tem uma forma de controlar os seres humanos que os programadores não conseguem compreender ou prevenir.
Zoë Hitzig, uma ex-investigadora da OpenAI, também deixou a empresa a 11 de fevereiro. Ela demitiu-se no mesmo dia em que a OpenAI anunciou que tinha começado a testar anúncios no seu LLM ChatGPT. Ela afirmou que a empresa de IA estava a cometer o mesmo erro que o Facebook tinha cometido.
Hitzig expressou as suas preocupações de que o papel único do ChatGPT como confidente para divulgações profundamente pessoais (medos médicos, problemas de relacionamento, crenças religiosas) torna a segmentação de anúncios especialmente arriscada.
Fonte: https://www.cryptopolitan.com/openai-robotics-boss-resigns-ai-warning/
