СМИ: Пентагон усиливает давление на Anthropic на фоне масштабной интеграции ИИ в военную сферу

• Anthropic оказалась под давлением США из-за военного применения ИИ.
• В частности, Пентагон требует полного доступа к Claude.
• Минобороны готово применить к Anthropic соответствующий закон, чтобы изменить контроль над ИИ.

Министерство обороны США активизировало переговоры с Anthropic относительно использования ее ИИ-модели Claude в военных целях. Чиновники Пентагона направили компании «лучшее и финальное предложение» накануне установленного дедлайна. Об этом сообщили в CBS News со ссылкой на связанные с ситуацией источники.

По данным источников, министр обороны Пит Хегсет дал компании время до конца недели, чтобы согласиться на полный доступ к технологии для «законного использования». 

В случае отказа Anthropic может потерять контракты с армией США и получить статус риска для цепочки поставок.

Ключевые требования Пентагона касаются:

• полного контроля над ИИ-технологией для военных операций;
• возможности применения модели без ограничений, кроме законодательных;
• потенциального использования закона «Об оборонном производстве» для принуждения к сотрудничеству.

В то же время, согласно изданию, Anthropic настаивает на предохранителях. Компания стремится ограничить использование Claude для массовой слежки и не допустить его применения без участия человека в финальных решениях о поражении целей.

По словам источников, CEO компании Дарио Амодей обеспокоен тем, что модель «не застрахована от галлюцинаций» и может привести к фатальным ошибкам без человеческого контроля.

Напомним, что напряжение вокруг сотрудничества обострилось после сообщений о том, что модель Claude уже использовалась военными США. ИИ помогал в операции против Николаса Мадуро, которая включала удары по объектам в Каракасе.

Вместе с тем Пентагон активно расширяет портфель ИИ-решений:

• интеграция чат-бота Grok от компании xAI в военные системы;
• контракт на более чем $99 млн со стартапом TurbineOne для создания офлайн-решений распознавания угроз (дроны, позиции противника);
• сделка до $200 млн с OpenAI на разработку ИИ-прототипов в сфере нацбезопасности в рамках инициативы OpenAI for Government.