Google продвигает ИИ-агенты Gemini для Пентагона на фоне сопротивления

ИИ-агенты Google Gemini поддерживают задачи в несекретных сетях Пентагона

Google предоставит ИИ-агентов на базе Gemini Министерству обороны США для несекретной работы в сетях Пентагона, согласно news.bloomberglaw.com/federal-contracting/google-to-provide-pentagon-with-ai-agents-for-unclassified-work" target="_blank" rel="nofollow noopener">Bloomberg Law (https://news.bloomberglaw.com/federal-contracting/google-to-provide-pentagon-with-ai-agents-for-unclassified-work?utm_source=openai). Заместитель министра обороны по исследованиям и инженерным разработкам Эмиль Майкл объявил, что агенты первоначально будут работать в несекретных сетях, обслуживающих более 3 миллионов сотрудников ведомства. Министерство также выразило заинтересованность в расширении использования агентов на секретные или совершенно секретные системы, но текущая фаза остается несекретной.

Это развертывание позиционируется как поддержка задач в несекретных сетях Пентагона. Оно также создает немедленные вопросы управления, поскольку военный спрос сталкивается с мерами безопасности, установленными поставщиками.

Почему это важно для управления, этики и оборонных операций

Как сообщает TechRadar (https://www.techradar.com/pro/security/pentagon-may-sever-anthropic-relationship-over-ai-safeguards-claude-maker-expresses-concerns-over-hard-limits-around-fully-autonomous-weapons-and-mass-domestic-surveillance?utm_source=openai), министр обороны призвал компании разрешить более широкое использование ИИ для "всех законных целей", сигнализируя о давлении на смягчение ограничений моделей. Такая позиция повышает значимость закупок, соблюдения требований и надзора во всех оборонных процессах. Поставщики с жесткими ограничениями могут столкнуться с проблемами в контрактах, если формулировки допускают автономность за пределами их политики.

Академическая работа подчеркивает, что риск возрастает по мере увеличения автономности ИИ-агентов и снижения человеческого надзора, согласно исследованию arXiv (https://arxiv.org/abs/2502.02649?utm_source=openai). Для оборонных операций эта динамика делает проверяемость, пороги эскалации и распределение ответственности центральными для безопасного развертывания.

Anthropic представляет контрастный подход, отказываясь смягчать ограничения в отношении полностью автономного оружия или массового внутреннего наблюдения. "не может по совести" выполнить эти аспекты, заявил генеральный директор Дарио Амодеи, как сообщает AP News (https://apnews.com/article/9b28dda41bdb52b6a378fa9fc80b8fda?utm_source=openai). Эта позиция подчеркивает, как политика поставщиков может ограничивать определенные оборонные применения, даже если использование может быть юридически допустимым.

Непосредственное влияние ограничено: ИИ-агенты Google Gemini на этом этапе ограничены несекретными сетями Пентагона. Этот масштаб позволяет операционным командам оценить надежность и соответствие политике перед любым более широким развертыванием.

Ключевые ограничения включают меры безопасности поставщиков, которые запрещают определенные виды использования, и ведомственное стремление разрешить "все законные цели". Следующие шаги зависят от формулировок контракта, проверок рисков и согласования между мерами безопасности моделей и оборонной политикой.

Ключевые противоречия: автономность, наблюдение и меры безопасности поставщиков

Стремление Минобороны к всем законным целям против жестких мер безопасности

Призыв ведомства к "всем законным целям" создает трения с поставщиками, которые поддерживают жесткие пределы безопасности. Суть заключается в том, насколько далеко может зайти автономность при сохранении человеческой ответственности и надзора. Это противоречие сформирует определение масштаба, критерии приемлемости и пути эскалации для ИИ-агентов.

Отказ Anthropic от автономного оружия и рисков массового наблюдения

Anthropic провела четкую красную линию, отказавшись от использования, связанного с полностью автономным оружием или массовым внутренним наблюдением, как отражено в публичных заявлениях руководства. Эта позиция сужает определенные оборонные пути и отдает приоритет системам, контролируемым человеком.

Часто задаваемые вопросы об ИИ-агентах Google Gemini

Будет ли Минобороны расширять использование этих ИИ-агентов с несекретных на секретные или совершенно секретные системы, и в какие сроки?

Ведомство выразило заинтересованность в расширении на секретные или совершенно секретные сети; публичные сроки не раскрыты.

Как отказ Anthropic смягчить меры безопасности влияет на закупки ИИ Пентагоном и политику?

Это сокращает количество подходящих моделей и оказывает давление на контракты для сохранения строгих мер безопасности, влияя на формулировки допустимого использования, ожидания надзора и то, какие возможности может принять Пентагон.