Google在遭遇反對聲浪之際為五角大廈推進Gemini AI代理程式

Google Gemini AI 代理在五角大廈非機密網路上支援任務

根據 news.bloomberglaw.com/federal-contracting/google-to-provide-pentagon-with-ai-agents-for-unclassified-work" target="_blank" rel="nofollow noopener">Bloomberg Law (https://news.bloomberglaw.com/federal-contracting/google-to-provide-pentagon-with-ai-agents-for-unclassified-work?utm_source=openai) 報導,Google 將為美國國防部提供由 Gemini 驅動的 AI 代理,用於五角大廈網路上的非機密工作。國防部負責研究與工程的副部長 Emil Michael 宣布,這些代理最初將在為該部門 300 多萬名人員服務的非機密網路上運作。該部門也表示有興趣將代理擴展至機密或最高機密系統,但目前階段仍維持在非機密層級。

此次部署被定位為在五角大廈非機密網路上支援任務。隨著軍事需求遇上供應商設定的安全防護措施,這也立即引發了治理問題。

為何這對治理、倫理和國防運作至關重要

據 TechRadar (https://www.techradar.com/pro/security/pentagon-may-sever-anthropic-relationship-over-ai-safeguards-claude-maker-expresses-concerns-over-hard-limits-around-fully-autonomous-weapons-and-mass-domestic-surveillance?utm_source=openai) 報導,國防部長已敦促企業允許更廣泛的 AI 用途以實現「所有合法目的」,這顯示出放寬模型限制的壓力。這種立場提升了國防工作流程中採購、合規和監督的重要性。若語言似乎允許超出其政策的自主性,具有嚴格限制的供應商可能面臨合約摩擦。

根據 arXiv 研究 (https://arxiv.org/abs/2502.02649?utm_source=openai),學術研究強調,隨著 AI 代理自主性增加和人類監督減少,風險也會上升。對於國防運作而言,這種動態使得可審計性、升級門檻和問責分配成為安全部署的核心。

Anthropic 代表了一種對比鮮明的方法,拒絕放寬圍繞全自主武器或大規模國內監控的防護措施。據 AP News (https://apnews.com/article/9b28dda41bdb52b6a378fa9fc80b8fda?utm_source=openai) 報導,執行長 Dario Amodei 表示「無法憑良心」遵守這些方面。這一立場強調了即使使用可能在法律上是允許的,供應商政策也可能限制某些國防應用。

立即影響是有限的:Google Gemini AI 代理在此階段僅限於五角大廈非機密網路。這一範圍允許營運團隊在任何更廣泛的推展之前評估可靠性和政策適配性。

關鍵限制包括禁止某些用途的供應商防護措施,以及部門推動授權「所有合法目的」。下一步取決於合約語言、風險審查以及模型防護措施與國防政策之間的一致性。

關鍵張力:自主性、監控和供應商防護措施

國防部推動所有合法目的對比嚴格防護措施

該部門對「所有合法目的」的呼籲與維持嚴格安全限制的供應商產生摩擦。關鍵在於自主性可以延伸到何種程度,同時保留人類責任和監督。這種張力將影響 AI 代理的範圍界定、驗收標準和升級路徑。

Anthropic 對自主武器和大規模監控風險的拒絕

Anthropic 通過拒絕與全自主武器或大規模國內監控相關的用途劃下了明確紅線,這反映在其領導層的公開聲明中。這一立場縮小了某些國防途徑,並優先考慮人類控制的系統。

關於 Google Gemini AI 代理的常見問題

國防部是否會將這些 AI 代理從非機密擴展到機密或最高機密系統,時間表為何?

該部門已表示有興趣擴展到機密或最高機密網路;尚未公布公開時間表。

Anthropic 拒絕放寬防護措施如何影響五角大廈的 AI 採購和政策?

這減少了符合資格的模型,並對合約施加壓力以保留嚴格的防護措施,影響可接受的使用語言、監督期望以及五角大廈可以採用的功能。