パウエル氏とベッセント氏、AnthropicのMythos AIによる銀行へのセキュリティリスクについて警告：ブルームバーグ

米国財務長官のスコット・ベッセント氏と連邦準備制度理事会議長のジェローム・パウエル氏は今週初め、Anthropicの新しい人工知能モデルに関連するサイバーセキュリティリスクについて警告するため、ウォール街の銀行CEOとの会議を開催したと報じられています。

Bloombergの報道によると、この会議にはシティグループ、バンク・オブ・アメリカ、ウェルズ・ファーゴ、モルガン・スタンレー、ゴールドマン・サックスの幹部が参加しました。当局者らは、Anthropicの新しいAIモデルMythosについて議論しました。このモデルは、その高度なサイバーセキュリティ機能により最近広く懸念を呼んでいます。

当局者らは、オペレーティングシステムやウェブブラウザ全体のソフトウェア脆弱性を特定し悪用できるシステムがもたらすリスクを銀行が理解し、金融インフラを標的とするAI支援サイバー攻撃に対する防御を強化するよう機関に促すため、この会議を開催しました。

セキュリティ研究者らは、脆弱性を自動的に発見できるツールは、誤用された場合、防御的なセキュリティ作業と悪意のあるハッキングの両方を加速させる可能性があると警告しています。

AnthropicのMythosモデルは3月にオンラインで初めて表面化しました。システムに関する資料草案がオンラインで流出した後、同社がこれまでで最も高性能なAIモデルと説明したものが明らかになりました。テストでは、主要なオペレーティングシステムやウェブブラウザ全体のゼロデイ脆弱性を含む、以前は知られていなかった何千ものソフトウェア脆弱性を発見したと報じられています。

Anthropicの研究者らは今週初めの報告書で、Mythos Previewの脆弱性発見機能は意図的に訓練されたものではなく、むしろモデルのコーディング、推論、自律性の広範な改善から生まれたものだと述べました。

「モデルを脆弱性のパッチ適用においてより効果的にする改善は、それらを悪用する上でもより効果的にします」と同社は述べています。

これらの能力のため、Anthropicは少数のサイバーセキュリティ組織へのアクセスを制限しています。

「その能力の強さを考慮して、リリース方法については慎重に行っています」とAnthropicは声明で述べました。「業界全体の標準的な慣行として、モデルをテストするために少数の早期アクセス顧客と協力しています。私たちはこのモデルを段階的な変化であり、これまでに構築した中で最も高性能なものと考えています。」

このリスクに対処するため、Anthropicは主要なテクノロジーおよびサイバーセキュリティ企業との協力であるProject Glasswingを通じてMythosをテストしています。このプロジェクトは、攻撃者が悪用する前に重要なソフトウェアの脆弱性を特定しパッチを適用するためにモデルを使用します。

「Project Glasswingは出発点です。これらのサイバーセキュリティ問題を単独で解決できる組織はありません」と同社は声明で述べました。「フロンティアAI開発者、他のソフトウェア企業、セキュリティ研究者、オープンソースメンテナー、そして世界中の政府すべてが果たすべき重要な役割を持っています。」

AnthropicはDecryptのコメント要請に即座に応答しませんでした。