Googleは、AIチャットボットGeminiが大規模な「蒸留攻撃」に直面していると発表

GoogleのAIチャットボットGeminiが大規模な情報窃取の標的となり、攻撃者がその仕組みをコピーするために大量の質問を浴びせています。ある作戦だけで10万件以上のクエリがチャットボットに送信され、それを賢くしている秘密のパターンを引き出そうとしています。

同社は木曜日、いわゆる「蒸留攻撃」が悪化していると報告しました。悪意のある行為者は、Geminiの応答の背後にあるロジックを解明するために、次々と質問を送り込んでいます。彼らの目標はシンプルです:数十億ドルの開発費をかけずに、Googleの技術を盗んで自社のAIシステムを構築または改善することです。

Googleは、ほとんどの攻撃者は苦労せずに先を行こうとする民間企業や研究者だと考えています。同社の報告によると、攻撃は世界中から来ました。GoogleのThreat Intelligence Groupを率いるJohn Hultquistは、カスタムAIツールを使用する小規模企業も間もなく同様の攻撃に直面する可能性が高いと述べました。

テクノロジー企業は、AIチャットボットの構築に数十億ドルを投じてきました。これらのシステムの内部構造は王冠の宝石のように扱われています。これらの攻撃を捕捉するための防御措置が講じられていても、主要なAIシステムは、インターネットにアクセスできる人なら誰でも対話できるため、容易な標的のままです。

昨年、OpenAIは中国企業DeepSeekを非難し、蒸留を使用してモデルを改善したと主張しました。Cryptopolitanは1月30日、OpenAIが中国企業が蒸留を使用してAIモデルを盗んだと非難した後、イタリアとアイルランドがDeepSeekを禁止したと報じました。この技術により、企業はコストのほんの一部で高価な技術をコピーできます。

攻撃者はなぜこれを行っているのか?

経済性は厳しいものです。最先端のAIモデルを構築するには、数億ドル、場合によっては数十億ドルかかります。業界レポートによると、DeepSeekは蒸留を使用してR1モデルを約600万ドルで構築したと報じられている一方、ChatGPT-5の開発は20億ドルを超えました。モデルのロジックを盗むことで、その膨大な投資をほぼゼロに削減できます。

Geminiへの攻撃の多くは、「推論」または情報処理を支援するアルゴリズムを標的にしていた、とGoogleは述べています。100年分の取引戦略や顧客情報のような機密データで独自のAIシステムをトレーニングする企業は、今や同じ脅威に直面しています。

「あなたのLLMが100年分の取引方法の秘密の思考でトレーニングされているとしましょう。理論的には、その一部を蒸留することができます」とHultquistは説明しました。

国家支援ハッカーが参戦

この問題は、金銭に飢えた企業を超えています。2024年3月に米国の制裁を受けた中国政府のハッキンググループAPT31は、昨年後半にGeminiを使用して、アメリカの組織に対する実際のサイバー攻撃を計画しました。

同グループは、GeminiとHexstrikeを組み合わせました。Hexstrikeは150以上のセキュリティプログラムを実行できるオープンソースのハッキングツールです。Googleの報告によると、彼らはリモートコード実行の欠陥、Webセキュリティをバイパスする方法、SQLインジェクション攻撃を分析しました - すべて特定の米国のターゲットを対象としています。

Cryptopolitanは以前、同様のAIセキュリティーの懸念を取り上げ、ハッカーがAIの脆弱性を悪用していると警告していました。APT31のケースは、これらの警告が的中していたことを示しています。

Hultquistは2つの主要な懸念を指摘しました。最小限の人間の支援で侵入全体にわたって活動する敵対者と、攻撃ツールの開発を自動化することです。「これらは、敵対者が大きな利点を得て、最小限の人間の干渉で侵入サイクルを通過できる2つの方法です」と彼は述べました。

ソフトウェアの弱点を発見してから修正を実施するまでの期間、いわゆるパッチギャップが劇的に広がる可能性があります。組織は防御を展開するのに数週間かかることがよくあります。AIエージェントが脆弱性を自動的に発見してテストすることで、攻撃者ははるかに速く動くことができます。

「私たちはAIの利点を活用し、人間をループから徐々に排除して、マシン速度で対応できるようにする必要があります」とHultquistはThe Registerに語りました。

財務的な利害関係は莫大です。IBMの2024年データ侵害報告書は、知的財産の盗難が現在、組織に1レコードあたり173ドルのコストをもたらし、知的財産に焦点を当てた侵害が前年比27%増加していることを発見しました。AIモデルの重みは、この地下経済における最高価値のターゲットを表しています - 単一の盗まれた最先端モデルは、ブラックマーケットで数億ドルで取引される可能性があります。

Googleはこれらのキャンペーンに関連するアカウントを閉鎖しましたが、攻撃は「世界中から」続いている、とHultquistは述べました。AIがより強力になり、より多くの企業がそれに依存するにつれて、このデジタルゴールドラッシュが激化することを予想してください。問題は、より多くの攻撃が来るかどうかではなく、防御側が追いつくことができるかどうかです。

メンターシップと毎日のアイデアで戦略を磨きましょう - 当社の取引プログラムへの30日間無料アクセス