マニラ、フィリピン – フィリピン政府は、人々の性的に露骨または露出度の高いディープフェイクを作成する能力を理由に、AIチャットボットGrokをフィリピンでブロックしようとしています。

2025/1/15木曜日の記者会見で、情報通信技術省のヘンリー・アグダ長官は、「[DICTのサイバー犯罪調査調整センター]は現在[国家通信委員会]と協力してそのブロックを行っている」と述べ、Grokを児童に対するオンライン性的虐待と搾取(OSAEC)の媒体として挙げました。

アグダ氏は、国内におけるGrokの普及率はChatGPTやClaudeのような他のチャットボットに比べて小さいものの、Grokのブロックプロセスにはインターネットサービスプロバイダーとの調整が必要であり、ボタン一つで自動的に行われるものではないと付け加えました。

動画を再生

監視下に置かれるGrok

イーロン・マスク氏のソーシャルメディアプラットフォームX、その人工知能部門xAI、そしてAIチャットボットGrokは、人物の画像から衣服を削除したり、より露出度の高い衣服を作成したりするよう要求するプロンプトに対するGrokの応答について、政府、技術監視団体、利益団体から説明責任を求められています。

米国では、3人の民主党上院議員がAppleとGoogleに対し、それぞれのアプリストアからXとGrokを削除するよう求めており、マレーシアとインドネシアは既に露骨なコンテンツを理由にGrokを禁止しています。欧州と英国の当局もGrokに対する調査を発表しています。

マスク氏、Grokが作成した「未成年者の裸の画像は認識していない」

マスク氏は2025/1/14水曜日のX上の投稿で、「Grokが生成した未成年者の裸の画像は一切認識していない。文字通りゼロだ」と述べました。

「明らかに、Grokは自発的に画像を生成するのではなく、ユーザーのリクエストに応じてのみ生成します。画像の生成を求められた場合、違法なものの作成を拒否します。Grokの動作原則は、あらゆる国または州の法律に従うことだからです。」

マスク氏は声明の中で、「Grokプロンプトに対する敵対的ハッキング」の事例が存在する可能性があり、それが「予期しないこと」を引き起こす可能性があると付け加えました。

「それが起こった場合、私たちは直ちにバグを修正します」と彼は付け加えました。

– Rappler.com