マレーシアとインドネシアが性的に露骨なAI悪用でGrokを制限

マレーシアとインドネシアは、イーロン・マスク氏のソーシャルメディアプラットフォームXに関連する人工知能チャットボット、Grokへのアクセスを制限しました。この決定は、AIツールが実在する個人の性的に露骨な偽画像を生成するために使用されているという懸念に対応したものです。

Grokはユーザーが画像を作成および修正することを可能にします。しかし、両国の当局は、同意なしに写真を露出的または性的なコンテンツに改ざんするために、ますます使用されていることに懸念を表明しています。規制当局は、女性と子供に対するリスクを強調し、このツールがポルノディープフェイクを作成するために容易に悪用される可能性があると述べています。

マレーシアとインドネシアは現在、Grokを完全にブロックする世界初の国となり、当局がセキュリティー規制よりも速く進歩していると考えるAIツールに対して強い姿勢を取っています。

Grokが法的および社会的境界を越える

規制当局は、AI生成の性的画像の増加がオンライン安全法の欠陥を明らかにし、ユーザーにリスクをもたらすため、単一のチャットボットを超えたより広範な問題を懸念しています。マレーシアでは、通信規制当局は、以前にXにそのAIの誤用について警告したが、同社の対応は核心的な問題に対処するよりもユーザー報告を優先していると感じたと述べました。

インドネシアのデジタル省は、尊厳と人権の必要性を強調し、非合意の性的コンテンツを作成するAIツールが公共の信頼を損ない、脆弱なグループを危険にさらすと述べています。政府はXに対し、Grokがどのように管理および調整されているかを説明するよう要請しました。

この禁止はまた、インドネシアのオンラインコンテンツに対する長年の姿勢を反映しています。同国は以前にPornhubやOnlyFansなどのプラットフォームをブロックしており、当局者はAI生成の性的画像を、より新しい技術を通じて提供される同じ問題の延長と見なしています。

併せて読む:Grokのディープフェイクポルノ危機と今後の法的清算の内部

Grokの論争は東南アジアを超えて注目を集めています。英国では、規制当局が現在、Xがオンライン安全規制を遵守しているかどうかを評価しています。さらに、政治指導者たちは、露骨な偽画像を作成するための技術の使用を公に批判しています。

ユーザーにとって、影響は個人的なものです。Grokを使用して画像を改ざんされた一部の個人は、コンテンツを報告してもその拡散を防ぐのにほとんど役立たなかったと報告しています。一部のケースでは、他の人に投稿を報告するよう促すことで、より多くの人が偽画像を見ることになり、被害を悪化させる結果となりました。

増大する反発により、Xは特に政府がAIツールを実験的機能ではなく規制対象製品と見なし始めているため、Grokの運用方法を再考するよう促されています。

この記事「マレーシアとインドネシアが性的に露骨なAI悪用でGrokを制限」は、Technextに最初に掲載されました。