馬來西亞和印尼因性露骨 AI 濫用限制 Grok

馬來西亞和印尼已限制使用 Grok,這是與 Elon Musk 的社群媒體平台 X 相關的人工智慧聊天機器人。此決定是為了回應外界對該 AI 工具被用於生成真實個人的性暗示假圖像的擔憂。

Grok 讓使用者能夠創建和修改圖像。然而,兩國當局都表達了擔憂,認為它越來越多地被用於在未經同意的情況下將照片操控成暴露或性化的內容。監管機構強調了對婦女和兒童的風險,表示該工具很容易被濫用來製作色情深偽影像。

馬來西亞和印尼現已成為世界上首批完全封鎖 Grok 的國家,對當局認為發展速度快於安全法規的 AI 工具採取強硬立場。

Grok 跨越法律和社會界線

監管機構擔心的不僅僅是單一聊天機器人的問題,因為 AI 生成的性圖像的興起揭示了線上安全法律的漏洞,並對使用者構成風險。在馬來西亞,通訊監管機構指出,它之前曾就 AI 的濫用問題警告 X,但認為該公司的回應優先考慮使用者舉報,而非解決核心問題。

印尼數位事務部強調尊嚴和人權的必要性,表示創建未經同意的性內容的 AI 工具會損害公眾信任並危及弱勢群體。政府已要求 X 解釋 Grok 如何受到控制和監管。

此禁令也反映了印尼對線上內容的長期立場。該國此前曾封鎖 Pornhub 和 OnlyFans 等平台,官員認為 AI 生成的性圖像是同一問題的延伸,只是現在透過更新的技術傳播。

延伸閱讀:Grok 深偽色情危機內幕及即將到來的法律清算

Grok 爭議正在東南亞以外的地區受到關注。在英國,監管機構目前正在評估 X 是否遵守線上安全法規。此外,政界領袖公開批評使用技術創建露骨假圖像的行為。

對使用者而言,影響是個人的。一些圖像被 Grok 修改的個人表示,舉報內容對防止其傳播幾乎沒有幫助。在某些情況下,鼓勵他人舉報貼文只會導致更多人看到假圖像,加劇了傷害。

日益增加的反彈促使 X 重新考慮 Grok 的運作方式,特別是當政府開始將 AI 工具視為受監管產品而非實驗性功能時。

本文《馬來西亞和印尼因性暗示 AI 濫用限制 Grok》首次發表於 Technext。