印尼、馬來西亞暫停 Grok！各國加強監管 AI 生成影像風險

根據《TechCrunch》報導，印尼與馬來西亞政府最近宣布將暫時封鎖對 xAI 旗下聊天機器人 Grok 的存取權限！這是因為 Grok 最近被人發現在社群平台 X 上生成了大量涉及真實女性與未成年人的 deepfakes 圖片，引發多國政府對數位安全與人權侵犯的高度關注。

印尼通訊與數位部長 在官方聲明中表示，已正式約談 X 平台代表以釐清責任。隨後，馬來西亞也確認採取了類似的限制措施。除了東協國家，印度資訊科技部也已命令 X 平台必須採取預防措施，防止 Grok 產出違法與淫穢內容。

同時歐盟委員會已要求 xAI 保留所有相關紀錄，作為後續調查的基礎；英國通訊監理機構 Ofcom 則著手評估該服務是否違反合規標準，並獲得英國首相 Keir Starmer 支持。在美國，雖然行政部門尚未對此公開表態，但民主黨參議員已致函 Apple 與 Google，建議評估 X 平台是否因違反內容安全規定而須從應用程式商店下架。

針對這種爭議， xAI 先前曾公開承認部分產出內容違反了道德標準與美國法律，並針對影像生成功能增設了訂閱者權限門檻，但目前該限制在獨立應用程式上仍存有差異。

儘管 xAI 承認部分產出內容違法，但執行長 Elon Musk 仍對各國政府的監管行動表示反對，並將相關限制措施定調為「擴張審查權的藉口」。

責任編輯：Claire

核稿編輯：Chris

本文初稿由 INSIDE 使用 AI 協助編撰，並經人工審校確認；加入 INSIDE 會員，獨享 INSIDE 科技趨勢電子報，點擊立刻成為會員！

延伸閱讀：

• xAI 於 E 輪融資募得 200 億美元，持續加速 AI 基礎設施與 Grok 發展
• 馬斯克 xAI 控告前工程師竊取機密！疑將技術帶往 OpenAI
• 外媒：Grok 在 X 上散布反猶太主義言論，導致 xAI 和美政府合作破局！