印度要求 X 處理 Grok 生成的淫穢內容

印度政府已下令Elon Musk旗下的部落格平台X對其Grok人工智慧聊天機器人進行修改,原因是該機器人產生猥褻的AI內容。在用戶和立法者舉報多起猥褻內容事件後,印度要求該平台立即對聊天機器人進行技術和程序上的修改。

根據印度政府的說法,這些案例涉及聊天機器人被用於創建猥褻圖像,包括使用該工具創建的AI變造女性圖像。印度IT部於週五發布命令,要求該平台對Grok採取糾正措施,包括限制生成涉及「裸露、性化、露骨色情或其他非法」內容的材料。該部還向該平台發出72小時最後通牒以實施這些修改。

印度政府命令X對Grok進行技術修改

作為72小時最後通牒交付成果的一部分,該部還要求X提交行動報告,詳細說明其為防止託管或傳播不雅內容所採取的措施。這些內容包括「猥褻、色情、粗俗、不雅、露骨色情、戀童或法律禁止的其他內容」。該命令警告稱,如果該平台未能執行強制性措施,可能會危及其「安全港」保護。

印度的命令是在用戶提出擔憂的情況下發布的,用戶分享了Grok被提示修改個人(主要是女性)圖像,使其看起來穿著比基尼的例子。這個問題是由印度國會議員Priyanka Chaturvedi提交的正式投訴引發的。Chaturvedi警告所有擁有AI聊天機器人的大型公司,並補充說必須設置護欄來檢查像Grok這樣的功能,以免聊天機器人侵犯人類尊嚴。

另外,用戶還舉報了多起AI聊天機器人被用於生成涉及未成年人的性化圖像的事件,X在週五承認了這個問題。該平台聲稱這是由於某些保障措施出現漏洞造成的,隨後迅速刪除了生成的圖像。該平台還敦促用戶正式向聯邦調查局(FBI)或NCMEC的CyberTipline舉報,並指出X致力於防止此類問題。

X可能因不合規而面臨法律問題

據用戶稱,使用聊天機器人生成的不雅女性圖像仍留在平台上。最新命令是在印度IT部向社交媒體平台發布諮詢意見之後發出的,提醒它們遵守管理猥褻和露骨色情內容的當地法律是保留用戶生成材料法律豁免權的先決條件。印度敦促公司改善護欄,並警告不合規可能會引發法律訴訟。

「茲重申,不遵守上述要求將被嚴肅看待,可能會對您的平台、其負責人員以及平台上違反法律的用戶造成嚴格的法律後果,且不另行通知,」該命令警告道。印度政府還警告X,如果未能遵守其指令,該國有權根據印度的IT法和刑法對該平台提起法律訴訟。

印度已成為最大的數位市場之一,該國被視為政府願意在多大程度上推動平台對AI生成內容負責的關鍵測試案例。如果該國加強執法,可能會對在其他司法管轄區營運的全球科技公司產生連鎖反應。該命令也是在X繼續在法庭上挑戰印度的內容監管規則之際發布的。

該平台認為聯邦政府的撤除權力有過度擴張的風險,儘管該平台已遵守該國提出的大多數封鎖指令。與此同時,Grok對X上的用戶很有幫助,大多數用戶使用該平台進行即時事實查核和對全球事件的評論,使其輸出比獨立AI工具更加顯眼,政治敏感性也更高。

不要只是閱讀加密貨幣新聞。要理解它。訂閱我們的電子報。完全免費。