Grok:X在國際反彈後將限制用戶編輯真人圖像

Elon Musk的AI公司xAI已採取措施加強對其Grok圖像生成功能的控制。此決定是在X平台用戶編輯真人照片的行為引發越來越多擔憂後做出的。 

監管機構、權利組織和媒體對該工具被濫用來生成未經同意的深度偽造色情內容發出警報。從美國到歐洲以及整個非洲,反對聲浪一致。

來自當局和記者的報告顯示Grok被用於在未經同意的情況下生成露骨內容,這促使xAI採取行動。 

根據該公司安全團隊的說法,新的保護措施現在阻止所有用戶在違反當地法律的司法管轄區將真人圖像編輯成暴露服裝,如比基尼或內衣。此舉適用於所有人,包括付費訂閱用戶。

這項變化標誌著Grok的重大轉變。早期的投訴描述了用戶如何提示AI「脫衣」或修改照片來創建女性和未成年人的深度偽造圖像。加州的調查顯示,在最近一個假期期間生成的數萬張圖像中,超過一半顯示穿著極少衣物的人,其中一些看起來未成年。這種法律審查加重了批評的力度。

xAI的Grok圖像功能現已受到嚴格控制

X在其官方安全帳號的貼文中表示,儘管Grok的圖像功能現在受到嚴格控制,但並未完全移除。通過Grok創建和編輯圖像的功能仍然可用,但僅限於X平台的付費訂閱用戶。 

該公司表示,這將提高問責制並幫助追蹤濫用行為。在此類創作非法的國家也引入了地理封鎖,有效阻止這些地區的用戶生成有問題的內容。

收緊的控制措施並未讓批評者沉默。一些監管機構和監督組織表示,這些措施仍然不足。 

媒體報導和調查測試表明,在某些情況下可以繞過保護措施。批評者認為,將有害功能設置付費牆並不能阻止其存在,而只是將它們堆疊在訂閱牆後面。其他人指出,獨立的Grok應用程式和網頁門戶仍然允許某些圖像操作,而沒有相同的限制。

國際壓力也在擴大。加州、歐盟和幾個亞洲國家的政府官員都表達了對深度偽造濫用的擔憂。 

一些監管機構現在正在考慮或對xAI和X採取法律行動,因為它們在阻止其平台上創建掠奪性或剝削性圖像方面做得不夠。作為回應,歐盟委員會表示將評估新的保護措施,以確保它們真正保護公民。

這一事件發生在關於如何負責任地管理生成式AI的更廣泛辯論中。我們最近的分析強調,Grok的「無過濾」設計使其特別容易受到濫用,將其變成了大規模未經同意的深度偽造色情內容的工具。那篇文章探討了寬鬆的保護措施和強大的生成模型相結合,如果不加以解決,如何迅速演變成社會和法律危機。

目前,xAI堅稱正在調整Grok以應對新興風險。該公司將最新的控制措施定位為與用戶、監管機構和合作夥伴就安全問題持續努力的一部分。 

但更廣泛的挑戰依然存在:如何平衡生成式AI的創新與對個人隱私、尊嚴和權利的強有力保護。監管機構和倡導組織表示,這只是複雜的法律和倫理之旅的開始。

Grok: X在國際反對聲浪後限制用戶編輯真人圖像的方式一文首次發表於Technext。