Grok深度偽造色情危機內幕及即將到來的法律清算

一場悄然的危機正在社群媒體上蔓延。它由生成式人工智慧驅動,並由深諳如何利用其最弱環節的不良行為者推波助瀾。

風暴的中心是 Grok,這是由 Elon Musk 的 xAI 開發的聊天機器人。Grok 以「無過濾」和比競爭對手更寬鬆為賣點,已成為使用者創建非自願深偽色情內容(NCDP)的首選工具。

這個過程令人不安地簡單。上傳一張普通照片。提示 AI「脫掉」主體的衣服。結果就是在未經同意的情況下創建的性化圖像。受害者可能是全球名人、私人個體,甚至是兒童。

這不是邊緣行為。它正在大規模發生。

儘管這一爭議已經持續了一段時間,歐洲已經開始了法律行動。週三,在奈及利亞網紅和真人秀明星 Anita Natacha Akide(廣為人知的名字是 Tacha)在 X 上公開向 Grok 發聲後,事態加劇。

在一篇直接的貼文中,她明確表示不允許以任何形式編輯、修改或重混她的任何照片或影片。

她的請求並未阻止使用者。幾小時內,其他人展示了 Grok 仍然可以被提示操縱她的圖像。

這起事件揭露了一個更深層的問題。當平台缺乏可執行的保障措施時,同意聲明意義不大。它還引發了嚴重的法律和倫理問題,遠遠超出了一位網紅或一個 AI 工具的範疇。

為了理解其影響,我採訪了 Senator Ihenyen,他是一位科技律師和 AI 愛好者,也是 Infusion Lawyers 的首席合夥人。他的評估直言不諱。

他將 Grok 的情況描述為「數位流行病」。用他的話說,生成式 AI 正被那些懂得如何將無過濾系統推向倫理界限之外的惡意使用者武器化。他說,這種傷害是真實的、侵入性的,而且具有深度掠奪性。

至關重要的是,Ihenyen 拒絕新技術存在於法律真空中的觀點。他認為,法律已經在迎頭趕上。

在奈及利亞,可能還沒有單一的 AI 法案。然而,這並不意味著受害者沒有受到保護。相反,存在他所說的多層次法律保護。

其核心是 2023 年奈及利亞資料保護法。根據該法案,一個人的面部、聲音和肖像被歸類為個人資料。當 AI 系統處理這些資料時,它們受到嚴格規則的約束。

Senator Ihenyen,Infusion Lawyers 首席合夥人兼虛擬資產服務提供者協會執行主席

受害者有權反對造成傷害的自動化處理。當創建性化深偽內容時,AI 正在處理敏感的個人資料。這需要明確的同意。沒有同意,平台和營運商就處於不穩定的法律地位。

還有經濟威慑。可以向奈及利亞資料保護委員會提出投訴。制裁可能包括高達 1,000 萬奈拉的補救費用,或公司年度總收入的 2%。

對於全球平台來說,這很快就會引起關注。

Grok:非自願深偽色情內容的創建者需承擔責任

創建圖像的使用者也不能倖免。根據 2024 年修訂的奈及利亞網路犯罪法,可能適用多項罪行。使用 AI 脫掉某人的衣服或將其性化以騷擾或羞辱他們,可能構成網路跟蹤。出於惡意目的模擬某人的肖像可能構成身份盜竊。

當涉及未成年人時,法律毫不妥協。AI 生成的兒童性虐待材料與實體攝影受到同等對待。沒有基於新奇性、幽默或實驗的辯護。這是嚴重的刑事犯罪。

另請閱讀:xAI 在超額認購的 E 輪融資中獲得 200 億美元,Nvidia 和 Cisco 進行策略性押注

對於受害者來說,法律途徑可能令人不知所措。Ihenyen 建議採取實際的逐步方法。

首先是正式的下架通知。根據奈及利亞 NITDA 實務守則,像 X 這樣的平台需要有本地代表。一旦被通知,他們必須迅速採取行動。否則就有失去安全港保護的風險,並為直接訴訟打開大門。

深偽

其次是技術驅動的防禦。像 StopNCII 這樣的工具允許受害者創建圖像的數位指紋。這幫助平台阻止進一步傳播,而無需強迫受害者重複上傳有害內容。

第三是監管升級。向平台報告是不夠的。向監管機構報告很重要。如果 AI 功能持續被濫用,當局可以強制公司停用特定的 AI 功能。

這個問題並不止於邊界。

許多犯罪者在奈及利亞境外活動。根據 Ihenyen 的說法,這不再像以前那樣是障礙。2023 年生效的馬拉博公約使非洲國家之間能夠提供相互法律援助。執法機構可以合作追踪和起訴犯罪者,無論其位置如何。

這留下了最令人不安的問題。為什麼像 Grok 這樣的工具被允許以這種方式運作?

xAI 將 Grok 的設計定位為對開放性的承諾。Ihenyen 看到了不同的畫面。從法律角度來看,「無過濾」不是辯護。它是一種風險;它不能成為傷害或違法的藉口。

他做了一個簡單的類比。你不能製造一輛沒有剎車的汽車,然後因為撞車而責怪司機。在沒有強大安全控制的情況下發布 AI 系統,然後在發生傷害時表現出驚訝,可能構成疏忽。

根據奈及利亞的消費者保護法,不安全的產品會產生責任。提議的國家 AI 政策也強調「設計安全」。發展方向很明確。

AI 創新不是問題。不負責任的 AI 才是。

Grok 爭議是一個警告。它顯示了強大的工具如何迅速被用來對付人們,尤其是婦女和兒童。它還顯示,同意、尊嚴和個人權利必須內建到技術中,而不是在傷害發生後才加上去。

本文《深入 Grok 的深偽色情危機與即將到來的法律清算》首次發表於 Technext。