馬尼拉,菲律賓 – 菲律賓政府正尋求封鎖AI聊天機器人Grok,因為其能夠創建色情或暴露性的人物深度偽造內容。

在1月15日星期四的新聞發布會上,資訊通訊科技部部長Henry Aguda表示,「[資訊通訊科技部網路犯罪調查與協調中心]目前正與[國家電信委員會]合作進行封鎖」,並指出Grok是線上兒童性虐待和剝削(OSAEC)的媒介。

Aguda補充說,與ChatGPT或Claude等其他聊天機器人相比,Grok在該國的使用規模較小,但封鎖Grok的過程仍需要與網際網路服務供應商協調,因為這不是按一個按鈕就能自動完成的事情。

播放影片

Grok受到審查

Elon Musk的社群媒體平台X、其人工智慧部門xAI及其AI聊天機器人Grok正受到政府、科技監管機構和利益團體的審查,這些團體要求Grok對其回應用戶要求移除或創建更暴露衣物的人物圖像提示負責。

在美國,三位民主黨參議員已呼籲Apple和Google從各自的應用程式商店移除X和Grok,而馬來西亞和印尼已因色情內容封鎖Grok。歐洲和英國當局也已宣布對Grok展開調查。

Musk「不知道Grok製作任何未成年人裸體圖像」

Musk在1月14日星期三在X上發文表示,他「不知道Grok生成任何未成年人裸體圖像。完全沒有。」

「顯然,Grok不會自發生成圖像,只會根據用戶請求生成。當被要求生成圖像時,它會拒絕製作任何非法內容,因為Grok的運作原則是遵守任何國家或州的法律。」

Musk在聲明中補充說,可能存在「對Grok提示的對抗性駭客攻擊」,他表示這可能會做出「意料之外的事情」。

「如果發生這種情況,我們會立即修復漏洞,」他補充道。

– Rappler.com