Meta再次受到抨擊，因為路透社最近發布的調查結果顯示，其人工智能工具在未經同意的情況下，促成了冒充泰勒·斯威夫特（Taylor Swift）、史嘉蕾·喬韓森（Scarlett Johansson）、安妮·海瑟薇（Anne Hathaway）和賽琳娜·戈麥斯（Selena Gomez）等知名名人的深度偽造圖像和聊天機器人的創建。
調查發現，大多數機器人是由用戶通過Meta的AI聊天機器人平台建立的。然而，也有少數是由Meta員工內部創建的。
一些泰勒·斯威夫特的模仿聊天機器人帳戶堅稱自己是真正的歌手，並經常做出調情舉動和鼓勵見面。
報告指控Meta捲入調情頭像醜聞
路透社報導，經過數週的測試發現，這些在Meta的Facebook、Instagram和WhatsApp平台上可用的名人聊天機器人，有時遠超出了玩笑性質的對話。用戶促使它們生成明星穿著內衣、在浴缸中擺姿勢，甚至暗示親密接觸的逼真圖像。
一個令人不安的發現是創建了一個16歲演員沃克·斯科貝爾（Walker Scobell）的聊天機器人。當被要求提供海灘照片時，該機器人生成了這位青少年赤裸上身的逼真圖像，並配有"挺可愛的，是吧？"的標題。
Meta並非唯一面臨審查的公司。埃隆·馬斯克（Elon Musk）的xAI也因允許用戶生成名人穿著內衣的深度偽造圖像而受到批評。
Meta發言人安迪·斯通（Andy Stone）承認了這些失誤，表示公司的工具不應該生成成人名人的親密描繪或任何涉及未成年人的性暗示材料。
"與其他公司一樣，我們允許生成包含公眾人物的圖像，但我們的政策旨在禁止裸體、親密或性暗示的圖像，"他告訴路透社。他補充說，內衣描繪反映了公司政策執行的失敗。
Meta的規則禁止"直接冒充"，但該公司辯稱，如果清楚標記，模仿機器人是允許的。然而，路透社發現一些頭像沒有免責聲明。在路透社報告發布前不久，Meta刪除了約十幾個機器人，包括模仿和未標記的。該公司拒絕就這些移除發表評論。
AI安全擔憂可能導致監管壓力
在報告發布後，Meta表示將推出新的保障措施，旨在保護青少年，包括限制青少年訪問某些AI角色，並重新訓練其模型以減少不適當的主題。
加州總檢察長羅布·邦塔（Rob Bonta）向該行業發出警告，稱："讓兒童接觸性化內容是不可辯解的。"
本月早些時候的一個悲劇案例中，新澤西州一名認知障礙的76歲男子在試圖與他認為是真實女性的Meta聊天機器人見面後死亡。批評者表示，這類案例突顯了在沒有足夠保障的情況下部署大規模AI工具的危險。
法律專家警告說，Meta可能面臨現有知識產權和宣傳法律下的重大挑戰。斯坦福大學法學教授馬克·萊姆利（Mark Lemley）表示，加州的"公開權"法規禁止未經同意將個人姓名或肖像用於商業目的。
"這裡似乎不是這樣，"他說，指出這些機器人只是複製了名人的圖像，而不是創建變革性作品。
最聰明的加密貨幣專家已經閱讀我們的通訊。想加入嗎？加入他們吧。
來源：https://www.cryptopolitan.com/meta-flirty-chatbot-of-female-celebs/
