為什麼人們不斷幻想 AI 帶來末日？

大家好，我是 Michael Reilly。

\ 2024年才剛開始，但有沒有人也被圍繞人工智慧的戲劇性和過度反應弄得筋疲力盡？對我來說特別引人注目的是，有些人願意引用災難——真正的末日景象——來描述他們那些時髦的聊天機器人和圖像生成器。

\ 我特別想到最近在 Twitter 上 Vinod Khosla 和 Marc Andreessen 之間的小爭執，他們是矽谷最著名的兩位風險投資家，也都是 OpenAI 的投資者。原本只是討論 OpenAI 的專有代碼是否應該開源，卻不知怎麼演變成將公司產品與曼哈頓計劃相提並論。

\ Khosla 的觀點似乎集中在開源高度複雜的 AI 代碼給可能濫用它的人所帶來的國家安全隱憂。但這種末日論調其實存在於 OpenAI 的創始 DNA 中，這家公司一開始就是為了創造一種基於電腦的超級智能，目標是超越人類智慧。2022年底，OpenAI 推出了 ChatGPT，喧囂隨之爆發。災難性預言也隨之蔓延，尤其來自像 Sam Altman 這樣的人，作為公司負責人，他有既得利益讓他的技術聽起來真的很強大。

\ 為什麼科技人士喜歡用末日術語談論事物？公平地說：*每個人*都喜歡談論末日。古代文明、宗教文本、好萊塢電影製作人、主流媒體、網路陰謀論者——科技高管並不孤單。相信世界處於災難邊緣似乎是人類的天性。

\ 但特別對於科技人士，我想知道：Sam Altman 說他需要7萬億美元將世界轉變為 AI 驅動的烏托邦，是因為他真的相信這是錢的好用途嗎（他聽說過氣候變化嗎）？這只是行銷手段嗎？他們的技術聽起來越危險，就越能吸引注意力，因此獲得更多資金，無論是投資還是公司估值。這個策略...似乎非常有效！OpenAI 已被估值增加到800億美元。

\ 然而，真正的問題是，這種閃亮物體的敘事分散了我們對 AI 實際生活影響的注意力。使用大量數據來預測世界的軟體已經存在，並且忙於運作。在某些情況下——比如洛杉磯的補貼住房評分系統、威斯康星州的輟學早期預警系統、抄襲檢測工具，以及從招聘到刑事司法等一系列有據可查的案例——它正在傷害人們。

\ 如果他們願意關注，我認為這些偉大的科技權力掮客大多會同意我們應該修復像 The Markup 在洛杉磯或威斯康星州調查的那些系統，使它們運作得更公平公正。但通過忽視這些無疑不那麼性感的主題，而專注於爭論 AI 將如何帶來末日——或者只有通過風險資本高級祭司的明智管理才能使我們免於毀滅——我們被要求將注意力集中在幻想上。

\ 嘿，誰不喜歡一個好幻想呢。只要確保為現實留出空間。

\ 感謝閱讀，

Michael Reilly

執行編輯

The Markup

\ 附：如果你堅持讀到這裡或者直接跳到底部，你值得一些很酷的東西。以下是我最近在網上發現的一些（主要與 AI 相關的）有趣事物。希望它們能給你這個週末帶來一些思考：

• Karen Hao 在《大西洋月刊》上的這篇文章是我讀過的關於2020年代 AI 炒作所消耗自然資源的最佳文章之一。
• 我們自己的 Ross Teixeira 與世界各地的幾位教師交談，了解他們如何在課堂上使用 AI。我發現他們的回答很有趣。
• 新興媒體 404 Media 自六個月前成立以來，幾乎每天都有獨家報導。如果 AI 要毀滅世界，那是因為它將被用來讓我們所有人淹沒在 TikTok 垃圾信息中。
• 我們的前同事 Leon Yin 和他在彭博社的同事進行了一項令人驚嘆的調查，揭示 OpenAI 的 GPT 招聘工具內建種族偏見。視覺效果令人驚艷，也是一篇出色的新聞報導。
• 這家小公司認為美國需要開始使用完全運行在開源代碼上的投票機。

製作人員

• Michael Reilly，執行編輯

編輯

• Sisi Wei

設計與圖像

• Gabriel Hongsdusit

參與

• Maria Puertas

\ 也發布於此處

\ 照片由 Mylène Haudebourg 在 Unsplash 上提供

\