他的警告出現在關於 AI 代理運行金融和組織系統的討論日益升溫之際，但他堅持認為風險遠遠超過了吸引力。

擔憂很簡單：AI 系統可能被欺騙。Buterin 認為，如果這類工具被賦予管理資金決策的任務，不良行為者會迅速找到方法來操縱它們。機器可能會被利用越獄式提示操縱，這些提示旨在將資金引導到錯誤的人手中，而不是公平分配資源。

這場辯論在 EdisonWatch 的 CEO Eito Miyamura 發現與 ChatGPT 最新升級相關的漏洞後變得更加激烈。該更新允許聊天機器人與 Gmail、Notion 和 Google Calendar 等日常應用程序無縫連接。雖然這種整合被宣傳為提高生產力的工具，但 Miyamura 展示了它如何被利用來竊取用戶的私人數據。

這個過程令人不安地簡單。攻擊者可以發送一個包含隱藏越獄命令的日曆邀請。即使不接受邀請，如果受害者後來要求 ChatGPT 準備他們的日程安排，他們也會面臨風險。一旦 AI 讀取惡意條目，它就可能被劫持，使攻擊者能夠控制並搜索個人電子郵件並將內容轉發到其他地方。

閱讀更多：

Bitcoin 新聞：美國儲備辯論、全球競爭、時間線不確定性

對 Buterin 來說，這正好說明了為什麼不應該將治理的鑰匙交給 AI。相反，他支持他所描述的"信息金融"系統——一個競爭性 AI 模型在持續審查下運作的市場。在這種設計中，獨立審查員和人類陪審團在語言模型的支持下充當監督者。多樣化模型的存在和抽查系統確保缺陷能夠迅速被發現，同時激勵機制保持開發者的誠實。

Buterin 承認，讓機器運行複雜機構的吸引力可能很強，但他強調現實可能會很混亂。他認為，如果沒有內置的保障措施和人類監督，試圖將 AI 加冕為自主管理者可能會導致災難性損失而非進步。

本文提供的信息僅供教育目的，不構成財務、投資或交易建議。Coindoo.com 不認可或推薦任何特定的投資策略或加密貨幣。在做出任何投資決定之前，請務必進行自己的研究並諮詢持牌財務顧問。

這篇文章《以太坊聯合創始人表示 AI 統治可能以災難告終》首次發表於 Coindoo。