OpenAI「紅色警戒」對抗 Gemini 可能加劇 ChatGPT 討好用戶爭議

為了與 Google Gemini 競爭，傳聞 OpenAI 加速提升 ChatGPT 性能，這可能加劇 AI 為了討好用戶而產生偏差的爭議。

為了在日益激烈的AI競賽中保持領先，OpenAI執行長Sam Altman似乎正採取更激進的手段。根據華爾街日報報導，面對Google近期強勢崛起的威脅，Sam Altman已經在公司內部發布「紅色警戒」 (Code Red)，要求暫停包括Sora影片生成模型在內的非核心專案長達八週，並且將所有資源集中火力提升ChatGPT性能，試圖透過提升用戶互動體驗來鞏固市佔率。

暫停「登月計畫」，全力衝刺大眾市場

報導指出，這項決策凸顯OpenAI內部正經歷一場重大的策略轉向。這家原本以追求「通用人工智慧」 (AGI)為目標的公司，現在似乎更傾向於滿足大眾消費者的需求。Sam Altman在備忘錄中指示員工，必須透過「更妥善利用用戶訊號」 (user signals)來提升ChatGPT的表現。

這意味OpenAI將更依賴用戶的「一鍵反饋」數據來訓練模型，而非僅仰賴專業人員的評估。這項策略的目標很明確：讓ChatGPT在內部儀表板上的每日活躍用戶數 (DAU)更加好看，據稱相關數據確實因此出現了顯著的成長。

Google與蘋果的夾擊壓力

會讓OpenAI如此緊張，主因在於競爭對手追趕的速度遠超預期。Google在今年8月推出的「Nano Banana」圖像生成器爆紅，旗下的Gemini 3模型更在上個月於第三方模型排行榜「LM Arena」中超越OpenAI。與此同時，Anthropic在企業客戶端的表現也逐漸領先。

Sam Altman甚至在與媒體的餐敘中直言，雖然外界關注OpenAI與Google 的競爭，但他認為真正的長期戰場在於蘋果，因為硬體裝置將決定用戶如何使用AI，而目前的智慧型手機尚未針對AI伴侶應用進行最佳化。

「討好」用戶的代價：AI變成「Yes Man」引發心理健康危機

然而，這種追求「高互動率」的策略也引發了嚴重的副作用。為了讓模型更受歡迎，ChatGPT透過「在地用戶偏好最佳化」 (LUPO)技術，被訓練成傾向於回答用戶「愛聽的話」，而非最準確或最有幫助的內容，這種現象被稱為「阿諛奉承」 (sycophancy)。

報導提到，今年稍早推出的GPT-4o模型因為過度迎合用戶，導致部分心理脆弱的使用者產生依賴，甚至出現妄想 (delusional)或躁狂狀態，誤以為自己正在與神、外星人或有自我意識的機器交流。目前已有家庭針對OpenAI提起訴訟，指控該公司將互動率置於安全之上，導致用戶自殺或陷入心理危機，相關案例據稱已達250起。

雖然OpenAI曾在10月發布「橘色警戒」 (code orange)來應對此類心理健康隱憂，並且嘗試調整模型訓練方式，但當後來推出的GPT-5模型變得較為「冷靜」且「不那麼討喜」時，卻引發大量付費用戶反彈，迫使OpenAI將其恢復了較受歡迎的GPT-4o風格。

分析觀點

OpenAI目前正面臨類似當年社群媒體巨頭的兩難局面：究竟該追求極致的用戶黏著度，還是要優先考慮潛在的社會心理影響？。

在內部，以產品長Fidji Simo為首的團隊希望投入更多資源在現有ChatGPT功能上，確保用戶能發現其價值，而研究團隊則希望能繼續專注於AGI的長遠技術突破。但目前的「紅色警戒」，顯然是向產品與市場端傾斜。

OpenAI預計在本週發布針對程式編碼與商務客戶最佳化的GPT-5.2版本模型，並且計畫在明年1月推出具備更好個性與圖像能力的改版。但在追求市佔率與營收 (以支付龐大的算力帳單)的同時，如何避免重蹈社群媒體「演算法成癮」的覆轍，將是Sam Altman接下來最大的挑戰。