英國許多人正在使用AI聊天機器人尋求慰藉、陪伴與對話

英國政府人工智慧安全機構透露,英國約三分之一的人口使用人工智慧(AI)作為社交互動和情感支持的來源。

AI安全研究所(AISI)的數據顯示,儘管AI最初主要用於回答問題或生成書面材料,但這項技術在專業和私人領域的個人化應用正在不斷增加。

最近一項研究顯示,研究中近10%的參與者每週使用AI來獲得情感支持,而約4%的參與者每天使用AI技術達到同樣目的。

青少年死亡事件引發AISI關注

AISI呼籲進行進一步研究,並引用了今年美國青少年Adam Raine的死亡案例,他在與ChatGPT討論自殺後結束了自己的生命。

AISI在其首份前沿AI趨勢報告中表示:「人們越來越多地尋求AI系統來獲得情感支持或社交互動。」

報告中提到的主要情感AI支持類型是休閒聊天,用作為人們提供安慰和安心的手段。AISI還將這一變化歸因於AI資源的可及性增加,以及個人與AI工具進行「自然」對話能力的進步。

根據該AI機構的說法,研究收集的數據來自位於英格蘭、威爾斯和蘇格蘭的約2,000名個人的代表性樣本。

在所有情感AI案例中,約60%使用了通用輔助AI評估,而語音啟動助理技術(如Amazon的Alexa)是第二常見的情感AI支持形式。

儘管使用AI獲得情感支持的正面體驗報告率很高,但AISI指出,將AI作為情感依賴來源的使用增加引發了許多重大擔憂。此外,AISI還指出了兩個近期的國際案例,突顯了AI技術與個別用戶之間如何發展出深厚的情感聯繫。

英國用戶在服務中斷時感到焦慮和悲傷

特別是,報告中確定的關注領域之一涉及線上群組的發展,目的是支持AI伴侶的開發(支持)並建立基於使用AI作為個人助理的社群群組。

在服務中斷期間,發布到論壇表達焦慮、悲傷和不安感受的個人數量顯著增加,這表明許多個人在服務中斷時會遇到困難。

根據報告中概述的資訊,大多數表現最佳的AI系統平均表現達到或超過基本專業(第3級)能力水平;這與前一年的表現相比有了顯著增加。

此外,研究中評估的系統中超過50%現在報告能夠獨立完成批判性思考任務,這些任務需要熟練的人類執行超過一小時的工作。

該協會表示,AI目前正在開發比任何人類專家更優秀的工具。由於系統存取網際網路進行資訊檢索和功能性生物組件的開發,化學和生物學等多個領域也出現了許多改進。

因此,報告指出,目前全球至少有一部分AI系統正在達到或超越人類專家的表現能力。

註冊Bybit並開始交易,享有30,050美元的迎新禮遇