AI 正在使AI 正在使不精通技術的犯罪者更容易進行網路犯罪

一段時間以來，少數能夠創造複雜惡意軟體（如勒索軟體）的網路犯罪天才的商業模式，一直是在暗網上向技術較不純熟的網路犯罪者提供他們的惡意軟體和服務，有時甚至提供傳遞系統，通常以收到的贖金的一定比例作為回報。然而，AI 已經迅速改變了這種模式，因為即使是技術較不純熟的犯罪者也能夠利用人工智慧來實施各種詐騙。

AI 工具可以從社群媒體和公開可用的來源收集大量資料，使網路犯罪者能夠創建專門針對目標的釣魚電子郵件，稱為魚叉式釣魚郵件，這些郵件更容易獲得目標受害者的信任，經常誘使他們提供可能導致身份盜用的個人資訊，或在某些藉口下進行付款。

現成可用的深度偽造視頻和語音克隆技術已經使網路犯罪者能夠實施各種詐騙，包括祖父母詐騙或家庭緊急情況詐騙，以及商業電子郵件詐騙，這些詐騙在過去主要依靠通過電子郵件進行的社交工程策略，詐騙者會冒充公司高管，並說服低階員工在某些藉口下授權付款。根據 FBI 的資料，這種詐騙主要始於 2018 年，在 2023 年 10 月至 2023 年 12 月期間，全球損失超過 550 億美元。

現在隨著 AI 的出現以及深度偽造技術和語音克隆技術的使用，詐騙者已經提高了賭注。2024 年，工程公司 Arup 損失了 2500 萬美元，這些錢被網路犯罪者騙走，他們在深度偽造的視訊通話中冒充公司的財務長，並說服一名公司員工轉移資金。

但情況並不像你想像的那麼糟糕。實際上更糟。

開發 Claude 聊天機器人的 Anthropic 公司最近發布了一份報告，詳細說明了其聊天機器人如何被用來開發和實施複雜的網路犯罪。該報告描述了網路犯罪者使用 AI 的演變，不僅將 AI 作為開發惡意軟體的工具，還將其作為網路攻擊的主動操作者，他們稱之為「氛圍駭入」。報告舉例說明了一個位於英國的網路犯罪者，被描述為 GTG-5004，他使用 Claude 通過掃描數千個 VPN 端點來尋找易受勒索軟體攻擊的公司，找出易受攻擊的系統，確定如何最好地滲透公司網路，創建具有規避能力的惡意軟體來竊取敏感資料，傳遞惡意軟體，竊取資料並篩選資料，以確定哪些資料最適合用來勒索被駭的公司，甚至利用心理學來精心製作帶有贖金要求的電子郵件。Claude 還被用來竊取目標公司的財務記錄，以確定在不公開被竊資料的交換條件下要求的 Bitcoin 數量。

在一個月內，GTG-5004 使用 Claude 攻擊了 17 個涉及政府、醫療保健、緊急服務和宗教機構的組織，提出了介於 75,000 美元到超過 500,000 美元的要求。

隨後，GTG-5004 開始在暗網上向其他網路犯罪者銷售按需勒索軟體服務，提供不同級別的套餐，包括加密功能和幫助駭客避免被發現的方法。值得注意的是，報告指出，與過去技術純熟的犯罪者會在暗網上銷售或租賃他們親自創建的惡意軟體不同，報告指出「這個操作者似乎無法在沒有 Claude 協助的情況下實施加密算法、反分析技術或 Windows 內部操作。」

結果是，現在一個單獨的網路犯罪者可以做到過去需要一個擅長密碼學、Windows 內部和規避技術的整個團隊才能做到的事情，即創建勒索軟體並自動做出關於目標、利用和變現的戰略和戰術決策，以及適應所遇到的防禦措施。所有這些都降低了尋求實施網路犯罪的犯罪者的門檻。

報告還詳細說明了其 AI 功能如何被北韓特工濫用，他們利用它在科技公司獲得遠端工作。根據報告，「傳統的北韓 IT 工作者操作依賴於從小在北韓招募和培訓的高技能個人。我們的調查揭示了一個根本性的轉變：AI 已經成為主要的推動者，使技術技能有限的操作者能夠成功滲透並在西方科技公司維持職位。」

報告描述了使用 AI，韓國操作者即使自己不能編寫基本代碼或用英語交流，現在也能成功通過面試並在科技公司獲得工作，每年賺取數億美元，為北韓的武器計劃提供資金。更糟糕的是，通過 AI，每個操作者可以在美國科技公司維持多個工作職位，這在沒有使用 AI 的情況下是不可能的。

Anthropic 已經通過禁止與這些操作相關的帳戶，並開發一個定制分類器來專門識別這種類型的活動，並將檢測措施納入其已有的安全執行系統中來應對他們識別的威脅。此外，Anthropic 與其他公司以及安全和安全社區分享了其發現，以幫助他們識別和防禦使用 AI 平台的犯罪者構成的威脅。然而，使用 AI 進行網路犯罪的威脅依然巨大。

Anthropic 的報告確實是對整個 AI 行業的一次警醒。