研究：假的AI工具正成為散播惡意軟體的新管道

Sophos X-Ops 發布最新研究，揭露攻擊者如何利用企業與使用者爭相採用 AI 工具的趨勢，冒充 Claude、ChatGPT、Copilot 和 Perplexity 等受信任的 AI 品牌，散播惡意軟體、竊取憑證，並誘騙使用者採取不安全的操作。

這項研究以 Sophos MDR 一整年的案例分析為基礎，並結合 Sophos CTU (Sophos X-Ops 威脅情報部門) 的情報以及 SophosLabs 的研究成果。

Sophos 檢視了 86 起標記為涉及 AI 的 MDR 案例，確認其中 34 起確實涉及攻擊者利用 AI 的活動；此外，Sophos 進一步納入 4 起調查案例，最終建立由 38 起案例組成的研究資料集。

研究的關鍵發現是，多數情況下，攻擊者並未以高度先進或自主化的方式運用 AI。相反地，他們是將 AI 品牌本身武器化，利用使用者對 AI 工具的信任、好奇心與需求，散播使用者熟悉的各類型惡意軟體。

Sophos 觀察到數種反覆出現的攻擊模式，包括假冒 AI 安裝程式、以 AI 為主題的惡意瀏覽器擴充功能、以 AI 品牌包裝的 ClickFix 與 InstallFix 誘餌，以及利用 Copilot 和 OpenAI 主題進行的憑證網路釣魚攻擊；此外，也發現涉及 AI 相關套件的供應鏈攻擊案例。

在其中一系列案例中，使用者搜尋 AI 程式碼工具時，會透過惡意廣告或遭污染的搜尋結果進入刻意仿冒合法網站的網域 (typosquatting)。這些網站通常提供製作精良的安裝指示，但最終會誘導使用者複製並執行惡意指令。另一起案例中，有 4 名使用者安裝了假的 Perplexity 瀏覽器擴充功能。但該擴充功能實際上是一種瀏覽器劫持程式，會攔截使用者的搜尋內容，並透過由攻擊者控制的基礎架構外洩瀏覽活動的遙測資料。

防禦者目前應採取的措施

●將 AI 軟體視為其他熱門軟體，同樣納入軟體安裝安全管理。

●將軟體取得管道限制在經驗證的廠商官方網域，並封鎖已知的仿冒網域。

●留意這些攻擊活動所採用的散播手法，因為 AI 品牌偽裝並不會改變攻擊者實際採用的行為與技術。

●稽核瀏覽器擴充功能，尤其是以 AI 為主題的擴充功能，並確認發布者的信譽與可信度。

●將 AI 相依元件 (軟體、應用程式或 AI 系統在運作時所依賴的 AI 相關元件、函式庫、套件或服務) 納入與其他軟體相同的供應鏈治理機制。

●優先彌補安全防護涵蓋範圍的缺口。Sophos 最明確的一起 AI 生成攻擊案例顯示，攻擊者正是透過一台未納入 MDR 管理的裝置取得初始入侵點；未受管理及舊型系統往往是攻擊者發動入侵的起點。

●將客製化與舊型 Web 應用程式列為優先防護的攻擊面。由於同一起入侵事件最初是透過 SQL 注入攻擊客製化 PHP 應用程式，因此，除了端點防護措施之外，應用程式層安全測試、修補更新及 Web 應用程式防火牆同樣不可或缺。