趨勢科技TrendAI示警3大威脅 逾6成台企憂資安難跟上AI更新

迎接生成式AI與代理式AI的快速發展，當企業正透過AI驅動創新同時，駭客也正利用AI技術，讓網路犯罪導入低成本、低門檻且可大規模複製的新模式。趨勢科技旗下企業AI資安品牌TrendAI今（4）日指出，如今駭客結合內容生成、身分偽造與系統濫用的複合式AI威脅，讓企業既有的防護邏輯與管理模式面臨著前所未有的考驗。

圖一 : 趨勢科技TrendAI示警AI催化駭客攻擊升級的三大威脅

根據TrendAI調查，約74%的台灣受訪企業決策者坦言，過去曾在高層要求或市場競爭壓力下，被迫核准在企業導入可能帶來資安風險的AI方案，卻容易忽略風險控管能力，只有不到一半的企業，認為內部團隊能辨識惡意或異常的AI行為，顯示台灣企業正面臨「盲目導入AI」的高度風險。並統整當代隨AI演進的3大威脅：

一、內容生成武器化，因AI提供駭客以極低成本及大規模製造威脅的能力，讓今日的網路攻擊者不需親手撰寫程式碼，而是透過大型語言模型、AI代理，將詐騙攻擊鏈自動化，大規模量產假資訊與詐騙內容。

二、身分偽造進化，在AI的助長下，身分冒用變得防不勝防，TrendAI預測「深偽技術」將越趨成熟且成本下降，未來將形成更難辨識、更容易被大規模濫用的局面，企業招募與信任機制面臨新挑戰。

三、AI原生攻擊工具與AI系統濫用，如LameHug等惡意工具，便刻意偽裝成AI圖像生成應用，實則內嵌大語言模型運算能力，使攻擊者僅須提示指令，模型即可自動編譯並執行惡意指令，讓攻擊範圍持續擴張。

此外，企業內部的AI系統，如智能客服、自助查詢或自動化流程平台，也可能成為提示詞注入（Prompt Injection）攻擊的最佳跳板。攻擊者毋須費時尋找系統漏洞，只要寄發一封暗藏提示詞注入指令的電子郵件，當AI系統讀取信件時，便極易遭惡意指令誘導而偏離任務；企業系統甚至將直接執行資料加密任務，進而攻擊企業資料庫。，

另有6成以上的台灣企業決策者，擔憂AI發展過於迅速，導致資安難以跟上。如今企業面對的已不只是單點資安風險，而是品牌信任、內外部溝通與商務決策同時遭受干擾的困境，此時掌握風險可視性與風險邊界便成為重要關鍵。

TrendAI威脅研究總監Ryan Flores呼籲：「面對AI時代的威脅，建立完善的安全機制與治理框架，將成為企業相當重要的議題。進而採用智慧的資安事件管理（Security Information and Event Management，SIEM）方案，得以將碎片化數據資料轉化為一致語言，並有效分析串聯跨系統資訊，加速判斷與決策效率。」

依TrendAI調查指出，目前已有半數以上的台灣企業，正著手起草AI治理框架。但企業現今內部對於資安專業能力有限，以及針對AI工具的法規不明確，將是企業安全採用AI的最大障礙。

TrendAI台灣暨香港區總經理洪偉淦表示：「目前多數台灣企業的資安架構仍停留在過去以工具與規則為核心的模式。而在AI時代的競爭關鍵，不在於誰擁有最完整的資安工具，而在於誰能最快理解風險、做出決策。TrendAI的使命正是協助企業在這波轉型浪潮中，建立以AI為核心的風險治理能力，真正掌握 AI 世代的安全主導權。」

TrendAI將於5月5~7日期間假台灣資安大會中展出最新資安方案與現場演講議程，主題包含AI驅動資安平台TrendAI Vision One、Agentic SIEM、電子郵件防護、資料防護等最新技術內容，協助企業抵禦新型態AI威脅，強化資安治理。