隨著自主AI時代來臨，資安風險也呈現指數級攀升，趨勢科技發布最新研究報告，因應新ChatGPT AI代理所帶來的資安風險，呼籲企業應做好準備。這份研究報告針對OpenAI推出的新ChatGPT AI代理進行功能分析，並指出呈現自主性轉變所帶來的資安風險。

/news/2025/08/26/1644244080S.png

最新推出的ChatGPT AI代理已轉變成為在使用者的數位生活中「主動採取行動」，它可以編寫程式碼、發送電子郵件、存取行事曆、預訂旅遊行程，甚至獨自瀏覽網路。

趨勢科技資深技術顧問簡勝財表示：「最新的ChatGPT AI代理不再只是會回答問題的AI，轉而變成是『代表使用者行動的AI』。這一發展進程正成為人類邁向『自主AI』的重要轉捩點，將自動化、推理和自主性能力以前所未有的規模結合在一起，徹底改變一切的行為模式。然而隨之而來的風險包括提示詞注入、同意疲勞到跨應用程式的攻擊手法等，也使得今日的資安攻擊面呈現出更具個人化、更深層嵌入以及更為迫切的態勢。」

趨勢科技統整四項主要風險，包括自主執行增加惡意操縱風險、加劇提示詞注入的資安風險、對使用者了解深入而引發隱私問題，以及同意疲勞和過度信任。儘管新的ChatGPT AI代理能明顯推升生產力，但當AI代理整合至工作行事曆、電子郵件及企業軟體時，也衍生出涵蓋供應鏈、身分安全與內部威脅的多層次風險。儘管在自主性、使用者建模與跨系統整合方面有漸進式提升，也可能對資安風險造成指數級攀升。

為了幫助企業做好準備，趨勢科技提出建議：對任何跨系統作業的AI落實嚴格的權限限制，隨時監控提示詞操縱和異常任務行為的跡象，教育使用者了解AI自主性的侷限，並導入人類檢查環節於系統流程中，並且採用AI攻擊面管理策略，作為整體風險防護措施的一環。