随着自主AI时代来临，资安风险也呈现指数级攀升，趋势科技发布最新研究报告，因应新ChatGPT AI代理所带来的资安风险，呼吁企业应做好准备。这份研究报告针对OpenAI推出的新ChatGPT AI代理进行功能分析，并指出呈现自主性转变所带来的资安风险。

/news/2025/08/26/1644244080S.png

最新推出的ChatGPT AI代理已转变成为在使用者的数位生活中「主动采取行动」，它可以编写程式码、发送电子邮件、存取行事历、预订旅游行程，甚至独自浏览网路。

趋势科技资深技术顾问简胜财表示：「最新的ChatGPT AI代理不再只是会回答问题的AI，转而变成是『代表使用者行动的AI』。这一发展进程正成为人类迈向『自主AI』的重要转捩点，将自动化、推理和自主性能力以前所未有的规模结合在一起，彻底改变一切的行为模式。然而随之而来的风险包括提示词注入、同意疲劳到跨应用程式的攻击手法等，也使得今日的资安攻击面呈现出更具个人化、更深层嵌入以及更为迫切的态势。」

趋势科技统整四项主要风险，包括自主执行增加恶意操纵风险、加剧提示词注入的资安风险、对使用者了解深入而引发隐私问题，以及同意疲劳和过度信任。尽管新的ChatGPT AI代理能明显推升生产力，但当AI代理整合至工作行事历、电子邮件及企业软体时，也衍生出涵盖供应链、身分安全与内部威胁的多层次风险。尽管在自主性、使用者建模与跨系统整合方面有渐进式提升，也可能对资安风险造成指数级攀升。

为了帮助企业做好准备，趋势科技提出建议：对任何跨系统作业的AI落实严格的权限限制，随时监控提示词操纵和异常任务行为的迹象，教育使用者了解AI自主性的局限，并导入人类检查环节於系统流程中，并且采用AI攻击面管理策略，作为整体风险防护措施的一环。