账号:
密码:
最新动态
 
产业快讯
CTIMES/SmartAuto / 新闻 /
国际AI资安风险方兴未艾 LLM由训练资料决定有效性
 

【CTIMES / SMARTAUTO ABC_1 报导】    2024年08月20日 星期二

浏览人次:【607】

人工智慧(AI)带来诸多的便利性,却也潜藏着许多的风险与威胁,使得资讯安全议题深受瞩目。在2024 GDDA国际AI资安论坛上,邀集国际通商法律事务所(Baker McKenzie台北所)专家们齐聚探讨,在生成式AI崛起所带来的风险与挑战中,如何强化政府部门与企业在资讯安全的风险管理与因应措施。

Baker McKenzie 台北所执行合夥律师黄丽蓉(中)、纽约所Cyrus Vance Jr.(左)、雪梨所Ryan Grant(右)对企业导入生成式AI、资安风险管理与因应措施提出见解。
Baker McKenzie 台北所执行合夥律师黄丽蓉(中)、纽约所Cyrus Vance Jr.(左)、雪梨所Ryan Grant(右)对企业导入生成式AI、资安风险管理与因应措施提出见解。

Baker McKenzie台北所执行合夥律师暨争端解决律师团队主席黄丽蓉(Anna L.J Hwang)律师指出, AI为企业带来一系列挑战从网路威胁、资料外泄、演算法歧视,到智慧财产权侵害、营业秘密泄露、法律遵循和劳动力替代使企业面临更高的争端风险。如今全球各国政府陆续拟定AI治理政策与指引,她认为围绕AI的法律框架仍处於萌芽阶段,各国对AI的监管方式不一,如此容易使AI成为企业法律遵循上的地雷区。

Baker McKenzie网路安全业务全球主席Cyrus Vance Jr.在公共和私营部门的经验超过30年,并且曾经担任美国曼哈顿地区检察官长达12年,他表示AI驱动的网路威胁在全球范围内持续增加。不法分子利用AI进行更加复杂的攻击,运用新技术实现高度个人化的网路钓鱼、深度伪造、社交工程和多因子验证(MFA)绕过,企业必须未雨绸缪。随着AI普及使得企业面临的诉讼风险与日俱增。其中最为显着的是智慧财产权诉讼的快速增加,俨然成为潜在争端的最大领域之一,相关诉讼主张AI训练模型所使用的资料侵害了着作权、隐私权或其他类似的权利限制。

Baker McKenzie雪梨所合夥律师Ryan Grant具有软体工程和网际网路技术的专业背景,专精於网路安全和争端的诉讼。他表示作为生成式AI的一个分支,大型语言模型(LLM)具备卓越的理解和生成类人文本的能力,已经改变了组织生成洞见的方式,包括在组织资讯安全方面。LLM仅仅通过简单查询就可以将大量数据转化为可行的见解,因此也成为不法分子和资安团队应用的强大工具。而LLM的有效性将取决於为其提供大规模、精确和具脉络相关性的资料进行训练和优化。倘若使用的训练资料品质不隹,则可能使组织面临包括决策失误和法规遵循风险等各种难题。

近年来,AI风险已成为许多企业在经营管理时最顾虑的议题。黄丽蓉表示,法律界提倡的「联防」概念,企业可以在资安管理方面采取平日演练和检查、面临攻击快速应变、发生事件时减少损失,甚至反守为攻。而企业如何善用生成式AI带来的优势,同时降低其驱动的网路威胁及风险,将成为企业胜出的重要关键。

關鍵字: 生成式AI  LLM  GDDA  Baker McKenzie 
相关新闻
Pure Storage重塑档案服务 重新定义企业灵活性与简易性标准
默克与西门子携手成为数位转型技术的策略合作夥伴
戴尔:57%企业已处於GenAI的早期至中期发展阶段
NVIDIA AI Aerial可最隹化无线网路 在单一平台上提供生成式AI体验
MIC:AI生命周期管理成科技投资重点
comments powered by Disqus
相关讨论
  相关文章
» 行动运算方兴未艾 绘图处理器整合AI方向确立
» Raspberry Pi Pico 2主控晶片资安悬赏加时加码
» Arduino Cloud:运用图像小工具 使 IoT专案更吸睛
» Arduino 摄影串流:DIY 简易操作步骤
» 2GB、50美元!第五代树莓派降规降价


刊登廣告 新聞信箱 读者信箱 著作權聲明 隱私權聲明 本站介紹

Copyright ©1999-2024 远播信息股份有限公司版权所有 Powered by O3  v3.20.1.HK8AD5BK2YISTACUKR
地址:台北数位产业园区(digiBlock Taipei) 103台北市大同区承德路三段287-2号A栋204室
电话 (02)2585-5526 #0 转接至总机 /  E-Mail: webmaster@ctimes.com.tw