账号:
密码:
CTIMES/SmartAuto / 新闻 /
NVIDIA即时对话式AI突破语言理解的AI训练、推论效能
 

【CTIMES/SmartAuto 报导】   2019年08月14日 星期三

浏览人次:【606】
  

NVIDIA(辉达)今日宣布在语言理解领域获得多项突破,让企业透过即时对话式AI能更自然地与顾客互动。

NVIDIA T4 GPU
NVIDIA T4 GPU

NVIDIA的AI平台率先训练当今最先进的AI语言模型之一BERT(Bidirectional Encoder Representations from Transformers),用不到一小时就完成训练,并在2毫秒内完成AI推论。突破性的效能协助开发者将顶尖语言理解技术导入在各种提供给全球数百万消费者的超大规模应用。

率先采纳NVIDIA先进效能成果的业者包括Microsoft与许多全球最具创新力的新创公司,透过NVIDIA平台着手为其客户开发能即时反应的高度直觉化语言服务。

虽然有限度的对话式AI服务已存在多年,然而发展至今,包括聊天机器人、智慧个人助理与搜寻引擎等服务想要以人类理解力的水准运作仍极为困难,主要原因是无法即时部署超大规模的 AI 模型。NVIDIA透过在其AI平台导入多项关键的优化技术藉以解决这项问题,不仅在AI训练与推论方面刷新速度纪录,同时也建构出至今最大的语言模型。

NVIDIA深度学习应用研究部门??总裁Bryan Catanzaro表示:「超大语言模型彻底颠覆自然语言AI。因为它解决许多极为困难的语意问题,往真正的对话式AI迈进一步。NVIDIA的突破性成果除了加快这些模型,还让组织建构新型顶尖服务,以未曾想像的方式协助与满足客户。」

最快训练、最快推论与最大模型

以自然语言理解技术运行的AI服务预计在未来几年呈现指数成长。根据Juniper Research的报告,光是数位语音助理市场规模预计在未来5年内将从25亿美元成长到 80 亿美元。此外,Gartner也预测2021年,15%的客服互动将完全由AI执行,与2017年相比增加400%。

NVIDIA力助迈入新时代,藉由多项关键优化微调其AI平台,创下三项新的自然语言理解效能纪录:

最快训练:采用内建由1,472个NVIDIA V100 GPU组成92个NVIDIA DGX-2H系统的NVIDIA DGX SuperPOD,执行全球最先进的AI语言模型之一BERT的大型版本,成功把BERT-Large的训练时间从先前的数日大幅缩短至仅53分钟。此外,NVIDIA也能透过仅一台NVIDIA DGX-2系统在2.8天内就完成BERT-Large的训练,展现NVIDIA GPU在对话式AI领域的扩充性。

最快推论:NVIDIA以NVIDIA T4 GPU运行NVIDIA TensorRT,在BERT-Base SQuAD资料集上仅用2.2毫秒就完成推论,不仅远低於许多即时应用要求的10毫秒的处理门槛,也大幅领先以高度优化CPU程式码执行的40毫秒。

最大模型:针对开发者对於更大模型永无止境的需求,NVIDIA Research 在Transformers的基础上着手建构与训练全球最大的语言模型,并导入BERT采用的技术元件,以及许多其他自然语言的AI模型。NVIDIA的客制化模型拥有83亿个叁数,数量足足比BERT-Large多出24倍。

全球数百名开发者正运用 NVIDIA AI 平台推动语言理解的研究并开发新服务。

Microsoft Bing正运用其Azure AI平台与NVIDIA技术执行BERT,藉以获得更精准的研究成果。

Microsoft Bing小组计画经理Rangan Majumder表示:「Microsoft Bing仰赖最先进的AI模型与运算平台,为顾客提供最好的全球搜寻体验。我们与NVIDIA紧密合作,透过Azure AI内建的NVIDIA GPU,针对热门的自然语言模型BERT进一步优化推论作业,在排名搜寻品质方面,获得从去年部署以来最大幅度的改善。在Azure环境中执行推论,NVIDIA GPU相比CPU平台在延迟缩短幅度超过2倍,吞吐量更提高5倍,让Bing为全球顾客提供更具相关性、低成本与即时的搜寻体验。」

多家叁与NVIDIA Inception计画的新创公司包括Clinc、Passage AI与Recordsure,也正运用NVIDIA AI平台为包括银行、汽车制造商、零售商、医疗机构、旅游住宿等业者提供顶尖对话式AI服务。

Clinc透过NVIDIA GPU建构多款对话式AI解决方案,提供给全球超过3,000万名客户,其中包括顶尖车厂、医疗机构与全球领导金融机构包括Barclays、USAA、以及土耳其最大银行 Isbank。

Clinc执行长Jason Mars表示:「Clinc顶尖AI平台能了解复杂的问题并将其转化为有利的情资,提供给全球顶尖品牌进行行销。NVIDIA AI平台的突破性效能让我们突破对话式AI的疆界,提供各种革命性服务,协助顾客运用科技,以更有意义的有效方式和顾客进行互动。」

關鍵字: NVIDIA 
相关新闻
台湾计算云TWCC联手NVIDIA 助科学家驾驭GPU加速科学应用
NVIDIA与Volvo合作打造自动化驾驶卡车团队
Volvo 集团选择与 NVIDIA 合作对卡车业务进行转型
NVIDIA携手合作夥伴发表25款全新笔电
NVIDIA携手Red Hat共同加速企业级AI应用
comments powered by Disqus
相关讨论
  相关新品
Arduino Motor Shield
原厂/品牌:RS
供应商:RS
產品類別:
mbed
原厂/品牌:RS
供应商:RS
產品類別:
Arduino
原厂/品牌:RS
供应商:RS
產品類別:
  相关产品
» 科思创热塑性复合材料重新定义轮毂设计 塑造汽车新外貌
» 安森美推出高速影像感测器ARX3A0 超低功耗30万画素
» 意法半导体新探索套件和韧体 加速STM32G4数位电源和马达控制专案研发
» 笙泉推出高性价比32KB ARM Cortex-M0 MCU产品
» 技嘉首创黑平衡2.0 推出战术型电竞萤幕AORUS CV27Q真1500R
  相关文章
» 毫米波系统复杂度激增 OTA测试挑战加剧
» 永远不会忘记袋--适用於高龄者之记忆辅助背包
» 精确测色的新时代来临了?
» 用标准矽FET甩GaN和SiC几条街 Vicor是怎麽做到的?
» EDA跨入云端环境新时代
  相关资源
» Power Management Solutions for Altera FPGAs

AD


刊登廣告 新聞信箱 读者信箱 著作權聲明 隱私權聲明 本站介紹

Copyright ©1999-2019 远播信息股份有限公司版权所有 Powered by O3
地址:台北市中山北路三段29号11楼 / 电话 (02)2585-5526 / E-Mail: webmaster@ctimes.com.tw