账号:
密码:
CTIMES / 文章 /   
站稳智慧运算的设计制高点开拓AI版图
专访创鑫智慧董事长、营运长与事业开发经理

【作者: 吳雅婷】2021年01月05日 星期二

浏览人次:【3592】
  

AI浪潮冲向全球,台湾新创公司创鑫智慧(NEUCHIPS)锚定智慧运算版图的制高点,善用台湾的晶片设计优势,以AI加速器的矽智财为锚地,成功开发出AI在不同特定应用的运算引擎与骨干架构,并链结从云端到边缘的智慧运算解决方案,致力为台湾半导体业测绘出一条创新的智慧航道。


观察目前科技的最新动态,不难发现人工智慧(AI)浪潮不仅持续推进关键的技术发展,今年的新冠肺炎疫情更促使各产业全面加速转型,如今的AI发展,正显见地推升至技术推广与应用落地的竞争尖峰,智慧商机瞬间风起云涌。


现在,就是科技产业要角各自定位这波趋势是危机还是转机的时刻。但开发AI的目标是什麽?创鑫智慧(NEUCHIPS)董事长暨执行长林永隆指明:「所有AI都一样,当运算量很大的时候,要在一定的时间内完成,准确度要达到一定水准,耗的能量要越少越好,不然很多商业都无法运行。」


实现智慧普及化,就是目前全球AI技术发展的共同目标之一。台湾也不例外,科技部於2018年启动了半导体射月计画,目标是透过汇整台湾半导体领域的产官学资源,集中发展人工智慧终端(Edge AI)的核心技术。


创鑫智慧就是这项计画的叁与要角,他们锁定了特定应用领域对AI运算解决方案的开发需求,从IC设计开始部署台湾原生的AI创新技术,2020年更宣布进驻新竹科学园区,显露在产业应用面上的稳健成长动能。


作为新创公司,以矽智财(IP)开发者的身分出场,不能不说令人耳目一新。创鑫智慧由董事长暨执行长林永隆领军,因此公司发展与他在晶片设计上的深厚专业背景密切相关。


林永隆博士同时也是清华大学资讯工程学系的教授,除了长年专注在IC设计与设计自动化的研究与教学,更进一步触及机器学习技术,甚至组织了来自IC设计领域且具备业界前沿开发经验的新创团队,他看准的,就是AI运算将会在未来科技发展扮演关键推手的角色。


「Intelligence Everywhere是创鑫智慧的成立宗旨,」林教授表示,「要实现智慧运算或是演算法有很多方法,随着AI模型越变越大,对准确度的要求越高,运算需求也会越来越大。」因此,提升运算效率成了关键。



图一 : 卷积神经网路(CNN)具备高准确度,展现优异的影像辨识能力,创鑫智慧(NEUCHIPS)成功开发了CNN演算法HarDNet,并在短时间内研发出其用於生医领域的解决方案,於日前的台湾医疗科技展中展出。(source:创鑫智慧/摄影:黄慧心)
图一 : 卷积神经网路(CNN)具备高准确度,展现优异的影像辨识能力,创鑫智慧(NEUCHIPS)成功开发了CNN演算法HarDNet,并在短时间内研发出其用於生医领域的解决方案,於日前的台湾医疗科技展中展出。(source:创鑫智慧/摄影:黄慧心)

「实现智慧运算或是演算法有很多方法,提升运算效率,并控制整体成本,就是最好的AI运算。」创鑫智慧(NEUCHIPS)董事长暨执行长林永隆

@so4jp6


:那要如何提升效率?林教授接着解释,其实有很多方法,可以从演算法、运算架构、电路到系统优化,都有很多地方可以着手,所以要分析要从哪里开始进行,并针对问题提出可能的方案,再去实验、分析。


足见智慧运算解决方案的开发工作,兹事体大,创鑫智慧也在持续关注市场与不断创新开发的历程中,摸索出一些在AI市场的生存脉络。


应用领航 智慧运算开发未尽

具备AI运算的核心技术,创鑫智慧现已开发出三大核心产品,布局扩及边缘到云端环境,目标应用涉及听觉与视觉处理,以及运算加速,分别是用於语音处理的AI加速器引擎RNNAccel、其独家开发的开源CNN演算法架构HarDNet,以及能够优化云端推荐系统的AI加速器引擎RecAccel。


「RNNAccel能听得更明白,HarDNet能看得更清楚,RecAccel能想得更透彻,这些是我们产品的核心价值。」营运长陈建良一言以蔽之,整体而言,AI的应用范畴(spectrum)很广,除了锁定与眼睛、耳朵与大脑直接相关的智慧运算方案,创鑫智慧仍在持续尝试相关的可配置方案。


事业开发经理陈品函进一步解释,要实现Intelligence Everywhere,他们先找到耳朵,以声音来说,课题可以很广,从抗噪、语音辨识到翻译。


「而IC设计是我们在行的,」在论及AI技术开发时陈品函侃侃而谈,「所以我们的第一个产品RNNAccel以硬体优化切入开发,而且AI的领域非常多,但最後还是要交给电脑运算,包含一些通用硬体,像是CPU、GPU,它们虽然有很大的弹性,但问题是针对特定应用时,能耗就会比较差。」


因此,创鑫智慧在开发初期就聚焦在加速特定AI应用的硬体运算效能。「最好是电池运作的,」陈品函补充,「这些应用要更省电、效率要更好。」从硬体优化的角度切入,创鑫智慧不仅能发挥在晶片设计的专长,还能依据不同应用设计出更有效率的IC,让尺寸更小、能耗更小,进一步降低整体成本。


「AI应用的预算控制(within budget)很重要,」林教授指出:「这就包括购置、运算和时间的成本。」他以挖矿机为例,一开始用的是CPU,但太耗电,之後改用GPU,也太耗电,後来就设计了挖矿机专用的ASIC。


「AI运算也是一样,辨识影像要耗多少电,或是一焦耳的能量可以辨识多少影像。控制好这些成本,就是最好的AI运算。」他直言。


以语音处理的边缘装置为例,像是智慧音箱(smart speaker)、助听器、穿戴式装置、主动降噪(ANC)耳机等。陈品函表示,要在这些装置上执行深度学习推论,运用传统规则式演算法,效果有限,AI演算法却可以更快、更省电,节省的能耗多达70%。


此外,要将智慧运算普遍导入装端装置,除了电力,对记忆体也有相当的限制。陈品函表示,RNNAccel的关键技术就是他们团队开发的压缩技术NeuCompression,不仅压缩效果能从2x、5.3x、8x到高达16x的比例,同时还能达成比目前其他现有方案还更优异的精准度,对记忆体的需求也变小了。


除了考量终端硬体的负载限制与控制整体成本,面对未来AI普及化的多元应用需求,还要取得在通用与客制需求之间的性能平衡,进而开发出最隹化的智慧运算解决方案,这也会是产品开发的重要考量。


「AI是应用导向,该精准就精准,」陈品函举例,例如ADAS对性能要求就比较严苛(critical),运算要跑得比车还快,该煞车就要煞车,但消费性应用就可以采用小模型,例如抗噪耳机。



图二 : 创鑫智慧(NEUCHIPS)事业开发经理陈品函表示,AI开发以应用为导向,精准度还是重要的考量。(摄影:黄慧心)
图二 : 创鑫智慧(NEUCHIPS)事业开发经理陈品函表示,AI开发以应用为导向,精准度还是重要的考量。(摄影:黄慧心)

「当未来AI真的无所不在的时候,其实整体来说,AI的精准度还是需要考虑的,怎麽去取舍,就要看个别应用对精准度的需求。」她说道。


IC设计是起点 却不是终点

作为新创公司,本身在开发的时候就是挑战,也有风险。但为何首先开发人工智慧IP,进入这块高成长却也高竞争的市场?


陈建良回应:「以早期发展来说,我们会希??以核心技术很快地进入市场,所以利用IP来推广我们的核心技术。」但不同阶段公司会有不同的规划和发展,会随着时空和环境调整,他也补充。


以IP模式经营,一般首先会想到的就是Arm,它是发展得相当成功的典范。陈品函则点出另一项关键:「我们初期没有开发自己的IC,利用IP的形式设计产品,我们可以把AI当作基准,从应用演算法、到架构、到运算硬体着手开发,再把整体的解决方案进一步精简,面对问题,我们也有能力从头想到尾。」


谈到完整的智慧运算解决方案,陈建良指出:「和台湾业界不一样的地方,是我们有自行开发的HarDNet演算法,很多产业夥伴的演算法都来自他人的演算法,例如SDD-VGGNet或ResNet等,但那样开发只能做到加速,不能改善,我们从核心技术扎根,所以可以从演算法、软体到硬体架构进行改良,全面提升运算效能。」


另一方面,他也指出,在应用面,国内业界多半都在谈AIoT、边缘装置端,非常少的团队在讨论云端和资料中心的运算,这也反映他们观察国内外市场在AI运算的开发需求上呈现出的差异。


「台湾很多在做高阶手机,还有MCU,这些应用对AI的要求等级就会和其他应用很不一样,」陈建良表示:「国外会做『微型智慧运算(Tiny ML、Tiny AI)』,这些运算模型被大幅简化,好处是运算量非常低,所以电池和使用场景会非常不一样,而美国矽谷在AI领域还是位居世界领导地位,所以比较强调高速运算、高精准度。」


洞察AI运算需求的市场差异性,创鑫智慧在2019年开发了第三款产品RecAccel,就是尝试挑战以资料中心应用为目标进行开发,期??将能加速云端平台上的推荐系统效能。


「走一条和台湾现况不一样的路,也是我们公司努力实现的目标,」陈建良表示:「传统晶片和AI晶片供应链,在上下游的合作模式上会出现很大的差异。台湾的强项是快速晶片化、快速降低成本,对在世界各地快速普及技术有其贡献。但在AI领域上,最大的不同是『演算法并不标准』,会根据使用场景进行调整,这对台湾来说,是非常不熟悉的IC开发方式。」



图三 : 人工智慧应用广泛,技术创新显得更为重要,创鑫智慧(NEUCHIPS)持续从演算法、软体到硬体的创新方案,迈向创造价值的产业模式发展。(source:创鑫智慧/摄影:黄慧心)
图三 : 人工智慧应用广泛,技术创新显得更为重要,创鑫智慧(NEUCHIPS)持续从演算法、软体到硬体的创新方案,迈向创造价值的产业模式发展。(source:创鑫智慧/摄影:黄慧心)

创新,是国外科技公司相对擅长的领域,而设计出新的规格和产品,可以创造新的产业价值。


林教授举了个有趣的例子:「在家看电影你可以使用PC或笔电,也可以拿DVD播放机,但後者很便宜,因为它只能做一件事情。」


陈建良坦言,往价值创造的方向发展,我们往往相对犹豫,台湾公司在创新方面,很多时候因为一开始无法标准化、规格化,或在绩效指标上有好的成效,所以可能会扼杀很多创新和机会。


但他也建言,台湾的步调虽然相对保守,业界也希??能一击中的,找到好的商业模式就可以利用台湾的优势继续发展。而这也是创鑫智慧成立的自我期许,那就是创造价值,所以我们从根本的演算法开始改善,再来是持续强化运算效率。


目前台湾半导体制造业也在导入AI,陈建良表示,利用HarDNet架构进行智慧影像应用,以提升制程良率,并即时发现错误;业界也在成立AI技术的研究单位,朝向智慧演算的目标稳健发展。


结语

展??2021年,陈建良表示,後疫情时代将持续加速AI发展,尤其是远距应用带动的影像辨识需求,将继续注入强劲动能。创鑫智慧目前仍专注在核心引擎的开发,并根据目标市场动态,切出最有利基的市场。


国际组织也持续致力於推广AI与机器学习技术的开发与应用,创鑫智慧便加入了其中的开放工程联盟MLCommons(最初成立名为MLPlerf),共有多达50多家来自产学界的创始成员,包含Google、Facebook AI、Intel、Nvidia、阿里巴巴以及联发科。值得注意的是,这些创始成员中有15家就是新创团队,足见新兴技术带动的发展动能和开发诱因不容小黥。


另一方面,AI演算法突破了传统以规则为基础的模型开发模式,在越来越多的特定应用中展现出高精准又符合开发成本的高运算效能。为了在建构新一代运算生态系的过程中,持续强化并创造台湾的产业价值,创鑫智慧未来也将持续整合学界的创新技术与产业的研发和实务能力,让智慧应用更加普及。


相关文章
收集模型测试覆盖程度度量资料的理由
实现朝向先进马达控制的趋势转变
光线追踪等级系统加速 塑造电玩游戏新定义
以模型为基础设计开发无人自主停车技术
洞察健康数据:一种可付诸行动的转换公式
comments powered by Disqus
相关讨论
  相关新品
CWFA205: WiFi+BT
原厂/品牌:鉅景
供应商:鉅景
產品類別:RF
GPS SiP Module
原厂/品牌:鉅景
供应商:鉅景
產品類別:RF
CGPA10x: GPS SiP
原厂/品牌:鉅景
供应商:鉅景
產品類別:RF
  相关新闻
» [安驰×ADI] 多叁数水质监测 打造精确稳定水质量测系统
» 强化网路存取安全 Palo Alto推全面零信任网路安全架构
» 延续摩尔定律 半导体大厂合作开发3/2奈米技术
» ST:支付技术发展迅速 使用者渴??新的支付体验
» TI:新一代微控制器需具备处理器级运算与简易设计
  相关产品
» Arm全面运算解决方案 为广泛消费终端带来效能与效率
» Maxim Integrated:智能边缘可有效提高工厂生产力
» 英特尔将神经形态研究系统扩展至1亿个神经元
» ST:功能安全将是工业4.0的重中之重
» 伺服器48V新标准正热 Vicor三相RFM满足机架电源新挑战

AD


刊登廣告 新聞信箱 读者信箱 著作權聲明 隱私權聲明 本站介紹

Copyright ©1999-2021 远播信息股份有限公司版权所有 Powered by O3
地址:台北市中山北路三段29号11楼 / 电话 (02)2585-5526 / E-Mail: webmaster@ctimes.com.tw