我们正进入生成式AI时代。生成式AI将利用神经网路驱动全新体验和使用案例,这是一次重大的进展,但仅依靠云端是无法高效实现的。透过打造全新类别的强大且高效率AI PC,装置上AI将改变PC产业,驱动使用者的终端装置将成为真正的智慧助理,以更直觉、更无缝的方式融入使用者的生活。在未来PC产业中蓬勃发展的企业,将是那些期待进入由AI实现整合、个人化体验世界的企业。
目前关於生成式AI的热门讨论聚焦在利用云端以运作、训练、推理模型。但并非所有工作都需要去云端。由生成式AI驱动的体验正以前所未有的速度普及,产生大量的运算处理需求。因此,采用兼具云端和装置上最具优势的解决方案至关重要。这就是「混合式AI」,亦即将工作负载分布在云端和边缘装置之间并进行协作,进而提供更强大、更高效率且高度最隹化的体验。
广泛且持续在装置上运行AI的应用程式,正在了解使用者,以预测和回应使用者的需求,其提供的即时性和可靠性,不会因容量限制而导致延迟。这个过程是利用装置上可用的情境和内容,实现个人化互动、提醒和回应。同时,由於查询(query)无需离开终端装置,因此有助於保护个人资讯并增强隐私。
有了装置上AI,使用者可以方便地与AI助理进行自然流畅的对话。使用者不需要透过开始按钮从一个应用程式跳到另一个应用程式,而是直接利用AI助理更有效率地与装置进行互动。例如,如果使用者想要预订机票,可直接向AI助理询问相关资讯即可。更重要的是,如果AI助理观察到使用者预订了机票,它甚至可在使用者询问之前就提供饭店资讯。
在装置上高效运行AI模型需要异质运算。除了CPU和GPU以外,现在在装置上AI和衡量PC效能的第三个关键处理核心是NPU。装置上AI引擎从CPU和GPU分流部分任务,以提升效能和电池效率;这可满足在极具可携性设计的装置上,以极低功耗随时随地持续运行高负载AI应用的处理需求。
这个机会的规模空前巨大。事实上,根据调查94%的企业领导者表示,AI对未来五年的成功至关重要。IT决策者认为,AI是影响购买决策的最大因素。最新研究指出,近一半的IT决策者有意愿基於AI效能更换PC品牌。
PC正处於令人兴奋的世代改变风囗。我们已经深刻地意识到在软硬体中整合AI的重要性,这将开启机会、开拓创新。使用者与AI PC互动的新时代已悄然而至。
(本文作者Akash Palkhiwala为美国高通公司(Qualcomm)财务长)