帳號:
密碼:
最新動態
產業快訊
CTIMES / 文章 /
TinyML前進物聯 MCU深度學習成為可能
加速落實邊緣AI

【作者: 王岫晨】   2022年02月22日 星期二

瀏覽人次:【2968】

物聯網正加速帶動人工智慧走向終端裝置,我們可以看到市場繼續保持積極的成長趨勢。市場也期待有更多的人工智慧物聯網設備在市場上普及,並深入包括消費性物聯網設備、工業應用和網路、還有與視覺、語音和聲音影像相關的邊緣應用。


AI的應用案例正在推動著龐大的物聯網運算需求,而這背後都需要透過MCU來釋放這些運算能量。我們也可以看出市場上的MCU解決方案基本上有兩大發展趨勢,用以支援新一代的機器學習(Machine Learning;ML)運算能力。一是提高MCU本身的運算性能及能力,例如從Arm Cortex M0+提升到M4、M33和M7等。另一種則是透過在MCU中整合機器學習加速器或DSP等,來強化ML運算能力。


智慧系統主架構

恩智浦半導體大中華區資深行銷經理黃健洲指出,物聯網對於未來智慧化系統的重要性不言可喻。物聯網被視為未來各種智慧化系統的主要架構,透過底層感測網路、中間通訊傳輸與上層雲端平台的組合,讓資訊無縫流動,進而延伸出更多應用,賦予更智慧的生活體驗。不過隨著物聯網應用多元化、許多應用或因功能安全或因直觀需要即時反應,集中式運算的物聯網架構已難因應所有領域,因此系統終端開始被賦予一定程度的運算能力,以提升即時反應功能。


圖一 : 恩智浦半導體大中華區資深行銷經理黃健洲
圖一 : 恩智浦半導體大中華區資深行銷經理黃健洲

過去的物聯網架構中,資料需要從底層傳回雲端平台,再從雲端平台下指令由終端設備動作,對工廠、汽車或智慧家電這類需要高即時性的系統來說,一來一往的訊息傳遞極為耗時,因此具備運算能力的終端設備。這類終端設備可在本地處理指令,快速回應使用者需求。


但最重要的是,因為物聯網的應用多元,每一類型的應用架構都可找到最適合的效能架構,如何讓資源使用最佳化,落實物盡其用的願景,是目前設計工程師最需要的考慮的方向。


先進製程將幫助打造更快速、更有效率的運算架構,能夠有效管理即時分析及運用大量由終端裝置所產生的數據資料,因應使用者在不同情境下的需求,在短時間內精確處理海量的資料,並做出最正確的判斷與即時的反應。


TinyML打造智能聯網設備

TinyML可望在未來五年內獲得超過700億美元的收益,其目的就在提升物聯網設備易用性,並改變智能物聯的未來前景。

將運算從雲端轉移至邊緣端,甚至是終端裝置,一直是這幾年產業的大趨勢,這使得Edge AI及End-point AI成為近幾年熱門的話題。當然產業也開始重視MCU-based AI應用,從嵌入式機器學習(Embedded ML)到微型機器學習(TinyML)都開始受到關注。TinyML被視為是快速發展的機器學習技術應用領域,從硬體、演算法到應用軟體,都能以極低的功耗來執行設備上的感測器數據分析,並實現各種長時間運作的應用,滿足電池長期供電的設備需求,因此特別適合用於物聯網設備。


TinyML將邊緣AI更進一步深化,使得在微控制器(MCU)上運行深度學習模型成為可能。比起一些小型的處理器,MCU的資源受限得多。目前MCU價格很便宜,平均銷售價格約低於0.50美元,而且它們無所不在,嵌入到消費端和工業設備之中。因此,如果在MCU上導入深度學習模型,就可以為許多應用開啟新的應用。


深度學習模型最初的成功,要歸功於具有大量記憶體和GPU資源的大型伺服器。深度學習的前景催生了整個深度神經網路的雲端運算產業,在幾乎無限制的雲端資源上運行超大型神經網路是件很酷的事情,特別是針對那些有能力支付大筆開銷的大型企業。然而在此同時,近年來我們也看到了新的趨勢,也就是在邊緣設備上也開始需要導入機器學習模型。這些模型就是TinyML,這適合用在記憶容量與運算能力有限的物聯網設備上。


隨著半導體技術的快速提升,現在可以說是在物聯網終端裝置上,設計與部署真正智能的好時機。具備感知環境能力的裝置,能為其搜集到的資料與促成的服務,創造極大的價值。硬體與軟體近年來的發展,能夠為原本資源受限的終端裝置平台增添更多的運算效能,促成大幅度的改變,讓開發人員可以為終端裝置導入真正的智能,並打造出視覺、語音與震動的能力。


智慧聯網元件的選擇考量

即時性與低延遲

Arm AIoT方案資深經理黃晏祥指出,許多情況下,將數據發送回雲端進行處理是不可行的。減少數據往返時間不僅可以提高回應時間,而且在工業製造等作業中,即時處理對安全和營運相當重要。同樣的原則也適用於車聯網的場景。因此,在智慧化的物聯網應用當中,可運用ML來更快獲得訊息,並以極低延遲的效率傳遞給人或機器。


圖二 : Arm AIoT方案資深經理黃晏祥
圖二 : Arm AIoT方案資深經理黃晏祥

安全與隱私保護

當物聯網裝置被廣泛部署,而裝置上又收集到許多數據資料,甚至有些機敏的數據,使得資訊安全對於物聯網從端到雲的整個過程也都極為重要。企業在佈署物聯網時,對於遵從哪套標準也可能莫衷一是。Arm推動的PSA認證制度,就是希望能提供業界一致的安全標準。


規模化與經濟效益

物聯網最大的挑戰之一就是碎片化。之前許多企業傾向採用專用(proprietary)系統,造成物聯網不易擴大規模,導致經濟效益不彰。Arm Project Centauri目的在於建立一套開放標準架構,可以先就底層作業預作處理,並簡化設計流程,物聯網開發者可針對特定應用場景進行差異化開發。同時,物聯網相關應用也能更容易地進行開發,更快的反應市場趨勢並掌握商機,以提高企業的投資報酬率。


低功耗及易於使用

TinyML的導入,在硬體層面需要解決對於極低功耗的要求,在軟體層面則需要滿足易於使用與移植的特性。


結語

根據預測,到2030年,大約有20億台設備將透過TinyML技術進入市場,並透過具有成本效益的方式,創造智能設備來造福市場使用者。至於在經濟方面,TinyML可望在未來五年內獲得超過700億美元的收益。TinyML目的就在於提升物聯網設備的應用易用性,並且改變智能化物聯設備的未來前景。


相關文章
落實馬達節能維運服務
智慧家居大步走 Matter實現更好體驗與可靠連結
車載軟體數量劇增 SDV硬體平台方興未艾
MCX A:通用MCU和FRDM開發平台
將意圖轉化為行動:走進嵌入式語音控制新時代
comments powered by Disqus
相關討論
  相關新聞
» 資策會攜手日本5GMF 推動5G發展與創新應用
» 工研院推升全球AIoT產業鏈結 攜手Arm創建世界級系統驗證中心
» Satellite 2024:仁寶攜手耀登與富宇翔 展全新衛星通信方案
» 圓展與新光保全合作打造遠距照護服務
» Arm發佈車用技術及運算子系統路徑圖 加速AI車輛上市


刊登廣告 新聞信箱 讀者信箱 著作權聲明 隱私權聲明 本站介紹

Copyright ©1999-2024 遠播資訊股份有限公司版權所有 Powered by O3  v3.20.2048.54.144.233.198
地址:台北數位產業園區(digiBlock Taipei) 103台北市大同區承德路三段287-2號A棟204室
電話 (02)2585-5526 #0 轉接至總機 /  E-Mail: webmaster@ctimes.com.tw