搜尋

會員登入

搜尋

導覽

會員
廣告

NVIDIA在日本與台灣推出用於生成式AI的NIM微服務

瀏覽次數:2619

世界各國都在追求發展主權 AI,利用自己的運算基礎設施、資料、勞動力及商業網路來發展AI,以確保 AI 系統符合當地的價值觀、法律與利益。NVIDIA 為了支持這些努力,今日宣布推出四款全新 NVIDIA NIM 微服務,讓開發人員能夠更輕鬆地建置與部署高效能的生成式 AI 應用。

這些微服務支援社群常用的各種模型,並且針對地區需求量身打造。這些微服務可以按照當地語言和文化傳統,透過準確理解和改善的回應,強化與使用者的互動。

根據 ABI Research 的資料顯示,光是在亞太地區,預計到 2030 年時,生成式 AI 軟體的營收將從今年的 50 億美元成長到 480 億美元。

使用日文資料訓練出的 Llama-3-Swallow-70B,以及用國語資料訓練出的 Llama-3-Taiwan-70B,都屬於區域語言模型,可以更深入瞭解當地法律、法規和其他習俗。

MCU睡眠模式(Sleep Mode)大解密

MCU睡眠模式(Sleep Mode)大解密

電池供電的感測器、智慧家居與可攜式裝置,經常花大量時間等待事件。延長續航的關鍵,是讓CPU只在需要時工作,並把監測、取樣與資料搬移交給適合的周邊。Microchip PI…

電池供電的感測器、智慧家居與可攜式裝置,經常花大量時間等待事件。延長續航的關鍵,是讓CPU只在需要時工作,並把監測、取樣…