Microsoft正式发表第二代AI加速器Maia 200。这款采用台积电3奈米制程的晶片拥有超过1,400亿个电晶体,在FP4精度下可提供10+ peta FLOPS的运算能力。除了硬体规格亮眼,微软更与OpenAI共同开发的软体工具链。
微软官方数据指出,其FP4性能是Amazon Trainium 3的三倍,并在FP8表现上优於Google TPU v7。对企业用户而言,Maia 200相比现有硬体能提供高达30%的每美元性能提升。目前该晶片已在爱荷华州数据中心上线,随後将扩展至亚利桑那州。
针对大规模语言模型(LLM)的数据吞吐需求,Maia 200优化了记忆体子系统。晶片配置216GB的HBM3e记忆体,传输频宽达7 TB/s,并搭载272MB的内建SRAM。这种强化内建记忆体的设计策略与Cerebras或Groq等一致,可极大化AI推理效率。
...
...
| 另一名雇主 |
限られたニュース |
文章閱讀限制 |
出版品優惠 |
| 一般使用者 |
10/ごとに 30 日間 |
0/ごとに 30 日間 |
付费下载 |
| VIP会员 |
无限制 |
25/ごとに 30 日間 |
付费下载 |