AMD宣布最新AMD ROCm 6.2开源堆叠软体现已释出，为AMD Instinct系列带来效能和效率最隹化的成长。关於新增功能和优势的详细资讯，包括：

·扩展vLLM支援，以提升Instinct加速器的人工智慧（AI）推论能力。

·全新Bitsandbytes功能可透过提升记忆体效率与效能来增强AI训练和推论。
...
...