Fast-dLLM - AI话题 - AI快开门

2025-06-03

AI推理加速新框架

英伟达联合MIT、港大推出Fast-dLLM，通过稀疏激活与并行调度把大模型推理速度提升27倍，显著降低延迟与算力成本，为端侧部署和实时交互打开新空间。

Fast-dLLM 推理加速英伟达稀疏激活端侧部署