解码加速 - AI话题

2024-07-02

韩国团队提出拆分注意力机制的Transformer新架构，解码提速20倍；北大&腾讯等通过医疗持续预训练将8B模型推至GPT-4级性能；LayerNorm非线性表达研究挑战传统激活函数。后训练优化与高效架构成为降低算力门槛、推动端侧及垂直场景落地的关键。

AI快开门