2025-07-13
Transformer架构新挑战
Mamba作者再发论文，提出H-Net动态分块网络，跳过tokenization实现端到端序列建模，为“无Tokenizer时代”奠基；流匹配成为ICML 2025热门主题，扩散模型与物理启发算法持续冲击Transformer统治地位。
2025-05-04
顶会审稿质量危机
ICML 2025投稿量激增26%至1.2万篇，却伴随审稿敷衍、乌龙拒稿，引发学界对同行评议体系信任危机；若评审质量持续下滑，将影响研究方向公信力、青年学者职业发展及学术创新生态。
2024-08-17
大模型可解释性进展
MIT团队在ICML 2024发表论文，通过因果干预与表征探针首次揭示大模型对语言结构存在内部抽象与层级理解，为破解“黑箱”思维过程提供新证据。该研究有望推动更安全、可控的模型训练与对齐方法落地。
2024-08-04
学术前沿与方法论反思
ICML 2024接收“无算法无实验”论文，Meta提出大模型2级推理机制，可解释性研究追问“第一性解释”，显示顶级会议对方法论与理论创新的重新审视。
2024-06-09
大模型幻觉与量化难题破解
DeepMind首次解耦LLM认知与偶然不确定性，显著降低幻觉；ETH&北航提出Q-BERT量化微调新范式，解决量化后性能退化，为可信、低成本部署大模型提供关键技术支撑。
2024-06-05
Mamba-2架构突破
普林斯顿与CMU团队发布Mamba-2，用统一数学框架将Transformer与SSM合二为一，状态空间扩大8倍、训练提速50%，为后Transformer时代提供新基座，可能重塑大模型底层架构。
2024-05-27
Transformer架构再进化
DCFormer、OmniGlue、傅立叶微调等多项ICML 2024研究提出对Transformer注意力、微调与匹配模块的创新改造，显著降低算力或提升泛化，为下一代大模型降本增效提供新路径。
2024-05-18
顶级会议与前沿研究
ACL2024、ICML2024、WWW2024等顶会密集放榜，南大、复旦、清华等国内团队多篇论文入选，主题涵盖多智能体通信、动态算法、大模型鲁棒性，彰显中国NLP与机器学习国际影响力。