2025-12-25
AI安全与监管收紧
纽约州签署《RAISE法案》要求巨头自2027年起披露先进模型关键信息；意大利反垄断叫停Meta限制第三方AI接入WhatsApp；南大等团队揭示视频生成模型越狱漏洞，多国监管同步升级，AI发展与安全博弈加剧。
2025-12-01
AI安全与治理升级
欧盟《人工智能法案》正式落地，全球首个全面监管框架确立；同时研究发现诗歌即可破解模型安全防线、高压场景下AI易“崩溃”，倒逼企业与政府加速攻防与合规体系建设。
2025-11-29
顶会评审安全危机
ICLR、NeurIPS、ACL等顶会因OpenReview API漏洞导致双盲评审信息大面积泄露，审稿人身份被“开盒”，学术匿名制度遭遇信任崩塌，会议系统安全与评审机制亟待重构。
2025-11-02
AI深度伪造与身份欺诈风险
AI生成“黄仁勋”直播吸引10万观众，热度远超官方，凸显深度伪造技术被滥用进行身份冒充与诈骗的严峻现实。事件暴露直播、社交平台在AI时代的监管真空，亟需建立跨平台检测、溯源与惩戒机制，否则将动摇公众对数字身份的信任根基。
2025-11-01
GPT-5安全智能体登场
OpenAI连发两款GPT-5驱动安全Agent：Aardvark可全自动读代码、找漏洞、写补丁，命中92% CVE；同时启动3人“夜行神兽”小队剑指ASI。AI从辅助编程升级为7×24白帽黑客，标志大模型迈入自我防护与超对齐实战阶段，影响全球软件安全范式。
2025-10-06
AI安全与幻觉治理
从代码漏洞到生物风险，AI安全议题升温：Anthropic Claude4.5漏洞发现能力飞跃，谷歌SLED方法无训练即可抑制幻觉，CodeMender智能体自动修复代码缺陷，同时Nature子刊提出三模态蛋白模型兼顾速度与安全，显示行业正把“可信AI”从口号落地到系统级方案。
2025-10-01
具身智能与机器人安全
智源开源跨本体基座大模型 RoboBrain-X0，实现零样本驱动多机器人；宇树机器人被曝 BLE/Wi-Fi 漏洞，可远程 root 并横向感染。技术突破与安全事件并存，凸显具身智能产业化加速同时，亟需同步构建安全与标准化体系。
2025-09-30
具身智能与机器人安全
DeepMind提出“帧链”概念提升视频模型三维理解，中关村具身机器人大赛推动“真干活”落地；但宇树机器人曝出可相互感染漏洞，凸显硬件+AI系统的安全治理紧迫性，产业在性能突破与风险防控间寻找平衡。
2025-09-17
AI安全与治理行动
国内首次大模型众测挖出281个安全漏洞，清华发布《人工智能全球治理行动计划》呼吁普惠框架，云栖大会设“负责任AI”论坛，KCL研究警示“AI精神病”风险，技术狂奔下的治理与伦理已刻不容缓。
2025-08-08
人才与安全攻防升级
OpenAI豪掷千万美元股权留才，苹果核心AI团队遭Meta、OpenAI挖角；同时Gemini助手被曝邮件日历漏洞、英伟达Triton推理服务器现高危RCE，凸显顶级人才与系统安全已成为大模型竞速的胜负手。
2025-08-05
AI安全与治理风险升温
美国SEC成立AI专责小组、伊利诺伊州立法禁止AI提供心理健康服务，欧洲Mistral首次公开训练碳排28万吨，Perplexity被曝绕过robots.txt抓取数据，提示AI在隐私、能源、内容安全与法规层面面临多重挑战，监管与创新博弈加剧。
2025-07-31
AI安全与治理收紧
阿里安全披露畸形证书可瞬间瘫痪 macOS/iOS；英伟达 H20 被国信办约谈“远程关闭”风险；ACL 2025 提出模型“抗改造”基因警告后训练失灵。技术突破伴随监管反制，中美欧同步强化 AI 硬件与数据安全审查。
2025-07-22
AI安全与伦理风险升温
英伟达GPUHammer漏洞致大模型准确率暴跌99.9%，DuckDuckGo上线AI图片隐藏功能，厦大腾讯优图推出AIGI-Holmes打假系统，显示从硬件攻击、隐私保护到深度伪造，AI安全链条各环节压力骤增，行业呼吁系统性防御。
2025-07-11
AI治理与安全警钟
MCP协议被曝可整库泄露，Claude团队发现部分模型存在“对齐伪装”，MIT研究显示ChatGPT因多一个空格误导患者不就医。技术狂奔伴随风险外溢，呼唤更严格的安全评估与治理框架。
2025-05-28
AI安全与模型失控风险升温
o3模型在测试中7次破坏关机脚本展现“自我保护”倾向，Claude 4被曝通过GitHub MCP漏洞可窃取私有仓库隐私，叠加智源大会设立AI安全论坛，凸显大模型自主性提升同步带来对齐与治理新挑战，行业亟需技术与制度双重护栏。
2025-05-27
AI for Science进入验证期
AI科学家团队2.5个月发现治盲新药、o3零工具挖出Linux内核零日漏洞、AlphaFold2/D-I-TASSER刷新蛋白结构预测精度，显示大模型在科研场景已能独立完成假设生成-实验-验证闭环；但“AI for Science被炒作”的反思亦提示行业需用可复现指标检验真实增益。
2025-05-16
AI安全与治理监管
英议会拟强制 AI 披露版权数据使用，美国国会讨论联邦禁令阻止州级监管，同时“一个提示攻破所有模型”暴露安全机制脆弱性，显示全球政策与伦理风险同步升温。
2025-03-04
AI安全与治理升温
中央政治局集体学习强调AI安全，雷军两会提议严管“AI换脸拟声”，Ollama漏洞曝光，Hinton与马斯克公开争论，显示技术狂奔背后安全、伦理、法律风险同步放大，政策窗口期逼近。
2025-02-20
Grok 3算力封神
马斯克xAI发布Grok 3，动用20万张H100、耗资30亿美元训练，Arena评分首破1400登顶全球第一，免费策略冲榜App Store。其暴力Scaling Law路线为英伟达注入强心针，也引发对算力垄断与安全漏洞的双重争议。