数星星 - AI话题 - AI快开门

2024-04-03

Anthropic、斯坦福与腾讯相继曝光“长上下文越狱”风险：Claude、GPT-4、Llama-2在长提示下均被诱导泄露敏感信息；腾讯提出“数星星”评测法替代“大海捞针”，更精准衡量模型长依赖能力。长文本既是产品卖点也是安全软肋，催生新的评测与防护标准，将直接影响大模型商业可信度和合规节奏。

# 数星星