前沿模型论坛发布越狱评级框架：给网络安全类越狱分等级，决定先修哪个

OpenAI 2026 年 11 月 6 日发布消息称，它与前沿模型论坛（FMF）及论坛成员公司共同推出一套针对前沿网络安全威胁的越狱评级框架。论坛的原始公告发布于 11 月 5 日，版本号为 1.0。 ## 框架要解决什么 越狱指的是可以复现的绕过手段，能把模型防护本该限制住的能力或信息放出来。论坛说，麻烦在于成功的越狱并不是同一回事：有的只是让模型给出没什么实际用处的回答，有的可能让恶意使用者拿到危险的网络能力。 如果没有统一的评分方法，各家机构面对同一个越狱会给出不同判断，研究结果之间没法比较，有限的修补资源也可能先花在风险更小的问题上。 ## 四个维度 框架采用分级评估，把四项分数合成一个综合结果： | 维度 | 评估内容 | |---|---| | 能力增益 | 绕过后放出的能力比原来多了多少 | | 能力范围 | 这些能力覆盖多大的面 | | 部署难度 | 这些能力被用起来有多容易 | | 发现难度 | 这类越狱有多容易被找到 | 框架按越狱解锁的能力、以及这些能力有多容易被使用来分类，目的是让不同团队评出来的结果更一致。 ## 各方表态 OpenAI 国家安全政策负责人 Sasha Baker 的说法是，这套框架是建立通用方法的一步，能用来评估和比较网络安全类越狱的严重程度，包括它们解锁的能力以及被使用的容易程度；共享的方法可以帮助 AI 与安全领域建立更清晰的证据基础，优先改进防护。 论坛公告里还刊出了 AWS 安全副总裁 Hart Rossman、Anthropic 公共事务负责人 Sarah Heck、Google DeepMind 前沿政策负责人 Owen Larter、微软负责任 AI 负责人 Natasha Crampton 的评论，几家都提到此前缺少共同的评价标准。 ## 之后 1.0 是初始版本。论坛表示会用不同类型的越狱检验这个框架，看不同评估者给出的评级是否接近、评级能否反映风险上的实际差别，并随新越狱出现持续更新。 公开征求意见的时间到 2026 年 12 月 21 日截止。 [查看全文](https://www.angryecho.com/post/P2TBCCVE19cq6G9WaekW9)

转载自 CSDN-专业IT技术社区

原文链接：https://blog.csdn.net/2401_88904194/article/details/170245324