1. 引言:为什么安全设计总是"说起来重要,做起来次要"
在绝大多数研发团队里,安全设计(Security Design)都处在一个尴尬的位置:安全评审会上人人点头,项目排期里却永远排在功能之后。等到渗透测试报告出来、漏洞被逐个挂上工单,团队才开始"打补丁式"地补救——而这恰恰是成本最高、效果最差的路径。
业界早已形成共识:缺陷发现得越晚,修复成本越高。IBM System Sciences Institute 的经典研究指出,在设计阶段发现并修复一个安全缺陷的成本,约为上线后修复成本的 1/30;NIST 在《The Economic Impacts of Inadequate Infrastructure for Software Testing》中也给出了类似量级的结论。微软的 SDL(Security Development Lifecycle)实践进一步验证:把安全活动左移到设计阶段,是降低整体安全成本最有效的手段。
本文尝试系统性地回答以下问题:
- 安全设计到底是什么?它和架构设计、威胁建模、安全编码是什么关系?
- 什么场景下必须做安全设计,什么场景下可以轻量化处理?
- 如何度量安全设计的有效性,而不是只统计"开了几次评审会"?
- 具体怎么做?有哪些成熟的工具、方法和框架,各自适用什么场景?
- 安全设计的输出如何真正落到项目交付中,而不是躺在 Confluence 里吃灰?
- 安全设计如何反向指导验收,形成闭环?
- 大模型(LLM)能在安全设计中承担什么角色?哪些环节可以交给它,哪些判断必须由人来做?
本文综合了 Microsoft SDL、OWASP SAMM / ASVS、NIST SSDF(SP 800-218)、Google 的 Building Security In、以及国内金融、互联网、云厂商的公开实践,力求给出一套可直接落地的参考框架。同时,考虑到大模型正在快速进入安全设计作业流程,本文在第 10 章专门讨论"大模型在安全设计中的应用:机会、边界与落地方案"——它能把威胁建模初稿的成本压到接近零,却无法替代人对风险的最终判断,这一判断也贯穿了本文对流程、工具与验收的全部讨论。
2. 安全设计的定义:它到底在解决什么问题
2.1 一个可操作的定义
安全设计是指在系统生命周期的架构与详细设计阶段,基于业务目标、数据资产和威胁环境,系统性地识别安全需求、分析攻击面、选择安全控制措施,并输出可被开发、测试、运维共同遵循的安全约束与验证依据的过程。
这个定义里有几个关键词值得展开:
- 基于业务目标与数据资产:安全设计不是无差别地堆砌控制措施,而是从"我们要保护什么"出发。没有资产识别的安全设计,本质上是在做合规表演。
- 识别安全需求:把模糊的"要安全"翻译成可验证的需求,例如"用户密码必须以 Argon2id 存储,参数不低于 m=64MB, t=3, p=4"。
- 分析攻击面:明确系统对外暴露的入口、信任边界、数据流向,以及攻击者可能利用的路径。
- 输出可验证的约束:这是安全设计与"安全建议"的分水岭——输出必须是开发能实现、测试能验证、运维能监控的具体条目。
2.2 安全设计与相邻概念的关系
很多团队把安全设计和威胁建模混为一谈,实际上它们是一个包含关系:
| 概念 | 定位 | 产出物 | 责任主体 |
|---|---|---|---|
| 安全架构(Security Architecture) | 组织级/系统级的安全顶层设计 | 安全架构蓝图、安全域划分、信任模型 | 安全架构师 |
| 安全设计(Security Design) | 项目级的安全设计活动 | 安全需求清单、威胁模型、控制措施设计、安全设计说明书 | 安全工程师 + 研发架构师 |
| 威胁建模(Threat Modeling) | 安全设计中的核心分析方法 | 数据流图、威胁清单(STRIDE)、缓解措施 | 研发 + 安全 |
| 安全编码(Secure Coding) | 实现阶段的活动 | 编码规范、SAST 规则、代码评审清单 | 研发 |
| 安全测试(Security Testing) | 验证阶段的活动 | 测试用例、渗透报告、DAST/IAST 结果 | 测试 + 安全 |
一句话概括:安全架构定方向,安全设计定方案,威胁建模是方案里的分析引擎,安全编码和测试是方案的落地与验证。
2.3 安全设计的核心原则
业界公认的设计原则可以追溯到 Saltzer 和 Schroeder 1975 年的经典论文《The Protection of Information in Computer Systems》,至今仍是安全设计的基石:
- 最小权限(Least Privilege):每个主体只应拥有完成其任务所必需的最小权限,且权限应有时效。
- 职责分离(Separation of Duties):关键操作需要多方参与,避免单点失控。
- 纵深防御(Defense in Depth):不依赖单一控制措施,假设每一层都可能被突破。
- 默认安全(Secure by Default / Fail Safe):默认配置即安全配置,失败时进入拒绝状态而非放行。
- 最小暴露面(Minimize Attack Surface):不必要的能力、端口、接口、调试入口一律关闭。
- 完全中介(Complete Mediation):每一次访问都必须经过授权检查,不能依赖缓存或前置判断。
- 开放设计(Open Design):安全性不应依赖设计的保密性,只应依赖密钥的保密性(Kerckhoffs 原则)。
- 权限最小化与可审计(Accountability):所有敏感操作可追溯、可归责。
OWASP 在此基础上补充了"零信任"语境下的实践原则:永不信任、始终验证;假设网络已被攻破;以身份为中心而非以网络边界为中心。
3. 什么场景下需要安全设计
不是所有需求都值得投入同等的安全设计成本。业界普遍采用分级分类的方式,根据系统属性决定安全设计的深度。以下是需要触发安全设计的典型场景。
3.1 必须做完整安全设计的场景
- 涉及敏感数据:个人身份信息(PII)、金融账户、医疗健康、生物特征、支付卡数据(PCI DSS 范围)、密钥与凭据。
- 对外暴露的互联网系统:公网可访问的 Web/API/移动端后端,尤其是面向 C 端用户的系统。
- 身份认证与授权系统:SSO、OAuth2/OIDC 授权服务器、IAM、权限中台——这类系统一旦被攻破,影响面是全局的。
- 涉及资金交易:支付、清算、结算、营销发券、积分兑换等直接或间接涉及资金流的链路。
- 多租户系统:SaaS 平台、云控制台,租户隔离失效即为最高级别事故。
- 关键基础设施与强监管行业:金融、能源、医疗、车联网、政务,需满足等保 2.0、金融行业标准 JR/T 0071、GDPR、HIPAA 等合规要求。
- 引入新的外部依赖或架构变更:新增第三方 SDK、引入消息队列、从单体拆微服务、上云或跨云迁移——架构变更往往带来信任边界的重新划分。
- 开源组件引入与供应链变更:新增关键开源依赖、构建流水线变更,需评估供应链攻击面。
3.2 可以轻量化处理的场景
- 内部工具、一次性脚本、无敏感数据的运营后台(仍需基础认证与审计)。
- 纯前端展示型页面,无用户数据写入。
- 已有成熟安全基线覆盖的标准 CRUD 业务,且复用既有安全组件(如统一网关鉴权、统一加密 SDK)。
3.3 分级模型参考
微软 SDL 与 OWASP SAMM 都建议建立安全等级(Security Level) 模型。一个可落地的简化分级如下:
| 等级 | 判定条件 | 安全设计深度 | 典型产出 |
|---|---|---|---|
| L1 基础 | 内部系统、无敏感数据 | 复用安全基线,填写安全自查表 | 自查表 + 基线确认 |
| L2 标准 | 有用户数据、内网或受限公网 | 轻量威胁建模(STRIDE 简版)+ 安全需求清单 | 威胁清单 + 需求清单 |
| L3 严格 | 公网 + 敏感数据 / 涉及资金 | 完整威胁建模 + 安全设计评审 + 架构评审 | 完整安全设计说明书 + 评审记录 |
| L4 关键 | 认证授权核心、多租户、关键基础设施 | L3 + 形式化分析 / 红队预演 / 密码学评审 | 全套文档 + 专项评审 + 攻防演练结论 |
分级的意义在于把有限的安全资源投到高风险的地方,同时避免"一刀切"导致研发抵触。
4. 度量指标:如何证明安全设计真的有用
安全设计最容易陷入的度量陷阱是统计"过程指标"——开了多少次评审会、出了多少份文档。这些指标只能证明"做了",不能证明"有效"。业界实践通常从过程、产出、效果三个维度构建指标体系。
4.1 过程指标(Leading Indicators)
衡量安全设计活动是否按规范执行,用于早期预警:
- 安全设计覆盖率:应做安全设计的项目数 / 实际完成安全设计的项目数,目标 ≥ 95%。
- 威胁建模及时率:在设计评审前完成威胁建模的项目占比(而非开发完成后补做)。
- 设计评审参与度:安全、架构、研发、测试四方是否均参与,缺一方即扣分。
- 安全需求前置率:安全需求在需求阶段被识别的比例,反映左移程度。
- 平均修复时长(设计阶段):设计评审发现的问题从提出到关闭的时长。
4.2 产出指标(Output Indicators)
衡量安全设计交付物的质量:
- 威胁模型完备度:是否覆盖 STRIDE 六类威胁、是否覆盖全部信任边界、是否有对应的缓解措施映射。
- 安全需求可验证率:安全需求中可被测试用例直接验证的比例,目标 ≥ 80%。
- 控制措施落地率:设计中定义的安全控制,在实现阶段被实际实现的比例。
- 设计缺陷密度:每千行设计文档或每个架构组件发现的安全问题数。
4.3 效果指标(Lagging Indicators)
衡量安全设计对最终安全质量的贡献,是最有说服力的指标:
- 设计阶段缺陷发现占比:设计阶段发现的安全缺陷数 / 全生命周期安全缺陷总数。业界优秀水平可达 50% 以上。
- 上线后高危漏洞数:按 P0/P1 分级统计,对比有无安全设计的项目组。
- 漏洞逃逸率:设计阶段已识别的风险,最终仍在上线后爆发的比例,理想值趋近于 0。
- 安全事件数与 MTTR:生产环境安全事件数量及平均响应恢复时间。
- 返工成本占比:因安全设计缺失导致的返工工时 / 总研发工时。
- 合规审计一次通过率:等保测评、外部审计的一次性通过比例。
4.4 度量落地建议
- 指标不超过 10 个,过多会导致数据失真和团队疲劳。
- 区分"考核指标"与"观测指标":覆盖率类可考核,漏洞逃逸率类更适合观测与复盘。
- 建立基线并看趋势,而非追求绝对值。第一年建立基线,第二年看改善幅度。
- 与业务指标挂钩:例如"安全设计使上线后高危漏洞下降 60%,节省返工 320 人天",这类表述比"完成 100 次评审"更有说服力。
5. 怎么做安全设计:一套可落地的流程
综合 Microsoft SDL、NIST SSDF 的 PW.1(Design Software to Meet Security Requirements and Mitigate Security Risks)实践,以及国内大厂的落地经验,安全设计可以拆解为六个步骤。
5.1 步骤一:识别资产与业务上下文
安全设计的第一步不是画图,而是搞清楚"保护什么"。
- 梳理业务链路:用户 → 网关 → 应用 → 中间件 → 存储 → 第三方。
- 识别数据资产:按敏感度分级(公开 / 内部 / 敏感 / 机密),标注数据在哪些节点产生、流转、落盘、销毁。
- 明确合规约束:适用的法律法规、行业标准、内部红线。
- 输出:数据资产清单 + 数据流图(DFD)Level 0/1。
5.2 步骤二:划分信任边界与攻击面
- 在 DFD 上标注信任边界(Trust Boundary):浏览器与服务器之间、DMZ 与内网之间、应用与数据库之间、租户与租户之间、我方系统与第三方之间。
- 枚举攻击面:所有对外接口、文件上传点、反序列化入口、SSRF 可达的出网能力、管理后台、调试端口、第三方回调地址。
- 输出:信任边界图 + 攻击面清单。
5.3 步骤三:威胁建模
这是安全设计的技术核心。主流方法有三类:
| 方法 | 提出方 | 适用场景 | 特点 |
|---|---|---|---|
| STRIDE | 微软 | 通用系统设计评审 | 按威胁类型分类,易上手,配套工具成熟 |
| LINDDUN | 学术界(KU Leuven) | 隐私敏感系统、GDPR 合规 | 聚焦隐私威胁,与 STRIDE 互补 |
| PASTA | 业界(Versprite) | 风险驱动的中大型系统 | 以业务风险为中心,七阶段流程,较重 |
| Attack Tree | 经典方法 | 针对特定高价值目标的深度分析 | 自顶向下分解攻击路径,适合关键系统 |
| OCTAVE | 卡内基梅隆大学 SEI | 组织级风险评估 | 偏组织与资产管理,非纯技术 |
STRIDE 六类威胁速查:
- Spoofing 仿冒:身份伪造 → 缓解:强认证、MFA、证书校验。
- Tampering 篡改:数据或代码被改 → 缓解:完整性校验、签名、防篡改存储。
- Repudiation 抵赖:操作无法追溯 → 缓解:不可篡改审计日志、数字签名。
- Information Disclosure 信息泄露:敏感信息外泄 → 缓解:加密、脱敏、最小化返回字段。
- Denial of Service 拒绝服务:可用性受损 → 缓解:限流、熔断、资源配额。
- Elevation of Privilege 权限提升:越权 → 缓解:服务端强制鉴权、最小权限、租户隔离校验。
实操建议:不要追求一次做全。对每个信任边界上的数据流,用 STRIDE 逐项提问"这里可能发生什么",记录威胁、评估风险(可用 DREAD 或 CVSS 简化打分)、给出缓解措施,形成威胁-风险-措施三列清单即可。一个中等规模系统的首次威胁建模,2~4 小时的工作坊通常足够。
5.4 步骤四:设计安全控制措施
针对识别出的威胁,选择具体控制措施。建议按分层组织,便于评审和验证:
- 身份与访问控制:统一认证(OIDC/SAML)、细粒度授权(RBAC/ABAC)、服务间 mTLS、最小权限的服务账号。
- 数据安全:传输加密(TLS 1.2+,优先 1.3)、存储加密(KMS 托管密钥)、字段级加密与脱敏、密钥轮转策略。
- 输入与输出:统一输入校验、参数化查询、输出编码、文件上传白名单与隔离存储。
- 会话与状态:安全 Cookie 属性(HttpOnly/Secure/SameSite)、会话超时、防重放(nonce + 时间戳)。
- 审计与监控:关键操作全量审计、日志防篡改、异常行为检测。
- 韧性与可用性:限流、熔断、降级、资源隔离、备份与恢复演练。
- 供应链:依赖锁定、SBOM 生成、制品签名(Sigstore/cosign)、构建环境隔离。
每条控制措施都应写成可验证的表述,例如:
用户登录接口在连续 5 次密码错误后锁定账户 15 分钟,锁定事件写入审计日志并触发告警。
而不是"登录接口要有防暴力破解能力"。
5.5 步骤五:安全设计评审
评审是质量闸门。建议采用结构化评审而非自由讨论:
- 参与方:安全工程师(主持)、系统架构师、开发负责人、测试负责人、运维/SRE。
- 输入:数据流图、信任边界图、威胁清单、控制措施清单、安全需求清单。
- 议程:资产与边界确认(10 min)→ 威胁逐条过(30 min)→ 控制措施可行性(20 min)→ 遗留风险与决策(15 min)。
- 输出:评审结论(通过 / 有条件通过 / 不通过)、遗留风险登记表(含责任人与期限)、需补充的安全需求。
经验教训:评审会最常见的失败模式是"安全同学单方面讲,研发全程沉默"。有效的做法是让研发主讲自己的设计,安全同学提问——这样威胁才容易被真正理解,措施才容易被真正接受。
5.6 步骤六:输出安全设计说明书
最终交付物应是一份开发能照着做、测试能照着验的文档,建议包含:
- 系统概述与业务上下文
- 数据资产清单与分级
- 架构图、数据流图、信任边界图
- 威胁清单与风险评估结果
- 安全控制措施设计(分层、可验证)
- 安全需求清单(编号、描述、验证方法、优先级)
- 遗留风险与接受决策(含审批记录)
- 参考的合规条款与内部基线
6. 工具与方法:各自适用什么场景
工具选型的核心原则是匹配团队成熟度与系统复杂度,而不是追求最全的工具链。
6.1 威胁建模工具
| 工具 | 类型 | 适用场景 | 说明 |
|---|---|---|---|
| Microsoft Threat Modeling Tool | 桌面工具 | Windows 生态、传统企业架构 | 免费,内置 STRIDE 模板,支持 DFD 绘制与威胁自动生成 |
| OWASP Threat Dragon | 开源 Web | 中小团队、需要协作与版本管理 | 支持 STRIDE 与 LINDDUN,图与威胁清单一体化,可存 Git |
| IriusRisk | 商业平台 | 中大型企业、需要与研发流程集成 | 自动化威胁库、与 Jira/CI 集成、支持合规映射 |
| Threatspec | 开源(代码注解) | DevSecOps、威胁模型即代码 | 在源码中标注威胁,随代码演进,适合敏捷团队 |
| pytm | 开源(Python DSL) | 威胁模型即代码、CI 自动化 | 用 Python 描述系统,脚本生成威胁报告,可入流水线 |
选型建议:团队刚开始做威胁建模,用 OWASP Threat Dragon 或 Microsoft TMT 降低门槛;已经 DevSecOps 化、希望威胁模型随代码演进,选 pytm 或 Threatspec;需要企业级治理与合规映射,考虑 IriusRisk 等商业平台。
6.2 安全需求与知识库
- OWASP ASVS(Application Security Verification Standard):Web 应用安全需求的"字典",按 L1/L2/L3 分级,可直接裁剪为项目安全需求清单。这是最推荐的起点。
- OWASP MASVS:移动端对应标准。
- OWASP Top 10 / API Security Top 10:风险清单,适合作为威胁建模的输入提示。
- CWE / CAPEC:缺陷与攻击模式库,用于威胁描述标准化。
- NIST SP 800-53 / 800-218(SSDF):控制项与安全开发实践框架,适合合规驱动场景。
- 内部安全基线:企业自建的加密、认证、日志基线,优先级最高。
6.3 架构与设计辅助工具
- 架构图与 DFD:draw.io、PlantUML、Mermaid(可入 Git,随代码版本化)。
- API 设计阶段的安全检查:OpenAPI/Swagger 规范 + Spectral 规则集,在 API 定义阶段就约束认证方式、错误码不泄露信息等。
- IaC 安全扫描:Checkov、tfsec、KICS,在基础设施设计即代码时提前发现错误配置。
- 密码学选型:参考 NIST 后量子密码迁移指南、OWASP Cryptographic Storage Cheat Sheet,避免自研加密算法。
6.4 与研发流程集成的工具链
- 需求侧:Jira/飞书多维表格中设置"安全需求"字段与模板,强制填写。
- 设计侧:Confluence/语雀模板化安全设计文档,评审记录留痕。
- 代码侧:Semgrep / CodeQL(SAST)、Gitleaks(密钥扫描)、Dependency-Check / Trivy(SCA)。
- 流水线侧:把威胁模型、安全需求清单作为制品纳入 CI,实现"设计-实现-验证"可追溯。
6.5 方法选择矩阵
| 场景 | 推荐方法组合 |
|---|---|
| 初创团队、首个安全设计 | OWASP ASVS L1 裁剪 + STRIDE 简版 + Threat Dragon |
| 中型互联网业务 | ASVS L2 + STRIDE 完整 + pytm 入 CI + Semgrep |
| 金融/强监管 | ASVS L3 + STRIDE + Attack Tree + 等保/JR-T 映射 + 商业威胁建模平台 |
| 隐私敏感(GDPR) | STRIDE + LINDDUN + 数据映射(Data Mapping) |
| 云原生/多租户 | 零信任架构评审 + 租户隔离专项威胁建模 + IaC 扫描 |
7. 从设计到交付:让输出真正落地
安全设计最大的失败不是做得不好,而是做完就结束。文档躺在知识库里,开发照着旧习惯写代码,测试按功能用例验证——设计输出与交付之间出现了断层。以下是业界验证有效的衔接手段。
7.1 把安全需求变成可追踪的工作项
- 每条安全需求分配唯一编号(如
SEC-REQ-001),录入需求管理工具,与用户故事同等对待。 - 需求必须包含:描述、验证方法、优先级、责任人、验收标准。
- 在迭代计划中显式排期,避免"安全需求不算工作量"的隐性欠债。
7.2 把控制措施映射到代码与配置
- 建立控制措施 → 代码模块/配置项的映射表。例如"所有对外 API 必须鉴权"映射到统一网关插件 + 服务端拦截器。
- 优先沉淀为可复用的安全组件与脚手架:统一认证 SDK、统一加密 SDK、统一审计日志组件。让"安全的做法"成为"最省事的做法",这是落地率最高的手段。
- 对无法组件化的措施,写入代码评审清单(Checklist),在 MR/PR 模板中强制勾选。
7.3 把威胁模型接入 CI/CD
- 用 pytm/Threatspec 将威胁模型代码化,随代码提交自动更新。
- 在流水线中设置安全门禁:SAST 高危阻断、密钥泄露阻断、依赖高危漏洞阻断。
- 门禁规则应与安全设计中识别的风险对应,而不是照搬通用规则集。
7.4 建立安全设计变更机制
- 架构变更、新增外部依赖、新增数据出境场景时,触发增量威胁建模,而非重新做一遍。
- 变更评审中设置"安全影响评估"必填项,由设计负责人确认是否需要更新安全设计。
7.5 组织与激励保障
- 安全 Champion 机制:在每个研发团队培养 1~2 名懂安全设计的工程师,承担一线威胁建模,安全团队做赋能与兜底。这是 Google、微软等公司验证有效的规模化手段。
- 把安全设计纳入 Definition of Done:L3 及以上项目,无安全设计评审记录不得进入开发。
- 正向激励:对主动识别并修复设计缺陷的团队给予认可,而不是只惩罚出事故的团队。
8. 安全设计如何指导验收
安全设计的最终价值,体现在它能否成为验收阶段的判据。如果验收时无法回答"这条设计有没有被实现",说明设计输出本身不合格。
8.1 建立"设计项—验收项"的双向追溯
安全设计说明书中的每一条安全需求与控制措施,都应在验收用例中有对应条目:
| 设计项编号 | 安全需求 | 验收方法 | 验收证据 |
|---|---|---|---|
| SEC-REQ-001 | 用户密码使用 Argon2id 存储 | 代码审查 + 数据库抽样 | 代码片段 + 抽样截图 |
| SEC-REQ-002 | 所有对外 API 强制鉴权 | 接口遍历测试 + 越权测试 | 测试报告 |
| SEC-REQ-003 | 敏感字段日志脱敏 | 日志抽样检查 | 日志样本 |
| SEC-REQ-004 | 租户数据隔离 | 跨租户越权测试 | 渗透测试报告 |
| SEC-REQ-005 | 关键操作审计留痕 | 操作后查审计日志 | 审计日志截图 |
8.2 分层验收策略
- 设计符合性验收:架构评审确认实现与设计一致,重点看信任边界是否被破坏、是否引入了设计外的新入口。
- 控制有效性验收:通过安全测试(DAST、IAST、渗透测试)验证控制措施真实生效,而非仅存在于代码中。
- 配置基线验收:检查生产配置是否符合设计(TLS 版本、密钥管理、日志级别、调试开关关闭)。
- 遗留风险验收:确认所有遗留风险均有正式接受记录与补偿措施,且责任人与期限明确。
8.3 验收门禁与上线决策
建议设置三级门禁:
- 提测门禁:安全需求全部有对应实现,SAST 无高危,密钥扫描通过。
- 上线门禁:渗透测试无高危未修复项,配置基线核查通过,遗留风险已审批。
- 上线后验证:灰度期间监控异常登录、越权访问、异常出网等指标,验证设计假设成立。
8.4 闭环:把验收结果反哺设计
验收不是终点。每次验收发现的"设计未覆盖"问题,都应回流到安全设计模板与威胁库中:
- 若某类威胁反复逃逸,说明威胁建模模板需要补充该类检查项。
- 若某条安全需求无法验证,说明需求描述方式需要改进(必须可测试)。
- 若某控制措施落地率低,说明需要组件化或工具化支持。
这样就形成了 设计 → 实现 → 验收 → 反哺设计 的闭环,安全设计能力随项目数量增长而持续增强。
9. 业界实践与经验教训
9.1 值得借鉴的实践
- 微软 SDL:把安全设计作为 7 个强制阶段之一,配套威胁建模工具与安全需求模板,并通过"安全开发生命周期 + 安全冠军"实现规模化。其核心经验是流程强制 + 工具降低门槛。
- Google Building Security In:强调"安全设计评审(Design Review)"由安全团队与产品团队共同完成,并把安全评审前置到设计文档阶段;同时通过大规模自动化(如集中式 SAST)降低单团队负担。
- OWASP SAMM:提供可度量的成熟度模型,把安全设计(Design 域中的 Threat Assessment、Security Requirements)拆成可评估的成熟度级别,适合做组织级能力建设路线图。
- NIST SSDF:以实践(Practice)为单位组织,PW.1 明确要求"在设计阶段识别并记录安全需求与风险缓解措施",适合作为合规与流程建设的参照系。
- 金融行业实践:普遍采用"安全设计 + 安全评审 + 上线安全评估"三段式,并将安全设计文档作为变更管理的强制附件,与等保测评项一一映射。
9.2 常见教训
- 把威胁建模做成一次性文档:系统演进后模型不更新,导致设计评审形同虚设。解法是威胁模型代码化、增量更新。
- 安全需求不可验证:写成"要保证数据安全"这类无法测试的表述,验收时无从下手。解法是强制"可验证"标准。
- 安全团队单打独斗:安全同学独自产出设计文档,研发不认同、不执行。解法是研发主讲、安全提问的协作式评审。
- 过度设计拖慢交付:对 L1 系统也要求完整威胁建模,导致团队抵触。解法是分级分类,按风险投入。
- 工具堆砌但无流程承接:买了商业威胁建模平台,但没有纳入研发流程,最终无人使用。解法是先定流程与门禁,再选工具。
- 忽视供应链与第三方风险:只关注自研代码,忽略 SDK、开源组件、外包系统带来的信任边界扩张。解法是把第三方纳入数据流图与威胁建模范围。
- 遗留风险无人认领:评审中标记"风险可接受"但无审批、无补偿措施、无期限,最终演变为事故。解法是建立正式的风险接受流程。
10. 大模型在安全设计中的应用:机会、边界与落地方案
大模型(LLM)正在重塑安全设计的作业方式,但它既不是"银弹",也不是"万能评审员"。业界(微软 Security Copilot、Google 的 AI 辅助安全评审、GitHub Copilot Autofix、国内云厂商的安全大模型)的实践反复验证一个结论:大模型最擅长的是"加速信息处理与初稿生成",最不擅长的是"承担最终判断责任"。本章围绕"能做什么、怎么做、会踩什么坑、如何安全地落地"展开。
10.1 大模型在安全设计中的典型应用场景
按安全设计流程的六个步骤,大模型可以在以下环节提供实质帮助:
| 流程环节 | 大模型可承担的工作 | 人仍需负责的部分 |
|---|---|---|
| 识别资产与业务上下文 | 从需求文档、PRD、接口文档中抽取数据实体与流转路径,生成 DFD 初稿 | 确认资产分级、判定合规适用范围 |
| 划分信任边界与攻击面 | 基于架构描述枚举对外接口、上传点、第三方回调等攻击面 | 确认边界划分是否符合真实部署 |
| 威胁建模 | 按 STRIDE/LINDDUN 逐数据流生成威胁候选清单与缓解建议 | 裁剪误报、评估真实风险、确定优先级 |
| 控制措施设计 | 生成可验证的控制措施表述、给出配置样例与代码片段 | 校验技术正确性、适配内部基线 |
| 设计评审 | 会前预审文档、生成评审问题清单、会后整理遗留风险 | 主持评审、做最终决策 |
| 输出说明书 | 按模板生成结构化文档、把散落信息归一 | 审核事实准确性、签署确认 |
一个务实的定位是:把大模型当作"安全设计实习生"——它能快速产出 60~70 分的初稿,把安全工程师从重复劳动中解放出来,专注于高价值的判断与决策。
10.2 落地方式:三种集成形态
形态一:对话式辅助(门槛最低)
安全工程师把架构描述、接口清单粘贴给大模型,要求其按 STRIDE 输出威胁清单。适合个人提效,但存在信息泄露风险,严禁粘贴真实生产配置、密钥、客户数据。
形态二:模板化流水线(推荐起点)
把安全设计文档模板、威胁库、内部基线作为提示词上下文,通过 API 批量处理:
# 示意:基于结构化输入生成威胁建模初稿
import json
from openai import OpenAI
client = OpenAI()
SYSTEM_PROMPT = """你是资深应用安全架构师。请基于给定的系统描述,
按 STRIDE 方法逐条数据流输出威胁清单。
要求:
1. 每条威胁必须标注:威胁类型、涉及的数据流、攻击场景、影响、缓解措施;
2. 缓解措施必须可验证,禁止输出"加强安全"这类空泛表述;
3. 不确定的地方标注 [待人工确认],不要编造系统细节。"""
def draft_threat_model(system_desc: dict) -> str:
resp = client.chat.completions.create(
model="gpt-4o",
temperature=0.2, # 降低随机性,保证输出稳定
messages=[
{"role": "system", "content": SYSTEM_PROMPT},
{"role": "user", "content": json.dumps(system_desc, ensure_ascii=False)},
],
)
return resp.choices[0].message.content
关键设计点:低温度参数保证输出稳定、强制标注不确定项抑制幻觉、结构化输入减少模型自由发挥空间。
形态三:与研发平台深度集成(成熟团队)
将大模型能力嵌入需求管理、设计文档、CI 流水线:需求提交时自动提示安全需求、设计文档提交时自动生成威胁初稿、MR 提交时自动关联安全设计条目。微软 Security Copilot 与 GitHub Copilot Autofix 是这一形态的代表。
10.3 业界优秀实践
- 微软 Security Copilot:把大模型与自有威胁情报、安全产品数据结合,强调"AI 辅助 + 专家确认",所有 AI 输出均标注来源与置信度,避免用户盲信。
- Google 的 AI 辅助安全评审:用大模型对设计文档做预审,生成"评审问题清单"交给人类评审员,把评审会从"发现问题"转向"讨论方案",显著缩短评审时长。
- GitHub Copilot Autofix:在代码层面对告警给出修复建议,其经验同样适用于设计层——AI 给建议、人做决策、系统留痕迹。
- 国内云厂商的安全大模型:普遍采用"安全知识库 + RAG 检索增强"的方式,把等保条款、内部基线、历史漏洞库作为检索源,降低幻觉率,并输出可追溯到条款的结论。
- OWASP 与 NIST 的相关工作:OWASP Top 10 for LLM Applications 给出了 LLM 自身的安全风险清单;NIST AI RMF 提供了 AI 系统风险管理的框架,可作为"用 AI 做安全"时的治理参照。
10.4 常见问题与应对
问题一:幻觉——编造不存在的接口、组件或威胁
大模型会"自信地"生成看似合理但实际不存在的系统细节。应对:提示词中明确要求"仅基于给定信息,缺失处标注 [待确认]";输出必须由人逐条核对;对关键结论要求模型给出原文出处。
问题二:覆盖不全——遗漏关键威胁
模型倾向于输出"常见威胁",对业务特有的攻击路径(如特定业务流程的越权、特定协议的降级攻击)覆盖不足。应对:把历史漏洞库、行业威胁情报作为 RAG 检索源;用 STRIDE 检查表做兜底核对;对 L3/L4 系统仍保留人工威胁建模工作坊。
问题三:建议不可落地——给出通用而非针对性的措施
模型容易输出"应实施访问控制"这类放之四海皆准的建议。应对:在提示词中注入内部安全基线和技术栈约束;要求输出包含具体配置项或代码片段;建立"建议 → 内部组件"的映射校验。
问题四:数据泄露——把敏感信息喂给外部模型
把真实架构图、生产配置、客户数据粘贴到公有云模型,本身就是一次数据外泄。应对:使用企业版/私有化部署模型;输入前做脱敏(替换真实域名、IP、密钥);建立"可输入内容清单",明确禁止项。
问题五:过度依赖——评审流于形式
当团队习惯"AI 说没问题就没问题",安全设计评审会退化为盖章。应对:明确 AI 输出仅为"初稿",评审记录必须体现人工判断;把"AI 未覆盖项的人工补充"纳入度量。
问题六:不可复现——同一输入不同输出
温度参数、模型版本变化会导致输出漂移,影响审计追溯。应对:固定模型版本与参数;把提示词、输入、输出一并归档;对关键项目保留人工定稿版本。
10.5 注意事项与治理要求
- 责任边界必须清晰:AI 不承担安全责任,最终签字确认的必须是人。所有 AI 生成内容在文档中应标注"AI 辅助生成,已经人工审核"。
- 数据分级准入:明确哪些数据可以输入外部模型(如公开架构描述),哪些绝对禁止(密钥、客户 PII、未公开漏洞细节)。建议按数据敏感度建立"模型使用白名单"。
- 提示词即资产:把经过验证的提示词模板纳入版本管理,像管理代码一样管理提示词,避免个人经验无法沉淀。
- 输出必须可追溯:记录模型版本、提示词、输入摘要、输出全文与人工修改记录,满足审计与复盘需求。
- 建立评测基线:用一批已知答案的历史项目做回归测试,定期评估模型在威胁识别率、误报率、建议可落地率上的表现,模型升级前必须通过评测。
- 防范 LLM 自身的安全风险:提示词注入、训练数据污染、模型供应链风险同样适用于"用 AI 做安全"的场景,参考 OWASP Top 10 for LLM Applications 做防护。
- 人机协同而非替代:业界共识是"AI 提效、人做决策"。把 AI 定位为"安全设计助手",而非"安全设计负责人"。
10.6 一套可落地的人机协同方案
综合以上实践,给出一套分阶段的落地方案:
阶段一:试点(1~2 个月)
- 选 2~3 个 L2 项目,用对话式或模板化方式让大模型生成威胁建模初稿。
- 人工逐条核对,记录模型的命中率、误报率、遗漏项。
- 沉淀 3~5 个高质量提示词模板。
阶段二:流程嵌入(3~6 个月)
- 把提示词模板接入设计文档系统,设计文档提交时自动生成威胁初稿。
- 建立"AI 初稿 → 人工评审 → 定稿归档"的标准流程。
- 建立输入数据分级准入清单与脱敏工具。
阶段三:规模化与度量(6 个月以上)
- 与需求管理、CI 流水线集成,实现安全设计条目自动关联。
- 建立模型评测基线,定期回归测试。
- 度量指标:AI 初稿采纳率、人工补充威胁占比、评审时长缩短比例、设计阶段缺陷发现占比变化。
一句话总结本章:大模型让安全设计的"初稿成本"趋近于零,但"判断成本"不会消失——把省下来的时间投入到真正需要人类经验的风险决策上,才是正确的用法。
11. 总结
安全设计不是一份文档,而是一套把安全意图转化为可验证约束的工程方法。它的价值链条可以概括为:
识别资产与边界 → 威胁建模 → 设计可验证的控制措施 → 评审与输出 → 落入需求与代码 → 指导验收 → 反哺设计
要让这条链条真正运转,需要三个支点:
- 分级分类:把资源投到高风险场景,避免一刀切导致的抵触。
- 可验证性:所有安全需求与控制措施必须能被测试或检查,否则无法验收。
- 闭环与度量:用过程、产出、效果三类指标持续观测,用验收结果反哺设计模板与威胁库。
最后引用一句业界常说的话作为收尾:安全不是在上线前加的一道关卡,而是在设计时埋下的一颗种子。种子埋得越早、越深,后面要打的补丁就越少。
参考资料
- Microsoft Security Development Lifecycle (SDL):https://www.microsoft.com/en-us/securityengineering/sdl
- OWASP SAMM:https://owaspsamm.org/
- OWASP ASVS:https://owasp.org/www-project-application-security-verification-standard/
- OWASP Threat Dragon:https://owasp.org/www-project-threat-dragon/
- NIST SP 800-218, Secure Software Development Framework (SSDF):https://csrc.nist.gov/publications/detail/sp/800-218/final
- NIST SP 800-53 Security and Privacy Controls:https://csrc.nist.gov/publications/detail/sp/800-53/rev-5/final
- Saltzer & Schroeder, The Protection of Information in Computer Systems (1975)
- Google Building Security In / Security Design Reviews 相关公开材料
- pytm:https://github.com/OWASP/pytm
- Threatspec:https://github.com/threatspec/threatspec
转载自 CSDN-专业IT技术社区
原文链接:https://blog.csdn.net/babyblue_963/article/details/169944755



