可解释 AI 在核保里的真正命题，不是让模型变得可解释，而是让每一次决策都能对客户、核保人和审计交代清楚。
一个每天都在发生的场景
一笔雇主责任险的询价，系统给出"加费 30%"的结论。渠道转来客户的第一句话永远是："为什么？"
这个问题看起来简单，却把"可解释 AI"的全部难点摆到了台面上：同一句"为什么"，问的人不同，能被接受的答案完全不同。
对客户来说，"模型输出的风险评分为 0.73"是废话；对核保人来说，"因为 SHAP 值显示这个特征贡献最大"是推卸责任；对监管或内部审计来说，只有"哪条规则、哪个版本、谁在什么时间做的决定"才算数。
所以，讨论可解释性之前，先要问清楚一件事：你要解释给谁看？
一、三个受众，三套语言
1. 客户与渠道：要的是"可接受的理由"
客户不接受抽象的概率，只接受可核验的事实与明确的条款依据。
- 可接受：「贵司申报的工种中包含高空作业，属于本产品的职业类别 6 类，费率按 4.2 倍上浮」
- 不可接受：「综合风险评分偏高」
关键：对客解释必须落到条款、职业分类表、申报信息这类客户能自己看懂的凭据上。任何"黑箱输出"都不构成对客解释。
2. 核保人：要的是"可复核的依据"
核保人不需要被告知结论，而是需要被告知依据，并且这个依据要能被推翻。
- 有用：「命中规则 R-113（高风险行业 + 近 12 个月出险 3 次以上）→ 建议拒保；相关申报材料为第 3、7 项」
- 无用：「模型建议拒保，置信度 92%」
关键：如果核保人无法判断"模型是不是看错了材料"，他就无法对这笔业务负责——而最终承担责任的仍然是他。
3. 监管与审计：要的是"可追溯的链路"
这一层关心的不是结论对不对，而是过程管控得住吗：
- 这笔决策用了哪个模型版本、哪套规则版本？
- 哪些环节是模型建议、哪些是人类决定？
- 模型换版后，历史决策还能不能复现？
- 个人信息有没有进入训练数据？
二、最常见的误区：把"特征归因"当成"业务可解释"
技术团队常把 SHAP、注意力权重、特征重要度当作可解释性的答案。这些工具有价值，但它们回答的是"模型内部在关注什么"，而不是"这笔业务为什么这样定"。
两者之间隔着三件事：
- 可翻译性：特征要能翻译成业务语言（
age=47→ 「年龄档 46–55 岁，系数 1.10」） - 可核验性：翻译后的理由要能和申报材料对上
- 可干预性：核保人能推翻它，且系统记录了这个分歧
只做到第一步，那只是"看起来可解释"。
三、为什么非车险比车险更难
车险的定价与核保高度标准化：车型、车龄、出险次数、地区——因子少、口径统一、数据充足，模型说什么基本就是什么。
非车险恰恰相反：
- 险种碎片化：意外健康、责任、货运物流、财产工程、特殊风险，风险因子体系各不相同，很难复用一套特征；
- 规则行业化：雇主责任险看行业工种与安全生产记录，产品责任险看品类与流向，货运险看货物属性与运输方式；
- 数据稀疏：单一细分险种的出险样本往往不足以支撑纯数据驱动；
- 结论的"重量"更大：非车险的拒保、加费、特别约定，往往直接关系到客户的经营，客户必然会追问。
一句话：非车险的核保决策，"讲得清楚"不是加分项，而是及格线。
四、政策坐标：可解释不是可选项，而是合规要求
2026 年 6 月 18 日，国家金融监督管理总局印发《关于银行业保险业人工智能安全开发应用的指导意见》（金发〔2026〕8 号）。这是国内首份以人工智能安全开发应用为主题的金融业专项监管总纲。
其中两条与非车险核保直接相关：
- 高风险应用的界定：涉及资金交易、资产评估、信贷审批、承保理赔、风险管理等，以及与客户利益直接相关、直接影响金融合约达成的生成式人工智能场景应用，应被视为高风险应用。
- 数据红线：姓名、身份证号、手机号、银行卡号等个人信息和隐私数据，不得用于生成式人工智能模型训练和优化。
行业对这份文件的普遍解读是：监管要求的并非"少用 AI"，而是"用得对、管得住、能回退、可追责"。
把这四个词翻译成工程语言：
| 监管要求 | 工程落点 |
|---|---|
| 用得对 | 决策的知识来源可指认（条款、费率表、规则版本） |
| 管得住 | 决策链路可配置、可版本化、可灰度 |
| 能回退 | 单笔决策可回到人工或旧版本，且不影响已出单 |
| 可追责 | 每笔决策留痕：输入、命中规则、模型版本、人工干预 |
五、一条务实的工程路径：确定性打底，模型做增量
既然"讲清楚"是硬要求，把所有决策都塞给模型就必然不经济。更现实的路径是分层：
- 确定性层：条款、费率表、职业分类、免赔与限额——用规则引擎固化，逐条可指认、可版本化；
- 判断层：需要模式识别的部分（材料一致性、异常模式、欺诈信号）交给模型；
- 交互层：模型输出必须能被核保人复核、修改、驳回，且分歧被记录；
- 留痕层：输入、规则命中、模型版本、人工干预全链路可回放。
这样做的收益不只是合规：它让模型的职责边界变得清晰——模型无需为它不该负责的部分背锅，也就更容易被业务接受。
六、给团队的三个自检问题
- 每一次核保结论，能否回溯到具体的规则条目与版本？
- 每一次核保结论，能否区分"模型建议"与"人工决定"？
- 模型换版时，历史决策是否仍然可解释？
三个都是"能"，才谈得上"可追责"。
结语
可解释 AI 在核保里的真正命题，不是"让模型变得可解释"，而是"让决策变得可交代"。
解释给客户看，要落到条款；解释给核保人看，要能被他推翻；解释给监管看，要能完整回放。三种诉求不可能被同一个技术指标满足——但可以被同一套规则与模型融合、全链路留痕的架构同时满足。
这也正是非车险 AI 下一阶段的分水岭：不是谁的模型更大，而是谁的决策更能被交代。
参考来源
- 《关于银行业保险业人工智能安全开发应用的指导意见》（金发〔2026〕8 号），国家金融监督管理总局，2026-06-18
- 《金融监管总局出台新规 规范金融机构人工智能安全应用》，人民网，2026-06-25
- 《"看起来热闹，进不了生产？" "8 号文"后，保险 AI 叙事变了》，21 世纪经济报道，2026-09-14
声明：本文为行业研究参考，不构成投资建议或承保建议。
最安科技 · 洞察中心