如果你正在用大模型做决策你一定问过它这类问题“你有多大把握”“这个方案的成功概率是多少”“从 A 和 B 里选一个你更倾向哪个”表面上看LLM 能给出概率甚至能输出带置信度的答案。但问题的关键不是“它能不能输出一个概率”而是这个概率到底意味着什么一个理性的贝叶斯智能体对同一个命题的概率判断不应该因为提问措辞换了、选项顺序变了、提示模板改了就发生剧烈变化。可现实是LLM 经常出现这样的情况同一个问题换一种问法它的置信度直接从 70% 掉到 30%。也就是说LLM 给出的“概率信念”往往并不具备贝叶斯意义上的内部一致性。这篇论文标题的核心判断是LLM 并非始终符合贝叶斯。它不是简单讨论“LLM 会不会幻觉”而是更尖锐地指向一个方法论问题当我们把 LLM 的 softmax 输出当作概率信念去使用、去校准、去评估时这些概率有没有可靠的基础。本文会拆解这个判断背后的逻辑并给出一套用 Python 量化 LLM 概率信念内部一致性的实验思路包括提示变体设计、概率提取、指标计算和结果解读。如果你做 RAG、Agent、模型评估或者只是想把 LLM 的置信度纳入业务决策这篇文章值得读完并收藏。1. 这篇文章真正要解决的问题先明确一个背景。在大模型应用里概率输出早就不是新鲜事。OpenAI、Anthropic、百度文心、阿里通义等接口基本都能返回 logprobs 或置信度开源模型更是直接把 softmax 概率铺在你面前。于是很多工程团队会顺手做一件事拿这个概率当作“模型对自己的信心”再根据信心阈值决定是采纳答案、转人工还是触发二次确认。这个做法听起来合理但有一个隐患如果 LLM 的概率输出是不稳定的同一个命题换个模板就从 0.8 变成 0.4那阈值判断就完全失真。更进一步很多评测论文会把 LLM 的输出分布与人类的概率判断做对比或者用 LLM 输出分布来近似后验分布这些工作都预设了一个前提LLM 输出的概率具有跨场景的稳定性或者说具有贝叶斯理性主体应有的一致性。但这篇论文要挑战的正是这个前提。它要量化的不是“LLM 输出了什么答案”而是“LLM 输出概率这一行为本身是否在内部自洽”。谁最应该读这篇文章做大模型应用开发希望用置信度做路由、兜底或人机协同的工程师。做模型评估需要理解 softmax 概率与真实不确定性之间关系的算法工程师。对贝叶斯方法、概率建模、AI 可解释性感兴趣的研究者。以及所有在 Agent 工作流里让 LLM“自我评估”的人。在往下读之前你需要记住一个核心结论LLM 能够生成概率并不等于 LLM 拥有可靠的、一致的概率信念。前者是 softmax 的数学必然后者是一种认知属性二者之间隔着巨大的鸿沟。2. LLM 与贝叶斯从“输出概率”到“概率信念”要理解这篇论文得先厘清三个概念贝叶斯定理、概率信念、内部一致性。2.1 贝叶斯定理理性主体如何更新信念贝叶斯定理的数学形式并不复杂P(H|E) P(E|H) × P(H) / P(E)其中P(H) 是先验概率P(H|E) 是看到证据 E 之后的后验概率。贝叶斯方法的精髓不在于这个公式本身而在于它对“理性”的定义一个理性主体应该有先验、有似然并且能够按照这个规则把新证据纳入自己的信念体系。在机器学习中贝叶斯推断被用来做模型不确定性估计。比如贝叶斯神经网络不再给一个固定的权重而是给权重的后验分布预测时也不再输出一个点估计而是输出整个预测分布。这样得到的概率是有严格概率论语义支撑的。2.2 概率信念什么叫“相信 A 的概率是 0.8”概率信念probabilistic belief是指一个主体对某个命题真伪的主观概率。它可以来自频率统计也可以来自主观判断。关键不在于这个概率是否“正确”而在于它是否满足一致性公理。举例来说如果一个人说“我认为明天下雨的概率是 80%”那么他在决策时应该愿意为“下雨”下注到 0.8 的赔率。如果同样是他换个方式问“明天不下雨的概率是多少”他应该回答 20%而不是 35%。这就是概率信念的一致性。2.3 内部一致性同一个信念不应随表达方式漂移内部一致性internal consistency是这篇文章关注的核心概念。它要求对于一个固定的命题无论你用什么方式去询问一个理性主体只要信息没有变化它的概率判断就不应产生系统性漂移。LLM 的 softmax 输出天然是一个概率分布所以很多人天然认为“LLM 输出概率 LLM 的概率信念”。但一旦把“内部一致性”这个标尺放上去问题就出现了same question, different template, different probability。下表总结了“输出概率”与“概率信念”的区别维度LLM 的 softmax 输出贝叶斯意义上的概率信念来源神经网络最后一层归一化基于先验和证据的推断稳定性受提示词、采样参数影响明显在同一信息集下应保持稳定语义表示词表中下一个 token 的分布表示对命题真伪的主观判断程度可验证性可以用频率统计做事后校准需要满足概率公理和一致性约束这也是论文标题为什么强调“并非始终符合贝叶斯”的原因LLM 偶尔能得到接近一致的概率判断但这不是它的稳定属性。3. 论文核心观点解读并非始终符合贝叶斯这个标题很有意思它包含三个限定词并非、始终、内部。这三个词各有分量。3.1 “并非”一个否定判断“并非符合”意味着论文观察到的事实是LLM 的概率行为不能可靠地用贝叶斯更新来解释。具体来说一个贝叶斯智能体在对同一个命题做概率评估时应当不受提问方式、选项顺序、上下文框架的影响。然而 LLM 在这些因素变化时概率分布会发生显著变化。这并不仅仅是“提示词工程”的问题。提示词工程讨论的是“如何让模型输出更好答案”而这里讨论的是“模型内部是否存在一个稳定的概率信念”。如果切换模板会导致概率从 0.8 变成 0.3那么所谓的“置信度”就不再是模型的属性而是模板与模型交互的产物。3.2 “始终”一个保留条件“始终”这个限定词很关键。它说明论文的结论不是“LLM 完全不贝叶斯”而是“LLM 不是始终符合贝叶斯”。在某些条件下LLM 的概率判断可能具有一致性。这意味着LLM 的能力是“场景依赖”的在简单、常见的问法下可能表现良好。在复杂推理、对抗性提示、多步推理等场景下一致性更容易被破坏。研究中不能简单地说“LLM 行”或“LLM 不行”而要具体指出在什么条件下行、什么条件下不行。这也是为什么这个题目值得做成论文它拒绝二元判断转向“量化不一致性”的研究路径。3.3 “内部”一个评价范围“内部一致性”区别于“外部校准”。外部校准external calibration讨论的是当 LLM 说 70% 时真实频率是否接近 70%。内部一致性讨论的是LLM 对自己的同一个信念是否在不同表达下给出相同的概率。这两个概念经常被混淆。一个模型可以外部校准很差但内部非常一致反过来一个模型可以内部高度不一致但平均来看校准却不错。这篇论文把焦点放在“内部”实际上是在做更严格的检验去掉真实频率这个外部标准只看模型自身概率输出的稳定性。3.4 与常见批评的区别很多人会质疑LLM 概率不稳定不就是“幻觉”或者“过拟合”吗不完全一样。幻觉描述的是模型生成与事实不符的内容属于语义层面的错误过拟合描述的是训练数据下的泛化失败属于统计学习层面的问题。而“概率信念的内部不一致”说的是一种更底层的问题模型对同一个命题在不同提示变体下给出了不同的概率分布这在排序层面就已经不稳定了不一定要生成错误答案才叫问题。这意味着即使 LLM 每次给出的 top-1 答案都是“是”它在不同模板下对“是”的概率估计可能分别是 0.9、0.6、0.4。如果我们只关注最终答案这个问题会被完全掩盖一旦关注置信度问题才暴露出来。4. 一致性实验设计如何量化 LLM 的概率信念理解了背景接下来进入可操作的部分。如果我们也想验证某个 LLM 的概率信念是否内部一致应该怎么做4.1 设计原则量化内部一致性的核心是“控制变量 构造变体”。我们要让底层命题保持不变只改变与命题无关的表达形式然后观察概率分布的变化。具体来说需要注意以下原则同一个命题所有提示变体都要指向同一个事实或同一个判断对象。变化单一维度比如只改措辞、只改选项顺序、只改上下文框架不要一次改多个变量。足够的变体数量至少 5 到 10 个以上提示变体否则很难判断波动是噪声还是系统性偏差。记录多个概率不仅要记录 top-1 答案的概率还要记录所有候选选项的完整概率分布。4.2 概率提取方式对于开源模型比如用 transformers 库加载一个自回归语言模型可以直接取最后一个 token 位置在候选词上的 softmax 概率。对于 API 模型可能需要使用 logprobs 参数或者通过强制模型输出 JSON 格式的概率值来间接提取。需要特别提醒用“让模型输出 JSON 概率”这种方式得到的概率是模型“声称的概率”不是模型“实际计算的概率”。两者可能不一致。严格意义上内部一致性分析应优先使用模型内部输出的 logits 或 logprobs而不是模型文本生成的数值。4.3 一致性指标量化一致性可以用以下指标KL 散度衡量两个概率分布之间的差异。KL 越大说明两个提示变体下的概率分布差异越大。Jensen-Shannon 散度KL 的对称版本适合做多分布两两比较。变异系数Coefficient of Variation, CV对某一个候选答案计算它在多个变体下概率的标准差与均值之比。CV 越大说明该答案的概率在不同表达下越不稳定。Top-1 一致率多个变体中模型给出同样 top-1 答案的比例。概率排序翻转率候选答案的概率排序在不同变体之间发生翻转的比例。这些指标各有侧重。KL/JS 散度看整体分布变异系数看单个概率的稳定性Top-1 一致率看结论稳定性排序翻转率则反映模型内部的偏好是否稳定。5. 完整示例用 Python 量化一个 LLM 的内部一致性下面给出一个完整的演示脚本。为了便于运行这里以开源模型为例重点展示量化思路而不是复现某篇论文的具体实验。5.1 环境准备pip install transformers torch scipy numpy如果 GPU 显存有限可以用 CPU 运行小型模型。版本请以实际安装为准本文重点演示通用思路。5.2 构造提示变体并获取候选答案概率先写一个函数输入提示文本和候选答案列表返回模型对每个候选答案的归一化概率。# probe_llm.py import torch import numpy as np from transformers import AutoTokenizer, AutoModelForCausalLM # 以一个小型开源模型为例实际评估时请替换为目标模型 model_name gpt2 tokenizer AutoTokenizer.from_pretrained(model_name) model AutoModelForCausalLM.from_pretrained(model_name) model.eval() def get_candidate_probs(prompt: str, candidates: list[str]) - dict[str, float]: 给定 prompt 和候选答案列表返回模型在最后一个 token 位置上 对每个候选项的归一化概率。 input_ids tokenizer.encode(prompt, return_tensorspt) probs {} with torch.no_grad(): outputs model(input_ids) logits outputs.logits[0, -1, :] # 最后一个位置在所有 token 上的 logits probs_tensor torch.softmax(logits, dim-1) for cand in candidates: cand_ids tokenizer.encode(cand, add_special_tokensFalse) # 取候选答案第一个 token 的概率作为该答案的概率简化处理 token_id cand_ids[0] probs[cand] float(probs_tensor[token_id].item()) # 对候选答案做归一化 total sum(probs.values()) probs {k: v / total for k, v in probs.items()} return probs if __name__ __main__: prompt 北京是中国的首都吗 candidates [是, 否] result get_candidate_probs(prompt, candidates) print(result)这段代码的逻辑是先把 prompt 编码成 token 序列取模型在最后一个位置输出的 logits然后对候选答案的第一个 token 取 softmax 概率最后在所有候选答案上做归一化。这样做的好处是无论候选答案是中文还是英文都能拿到一个可比较的概率。5.3 构造多个提示模板并计算一致性指标接下来构造一组提示变体。它们指向同一个命题“北京是中国的首都”但措辞不同。# consistency_check.py import numpy as np from scipy.stats import entropy from probe_llm import get_candidate_probs base_question 北京是中国的首都吗 templates [ 请回答下面问题答案只输出“是”或“否”{q}, 问题{q}\n选项A. 是 B. 否\n答案是, 你是一个知识渊博的助手。请判断{q}, 用中文回答{q}, 如果不确定先给出你的最佳猜测{q}, 现在需要你做一个判断题。{q}, 请对以下陈述给出你的看法{q}, 简短回答{q}, ] candidates [是, 否] def compute_consistency(question: str, templates: list[str], candidates: list[str]) - dict: variant_probs [] for tpl in templates: prompt tpl.format(qquestion) probs get_candidate_probs(prompt, candidates) variant_probs.append(probs) print(f模板: {tpl[:20]}... - {probs}) # 计算两两 KL 散度与 JS 散度 kl_list [] js_list [] for i in range(len(variant_probs)): for j in range(i 1, len(variant_probs)): p np.array([variant_probs[i][c] for c in candidates]) q np.array([variant_probs[j][c] for c in candidates]) # 加极小值防止除零 p p 1e-12 q q 1e-12 kl entropy(p, q) m 0.5 * (p q) js 0.5 * entropy(p, m) 0.5 * entropy(q, m) kl_list.append(kl) js_list.append(js) # 计算每个候选答案的变异系数 cv {} for idx, cand in enumerate(candidates): probs_arr np.array([variant_probs[i][cand] for i in range(len(variant_probs))]) mean probs_arr.mean() std probs_arr.std() cv[cand] std / mean if mean 0 else float(inf) # 计算 Top-1 一致率 top1_list [] for item in variant_probs: top1 max(item, keyitem.get) top1_list.append(top1) top1_consistency top1_list.count(top1_list[0]) / len(top1_list) return { avg_kl: float(np.mean(kl_list)), max_kl: float(np.max(kl_list)), avg_js: float(np.mean(js_list)), top1_consistency: float(top1_consistency), cv: cv, top1_list: top1_list, } if __name__ __main__: result compute_consistency(base_question, templates, candidates) print(\n 一致性报告 ) print(f提示变体数量: {len(templates)}) print(f平均 KL 散度: {result[avg_kl]:.4f}) print(f最大 KL 散度: {result[max_kl]:.4f}) print(f平均 JS 散度: {result[avg_js]:.4f}) print(fTop-1 一致率: {result[top1_consistency]:.2%}) print(f各候选答案变异系数: {result[cv]}) print(f各变体 Top-1 答案: {result[top1_list]})这段代码是量化内部一致性的核心。它做了三件事对每个模板提取候选答案的概率分布。两两计算 KL 散度和 JS 散度反映整体概率分布的漂移程度。计算每个候选答案概率的变异系数与 Top-1 一致率反映结论层面的稳定性。运行这段代码后哪怕模型每次都给出 top-1 答案“是”如果你发现“是”的概率在 0.9 和 0.3 之间波动CV 值就会很高说明模型对“是”的置信度并不一致。5.4 批量评估多个命题的扩展思路实际研究中单个命题不足以说明问题。可以扩展为按主题分类的命题集合批量计算上述指标再按类别聚合。# batch_consistency.py from consistency_check import compute_consistency evaluation_set [ 北京是中国的首都吗, 地球是太阳系中最大的行星吗, Python 是一种编译型语言吗, 水在标准大气压下的沸点是 100 摄氏度吗, ] for question in evaluation_set: print(f\n 命题: {question} ) result compute_consistency(question, templates, [是, 否]) print(f平均 JS 散度: {result[avg_js]:.4f}, Top-1 一致率: {result[top1_consistency]:.2%})这一步能帮助你判断不一致性是否集中在某些主题还是全局性问题。如果某些主题下的 KL 散度系统性偏高那说明模型在这些领域的“概率信念”尤其不稳定这也会影响我们在这些领域对模型置信度的信任程度。6. 结果解读与判定标准拿到一致性报告后怎么判断一个模型的概率信念是否“够一致”6.1 参考阈值严格来说内部一致性没有一个放之四海而皆准的绝对阈值。但实践中可以参考以下经验指标一致性好参考存在风险高度不稳定平均 JS 散度 0.050.05 ~ 0.2 0.2Top-1 一致率 90%70% ~ 90% 70%候选答案 CV 0.20.2 ~ 0.5 0.5需要说明的是这些阈值受模型、语言、命题复杂度影响很大。更稳妥的做法是先跑一个同类模型作为基线再对比目标模型的指标。比如如果你要对比两个 LLM就不要只看其中一个的绝对指标而是把两者放在同一组提示变体下做横向对比。6.2 如何判断实验是否成功判断实验有效性的第一原则排除“概率提取方式”带来的误差。如果get_candidate_probs里用候选答案的第一个 token 概率做近似那么中文分词差异会对结果产生影响。例如“是”可能被切成不同的 token导致概率偏低。建议先在简单命题上做 sanity check确认模型的 top-1 概率符合直觉再跑正式实验。第二原则排除采样随机性。如果你使用了 temperature 0 的采样必须固定 seed 或使用 greedy decoding否则概率波动可能来自采样噪声而不是模型信念的不一致。6.3 实验报告示例假设运行后得到如下结果平均 KL 散度: 0.6521 平均 JS 散度: 0.1837 Top-1 一致率: 62.50% 各候选答案变异系数: {是: 0.486, 否: 0.911}这说明该模型对这个命题的概率判断高度不稳定虽然 top-1 多是“是”但“是”的概率在不同模板下的波动超过 48%而“否”的概率波动接近 91%。这种情况已经足够说明把 LLM 的 softmax 概率当作品质稳定的置信度来使用会遇到明显的可靠性问题。7. 为什么 LLM 会“不够贝叶斯”架构与训练的深层原因论文的结论背后一定有模型机制层面的原因。从架构和训练目标出发至少可以找到四个因素解释这种不一致性。7.1 自回归架构的概率语义LLM 本质上是自回归模型它建模的是 token 序列的条件概率P(x_1, x_2, ..., x_n) P(x_1) × P(x_2|x_1) × ... × P(x_n|x_1,...,x_{n-1})我们看到的“候选答案概率”只是对最后一个 token 位置的条件分布做了一次切片。这个概率并不来自某个独立的“命题真伪判断器”它只是生成路径上的一步。换个说法模型不是先在心里想好“这个命题有 80% 概率为真”再输出一个概率它只是在选择下一个 token 时计算了一个词表上的分布。因此softmax 概率天然受上下文 token 影响。不同模板意味着不同的上下文 token 序列模型在最后一层计算出的概率分布自然会不同。7.2 训练目标与概率校准的错位大多数 LLM 的训练目标是最大化下一个 token 的似然即交叉熵损失。这个目标关注的是“预测正确 token”而不是“精确评估命题概率”。模型学到的是“在大量文本中这种表达后面通常跟什么词”。这种统计规律与贝叶斯式的“先验 × 似然 → 后验”更新逻辑完全不同。即使模型在某个问题下输出了符合直觉的概率那也是训练数据的统计模式在起作用而不是模型内部真正维护了一套概率信念。7.3 Tokenization 带来的虚假边界LLM 的 tokenizer 会把文本切成 token。同一个词在不同上下文可能被切成不同的 token同一个 token 在不同位置的概率分布也可能不同。这导致了一种“伪概率漂移”现象模型对命题本身的信念没变但因为提问方式导致 token 边界变化最终 softmax 概率出现波动。也是因此如果我们用候选答案的第一个 token 概率来近似候选答案的概率就必须意识到这个近似本身会引入误差。论文类研究通常会使用更精细的归一化方案比如对候选答案的所有 token 做序列概率估计。7.4 提示敏感性与“角色扮演”效应LLM 经过指令微调后学会了“根据提示风格调整回答方式”。当提示从“请回答”变成“你是一个知识渊博的助手”模型可能会进入不同的对话模式这会改变它的输出分布。工程上这叫提示敏感性研究上这就是概率信念不一致的诱因之一。更深一层模型在训练中被要求“扮演”各种角色这意味着它学到的是“在该角色下如何生成文本”而不是“保持一个恒定的内部信念并对外输出”。这个机制决定了它在不同模板下的概率输出天然不稳定。8. 对工程实践的启示如果 LLM 的概率信念并不总是可靠的工程上应该怎么办我有几点建议。8.1 不要把 softmax 概率直接当置信度在自定义风险较高的场景里不要只依赖模型输出的概率做决策。可以把概率作为一个弱信号再加上答案与知识库的检索一致性、多轮自我一致性等维度综合判断。一个可行的方法是对同一个问题用多个提示变体询问模型取 top-1 答案一致率作为“决策置信度”。如果 top-1 一致率低于 80%宁可触发人工确认也不要凭单次概率做决策。8.2 用“多提示一致性”替代“点估计概率”在 Agent 中需要模型自我评估时让模型输出概率数值往往并不准确。更可靠的方式是让模型多次生成理由和答案然后比较这些生成结果的一致性。这种思路类似于 self-consistency 方法不直接信任一次采样的概率而是通过多次采样的一致性来间接估计不确定性。8.3 校准要做但不要只做“表面校准”外部校准比如 temperature scaling虽然能改善概率与频率的一致性但无法修复内部不一致。如果一个模型在不同模板下对同一命题给出了 0.8 和 0.3 的概率无论你怎么缩放这两个值仍然矛盾。因此校准之前先做内部一致性评估是更严谨的顺序。8.4 评估模型时固定提示模板是风险也可能是遮蔽很多模型评估基准会固定提示模板以消除模板差异。但这会掩盖模型在真实使用中的不稳定。如果你的产品会让用户以自由文本提问那么在离线评测时就应该主动加入多模板测试评估模型在提示变化下的稳定性而不仅仅是平均效果。8.5 RAG 场景下的特殊注意检索增强生成RAG存在一个隐蔽风险检索到的文档内容会显著改变 LLM 的概率输出。同一个问题如果检索到的上下文措辞不同LLM 对答案的概率估计可能差异巨大。这意味着 RAG 系统的置信度阈值不能用一个固定值贯穿所有查询类型而应该结合检索相关性做动态调节。9. 常见误区与排查思路问题现象可能原因排查方式解决方案概率波动很大但 top-1 答案不变候选答案概率被 tokenizer 分割影响或模型本身置信度低输出每个模板的完整概率分布检查 token 边界使用更精细的序列概率估计而不是单 token 近似同一模型换机器后结果不一致浮点计算差异、GPU/CPU 数值精度不同固定推理后端对比 logits 输出统一推理框架和精度设置加入新模板后异常偏离提示模板引入了额外信息或角色设定逐个检查模板中是否存在与命题无关的倾向性语句精简模板保持中性表达多次运行同一模板概率不同采样参数 temperature 非 0检查推理配置固定 seed 或使用 greedy decodingAPI 模型无法直接获取 logprobs接口未开放或参数名不同查看 API 文档确认是否支持 logprobs 参数改用本地开源模型验证或使用多次采样近似KL 散度计算出现 nan概率分布中存在 0 值检查概率归一化过程在概率分布中加入极小值 epsilon在实际项目里遇到概率不一致问题第一步不要急着改模型而是先确认“概率提取方式”是否可靠。因为很多波动其实是测量工具导致的而非模型信念本身的问题。第二步才是对比不同提示变体确认问题定性。10. 最佳实践与后续方向如果你决定在项目里引入“概率信念一致性”评估有几点实践建议。10.1 建立一致性基线选择一个你信任的开源模型作为基线跑通上面的一致性评估脚本。之后每更换一个模型版本都跑一遍同样的评估集记录一致性指标。这样你能追踪“模型变强了但概率信念是否变稳定了”这个问题。10.2 评估集分层设计不要只用“是/否”判断题。设计评估集时可以覆盖不同领域、不同置信度区间、不同复杂度的命题常识性命题模型大概率高置信度。领域知识命题模型可能中低置信度。推理性命题模型概率输出可能非常不稳定。开放性选择命题变体设计难度更高但更有实际价值。每个类别至少准备 20 到 30 个命题避免数量太少导致指标波动。10.3 一致性指标不只看平均值平均 KL 散度低不代表所有命题都稳定。有的模型可能大多数命题稳定个别命题严重漂移。在业务上恰好是那些“个别命题”最容易引发事故。所以建议同时记录“最不稳定命题 Top 10”定期检查这些高风险命题是否有规律。10.4 学术方向的延伸如果你对这个方向感兴趣以下几个问题值得继续深挖指令微调是否改善了 LLM 概率信念的内部一致性更大的模型是否比小模型更“贝叶斯”推理链CoT会不会增加还是减少概率信念的不一致性多模态模型中视觉输入是否会影响文本命题的概率一致性是否有可能通过训练目标或解码策略让 LLM 输出真正“贝叶斯一致”的概率信念这些问题的答案可能会直接影响下一代大模型在不确定性估计方法上的设计思路。11. 总结回到开头的判断LLM 能输出概率不等于它拥有稳定的概率信念。这篇论文标题“LLM 并非始终符合贝叶斯”给出的答案是克制的它没有全盘否定 LLM 的概率能力而是提醒我们LLM 的概率行为是场景依赖的在不同提示变体下可能高度不一致。对使用 LLM 的开发者来说最值得记住的教训是不要把一个 softmax 输出当成模型信心的终极答案。真正可靠的置信度至少要经过多提示一致性验证、合理的概率提取方式和针对性的校准流程。对做研究的读者来说本文提供的量化思路可以作为一个起点帮助你设计自己的内部一致性实验。最后给一个操作建议在自己项目接入任何 LLM 的“置信度”功能前先跑一遍本文的 consistency_check 脚本。如果结果显示平均 JS 散度超过 0.1或者 Top-1 一致率低于 90%那这个模型的概率输出在业务决策中就需要额外谨慎对待。量化这个“不稳定性”是和提升准确率同样重要的一步。