Cohere提出CALIBER方法：让推理模型在推理前后各报一次置信度
Cohere博客称，该方法训练推理模型在开始推理前估计成功率、得出答案后再评估该答案正确的概率；在BigMathDigits上，7B模型的校准误差（ECE）从 0.059 降至 0.028，降幅 52.5%。
AI解读：Cohere在博客中介绍了一种名为CALIBER的训练方法，让推理模型在一次回复中同时给出初始置信度、推理过程、答案和最终置信度。两项置信度回答不同问题：前者问“我能否解出这道题”，后者问“这个答案是否正确”。
训练目标的数据来源不同：初始置信度的目标由同一道题多次尝试的成功比例决定，例如 10 次中成功 7 次则目标为 70%；最终置信度的目标取决于该次具体答案是否正确，同一道题的成功与失败尝试共享初始目标、但最终目标不同。
评测指标同时看ECE（置信度与实际正确率是否吻合）和AUROC（正确答答案是否倾向获得更高置信度）。Cohere称，仅看ECE会漏掉“每次都报 70%”这类无法区分对错的情形。
Cohere用 3 万道数学题训练 7B和 30B模型，在 1000 道留出题及三个问答基准上评测。BigMathDigits上，7B模型ECE从最强单置信度基线的 0.059 降至 0.028，AUROC为 0.806，Brier分数 0.130。
Cohere称，未额外训练或挑选任务专用checkpoint的情况下，7B模型在GPQA上校准误差降低 26.8%，TriviaQA降低 32.2%，SimpleQA降低 36.2%，比较对象是各数据集上最强的单置信度基线。
30B模型上，CALIBER在BigMathDigits的ECE为 0.022，仅略优于CoCA-lite的 0.023，但AUROC为 0.797，CoCA-lite为 0.508；Cohere同时说明，其他基线的AUROC略高于CALIBER，收益取决于所衡量的属性。
Cohere在博客中提出一种名为CALIBER的推理模型训练方法，让模型在开始推理解题前报告一次置信度，在给出答案后再报告一次针对该答案的置信度。Cohere称，在BigMathDigits数学基准上，校准后的 7B模型将校准误差（ECE）从最强单置信度基线的 0.059 降至 0.028，降幅 52.5%。
两个置信度回答两个问题
Cohere博客以掷两枚骰子、求点数和至少为 10 的概率为例说明：模型初始置信度为 25%，推理后升至 88%。这些百分比描述的是模型对答对的信心，而不是骰子结果的概率。文章也给出置信度下降的例子：推理一个看似简单的问题时可能发现错误假设或矛盾，置信度应随之下降，即使模型最终仍给出错误答案。
Cohere称，标准推理模型并不一定具备这种能力：生成详细推理过程，并不意味着模型能可靠评估并表达自己的不确定性。CALIBER的目标是让这两个数字——初始置信度与最终置信度——有意义到足以支持“接受答案、核实答案还是寻求帮助”这类判断。文章同时说明，初始置信度用于判断模型是否预期能处理该问题，最终置信度帮助用户判断该答案是否需要细查。
训练目标如何设定
Cohere介绍，初始置信度的训练目标是：让模型对同一道题多次尝试，若 10 次中成功 7 次，则 70% 成为训练目标，反映当前模型在未知具体某次尝试结果前解出该题的概率。
最终置信度使用不同目标：该次具体答案是否正确。同一道题的成功尝试与失败尝试共享同一个初始置信度目标，但最终置信度目标不同。博客举例说明：四次尝试中三次成功，初始置信度目标为 75%；第四次答案为错误，其最终置信度目标为 0。这两项置信度奖励与答对奖励结合，模型被鼓励解题并准确评估自身把握，识别错误答案的不确定性可提高置信度奖励，但不获得答对奖励。
评测结果与范围
Cohere用 3 万道数学题训练 7B和 30B模型，在 1000 道留出题及三个问答基准上评测。CALIBER报告的校准指标评估的是最终置信度。
在BigMathDigits上，7B模型ECE为 0.028，最强单置信度基线为 0.059；CALIBER的AUROC为 0.806，Brier分数为 0.130。Cohere称，未再训练或挑选任务专用checkpoint的情况下，7B模型在GPQA上校准误差降低 26.8%，TriviaQA降低 32.2%，SimpleQA降低 36.2%，比较对象为各数据集最强的单置信度基线。
30B模型的结果被Cohere用来说明两项指标需要一起看：BigMathDigits上CALIBER的ECE为 0.022，CoCA-lite为 0.023，差距很小；但AUROC分别为 0.797 和 0.508。Cohere也写明，其他基线的AUROC略高于CALIBER，收益取决于衡量哪项属性。
置信度变化本身不等于结论
Cohere在BigMathDigits上观察到，7B模型对正确答案的平均置信度从 78.5% 升至 83.5%，对错误答案从 62.6% 降至 54.5%；在其他数据集上，有时两类答案的置信度都下降，错误答案降幅更大。博客强调，置信度上升或下降是上下文信息，不是判断答案对错的结论：两个最终都报 70% 的答案表达相同的正确概率估计，即使一个上升、一个下降。
博客还说明，实验只测量了单次推理过程前后的置信度变化；可靠置信度更新能否帮助模型决定何时核实、检索更多信息或弃答，尚未测试。