体育游戏app平台皆败露通过重迭采样 Scaling 推理时分计较-九游会体育 ag九游会登录j9入口 j9九游会登录入口首页

你的位置：九游会体育 ag九游会登录j9入口 j9九游会登录入口首页 > 新闻 > 体育游戏app平台皆败露通过重迭采样 Scaling 推理时分计较-九游会体育 ag九游会登录j9入口 j9九游会登录入口首页

体育游戏app平台皆败露通过重迭采样 Scaling 推理时分计较-九游会体育 ag九游会登录j9入口 j9九游会登录入口首页

发布日期：2025-06-20 08:58 点击次数：131

o1/o3 带火的推理计较 Scaling体育游戏app平台，底本谷歌早在本年 8 月就曾探讨过。

那时，来自斯坦福、牛津以及谷歌 DeepMind 的团队提倡通过重迭采样来扩张推理计较量——

后果在编码任务中将性能最多提高 40%。

他们发现小模子通过生成多种谜底 / 样本，其任务发扬可能比一些大型模子单次尝试还要好。

比如，DeepSeek-Coder 通过重迭收罗 5 个样本，性能优于 GPT-4o，而资本却仅为后者的三分之一。

这篇论文讲了什么？

这篇论文取名 Monkey，灵感来自于无尽山公定理。

一只山公在打字机键盘上立时敲击键盘无尽长的时分，险些征服会打出任何给定的文本。

而在大模子的语境下，惟有采的样够多，那么大模子总能找到正确解。

本文除名的重迭采样才能，最初通过大模子中采样，为给定的问题生成很多候选解。

其次再禁受特定界限的考证器 Verifier（比如代码的 unittests），从生成的样本中禁受最终谜底。

重迭采样的有用性取决于两个重要特质。

遮盖率，跟着样本数目的增多，咱们不错操纵生成的任何样本贬责几许问题。

精准度，在从生成的样本并吞中禁受最终谜底的情况下，咱们能否识别出正确的样本？

他们脸色的是 yes or no 的任务，在这些任务中，谜底不错径直被打分为对或者错，主要策画是奏服从——即粗豪贬杜撰题的比例。

通过重迭采样，议论这么一种建造，即模子在尝试贬杜撰题时不错生成很多候选解。

因此，奏服从既受到为很多问题生成正确样本的身手（即遮盖率）的影响，也受到识别这些正确样本的身手（即精准度）的影响。

基于此，详情了五种数学和编程任务：GSM8K、MATH、MiniF2F-MATH、CodeContests、SWE-benchLite。

后果败露，在多个任务和模子中，遮盖率随样本数目增多而提高，在某些情况下，重迭采样可使较弱模子卓著单样人性能更好的强模子，且资本效益更高

比如在使用 Gemma-2B 贬责 CodeContests 编程问题时。跟着样本数目的增多，遮盖率提高了 300 倍以上，从一次尝试的 0.02% 提高到 10000 次尝试的 7.1%。贬责来自 GSM8K 和 MATH 的数学单词问题时，Llama-3 模子的遮盖率在 10,000 个样本的情况下增长到 95% 以上。

原理的是，log（遮盖率）与样本数之间的联系往往除名不异的幂律。

在 Llama-3 和 Gemma 模子中，不错不雅察到遮盖率与样本数呈不异对数线性增长，逾越几个数目级。

在不同参数目、不同模子以及后老师水平（基础模子和微调模子）下，皆败露通过重迭采样 Scaling 推理时分计较，遮盖率皆有一致的提高。

此外，他们还诠释了这种 Scaling 还能降本增效，以 FLOPs 当作资本策画，以 LIama-3 为例。

计较公式如下：

比较 Llama-3-8B-Instruct 和 Llama3-70B-Instruct 的资本（以推理 FLOPs 数目测度）和遮盖率。当 FLOPs 预算固定时，在 MiniF2F、GSM8K 和 MATH 上，Llama-3-8B-Instruct 的遮盖率老是高于更大（更贵）的 70B 模子。关联词，在 CodeContests 中，70B 模子险些老是更具资本效益。