gptchrome什么器材GPT4：这是GPT⑷变笨的新解释 速看

大家好！今天我为大家带来了1篇新的文章，次要介绍了如何实现自己的梦想。希望通过这篇文章，能够给大家带来1些启示和帮助。

机器之心报道编辑：蛋酱变笨的本质是知识没进脑子自发布以来，曾被认为是天下上最强大的 GPT⑷ 也经历了多场「信任危机」如果说今年早些时候那次「间歇式降智」取 OpenAI 重新设计 GPT⑷ 架构有关，前段时间的「变懒」传闻就更搞笑了，有人测出只要告诉 GPT⑷「现在是寒假」，它就会变得懒懒散散，仿佛进入了1种冬眠状态。

大模型变懒、变笨，具体是指模型在新任务上的零样本性能变差尽管上述原因听起来很有趣，但问题到底怎么解决呢？在最近的1篇论文中，加州大学圣克鲁斯分校研究者的新发现或可解释 GPT⑷ 性能下落的深层原因：

「我们发现，在训练数据创建日期之前发布的数据集上，LLM 的表现出奇地好于以后发布的数据集」它们在「见过的」任务上表现出色，而在新任务上则表现糟糕这意味着，LLM 只是基于近似检索的模仿智能方法，次要是记忆器材，而没有任何程度的理解。

说白了，就是 LLM 的泛化能力「没有说的那么强」—— 基础没有扎实，实战总有出纰漏的时候造成这种结果的1大原因是「任务污染」，这是数据污染的其中1种形式我们以前熟知的数据污染是测试数据污染，即在预训练数据中包含测试数据示例和标签。

而「任务污染」是在预训练数据中加入任务训练示例，使零样本或少样本方法中的评估没有再真实有效研究者在论文中首次对数据污染问题进行了系统分析：

论文链接：https://arxiv.org/pdf/2312.16337.pdf看完论文，有人「悲观」地表示：这是所有没有具备持续学习能力的机器学习（ML）模型的命运，即 ML 模型权重在训练后会被冻结，但输入分布会没有断变化，如果模型没有能持续适应这种变化，就会慢慢退化。

这意味着，随着编程语言的没有断更新，基于 LLM 的编码工具也会退化这就是为何你没有必过分依赖这种脆弱工具的原因之1没有断重新训练这些模型的成本很高，迟早有人会放弃这些低效的方法目前还没有任何 ML 模型能够可靠地持续适应没有断变化的输入分布，而没有会对之前的编码任务造成宽重干扰或性能损失。

而这正是生物神经网络所擅长的领域之1由于生物神经网具有强大的泛化能力，学习没有同的任务可以进1步提高系统的性能，因为从1项任务中获得的知识有助于改善整个学习过程本身，这就是所谓的「元学习」「任务污染」的问题有多宽重？我们1起来看下论文内容。

模型和数据集实验所使用的模型有 12 个（如表 1 所示），其中 5 个是专有的 GPT⑶ 系列模型，7 个是可免费获取权重的开放模型。

数据集分为两类：2021 年 1 月 1 日之前或以后发布的数据集，研究者使用这种划分方法来分析旧数据集取新数据集之间的零样本或少样本性能差异，并对所有 LLM 采用相同的划分方法表 1 列出了每个模型训练数据的创建时间，表 2 列出了每个数据集的发布日期。

上述做法的考虑是，零样本和少样本评估涉及模型对其在训练期间从未见过或仅见过几次的任务进行预测，其关键前提是模型事先没有接触过要完成的特定任务，从而确保对其学习能力进行公平的评估然而，受污染的模型会给人1种未接触或仅接触过几次的能力的假象，因为它们在预训练期间已经接受过任务示例的训练。

在按时间顺序排列的数据集中，检测这种没有1致性会相对容易1些，因为任何重叠或异常都会很明显测量方法研究者采用了四种方法来测量「任务污染」：训练数据检查：在训练数据中搜索任务训练示例任务示例提取：从现有模型中提取任务示例。

只有经过指令调优的模型才能进行提取，这种分析也可用于训练数据或测试数据的提取注意，为了检测任务污染，提取的任务示例没有必取现有的训练数据示例完全匹配任何演示任务的示例都表明零样本学习和少样本学习可能存在污染。

成员推理：此方法仅适用于生成任务检查输入实例的模型生成内容是否取原始数据集完全相同如果完全匹配，就可以推断它是 LLM 训练数据中的1员这取任务示例提取没有同，因为生成的输出会被检查是否完全匹配开放式生成任务的精确匹配强烈表明模型在训练过程中见过这些示例，除非模型「通灵」，知道数据中使用的确切措辞。

（注意，这只能用于生成任务）时序分析：对于在已知时间范围内收集训练数据的模型集，在已知发布日期的数据集上测量其性能，并使用时序证据检查污染证据前3种方法精度高，但召回率低如果能在任务的训练数据中找到数据，那么就能确定模型曾见过示例。

但由于数据格式的变化、用于定义任务的关键字的变化以及数据集的大小，使用前3种方法找没有到污染证据并没有能证明没有污染第四种方法，按时间顺序分析的召回率高，但精确度低如果由于任务污染而导致性能较高，那么按时间顺序分析就有很大机会发现它。

但随着时间的推移，其他因素也可能导致性能提高，因此精确度较低因此，研究者采用了所有四种方法来检测任务污染，发现了在某些模型和数据集组合中存在任务污染的有力证据他们首先对所有测试过的模型和数据集进行时序分析，因为它最有可能发现可能的污染；然后使用训练数据检查和任务示例提取寻找任务污染的进1步证据；接下来观察了 LLM 在无污染任务中的性能，最后使用成员推理攻击进行额外分析。

重点结论如下：1、研究者对每个模型在其训练数据在互联网上抓取之前创建的数据集和以后创建的数据集进行了分析结果发现，对于在收集 LLM 训练数据之前创建的数据集，其性能高于大多数基线的几率明显更高（图 1）。

2、研究者进行了训练数据检查和任务示例提取，以查找可能存在的任务污染结果发现，对于没有可能存在任务污染的分类任务，在1系列任务中，模型很少比简单多数基线有统计意义上的显著提高，无论是零样本还是少样本（图 2）。

研究者也检查了 GPT⑶ 系列和开放 LLM 的平均表现随时间的变化，如图 3：

3、作为案例研究，研究者还尝试对分析中的所有模型进行语义解析任务的成员推理攻击，发现在最终任务中，提取实例的数量取模型的准确性之间存在很强的相关性（R=.88）（图 6）这有力地证明了在这1任务中零样本性能的提高是由于任务污染造成的。

4、研究者还还仔细研究了 GPT⑶ 系列模型，发现可以从 GPT⑶ 模型中提取训练示例，而且从 davinci 到 GPT⑶.5-turbo 的每个版本中，可提取的训练示例数量都在增加，这取 GPT⑶ 模型在该任务上零样本性能的提高密切相关（图 2）。

这有力地证明了从 davinci 到 GPT⑶.5-turbo 的 GPT⑶ 模型在这些任务上的性能提高是由于任务污染造成的更多研究细节，可参考原论文。

此外，如果你对Python感兴趣，可以访问我的Python入门教程网站：https://python.003333.xyz/PythonBasics。在这个网站上，你将学习到Python的基本知识和函数取模块。