AI 智能体

概念解析——Few-shot 学习

Few-shot 学习,就是在你发给模型的提示词(prompt)里,先附上几个「输入 → 输出」的例子,让模型照着这些样板的格式和风格,处理一个新的同类任务。不动模型、不改参数,只靠例子引导。


1. 什么是 Few-shot 学习

大模型不是天生就知道你要什么格式的输出。你问它一句「把这段话分类」,它可能答得很随意:有时给一个词,有时给一整句,有时还带表情。原因很简单——它不知道你要的是「正面 / 负面 / 中性」这种标签,还是「积极 / 消极」,还是别的。

Few-shot 的做法就是:在问题前面先给模型看几个样板。你给两个例子:输入「这家店太慢了」→ 输出「负面」,输入「包装很用心」→ 输出「正面」。模型一看就明白——哦,你要的是用两个汉字标类别。于是它后面回答新问题时,格式就稳了。

Few-shot prompt 长这样:
把下面的评论分成 正面 / 负面。

例子:
「这家店太慢了」→ 负面
「包装很用心」→ 正面
现在轮到你:
「价格有点贵但质量好」→ ?

模型看到最后的 ?,就会照着上面例子的格式,把答案接在后面。

这个做法看起来简单,却是使用大模型最核心的技巧之一。它不需要训练、不需要数据收集、不需要算力——你只是在你打的那段话里多贴了几行字。

名字里的「学习」容易让人误会。这里没有训练模型,模型本身一点没变——它内部那套定型的参数一个都没动。模型只是在这一次对话里,照着你给的几个样板临场模仿。关掉窗口重开,这几个例子就不算数了,得重新给。

Few-shot 不是训练模型,而是在 prompt 里附带示例来引导它本次的回答格式和风格。

2. Zero-shot、One-shot、Few-shot

按照你给模型看几个例子,这三种叫法依次递进:

  • Zero-shot(零示例):直接下命令,一个例子都不给。模型全靠自己理解你的要求。快,但输出格式飘忽不定。
  • One-shot(一个示例):只给一个例子。模型有了一个参照,输出会比 zero-shot 规整,但遇到边缘情况仍然容易跑偏。
  • Few-shot(几个示例):给 2-5 个例子。模型有了多个参照,能更准确地理解你要的格式、粒度、风格。

拿情感分类来试。任务是把一句话标成「正面 / 负面 / 中性」。

0 个例子时,模型对「等了半小时才上菜」可能答「这条评论像是在抱怨上菜太慢,应该偏负面吧」——意思对了,但格式啰嗦。1 个例子时,它可能答「负面评价」——还是长了点。3 个例子后,它只答一个词「负面」,跟样板一模一样。

注意,zero-shot 不是错——模型大概率猜对了情感倾向,但它猜不到格式。Few-shot 的核心价值不是「教模型对错」,而是「教模型怎么答」。


3. 一个例子的结构

一个完整的 few-shot 例子,只有两样东西:

  • 输入(Input):你给模型的问题或素材。越干净越好,不要有多余的修饰。
  • 输出(Output):你希望模型给出的答案。格式要精确,包括标点和空格。
例子的解剖:
输入:「这家店太慢了」
输出:「负面」

就是两个字段。输入写清楚素材,输出写清楚你要的答案。简洁、一致、可复现。

整个 prompt 的骨架有三段:一段任务描述(让模型知道要做什么)、几个例子(让模型看到格式)、一道新题(让模型照着做)。任务描述可以省——例子够清楚的话模型自己就能推断出任务。但把任务写明白,效果总是更好。

例子里的「输出」如果不止写了答案,还把推理的几步也写了出来,模型也会照着先一步步想再给出答案。这个组合常被称为 few-shot CoT,对算术、逻辑推理这类任务特别有效。


4. 给几个例子最合适

例子不是越多越好。加头 1-2 个,模型进步很明显;加到 3-5 个,效果差不多到顶了;再往上堆,效果几乎不动,但 prompt 还在变长——而变长要付两种代价。

第一是 token 成本。模型把你的文字切成小块来数,一块就是一个 token。每个例子占一定数量的 token,例子越多,prompt 越长。很多商用模型按 token 计费,你每次调用都在为那些冗余的例子付钱。

第二是上下文窗口挤占。模型的「可视范围」有限——一次能处理的 token 数有上限。例子堆太多,留给真正任务的空间就少了。当总长度超过窗口上限,前面的内容会被「挤出去」,模型反而丢失关键信息。

经验法则:分类、抽取这类规整任务,3-5 个例子就够。任务越绕,可以多给;但每多一个都在吃你的 token 预算和上下文空间。

5. 三种常见的翻车

给例子不是丢几句进去就行。下面三种是新手最容易踩的坑。

翻车一

例子选偏了

想分类商品评论,结果随手给的 3 个例子全是「负面」。模型一看你给的全是负面,新评论也跟着几乎全标成负面。解决方案:例子要覆盖你想要的各种情况——正面、负面、中性都给一点,别让某一类占满。

翻车二

格式不统一

第一个例子答「负面」,第二个答「这条偏负面哦」,第三个答「负面情绪打 8 分」。三个长得都不一样,模型只好猜,输出五花八门。解决方案:所有例子用同一个格式——输出长一个样、字段一个样。它照得准,回答才稳。

翻车三

例子太长

每个例子都贴一整段长文,还给了十几个。结果正题还没开始,这段 prompt 已经很长——要么变慢变贵,要么前面的内容被挤出去。解决方案:例子尽量短,只留关键的那几句。够用就行,别贪多。


6. Few-shot 与上下文学习(In-context Learning)

Few-shot 是上下文学习(in-context learning)最典型的一种形式。上下文学习指的是:模型在一次对话的上下文中,从你提供的信息里学到该怎么做,而不需要修改它的权重参数。你给例子、给指令、给参考——模型在生成回答时参考所有这些上下文。

上下文学习的范围比 few-shot 更宽。除了给输入输出例子,你还可以给规则说明、给参考文档、给示例代码——这些都算上下文学习。Few-shot 只是其中最常见、最具体的一种操作。

学术界对上下文学习为什么有效还没有完全一致的结论。主流解释是:预训练阶段模型见过大量「前面有例子 → 后面跟着做」的文本模式,于是推理时自然地延续了这个模式。它不是真在学习新知识,而是在复制见过的行为模式。


7. Few-shot 与微调怎么选

Few-shot 和微调(fine-tuning)的区别,可以归结为四个维度:

  • 改不改模型:Few-shot 不动模型。微调要拿一批数据重新训练,改它的参数。
  • 效果存哪里:Few-shot 只存在这次对话里,关掉就没了。微调的效果写进模型里,以后不给例子它也记得。
  • 要准备什么:Few-shot 只需要几个写好的例子,复制进 prompt 就行。微调需要成百上千条数据、训练流程和算力。
  • 适合什么场景:Few-shot 适合临时让它照着某个格式或口味回答。微调适合让它长期、稳定地学会某种能力或风格。

绝大多数日常场景,给几个例子就够了,根本用不上微调——省钱省事,改起来也快。只有当你反复、长期、大规模地需要模型按某种固定方式输出,才值得考虑微调。

只想这次让它照着做 → 给例子(few-shot)。想让它永久学会某种本事 → 那是微调的活。

8. 相邻概念

Few-shot 是写 prompt 时的一招。顺着下面这些概念可以往外扩展:

  • 思维链(CoT):让模型先输出推理步骤再给答案,常和 few-shot 组合使用。
  • 提示词(Prompt):写好整段提示词的大框架,few-shot 只是其中一种技巧。
  • 微调(Fine-tuning):用数据重新训练模型,和 few-shot 互补而不是互斥。
  • 上下文工程:系统性地组织上下文内容来引导模型行为,few-shot 是其中一环。
概念解析 · 人工智能ABC