基础概念

概念解析——数据标注

数据标注是 AI 世界里最不起眼、也最绕不开的脏活累活。一段原始文本、一张图片、一条用户指令,模型看不懂——得有人先把「正确答案」贴上去,模型才知道该学什么。没有标注,就没有监督学习;没有监督学习,就没有今天的大语言模型。


1. 数据标注是什么

数据标注(Data Annotation),就是把原始数据变成「带标签的数据」。原始数据是一段文字、一张图片、一段音频——这些东西对计算机来说只是一堆数字。标注就是在这堆数字旁边附加一条信息:「这句话是好评」「这张图里有只猫」「这段录音说的是'你好'」。

为什么需要这个步骤?因为目前最主流的 AI 训练方法是监督学习(Supervised Learning)。监督学习需要「输入 + 正确答案」的配对数据。模型看大量这样的配对,自己总结规律,以后再见到没见过的输入,就能猜出正确答案。标注就是这个「配对」过程中不可或缺的一环。

你用的每一个 AI 产品背后的模型,都经过了海量标注数据的喂养。GPT-4o、Claude、Gemini——它们能说会道,不是因为天生聪明,而是因为人类标注员给它们准备了数亿条「问题和理想回答」的范例。

标注的本质,就是充当 AI 的老师。老师在作业本上写对错,标注员在数据上贴标签。模型从标签里学,标签的质量直接决定模型的上限。

2. 标注干什么用:监督学习的命根子

监督学习有一个简单的框架:你给模型一堆 (输入, 输出) 的例子,模型从中学会一个映射函数。比如你给 10 万条「商品评论 → 好评/差评」的标注数据,模型就能学会给新评论自动分类。

没有标注,模型只能做无监督学习——自己从数据里找结构,但找出来的结构不一定是你想要的。你想让模型分好评差评,它可能自己按「长度」分了类,短的算一类,长的算一类,跟你的需求完全对不上。标注给了模型一个明确的方向:别猜了,正确答案就在这儿。

标注的规模直接影响模型的效果。给小模型标 1 万条数据,效果可能一般;给大模型标 100 万条高质量的 SFT(监督微调)数据,效果会好得多。所以标注是「有多少人工,就有多少智能」这句戏言的来源——听起来是玩笑,实际上是大实话。


3. 常见标注类型

标注不是只有一种。不同的任务、不同的数据形态、不同的训练阶段,需要不同的标注方式。下面列几种最常见的。

文本分类

给整段文字贴一个类别

最常见的一种。给一条文本贴一个分类标签:情感是正面还是负面,邮件是正常还是垃圾,新闻属于体育、财经还是科技。标注员读完文字,选一个最合适的类别。大模型出现前,这是 NLP 工业界的核心工作。

示例:「今天外卖等了两个小时,饭还是凉的。」
→ 标注类别:负面(情感分类)
→ 标注类别:外卖服务(话题分类)

命名实体识别

从文字里标出关键实体

标注员要把文本中的人名、地名、机构名、日期、金额等实体圈出来,再标上类别。比如说「苹果公司在加州库比蒂诺发布了新款 iPhone」——「苹果公司」是机构,「加州库比蒂诺」是地点,「iPhone」是产品。模型要学的是:这些词不是普通词汇,它们携带重要的信息。

示例:「李华 上周在 王府井 花 300 元 买了双鞋。」
→ 李华:人名 | 王府井:地点 | 300 元:金额

图像标框

在图片上画框框

计算机视觉的基础标注方式。标注员在图片上用矩形框把目标物体圈出来,再标上类别。自动驾驶的数据集里,每张图可能标几十个框——行人、车辆、交通灯、路标。一张图的标注成本从几毛到几十块不等,取决于需要标得多精细。

指令遵循标注

教模型怎么听话办事

这是大语言模型时代最主要的标注形式。给模型一条指令(Prompt),人工写一个「理想回答」,让模型照着学。ChatGPT 之所以好用,就是因为 OpenAI 请了大量标注员写了数百万条这样的「指令 → 理想回答」配对,做了监督微调(SFT)。

示例(指令标注):
指令:用一句话向小学生解释什么是光合作用。
标注的理想回答:植物用阳光把水和二氧化碳变成食物和氧气的过程。

示例(偏好标注):
问题:朋友失恋了怎么安慰?
回答 A(更好):先陪着,让他说,别急着给建议。
回答 B:下一个会更好,别难过了。
→ 标注员选 A 为更好的回答,这就是偏好标注,用于 RLHF/DPO。

4. 纯人工 vs 半自动

标注这件事,可以全部由人工完成,也可以让机器搭把手。

纯人工标注:每一条数据都由标注员从零开始标。质量最高、最可控,但贵且慢。一个熟练的标注员一天可能标几百条文本分类,或者画几百张框。大模型公司动辄需要几千万条标注数据,纯人工标的话,成本和时间都扛不住。

半自动标注:先让一个现成的模型(比如 GPT-4o)对所有数据标一遍初稿,然后由人工审核、修正。模型标得快的放过,模型标错的才改。这种方式能省 60%-80% 的人力,质量也过得去——只要人工审的那关把牢了。

现在主流做法是后者。纯粹的「人肉标注」正在变少,但纯机器的「全自动标注」还不可靠——模型会犯错,特别是模棱两可的案例。人机协同是目前最实用的方案。


5. 质量怎么保证

标注是人做的。人会累、会走神、会理解不一致。同一段话,上午标「正面」,下午标「中性」。这不是态度问题,是人的天性。所以必须有质量控制的机制。

多人交叉标注

同一条数据分配给多个人各标一遍。如果大家的标注结果一致,说明这条数据比较「干净」;如果不一致,说明标注规则没说清楚,或者这条数据本身太模糊。通常 3 人标同一份,按多数投票决定最终标签。

一致性检查

看不同标注员之间的标注一致程度。统计学的指标叫 Cohen's Kappa 或 Fleiss' Kappa。简单说:如果 10 个人标同一条数据,8 个人选了同一个标签,一致性高,可以放心。如果只有 4 个人选一样,说明规则或数据有问题,得回去改。

抽检复核

由资深标注员或专家随机抽取已标好的数据重新复核。算出一个错误率。比如抽 100 条发现 5 条标错,就估算整批数据的错误率约 5%。如果超过质量阈值,整批返工。

标注质量比标注数量更重要。100 万条高质量标注能训出一个好模型;1,000 万条充满矛盾的标注只会训出一个精神分裂的模型。

6. LLM 时代的标注:百万级起跳

大语言模型对标注数据的需求量远超传统模型。传统分类器可能几千条标注就够用,但训练一个能对话的 LLM,需要数百万条 SFT 标注数据。

ChatGPT 的训练流程大致是:预训练(无监督,不需要标注)→ SFT(需要百万级「指令 → 回答」标注)→ RLHF(需要百万级「偏好标注」,人对多个模型的回答排序)。光是 RLHF 阶段,OpenAI 就动用了大量标注员,让模型生成的回答和人类标注员的偏好对齐。

Anthropic 的 Claude 也用了一套叫「宪法 AI」的方法来减少对人工标注的依赖,但底层仍然需要高质量的种子标注数据作为起点。纯靠算法自己学,不靠人教的模型,目前还做不到实用级别。

标注的规模还在扩大。多模态模型(看图说话、视频理解)催生了新的标注需求——给视频帧逐帧标框、给音频标说话人、给 3D 点云标物体。这些新标注的单价更高,质量控制更难。


7. 相邻概念

数据标注不是孤立的一步。它夹在「数据整理」和「模型训练」之间。要真正理解标注的角色,可以看看这些相邻概念:

  • 数据清洗(Data Cleaning):标注之前先把脏数据去掉——重复数据、乱码、错误信息。脏数据进去,脏标注出来,白干。
  • 数据集构建(Dataset Construction):从收集原始数据到清洗、标注、格式化的整条流水线。
  • 训练数据集(Training Dataset):标注好的数据最终汇入训练集、验证集、测试集,供模型训练和评估。
  • SFT(监督微调):用「指令 → 理想回答」形式的标注数据对预训练模型做微调,让它学会听话办事。
  • RLHF(基于人类反馈的强化学习):用偏好标注(哪个回答更好)进一步调优模型,让它的输出更合人的心意。

参考资料

  • OpenAI. InstructGPT: Training language models to follow instructions with human feedback. NeurIPS 2022.
  • Ouyang, L. et al. Training language models to follow instructions with human feedback. arXiv:2203.02155, 2022.
  • Anthropic. Constitutional AI: Harmlessness from AI Feedback. arXiv:2212.08073, 2022.
  • Raffel, C. et al. Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer. JMLR 2020.
  • Sun, C. et al. Revisiting Unreasonable Effectiveness of Data in Deep Learning Era. ICCV 2017.