专题 · 29 篇
大语言模型
认识大语言模型,学习如何用它问答、写作与分析。
- 012026-07-15
概念解析——大语言模型(LLM)
以海量文本训练的巨型神经网络,能生成连贯文字、回答问题、辅助创作的语言模型。
- 022026-07-15
概念解析——GPT 系列
OpenAI 推出的生成式预训练 Transformer 系列模型,从 GPT-1 到 GPT-4 引领大模型浪潮。
- 032026-07-15
概念解析——BERT
Google 提出的双向编码器预训练模型,擅长理解类任务,对 NLP 发展影响深远。
- 042026-07-15
概念解析——T5
Google 提出的 Text-to-Text 统一框架,将所有 NLP 任务统一为文本输入输出格式。
- 052026-07-15
概念解析——LLaMA
Meta 开源的大语言模型系列,以高效训练和开放权重推动社区生态发展。
- 062026-07-15
概念解析——DeepSeek-R1
DeepSeek 推出的推理增强模型,以强化学习提升复杂推理能力。
- 072026-07-15
概念解析——混合专家模型(MoE)
通过稀疏门控激活部分参数,在相同计算量下扩展模型容量的架构。
- 082026-07-15
概念解析——幻觉(Hallucination)
大模型生成看似合理但实际错误的内容,是当前大模型最突出的缺陷之一。
- 092026-07-15
概念解析——上下文窗口
模型一次能看到的输入最大长度,决定它能处理的上下文规模。
- 102026-07-15
概念解析——KV Cache
Transformer 推理时缓存 Key/Value 张量的技术,大幅减少重复计算加速生成。
- 112026-07-15
概念解析——连续批处理
推理服务中动态拼接请求的批处理策略,提升 GPU 利用率和吞吐量。
- 122026-07-15
概念解析——投机解码
用小模型提前草稿、大模型验证的加速推理方法,无损输出质量。
- 132026-07-15
概念解析——提示缓存
缓存重复使用的提示词上下文,减少重复计算和 API 调用成本。
- 142026-07-15
概念解析——结构化输出
让模型输出符合预定格式(JSON/XML/Schema)的技术,保障可解析性。
- 152026-07-15
概念解析——GGUF
专为本地推理设计的模型文件格式,整合量化权重于单一文件中便于部署。
- 162026-07-15
概念解析——监督微调(SFT)
用人工标注的对话数据对预训练模型进行监督微调,赋予模型遵循指令的能力。
- 172026-07-15
概念解析——LoRA 低秩适应
低秩适应微调方法,冻结原权重只训练少量适配器参数,大幅降低微调成本。
- 182026-07-15
概念解析——LoRA Rank
LoRA 中低秩矩阵的秩参数,控制微调表达能力和参数量的关键指标。
- 192026-07-15
概念解析——DeepSpeed
微软推出的分布式训练优化框架,提供 ZeRO 内存优化等强大训练加速能力。
- 202026-07-15
概念解析——DPO 直接偏好优化
一种无需强化学习的对齐方法,直接用偏好数据优化模型。
- 212026-07-15
概念解析——RLHF
基于人类反馈的强化学习,通过人类偏好训练奖励模型来对齐大模型行为。
- 222026-07-15
概念解析——奖励模型
为 RLHF 训练提供评分信号的模型,学习判断什么输出更符合人类偏好。
- 232026-07-15
概念解析——多头注意力
Transformer 中并行执行多个注意力头的机制,捕获不同维度的关联信息。
- 242026-07-15
概念解析——多查询注意力
共享 Key/Value 但独立 Query 的高效注意力变体,加速推理减少显存。
- 252026-07-15
概念解析——评测框架(Harness)
标准化模型评测框架,提供统一接口和基准测试来评估大模型能力。
- 262026-07-15
概念解析——多体裁改写(MGA)
用模型自动改写同一内容为多种体裁风格,扩充高质量训练数据。
- 272026-07-07
大模型是怎么运行的:以 Transformer Explainer 为例
围绕交互式可视化工具,把分词、注意力、逐字生成三个核心概念一步步拆开。不懂代码也能看懂。
- 282026-07-07
大模型到底是什么?
标杆文。给 0 基础普通人:官方定义+新闻脉络(为什么火、已成国家战略)+ 完形填空调出原理 + Transformer Explainer 进阶 + 涌现 + 能做/不能做。文末带参考资料。
- 292026-07-04
让回答变好的 5 个提示词技巧
不用懂技术也能立刻用上的 5 个写法:给角色、给上下文、要格式、少废话、多举例。