基础概念

概念解析——SafeTensors

SafeTensors 是 Hugging Face 设计的一种模型权重存储格式。核心设计只有两条:加载时不会执行任何代码(所以安全),按地址直接读取(所以快)。今天去 Hugging Face 下载模型,几乎全是这个格式。


1. 它解决了什么问题

在 SafeTensors 出现之前,PyTorch 模型习惯存成 .bin 或 .pt 文件。这些文件用 Python 的 pickle 序列化库打包。pickle 有个隐藏特性:它不只是"读数据"——它会照着文件里写的指令一步步执行。加载一个模型文件,相当于跑了一段别人写的程序。

坏人可以在模型文件里夹带恶意代码。你一加载,它就在你电脑上跑起来了:上传你的 SSH 密钥、安装后门、偷取环境变量。这不是理论风险——学术界和开源社区都出过真实案例。模型下载下来本该直接用的,结果成了一次安全赌博。

SafeTensors 就是冲着这个问题来的。文件里只有数字,没有任何可执行代码。从设计上就封死了这条路。

pickle 把"读数据"和"执行指令"混在了一起。SafeTensors 把这两件事拆开了——它只管存数字,不存任何能跑的东西。

2. 一个 SafeTensors 文件长什么样

结构极其简单,从前往后读就三块:

第一块

开头 8 字节——目录长度

文件最前面是一个 8 字节的整数,告诉你"接下来这段目录占了 N 个字节"。程序读到它,就知道目录到哪里结束。

第二块

JSON 目录——张量登记表

紧接着是一段 JSON 文本。它给每个张量登好记:叫什么名字、什么数据类型(F16 还是 F32)、形状是几行几列、数字在数据区的第几到第几字节。这段目录很小,几百字节到几 KB 就能写完。

第三块

数据区——纯数字,紧挨着

目录之后就是一大段二进制数字。一个张量的数字挨着下一个张量的数字,中间没有任何分隔符。怎么切分?全靠目录里记的偏移量。

举个例子:一个 7B 参数的模型,目录可能只占几千字节,剩下的几十 GB 全是数据。目录就像书的目次,告诉你在第几页找到什么——不用翻完整本书才知道每章在哪。

3. 为什么加载快:零拷贝与内存映射

老格式加载模型要走好几步:把整个文件读进内存、解包 pickle、重建对象、再复制一份给模型用。文件越大,中间这些搬运越慢。

SafeTensors 因为目录里写明了每个张量的精确位置和大小,程序可以用"内存映射"技术——让内存直接指向硬盘上那段数据,不复制,不搬运。用到哪块张量,才读哪块。这叫零拷贝。

加载同样一个 7B 模型,SafeTensors 比老格式快 3 到 5 倍(在 CPU 上尤其明显)。时间花在刀刃上,没有中间商赚差价。

零拷贝的意思是:不把数据复制到新地方,而是让程序直接用硬盘上原来的那份。省掉一道搬运,就省掉一道时间。

4. 它存什么,不存什么

SafeTensors 把事做得很窄,这恰恰是它聪明的地方:

  • 存:每个权重的具体数字。
  • 存:每个张量的名字、数据类型、形状、偏移量(在 JSON 目录里)。
  • 不存:任何能执行的代码或脚本——这是安全的根本。
  • 不存:模型是怎么搭起来的(网络结构 / 计算图)。那是 ONNX 的活。
  • 不存:对话模板、分词器配置这些运行元信息。本地跑模型时,GGUF 会一锅端打包好。

各管一段,各司其职。SafeTensors 只管安全快速地存权重数字,别的事交给别的格式。


5. 2026 年的生态位

SafeTensors 由 Hugging Face 在 2022 年发布,到 2026 年已经成为 Hugging Face Hub 上模型权重的默认格式。从 Hugging Face 下载模型时,.safetensors 就是最常见的后缀。

行业内几乎所有主流框架和库都支持它:PyTorch 通过 safetensors Python 包直接读写;Transformers、Diffusers、PEFT 等 Hugging Face 库默认使用;llama.cpp 和 GGUF 的转换流程也从 SafeTensors 读权重。

它没有取代所有格式——但成了"安全默认项"。下载一个陌生模型,认准 .safetensors 就不用担心文件里夹带私货。


6. 与相邻格式的关系

深度学习模型的存储不是"一种格式通吃",不同格式管不同的事。SafeTensors 和它们经常一起出现:

  • PyTorch .bin / .pt:老格式,基于 pickle。SafeTensors 直接替代它,用途完全一样但更安全。
  • ONNX:存的是计算图(模型结构 + 权重),用来跨框架互转和部署。SafeTensors 可以单独给它提供权重。
  • GGUF:本地跑模型的打包格式(尤其配合 llama.cpp),把权重、量化参数、分词器配置全打包一起。转换时通常从 SafeTensors 读权重。
  • 量化格式(GPTQ / AWQ / GGUF 内):把权重数字压成更短的表示(4-bit 或 8-bit),模型更小更快。量化后的权重一样可以用 SafeTensors 存。

简单说:SafeTensors 是"存权重数字"这一层的当前最优解。上层怎么组织、怎么打包、怎么部署,是别的格式的事。


7. 相邻概念

顺着 SafeTensors 可以继续了解这些概念:

  • 精度格式(F16 / F32 / BF16):权重数字用多少位存,精度和模型质量的取舍。
  • ONNX:跨框架模型交换格式,存的是计算图不是二进制权重。
  • GGUF:本地推理打包格式,SafeTensors 经常作为它的权重输入源。
  • 模型部署:模型加载好之后,怎么起成一个服务对外提供推理。
  • 模型推理:权重加载进内存后,如何运行一次前向传播。
概念解析 · 人工智能ABC