基础概念
概念解析——SafeTensors
SafeTensors 是 Hugging Face 设计的一种模型权重存储格式。核心设计只有两条:加载时不会执行任何代码(所以安全),按地址直接读取(所以快)。今天去 Hugging Face 下载模型,几乎全是这个格式。
1. 它解决了什么问题
在 SafeTensors 出现之前,PyTorch 模型习惯存成 .bin 或 .pt 文件。这些文件用 Python 的 pickle 序列化库打包。pickle 有个隐藏特性:它不只是"读数据"——它会照着文件里写的指令一步步执行。加载一个模型文件,相当于跑了一段别人写的程序。
坏人可以在模型文件里夹带恶意代码。你一加载,它就在你电脑上跑起来了:上传你的 SSH 密钥、安装后门、偷取环境变量。这不是理论风险——学术界和开源社区都出过真实案例。模型下载下来本该直接用的,结果成了一次安全赌博。
SafeTensors 就是冲着这个问题来的。文件里只有数字,没有任何可执行代码。从设计上就封死了这条路。
2. 一个 SafeTensors 文件长什么样
结构极其简单,从前往后读就三块:
开头 8 字节——目录长度
文件最前面是一个 8 字节的整数,告诉你"接下来这段目录占了 N 个字节"。程序读到它,就知道目录到哪里结束。
JSON 目录——张量登记表
紧接着是一段 JSON 文本。它给每个张量登好记:叫什么名字、什么数据类型(F16 还是 F32)、形状是几行几列、数字在数据区的第几到第几字节。这段目录很小,几百字节到几 KB 就能写完。
数据区——纯数字,紧挨着
目录之后就是一大段二进制数字。一个张量的数字挨着下一个张量的数字,中间没有任何分隔符。怎么切分?全靠目录里记的偏移量。
3. 为什么加载快:零拷贝与内存映射
老格式加载模型要走好几步:把整个文件读进内存、解包 pickle、重建对象、再复制一份给模型用。文件越大,中间这些搬运越慢。
SafeTensors 因为目录里写明了每个张量的精确位置和大小,程序可以用"内存映射"技术——让内存直接指向硬盘上那段数据,不复制,不搬运。用到哪块张量,才读哪块。这叫零拷贝。
加载同样一个 7B 模型,SafeTensors 比老格式快 3 到 5 倍(在 CPU 上尤其明显)。时间花在刀刃上,没有中间商赚差价。
4. 它存什么,不存什么
SafeTensors 把事做得很窄,这恰恰是它聪明的地方:
- 存:每个权重的具体数字。
- 存:每个张量的名字、数据类型、形状、偏移量(在 JSON 目录里)。
- 不存:任何能执行的代码或脚本——这是安全的根本。
- 不存:模型是怎么搭起来的(网络结构 / 计算图)。那是 ONNX 的活。
- 不存:对话模板、分词器配置这些运行元信息。本地跑模型时,GGUF 会一锅端打包好。
各管一段,各司其职。SafeTensors 只管安全快速地存权重数字,别的事交给别的格式。
5. 2026 年的生态位
SafeTensors 由 Hugging Face 在 2022 年发布,到 2026 年已经成为 Hugging Face Hub 上模型权重的默认格式。从 Hugging Face 下载模型时,.safetensors 就是最常见的后缀。
行业内几乎所有主流框架和库都支持它:PyTorch 通过 safetensors Python 包直接读写;Transformers、Diffusers、PEFT 等 Hugging Face 库默认使用;llama.cpp 和 GGUF 的转换流程也从 SafeTensors 读权重。
它没有取代所有格式——但成了"安全默认项"。下载一个陌生模型,认准 .safetensors 就不用担心文件里夹带私货。
6. 与相邻格式的关系
深度学习模型的存储不是"一种格式通吃",不同格式管不同的事。SafeTensors 和它们经常一起出现:
- PyTorch .bin / .pt:老格式,基于 pickle。SafeTensors 直接替代它,用途完全一样但更安全。
- ONNX:存的是计算图(模型结构 + 权重),用来跨框架互转和部署。SafeTensors 可以单独给它提供权重。
- GGUF:本地跑模型的打包格式(尤其配合 llama.cpp),把权重、量化参数、分词器配置全打包一起。转换时通常从 SafeTensors 读权重。
- 量化格式(GPTQ / AWQ / GGUF 内):把权重数字压成更短的表示(4-bit 或 8-bit),模型更小更快。量化后的权重一样可以用 SafeTensors 存。
简单说:SafeTensors 是"存权重数字"这一层的当前最优解。上层怎么组织、怎么打包、怎么部署,是别的格式的事。
7. 相邻概念
顺着 SafeTensors 可以继续了解这些概念:
- 精度格式(F16 / F32 / BF16):权重数字用多少位存,精度和模型质量的取舍。
- ONNX:跨框架模型交换格式,存的是计算图不是二进制权重。
- GGUF:本地推理打包格式,SafeTensors 经常作为它的权重输入源。
- 模型部署:模型加载好之后,怎么起成一个服务对外提供推理。
- 模型推理:权重加载进内存后,如何运行一次前向传播。