2026-11-05 · 1 分钟阅读

释放 NVIDIA GPU 的 Tensor Core 完整性能

NVIDIA 用同一颗芯片衍生出两条产品线:面向玩家的 GeForce 和面向工作站的 RTX A 系列专业卡。两者的 Tensor Core 硬件完全一致,但 GeForce 出厂时其内部的速度选择器被设置为半速,影响 FP16、BF16 以及带 FP32 累加的 TF32 运算。而这些精度恰恰是几乎所有 AI 训练、微调、图像生成和非量化推理所依赖的。gpu-unlock 项目会在开机阶段、在官方 NVIDIA 驱动加载之前解除这一限制。不需要修改驱动,不需要刷写 VBIOS,NVIDIA 发布新驱动后也无需重新处理。

消费级 GeForce 为何只有半速

这一限制既不是硬件缺陷,也不是驱动决定的。每颗 GPU 的固件和 VBIOS ROM 中都藏有一个速度选择器。消费级产品把选择器编程为半速,Tensor Core 仍然正确执行每一条指令,只是在一组特定的矩阵运算模式下以降低的节奏发射。专业卡则搭载同样的芯片,选择器被设为全速。这是用固件实现的产品分级,也正是同代 GeForce 相比工作站卡显得异常缓慢的原因所在。

gpu-unlock 如何移除限制

该模块在启动早期从 initramfs 内存盘中加载。它读取固件参数,把速度选择器从半速切换为全速,然后触发 PCIe Function Level Reset,让设备以新设置重新初始化。只有在这一切完成之后,官方 NVIDIA 驱动才会绑定该设备。由于修改发生在驱动初始化之前,驱动更新后限制依然保持解除状态。没有需要反复应用的二进制补丁,除了常规的重新编译之外不需要随每次内核更新重建签名模块,卡上也没有任何被改写的 VBIOS。如果不加载该模块启动,GPU 的表现与出厂卡完全相同。

支持的 GPU 型号

开发和稳定性测试主要集中在 RTX 30 系列,尤其是 GA102、GA103、GA104 和 GA106 芯片。实验性支持还覆盖部分 RTX 20 系列和 RTX 40 系列的桌面与笔记本 GPU。像专业 RTX A 系列这样本身没有限制的卡不会获得任何收益,因为无限制可解。下表汇总了当前情况。

各世代的兼容状态
世代常见芯片状态
RTX 30 系列GA102、GA103、GA104、GA106完全支持,主要目标
RTX 20 系列TU106 等实验性支持
RTX 40 系列桌面与笔记本型号实验性支持
专业 RTX A 系列同一芯片,默认即为全速无需修改
← 向右滚动查看更多 →

实测性能提升

提升出现在预期的地方,即稠密矩阵乘法。在 RTX 3090 Ti 上,FP16 吞吐量从约 87 提升到 118 TFLOPS 以上,BF16 从约 87 提升到 157 TFLOPS,TF32 从约 42 提升到 82 TFLOPS 以上。在受支持的消费级显卡上,稠密 GEMM 吞吐量根据不同精度和模型形状提升约 25% 至 80%。实际效果是:大语言模型预填充更快,微调时间更短,图像生成步骤更迅速,并且在保持 BF16 或 FP16 权重而不量化为 INT8 时拥有更多余量。

RTX 3090 Ti 上的实测参考值
精度(FP32 累加)原厂 TFLOPS解锁后 TFLOPS提升幅度
FP1687118约 35%
BF1687157约 80%
TF324282约 95%
← 向右滚动查看更多 →

哪些场景没有变化

该解锁仅针对 Tensor Core 的矩阵运算。对传统光栅化游戏负载、标量 FP32 指令、INT8 量化推理和视频解码没有任何帮助。这些路径受限于内存带宽、缓存行为或固定功能硬件,而不是 Tensor Core 的发射节奏。如果你的流水线已经完全量化为 INT8,那就不要期待任何变化。以数据搬运而非算术强度为主的负载同样如此。

启动配置注意事项

顺序很重要。模块必须在 NVIDIA 驱动占用设备之前加载,实际做法是把它加入 initramfs,并确保它相对于专有驱动自身的早期加载钩子处于正确顺序。使用 dracut、mkinitcpio 或 update-initramfs 构建 initramfs 的发行版处理方式各不相同,请按照项目针对你的发行版给出的说明操作。启用 Secure Boot 的环境需要用已注册的密钥为模块签名,与其他树外内核模块完全一样。不要假设成功,应通过查看报告的张量吞吐量来验证结果。

是否值得使用

如果你在消费级 GeForce 上用 BF16、FP16 或 TF32 做训练、微调或图像生成,这项解锁是性价比最高的性能提升手段之一:运行时不产生额外开销,也不会在每次驱动更新时增加维护工作。如果你的主要用途是游戏、视频解码或 INT8 量化推理,那就跳过它。请阅读仓库文档,确认你的芯片在支持范围内,并在实施前后分别测试,以便清楚知道实际收益。

让我们合作吧

您需要更多信息、项目帮助或开发构想吗?

无论是简单的问题还是完整的项目,我都在这里。联系我,让我们将您的想法变为现实。

联系我 →

切换主题

选择一个专业主题进行探索: