释放 NVIDIA GPU 的 Tensor Core 完整性能
NVIDIA 用同一颗芯片衍生出两条产品线:面向玩家的 GeForce 和面向工作站的 RTX A 系列专业卡。两者的 Tensor Core 硬件完全一致,但 GeForce 出厂时其内部的速度选择器被设置为半速,影响 FP16、BF16 以及带 FP32 累加的 TF32 运算。而这些精度恰恰是几乎所有 AI 训练、微调、图像生成和非量化推理所依赖的。gpu-unlock 项目会在开机阶段、在官方 NVIDIA 驱动加载之前解除这一限制。不需要修改驱动,不需要刷写 VBIOS,NVIDIA 发布新驱动后也无需重新处理。
消费级 GeForce 为何只有半速
这一限制既不是硬件缺陷,也不是驱动决定的。每颗 GPU 的固件和 VBIOS ROM 中都藏有一个速度选择器。消费级产品把选择器编程为半速,Tensor Core 仍然正确执行每一条指令,只是在一组特定的矩阵运算模式下以降低的节奏发射。专业卡则搭载同样的芯片,选择器被设为全速。这是用固件实现的产品分级,也正是同代 GeForce 相比工作站卡显得异常缓慢的原因所在。
gpu-unlock 如何移除限制
该模块在启动早期从 initramfs 内存盘中加载。它读取固件参数,把速度选择器从半速切换为全速,然后触发 PCIe Function Level Reset,让设备以新设置重新初始化。只有在这一切完成之后,官方 NVIDIA 驱动才会绑定该设备。由于修改发生在驱动初始化之前,驱动更新后限制依然保持解除状态。没有需要反复应用的二进制补丁,除了常规的重新编译之外不需要随每次内核更新重建签名模块,卡上也没有任何被改写的 VBIOS。如果不加载该模块启动,GPU 的表现与出厂卡完全相同。
支持的 GPU 型号
开发和稳定性测试主要集中在 RTX 30 系列,尤其是 GA102、GA103、GA104 和 GA106 芯片。实验性支持还覆盖部分 RTX 20 系列和 RTX 40 系列的桌面与笔记本 GPU。像专业 RTX A 系列这样本身没有限制的卡不会获得任何收益,因为无限制可解。下表汇总了当前情况。
| 世代 | 常见芯片 | 状态 |
|---|---|---|
| RTX 30 系列 | GA102、GA103、GA104、GA106 | 完全支持,主要目标 |
| RTX 20 系列 | TU106 等 | 实验性支持 |
| RTX 40 系列 | 桌面与笔记本型号 | 实验性支持 |
| 专业 RTX A 系列 | 同一芯片,默认即为全速 | 无需修改 |
实测性能提升
提升出现在预期的地方,即稠密矩阵乘法。在 RTX 3090 Ti 上,FP16 吞吐量从约 87 提升到 118 TFLOPS 以上,BF16 从约 87 提升到 157 TFLOPS,TF32 从约 42 提升到 82 TFLOPS 以上。在受支持的消费级显卡上,稠密 GEMM 吞吐量根据不同精度和模型形状提升约 25% 至 80%。实际效果是:大语言模型预填充更快,微调时间更短,图像生成步骤更迅速,并且在保持 BF16 或 FP16 权重而不量化为 INT8 时拥有更多余量。
| 精度(FP32 累加) | 原厂 TFLOPS | 解锁后 TFLOPS | 提升幅度 |
|---|---|---|---|
| FP16 | 87 | 118 | 约 35% |
| BF16 | 87 | 157 | 约 80% |
| TF32 | 42 | 82 | 约 95% |
哪些场景没有变化
该解锁仅针对 Tensor Core 的矩阵运算。对传统光栅化游戏负载、标量 FP32 指令、INT8 量化推理和视频解码没有任何帮助。这些路径受限于内存带宽、缓存行为或固定功能硬件,而不是 Tensor Core 的发射节奏。如果你的流水线已经完全量化为 INT8,那就不要期待任何变化。以数据搬运而非算术强度为主的负载同样如此。
启动配置注意事项
顺序很重要。模块必须在 NVIDIA 驱动占用设备之前加载,实际做法是把它加入 initramfs,并确保它相对于专有驱动自身的早期加载钩子处于正确顺序。使用 dracut、mkinitcpio 或 update-initramfs 构建 initramfs 的发行版处理方式各不相同,请按照项目针对你的发行版给出的说明操作。启用 Secure Boot 的环境需要用已注册的密钥为模块签名,与其他树外内核模块完全一样。不要假设成功,应通过查看报告的张量吞吐量来验证结果。
是否值得使用
如果你在消费级 GeForce 上用 BF16、FP16 或 TF32 做训练、微调或图像生成,这项解锁是性价比最高的性能提升手段之一:运行时不产生额外开销,也不会在每次驱动更新时增加维护工作。如果你的主要用途是游戏、视频解码或 INT8 量化推理,那就跳过它。请阅读仓库文档,确认你的芯片在支持范围内,并在实施前后分别测试,以便清楚知道实际收益。
