#开源项目 GPU Unlock 项目:可以让 RTX 30 系显卡 AI 吞吐提升近 60%,结果后本地运行量化模型性能明显提升。

使用 RTX 3090 Ti 进行 8192³ 稠密矩阵乘法测试,测试结果如下:FP16 性能从 87.46 提升到 118.39;BF16 从 87.50 提升到 157.41;TF32 从 42.58 提升到 82.61 TFLOPS。

项目适用于 RTX 3090、支持部分 3080/3070/3060 显卡。

查看全文:https://ourl.co/127672?t

😁订阅 🤔解封 🥰推特 🎉CN2VPS
来自频道: @landiansub
Loading comments...