GPU 显存带宽对视觉算法帧率的限制如何量化分析？

huangyhg

同样的 GPU 算力，不同的显存带宽对视觉算法帧率影响很大，想建立量化分析的方法。

【测试场景】
- GPU A：RTX 4080（算力 100 TOPS，显存带宽 716 GB/s）
- GPU B：RTX 3090（算力 100 TOPS，显存带宽 936 GB/s）
- 算法：U-Net 图像分割（输入 2448x2048）

【实测结果】
- GPU A（RTX 4080）：42ms/帧
- GPU B（RTX 3090）：35ms/帧

【分析】
相同算力，不同带宽 → 帧率差 20%
说明显存带宽成为了瓶颈，而非算力。

【疑问】
如何计算某个算法的显存带宽需求？
对于视觉算法（图像处理 + 神经网络），典型的计算/带宽比是多少？
选型时如何权衡算力（TOPS）和显存带宽（GB/s）？