Opus 5.5 在 eBay 8x V100 服务器上的性能实测

在 5400 美元的 eBay 8x V100 服务器上运行 Opus 5.5，仅用 4 GPU 达到 120k KV 缓存（开启图像）。27B 模型 TP=4 实测推理速度超过 200 tok/s，prefill 约 2.5-3.5k tok/s，使用 nvfp4 Nvidia checkpoints。发现可实时解包为 fp16 的优化方案。