推理速度

ComputeArena官网（computearena.ai）是社区共建的本地大模型性能测试平台，官方开源测试工具，任何人都可在NVIDIA、AMD、Apple Silicon等设备上跑开源模型并提交成绩，公开排行榜已积累数百条实测数据，选硬件、挑量化方案前先查同款配置的真实吞吐。