Unsloth官网 – 开源大模型本地微调训练框架｜500+模型Docker一键本地跑
Unsloth官网（unsloth.ai）是开源大模型训练框架：自研Triton内核让微调最高省80%显存、提速2倍以上，支持Llama、Qwen、Gemma等500多个模型。9月19日推出官方Docker镜像与Unsloth Desktop，一条命令即可在本地GPU完成训练与推理，个人免费使用。
排序
ComputeArena官网 – 本地AI模型基准测试｜社区实测性能排行榜
ComputeArena官网（computearena.ai）是社区共建的本地大模型性能测试平台，官方开源测试工具，任何人都可在NVIDIA、AMD、Apple Silicon等设备上跑开源模型并提交成绩，公开排行榜已积累数百条实测数据，选硬件、挑量化方案前先查同款配置的真实吞吐。
Nous Research官网 – 美国开源AI实验室｜Hermes Desktop一键本地大模型部署
Nous Research官网（nousresearch.com）是美国知名开源AI实验室，靠Hermes系列开源模型起家。9月3日Hermes Desktop上线一键本地模型功能：自动检测硬件、匹配量化权重、配置llama.cpp运行时，本地部署从半小时压缩到一次点击。应用MIT许可免费，macOS、Windows、Linux全平台可用，本地模型无需注册账号。
PrismML官网 – 本地大模型三值量化平台｜Bonsai 2 27B九倍压缩开源
PrismML官网（prismml.com）是美国Caltech背景的AI模型压缩公司，9月17日开源Bonsai 2 27B：基于Qwen3.8 27B做三值量化，5.9GB跑27B级多模态模型，性能保留98.2%，支持262K上下文与Apache 2.0协议，主打让大模型跑进手机与本地设备。