模型量化

Unsloth官网（unsloth.ai）是开源大模型训练框架：自研Triton内核让微调最高省80%显存、提速2倍以上，支持Llama、Qwen、Gemma等500多个模型。9月19日推出官方Docker镜像与Unsloth Desktop，一条命令即可在本地GPU完成训练与推理，个人免费使用。

Nous Research官网（nousresearch.com）是美国知名开源AI实验室，靠Hermes系列开源模型起家。9月3日Hermes Desktop上线一键本地模型功能：自动检测硬件、匹配量化权重、配置llama.cpp运行时，本地部署从半小时压缩到一次点击。应用MIT许可免费，macOS、Windows、Linux全平台可用，本地模型无需注册账号。