PrismML官网 – 本地大模型三值量化平台|Bonsai 2 27B九倍压缩开源翻译站点

3周前更新 29 00

PrismML官网(prismml.com)是美国Caltech背景的AI模型压缩公司,9月17日开源Bonsai 2 27B:基于Qwen3.8 27B做三值量化,5.9GB跑27B级多模态模型,性能保留98.2%,支持262K上下文与Apache 2.0协议,主打让大模型跑进手机与本地设备。

所在地:
美国
语言:
en
收录时间:
2026-09-18
PrismML官网 – 本地大模型三值量化平台|Bonsai 2 27B九倍压缩开源PrismML官网 – 本地大模型三值量化平台|Bonsai 2 27B九倍压缩开源

PrismML官网:超密集本地大模型压缩平台(prismml.com)

网站简介

PrismML官网(网址:prismml.com)是一家总部位于美国加州帕萨迪纳的AI模型压缩公司,出自加州理工学院的研究,主打「智能密度」——同样的能力,用更少的显存、算力和能耗跑起来。2026年9月17日发布的旗舰模型Ternary Bonsai 2 27B基于Qwen3.8 27B做三值(-1/0/+1)量化,体积只有全精度版的约九分之一,5.9GB就能装下一个27B级多模态模型,在20项基准上保留98.2%的性能(83.9对85.4),支持262K上下文与图文输入,Apache 2.0协议免费下载。
PrismML官网首页截图
PrismML官网首页:Bonsai 2 27B发布(prismml.com)

核心优势

  • 9倍压缩、98.2%性能保留:三值权重加FP16分组缩放,每权重约1.76比特,5.9GB跑27B级模型,RTX 5090上可跑到143 tokens/秒。
  • 262K上下文与多模态:文本加图像输入、262K长上下文都在,本地智能体、计算机操作类应用不用为省内存牺牲能力。
  • Bonsai家族档位齐全:27B之外还有8B、4B、1.7B和1-bit的Bonsai Image,从手机到工作站都有对应部署档位。
  • Apache 2.0开源:权重免费下载可商用,配套llama.cpp分支、演示与集成代码一并开源。
  • 学术背书硬:出自Caltech,CEO Babak Hassibi是压缩领域教授,顾问是Databricks联合创始人Ion Stoica,获Khosla Ventures、Caltech等支持。

发展历史

PrismML成立于2025年,从加州理工的研究成果孵化而来,CEO是Caltech教授Babak Hassibi,联合创始人还有Sahin Lale、Omead Pooladzandi与Reza Sadri,UC Berkeley教授、Databricks联合创始人Ion Stoica担任顾问,投资方包括Khosla Ventures、Cerberus Capital与Caltech。2026年7月发布首代Ternary Bonsai 27B,验证了27B级多模态模型压缩9倍后仍能跑在本地设备上(性能保留95%),据TechCrunch报道累计下载量已超千万次。2026年9月17日上线的Bonsai 2 27B把性能保留率提到98.2%,官方博客透露,下一步是把同样的压缩方法用到数千亿参数级的大模型上。

总结

想在本地或端侧跑一个「能力不缩水太多」的多模态模型,Bonsai 2 27B是目前27B档位里值得优先试的选择;但它需要用PrismML自家的llama.cpp分支才能跑,主流推理框架还没原生支持,生产环境接入前先在测试机验证一遍。重度依赖云端大模型、没有本地算力的团队,可以再等等它的生态成熟。

数据评估

PrismML官网 – 本地大模型三值量化平台|Bonsai 2 27B九倍压缩开源浏览人数已经达到29,如你需要查询该站的相关权重信息,可以点击"5118数据""爱站数据""Chinaz数据"进入;以目前的网站数据参考,建议大家请以爱站数据为准,更多网站价值评估因素如:PrismML官网 – 本地大模型三值量化平台|Bonsai 2 27B九倍压缩开源的访问速度、搜索引擎收录以及索引量、用户体验等;当然要评估一个站的价值,最主要还是需要根据您自身的需求以及需要,一些确切的数据则需要找PrismML官网 – 本地大模型三值量化平台|Bonsai 2 27B九倍压缩开源的站长进行洽谈提供。如该站的IP、PV、跳出率等!

关于PrismML官网 – 本地大模型三值量化平台|Bonsai 2 27B九倍压缩开源特别声明

本站AI30-AI人工智能网提供的PrismML官网 – 本地大模型三值量化平台|Bonsai 2 27B九倍压缩开源都来源于网络,不保证外部链接的准确性和完整性,同时,对于该外部链接的指向,不由AI30-AI人工智能网实际控制,在2026年9月18日 下午3:37收录时,该网页上的内容,都属于合规合法,后期网页的内容如出现违规,可以直接联系网站管理员进行删除,AI30-AI人工智能网不承担任何责任。

相关导航

暂无评论

none
暂无评论...