ColossalChat

Colossal人工智能是基于加州大学伯克利分校杰出教授James Demmel教授和新加坡国立大学总统青年教授Yang You教授的专业知识开发的。自开源发布以来，Colossal AI已多次在GitHub Trending上排名第一，拥有约20000名GitHub stars，并成功被接受为SC、AAAI、PPoPP、CVPR和ISC等国际人工智能和HPC顶级会议的官方教程。

ColossalChat是第一个基于LLaMA预训练模型开源完整RLHF pipline实现，包括有监督数据收集、有监督微调、奖励模型训练和强化学习微调。您可以开始用1.6GB的GPU内存复制ChatGPT训练过程，并在训练过程中体验7.73倍的加速。

它包括以下内容：

在线Demo：一个交互式演示，可以在没有注册或等待名单的情况下在线尝试。
训练代码：开源完整的RLHF训练代码，包括7B和13B的模型。
数据集：开源104K中英文双语数据集。
推理：仅需要4GB GPU内存的70亿参数模型的4位量化推理。
模型权重：在单个服务器上只需少量计算能力即可实现快速复制。
将快速更新和添加其他更大的模型、数据集和其他优化。

ColossalChat只需要不到100亿个参数，就可以在大型语言模型的基础上通过RLHF微调达到中英文双语水平，达到与ChatGPT和GPT-3.5相当的效果。