ColossalChat

ColossalChat：免费开源的ChatGPT替代方案

ColossalChat是由Colossal-AI推出的一款免费开源版ChatGPT聊天机器人替代品。作为领先的开源大型人工智能模型解决方案，该项目在GitHub上已斩获26K星标。

Colossal-AI是首个基于LLaMA预训练模型开源完整RLHF机制的公司。这一机制涵盖了监督数据收集、监督微调、奖励模型训练以及强化学习微调。ColossalChat作为一个开源项目，其技术解决方案与最初的ChatGPT非常相似。

开源项目核心内容

该开源项目主要包含以下几个核心部分：

• Demo演示：提供交互式演示，用户无需注册或加入等待名单即可在线试用。
• 训练代码：开源了完整的RLHF训练代码，支持70亿和130亿参数的模型。
• 数据集：开源了104K规模的中英文双语数据集。
• 推理：仅需4GB GPU内存即可进行70亿参数模型的4-bit量化推理。
• 模型权重：在单个服务器上只需少量计算能力即可实现快速复制。