腾讯混元-GPT
腾讯混元大模型是由腾讯研发的大语言模型，具备跨领域知识和自然语言理解能力，实现基于人机自然语言对话的方式，理解用户指令并执行任务，帮助用户实现人获取信息，知识和灵感。
ColossalChat是由Colossal-AI推出的免费开源版ChatGPT聊天机器人替代品，目前其GitHub项目已斩获26K星标。
作为当今领先的开源大型人工智能模型解决方案，Colossal AI是第一个基于LLaMA预训练模型开源完整RLHF机制的公司，该机制包括监督数据收集、监督微调、奖励模型训练和强化学习微调，并共享ColossalChat——与最初的ChatGPT技术解决方案非常相似的开源项目。
该开源项目包括以下内容：
- Demo演示：一个交互式演示，无需注册或加入等待名单即可在线试用
- 训练代码：开源完整的RLHF训练代码，包括70亿和130亿的模型。
- 数据集：开源104K中英文双语数据集。
- 推理：仅需要4GB GPU内存便可进行70亿参数模型的4-bit量化推理。
- 模型权重：在单个服务器上只需少量计算能力即可实现快速复制。
