百川智能发布超千亿参数大模型Baichuan 3

1月29日讯，百川智能发布超千亿参数的大语言模型Baichuan 3。据介绍，百川智能通过“动态数据选择”、“重要度保持”以及“异步CheckPoint存储”等多种创新技术手段及方案，提升了Baicuan 3的各项能力，训练框架在性能方面相比业界主流框架提升超过30%，稳定训练时间达到一个月以上，故障恢复时间不超过10分钟。在CMMLU、GAOKAO和AGI-Eval能力测评，以及MATH、HumanEval和MBPP等数学和代码专项评测如中，Baichuan 3都展现了出色的能力。另外，在MCMLE、MedExam、CMExam等权威医疗评测上，Baichuan 3成为中文医疗任务表现最佳的大模型。Baichuan 3还突破“迭代式强化学习”技术，进一步提升了语义理解和生成能力。（百川智能）