9月5日,百度智能云在2023百度云智大会上宣布,其一站式企业级大模型平台——千帆大模型平台2.0全面升级发布。据百度云官方介绍,千帆大模型平台2.0在工具链、算力效能和数据等方面进行了多项改进。 在工具链方面,千帆大模型平台2.0的工具链能够紧密结合大模型开发、训练、部署和应用开发各个环节,从而最大化提升效率。以前,技术团队需要一个月的时间才能调试和运行大模型,而现在,在千帆一站式工具链平台上,只需要一天就能实现。 在算力效能方面,千帆大模型平台2.0的底层是一套集合了异构算力集群、高速互联的网络和高性能存储的AI算力基础设施,能够支撑万卡规模的训练。同时,平台还能够将大模型训练和推理的成本降到最低。 在数据方面,千帆大模型平台2.0不仅能够管理大模型,还能够增强大模型的能力。本次升级,平台在中文增强方面取得了显著的进展,能够大幅提升大模型的中文理解和生成能力,例如Liam2的国外大模型,也能够实现中文对话的优秀效果。 此外,千帆大模型平台2.0还全面提升训练和推理性能,训练Liam2的总体吞吐可以提升1/4,推理甚至可以提升3倍。在企业级安全方面,平台通过千帆的安全机制,能够构建四层安全防线,全方位保障大模型的内容安全、数据安全和系统安全。对于合规要求很高的客户,平台还支持国内、国外主流芯片和操作系统,以及私有化部署,确保每个企业的大模型都自主可控。 最后,百度集团执行副总裁、百度智能云事业群总裁沈抖表示,截至目前,百度网盘“云一朵”智能助理累积使用人数已经超过600万。而千帆大模型平台2.0的升级,使得平台能够纳管的国内外主流大模型达到了42个,预置了41个有行业特色的数据集,月活企业数已近万家,覆盖金融、制造、能源、政务、交通等行业的400多个业务场景。