首页
手机版
当前位置:首页 > 文章教程 > 新闻资讯 > 火山引擎坚持云上创新,为大模型发展打好“地基”

火山引擎坚持云上创新,为大模型发展打好“地基”

2023-04-19 14:46:26 来源:天空软件网 我要评论()

用手机看

扫描二维码查看并分享给您的朋友

 时下,由于ChatGPT等因素的影响,“大模型”也日益成为人工智能领域最热门的关键词之一。而为大模型提供训练场景的AI装置、智算中心等硬件,也随之热度飙升。

 4月18日,火山引擎2023Force原动力大会在上海举办。火山引擎总裁谭待表示,企业上云用云只是过程,致力于更敏捷、更前沿的智能化创新,才能拿到敏捷迭代的“果实”。面向不同场景、不同行业,火山引擎为客户提供全面的工具助力做好云上创新。

 近期最重要的云上创新趋势莫过于AICG、大模型推动的智能化浪潮。随着多模态大模型的兴起,ChatGPT 2个月获取过亿用户,国内的NLP大模型以及多模态大模型创新公司也在奋力追赶。

 谭待对此表示,大模型还在发展初期,面临数据安全、内容安全、隐私保护、版权保护等许多问题需要努力解决。但可以预见,大模型将带动云上AI算力急剧增长,AI算力的工作负载与通用算力的差距会越来越小,这会为各家云厂商带来新的机会,同时也会对数据中心、软硬件栈、PaaS平台带来新的挑战。

 火山引擎全力支持大模型发展,不让任何创新因为算力不足而夭折。目前,火山引擎已经支持MiniMax、智谱、昆仑万维等企业在大模型领域快速发展。

 据MiniMax联合创始人杨斌介绍,MiniMax与火山引擎合作建立了超大规模实验平台,实现千卡级常态化训练;超大规模推理平台有万卡级算力池,支撑单日过亿次调用。在火山引擎云上,MiniMax大模型业务实现快速突破。

 谭待透露,火山引擎的大模型云平台获得智谱AI、昆仑万维等众多企业的良好反馈。国内大模型领域,七成以上已是火山引擎客户。

 谭待表示,坚信未来,大模型会在各个行业内不断兴起,行业专属、企业专属的大模型百花齐放,火山引擎也会全力支持好“多云多模型”的未来架构,不让企业因为缺失计算能力而错失创新。

 在会上,火山引擎发布两款AI新品,推动不同行业的云上智能创新爆发。

 首先是“智能推荐-高速训练引擎”,将模型的训练推理效率进行极致优化,让企业通过云服务享受与字节推荐一样的智能推荐基础设施。据悉,火山引擎智能推荐-高速训练引擎软硬一体优化,超高速训练100GB-10TB+超大模型;同时,采用PS-Worker架构,在服务发现的基础上,支持 PS、Chief、Worker 全方位容错,基于字节内部的实践,综合成本可降低25%~67%

火山引擎坚持云上创新,为大模型发展打好“地基”

 另外,机器学习平台的重点功能也实现了全面升级。在发布实验管理-模型效果对比功能方面,企业仅需极少代码改动,上手简单,并可以深入洞察训练过程,实时跟踪、对比训练效果,观察趋势,加速模型迭代效率。

 而在弹性方面,机器学习平台则实现灵活资源调度,随用随取,助力企业敏捷迭代;同时,实现了更低的成本即可获取优质资源,离线推理成本节省达70%。

 升级后的机器学习平台全面支持大模型,基于内部自研大模型训练框架为客户提供多模态、大模型、分布式训练、云端大模型瘦身优化方案;超大规模并行,支持万卡级别的训练场景,让大模型训练更稳更快。

 目前,国内“大模型狂飙”如火如荼,而火山引擎提供的高速训练引擎和机器学习平台,则无疑为大模型的训练提供了更加优质的技术底座,势必将为国内大模型的加速发展提供更有力的保障。(作者:郭浩)

热门软件

  • 电脑软件
  • 手机软件
  • 手机游戏
更多>

用户评论

[!--temp.www_96kaifa_com_cy--]
返回顶部