谷歌发布了新大模型,云中需要一些强大的马力来为狂野的大模型提供动力,因为数百万(最终是数十亿)用户发送的操作请求,就像删除一个在图片背景中徘徊的人一样平凡,根据简短的文本提示为您撰写整封电子邮件。这就是谷歌新的A3 GPU超级计算机成为焦点的地方。谷歌表示,新的A3超级计算机“专门用于训练和服务最苛刻的AI模型,这些模型为当今的生成AI和大型语言模型创新提供动力”,同时提供26 exaFlop的AI性能。
英伟达(NVIDIA)Tesla显卡A800 H100 T4 A100 A40计算加速GPU推理训练 Tesla A800 80G
进入购买
每台 A3 超级计算机都配备了第 4 代英特尔至强可扩展处理器,由 2TB DDR5-4800 内存提供支持。但该操作的真正“大脑”来自八个 英伟达H100GPU ,它们通过利用NVLink 4.0和NVSwitch可以访问3.6 TBps的对分割带宽。
据谷歌称,A3代表了其GPU到GPU数据接口的首次生产级部署,它允许在绕过主机CPU的同时以200 Gbps的速度共享数据。此接口(Google 称为基础架构处理单元 (IPU),与 A2 虚拟机相比,A3 虚拟机 (VM) 的可用网络带宽提高了 10 倍。
看过本文的人还看过
- 伊探究竟荣获ExpEarly幼儿教育家“2021-2022年度幼教行业优秀服务商”
- 浙江省这轮肺炎疫情已发觉呈阳性病毒感染者18例 5地划为中风险性地区
- 我国最早的文艺专科学校诞生于汉代还是元代
- 两轮比四轮贵,爱马仕新款自行车卖16.5万售罄
- 哪种盐比较好,哪种盐比较好什么盐比较适合作为家用食用盐
- 为什么愿意进国企,为什么现在很多年轻人宁愿在外企排队,也不愿去国企或民企去工作
- 尼日利亚部队击败37名极端分子武装分子
- 侯耀华为何向杨志刚道歉,郭德纲在北美巡演大获成功,杨志刚、姜昆和侯耀华为什么不出声?
- 公司可以随意给员工调岗吗,用人单位可以随意对员工调岗吗
- 大学有什么专业,就目前而言上大学学什么专业比较好?