3 月 19 日消息，英伟达今日正式发布 Dynamo，号称是“AI 工厂的操作系统”。
Dynamo 是一个“分布式推理服务库”。本质上，它是一个针对用户需求 token 而无法生产足够 token 之间问题的开源解决方案。
黄仁勋展示了一张关于推理的图表，X 轴显示用户每秒的 Token 数，Y 轴显示工厂每秒的 Token 数。
在 Dynamo、Grace Blackwell NVLink72 超级芯片的加持下，Blackwell 相比 Hopper 可实现 25 倍的性能提升。
而在推理模型中，Blackwell 的性能是 Hopper 的 40 倍。
注意到，黄仁勋还打趣道，有了上述最新技术加持，搭建 AI 工厂的厂商“买得越多、省得越多”，总而言之就是掏钱吧。
该内容转自IT之家
本文共 208 个字数,平均阅读时长 ≈ 1分钟
喜欢就支持一下吧
本站为个人博客，博客所发布的一切破解补丁、注册机和注册信息及软件的文章仅限用于学习和研究目的。
不得将上述内容用于商业或者非法用途，否则，一切后果请用户自负。
本站信息来自网络，版权争议与本站无关，您必须在下载后的24个小时之内从您的电脑中彻底删除上述内容。
访问和下载本站内容，说明您已同意上述条款。
本站不贩卖软件，所有内容不作为商业行为。如果有侵犯您的权益请点击“关于”联系WFXL，核实后会及时删除
版权属于：轩灵
作品采用《署名-非商业性使用-相同方式共享 4.0 国际 (CC BY-NC-SA 4.0)》许可协议授权
评论 抢沙发
