为AI热潮再添动力 英伟达发布新一代芯片H200
财联社11月14日讯(编辑 牛占林)当地时间周一,半导体巨头英伟达发布了新一代人工智能(AI)芯片H200,旨在培训和部署各种人工智能模型。美股盘中,英伟达股价震荡走高,目前涨逾1%。
新的H200芯片是当前用于训练最先进大语言模型H100芯片的升级产品,集成了141GB的内存,更加擅长进行“推理”。在用于推理或生成问题答案时,性能较H100提高60%至90%。
据英伟达官网消息,基于英伟达的“Hopper”架构的H200也是该公司第一款使用HBM3e内存的芯片,这种内存速度更快,容量更大,因此更适合大语言模型。
英伟达称:“借助HBM3e,英伟达H200以每秒4.8TB的速度提供141GB的内存,与A100相比,容量几乎是其两倍,带宽增加了2.4倍。
另外,H200预计将于2024年第二季度上市,将与AMD的MI300X GPU展开竞争。与H200类似,AMD的芯片比其前身拥有更多的内存,这有助于大语言模型来运算推理。
英伟达表示,H200将与H100兼容,这意味着已经在使用H100进行训练的人工智能公司,不需要改变他们的服务器系统或软件来适应H200。
英伟达副总裁伊恩·巴克声称:“为了训练生成式人工智能和高性能计算应用程序,必须使用高效能GPU。而有了H200,业界领先的人工智能超级计算平台可以更快地解决一些世界上最重要的挑战。”
英伟达加速计算首席产品经理迪翁·哈里斯表示:“看看市场上正在发生的事情,你会发现大模型尺寸正在急速膨胀。这是我们继续引领最新、最伟大技术的又一个例子。”
据美国金融机构Raymond James透露,H100芯片成本仅3320美元,但英伟达对其客户的批量价格仍然高达2.5万至4万美元。这导致H100利润率或高达1000%,成为了有史以来最赚钱的一种芯片。
而在训练大语言模型时,需要数千个H100集群工作,这导致科技巨头、初创公司和政府机构都在争夺英伟达有限的芯片供应。
由于对其产品的需求似乎是个无底洞,英伟达今年的销售额井喷,股价上涨了230%,市值突破了1.2万亿美元的大关。英伟达预计第三财季营收约为160亿美元,同比增长170%。
英伟达将在下周向投资者提供更清晰的业绩细节,该公司定于11月21日公布最新财报。
最近更新
-
出海周报|小鹏汽车将在香港推出G6和X9两款车型;名创优品加速海外扩张……
昨天 20:36
-
12亿!成都高新区天使母基金又设立一批子基金
昨天 20:36
-
腾讯密集推进混元应用大模型落地竞赛升级|聚焦
昨天 20:36
-
硬科技投向标|北京:拟探索分体式飞行汽车城际通勤及城内摆渡应用新业态金麦特完成超4亿元B轮融资
昨天 15:36
- 重大创新突破!烽火通信完成业内首次基于空芯光纤S+C+L超270T大容量实时传输系统验证
- 从“博采众长”到“以我为主”,看长沙学思录
- 你get到了吗?药企正悄悄跨界…
- 苹果下一任CEO会是他?前员工:很多特质像库克
- 玉田县工业科技创新服务中心项目EPC工程喜封金顶
- 容大合众港交所IPO“雷点”:增长乏力、产能锐减、套现疑云
- 鱼跃医疗一季度业绩双降,85后董事长吴群迎新挑战
- 又垮了!“网红”贾跃亭,救不了法拉第未来
- 京东物流Q1营收达上市以来最好水平,京东物流的未来该咋看?
- 京东进货价上线,黑科技“整顿”茶圈
专栏推荐
-
研选
浓缩机构研究精华,提前捕捉市场风口
2037人已购
¥258.00/月
-
尾盘擒牛之如何选股?
学完这些方法,告别选股难!
117人已购
¥288.00/月
-
财报拆解
知识点解读+实战案例,帮你5小时学会看财报
73人已购
¥19.90/月
-
每周一股
每周日定期更新【每周一股】,为广大的投资者精选下周短线个股!
344人已购
¥588.00/月
推荐阅读
- 让波音股价下跌35%,效益产出比高达1:80,C919给中国的惊喜不是一般大
- 95后亿万富豪被罚1.33亿元,王泽龙从青年企业家到违法违规
- 2024年5月江苏新三板企业市值TOP100:37家企业去年净利润超5000万元
- 京东加码即时零售:用户、用户、用户
- 会员服务收入回落,爱奇艺持续盈利
- 智慧PC助力当代每一位“霞客”行
- 出海周报|小鹏汽车将在香港推出G6和X9两款车型;名创优品加速海外扩张……
- 青岛银行:逆势扩张,喜忧参半
- 京东健康一季度营利双降,多次购买大额理财产品
- 集运价格淡季狂飙!南美航线大涨130%,或因当地拟对光伏、电动车加征关税
- 李想“吹牛”,理想被告!
- 重仓公司谁还能创造“10倍神话”?堪比“股神”,社保基金持股公司涨幅超2500%!业绩稳健的长线持股公司名单出炉