英特尔突袭英伟达h100,新ai芯片陶冶疾40%,推理疾50%,ceo蹦迪祝贺
英特尔,开始正面硬刚英伟达了。
就在深夜,英特尔CEO帕特·基辛格手舞足蹈地亮出了最新AI芯片——Gaudi 3:
他为什么开心到现场直接蹦迪?
看下Gaudi 3的性能结果(Result),就一目了然了:
训练大模型:比英伟达H100快40%
推理大模型:比英伟达H100快50%
不仅如此,虽然基辛格没有在现场给出直接的数据,但他还表示:
Gaudi 3的性能将与英伟达H200相当,在某些领域的性能甚至会更好。
如此直面对标英伟达,到底效果如何,我们(We)继续往下看。
硬刚英伟达的Gaudi 3英特尔表示,Gaudi 3已经在Llama上做了测试,可以有效地训练可能部署AI大模型,包括文生图的Stable Diffusion和语音识别的Whisper等等。
在现场,基辛格也展示了集成最新英特尔芯片的AI PC,能够快速处理的多项任务,例如快速处理邮件:
再如语音处理:
以及图像渲染:
英特尔演示操作的同事还非常调皮地展示了用AI PC生成的卡通版基辛格:
据了解,Gaudi 3采用5纳米工艺制造,与历代Gaudi其它性能上的具体对比,如下表所示:
英特尔表示,Gaudi 3芯片将在今年(This Year)的第三季度向客户大规模提供,包括戴尔、惠普和超微电脑(Computer)在内的公司将使用该芯片。
至于具体的价格,目前(Currently)英特尔方面还并未透露。
不过更令人意外的是,Gaudi 3还只是在这次英特尔Vision活动中发布的产品之一。
Xeon,步入第六代没错,去年年底英特尔刚刚上市第五代Xeon,仅时隔数个月,第六代Xeon又来了!
(英特尔这次还真没有挤牙膏)
在现场,基辛格还亲切地叫它“little baby”:
第六代Xeon包含两种架构,分别是Sierra Forest和Granite Rapids。
Sierra Forest基于英特尔更小、低功耗的E-cores,而Granite Rapids则由更大但性能更高的P-cores 组成。
基辛格在现场称二者像双胞胎:
更具体而言,Sierra Forest架构的英特尔Xeon 6处理器,其机架密度提高2.7倍。
客户能以近3:1的比例替换旧系统,大幅降低能耗,帮助其达成可持续发展目标。
而Sierra Forest架构的英特尔Xeon 6处理器包含了对MXFP4数据格式的软件支持。
与使用FP16的第四代Xeon处理器相比,可将下一个token的延迟时间最多缩短6.5倍,能够运行700亿参数的Llama-2模型。
至于英特尔Xeon 6处理大模型的速度到底有多快,基辛格做了更加直接的对比。
他将第四代、第五代和最新的第六代Xeon放到了一起,来了一个现场速度的大比拼。
从直观的生成速度来看,第六代Xeon明显要比“前任们”快上许多。
具体到精确的延时数值,第六代Xeon运行Llama 2 70B只有82ms。
同等条件下,第六代Xeon与“前任们”的延时数值对比如下:
据了解,Sierra Forest架构的第六代Xeon处理器将于今年(This Year)第二季度推出。
网友揭秘英特尔“秘方”这场硬刚英伟达的发布会,同样也激起了不少网友们的热议。
例如Gaudi 3封装的一处细节,即使用HBM2e存储芯片,有网友对此表示惊讶(Surprised):
他们(They)使用的是HBM2e,这是英伟达A100在2020年使用的。
而最先进的HBM3e英特尔原本也计划采用,但很可能因为供应不足,这次没能抢到足够的订单。
对此,这位网友进一步表示:
这是英特尔的秘方之一。
他们(They)总能靠旧技术赶上/超越新技术,直到当前的技术在生产、获取和集成上变得更容易。
实际上,制造优势也是英特尔在半导体领域的关键优势之一,作为半导体产业的开创者之一,英特尔几乎拥有芯片产业的所有资源和要素能力。
但何时能够和英伟达全面一较高下?这也是不少网友关注的问题:
这次英特尔硬刚的是H100/H200,那什么时候可以对标英伟达最新的“核弹”B200?
可能许答案只有交给时间来回答。
但无论如何,英特尔此次的发布,确实是给AIGC时代的算力,多提供了一项“快好省”的选择。
参考链接:
[1]https://www.anandtech.com/show/21342/intel-introduces-gaudi-3-accelerator-going-bigger-and-aiming-higher
[2]https://www.servethehome.com/intel-vision-2024-keynote-live-coverage/
[3]https://news.ycombinator.com/item?id=39981032
本文来自微信公众号“量子位”(ID:QbitAI),作者:金磊 ,36氪经授权发布。
该文观点仅代表作者本人,36氪平台仅提供信息存储空间服务。
+16好文章,需要你的鼓励
量子位特邀作者2收 藏+10评 论打开微信“扫一扫”,打开网页后点击屏幕右上角分享按钮微 博沉浸阅读返回顶部参与评论评论千万条,友善第一条登录后参与讨论(Discuss)提交评论0/1000你可能也喜欢这些文章CITE2024体坛:AI带动新需求,国产芯片、存储踏上风口加速第二代AI芯片研发,墨芯人工智能完成两轮数亿元融资丨36氪首发英特尔发布Gaudi 3:对标英伟达H100,预计Q2向OEM厂商出货丨最前线混合键合,会取代TCB 吗?3D DRAM进入量产倒计时英特尔一年亏损70亿美元,芯片代工行业不易,市场竞争加剧台积电、英特尔推迟在美建厂,缘因他们(They)被糊弄了?不牺牲算法,不挑剔芯片,这个来自中科院的团队正在加速国产AI芯片破局芯片人才缺口巨大,米国出招最新文章推荐智能机器的来临意味着人类的终结吗?离谱:AI超市「无人」收款,1000个印度人藏在背后……谷歌最强大模型免费开放了,长音频理解功能独一份,100万上下文敞开用开源模型首胜GPT-4,竞技场最新战报引热议,Karpathy:这是我唯二信任的榜单对话“鹦鹉梨”:3场直播GMV破亿,UP主带货不能只做主播高瓴牵头,一举出手10亿造车新势力爆雷:员工集体举报销量造假骗融资,负债3亿已资不抵债英特尔突袭英伟达H100,新AI芯片训练快40%,推理快50%,CEO蹦迪庆祝在 2024 回顾 Windows Phone 的移动之梦金融圈高管年度薪酬曝光,有人10年翻10倍,降薪还能年入百万?量子位特邀作者作者有点忙,还没写简介
发表文章2135篇最近内容离谱:AI超市「无人」收款,1000个印度人藏在背后……14分钟前谷歌最强大模型免费开放了,长音频理解功能独一份,100万上下文敞开用15分钟前开源模型首胜GPT-4,竞技场最新战报引热议,Karpathy:这是我唯二信任的榜单16分钟前阅读更多内容,狠戳这里下一篇在 2024 回顾 Windows Phone 的移动之梦那抹清新的蓝,是否也曾像海水泼进你的青春?
25分钟前
热门标签泡泡英语福特t型车我国新型城镇化规划财务软件金蝶云企业平台沙滩车市场准入负面清单方辉云电脑(Computer)马路牙子长城皮卡坦途皮卡五十铃皮卡半衰期爱莉杨宁非虚构文学都市女孩李滨金融大数据蒋韬钢球防弹玻璃高中(High School)物理艾莎安娜闪聊品骏快递普萘洛尔ptsd关于36氪城市合作寻求报道我要入驻投资者关系商务合作关于我们(We)联系我们(We)加入我们(We)网站谣言信息举报入口热门推荐热门资讯热门产品文章标签快讯标签合作伙伴36氪APP下载iOS Android本站由 阿里云 提供计算与安危服务 违法和不良信息、未成年人保护举报电话:010-89650707 举报邮箱:jubao@36kr.com 网上有害信息举报© 2011~2024 首都多氪信息科技(Technology)有限公司 | 京ICP备12031756号-6 | 京ICP证150143号 | 京公网安备11010502036099号意见反馈36氪APP让一部分人先看到将来36氪鲸准氪空间推送和解读前沿、有料的科技(Technology)创投资讯
一级市场金融信息和系统服务提供商
聚焦全球优秀创业者,项目融资率接近97%,领跑行业
- 赞(967) 踩(73) 阅读数(5478) 最新评论 查看所有评论
-
加载中......
- 发表评论
-