当前位置:首页 > Deepseek最新资讯 > 正文内容

英特尔 Gaudi 2E AI 宣布为 DeepSeek V3.1 提供加速支持

22小时前Deepseek最新资讯34

  IT之家查询获悉,英特尔 Gaudi 2E 采用 7nm 制程,配备 96GB HBM2E 内存、48MB SRAM,具备 2.4TB 总内存带宽,针对随机访问deepseek、线性访问场景进行深度优化,有效避免了 AI 训练或推理任务的延迟。

  英特尔表示,Gaudi 2E 具备 24 个完全可编程的张量处理器核心(TPC)、2 个矩阵乘法引擎(MME),拥有卓越的可扩展能力,提供 24 个 100 GbE 端口,支持多卡互联,为用户提供了灵活的、可定制化的解决方案,满足其不断变化的 AI 需求。

  英特尔表示,实测数据显示,在英特尔 Gaudi 2E 的支持下,DeepSeek-V3.1 无论是在问答还是编码上,能力都有着显著提升:

  在输入 / 输出 token 长度均为 2k、多用户并发数为 28 的条件下,每个并发 token 生成速率达到每秒 10 token。原文出处:英特尔 Gaudi 2E AI 宣布为 DeepSeek V3.1 提供加速支持,问答编码能力都有显著提升,感谢原作者,侵权必删!

标签: deepseek

“英特尔 Gaudi 2E AI 宣布为 DeepSeek V3.1 提供加速支持” 的相关文章

【新质生产力】DeepSeek爆火出圈:中国AI开源创新引领产业变革

【新质生产力】DeepSeek爆火出圈:中国AI开源创新引领产业变革

  DeepSeek深度求索大模型在春节期间脱颖而出,成为人工智能领域备受瞩目的焦点。其开源特性具有前瞻性与战略性,极大地促进了产业间的数据共享与融合。本期视频中,中国传媒大学媒体融合与传...

Deepseek推荐全国旅游百强区第3名:云南昆明市盘龙区

Deepseek推荐全国旅游百强区第3名:云南昆明市盘龙区

  日前,全国县镇发展研究课题组、天和经济研究所县镇发展研究院联合发布了2024《全国县镇发展报告》,报告评价篇对全国县市以及包含乡村人口的市辖区旅游发展水平进行了综合评价,并发布了天和2...

前首富陈天桥AGI豪赌:高薪挖角清华大牛,剑指下一个Deepseek?

前首富陈天桥AGI豪赌:高薪挖角清华大牛,剑指下一个Deepseek?

  最新消息显示,清华电子工程系副教授、AI青年大牛代季峰,已经从清华辞职,加盟陈天桥旗下盛大,领衔筹备一家AGI创业公司。   与此同时,他早年斥资10亿美元创办的天桥...

华泰证券:DeepSeek-V3.1发布,国产算力链迎来高景气

华泰证券:DeepSeek-V3.1发布,国产算力链迎来高景气

  研报表示,Deepseek官方发布DeepSeek-V3.1版本,采用UE8M0 FP8精度参数,能效高、动态范围大、能避免信息损失。该精度参数是针对即将发布的下一代国产芯片设计,国产...

南京片仔癀博物馆祝贺DeepSeek赋能财务知识培训会成功召开

南京片仔癀博物馆祝贺DeepSeek赋能财务知识培训会成功召开

  近日,常州航天信息分公司在常瑞宾馆举办DeepSeek赋能财务:解锁财务工作自动化线下课,来自常州各地区企业财务总监,财务经理,税务会计,会计人员110余人参加此次培训,带大家探索智能...

聚焦灵境云,构建AI时代的边缘智能底座

聚焦灵境云,构建AI时代的边缘智能底座

  “我对灵境技术及多媒体的兴趣在于,它能大大扩展人脑的知觉,因而使人进入前所未有的新天地,新的历史时代要开始了。”这是20世纪80年代,钱学森先生在一封致汪成为的信中提到的内容。...