栏目分类
热点资讯
你的位置:九游娱乐(中国)网址在线 > 新闻 > j9九游会官方在运行Meta的Llama 3.1大模子时-九游娱乐(中国)网址在线

新闻

j9九游会官方在运行Meta的Llama 3.1大模子时-九游娱乐(中国)网址在线

发布日期:2024-10-16 05:49    点击次数:105

  每经记者 郑雨航 实习记者 宋欣悦    每经裁剪 兰素英    

  当地时辰10月10日,在旧金山举行的Advancing AI 2024大会上,AMD 推出 Instinct MI325X AI加快器(以下简称MI325X),平直与英伟达的Blackwell芯片正面交锋。

  视觉中国

  现场展示的数据确认,与英伟达H200的集成平台H200 HGX对比,MI325X平台提供1.8倍的内存量、1.3倍的内存带宽和1.3倍的算力水平。AMD暗示,这款AI芯片瞻望在2024年第四季度进展投产,2025年一季度运行向客户委派。

  AMD还在会上公布了最新的AI芯片途径图,汲取该公司CDNA 4架构的MI350系列来岁上市,MI400系列将汲取更先进的CDNA架构。AMD首席实施官苏姿丰(Lisa Su)暗示,到2028年,数据中心、AI和加快器阛阓瞻望将增长至5000亿好意思元。

  阛阓盘问机构Moor Insights&Strategy首席分析师帕特里克·莫尔黑德(Patrick Moorhead)暗示,“AMD濒临的最大挑战是取得企业阛阓份额。AMD需要在销售和营销方面进入更多资金,以加快其企业增长。很难评估AMD与英伟达在数据中心GPU方面的地位”。

  性能大幅进步

  在发布会开场,苏姿丰暗示,到2028年,数据中心、AI和加快器阛阓瞻望将增长至5000亿好意思元。她以为,生成式AI在其中将起到要津作用,为撑抓AI查验和推理,需要无数投资新的基础花式。而在这么的前提下,将来4年内阛阓将以每年70%以上的速率增长。

  苏姿丰还暗示,关于AMD而言,AI平台具备四大中枢因素:开头,它代表了动作查验和推理任务中最苍劲的计较引擎;其次,提供灵通的软件惩处决策;再者,死力于构建一个深度互助、共同翻新的AI生态系统;终末,在集群层面竣事系统打算的优化。

  在发布会上,AMD秘书进展推出MI325X AI加快器。这款芯片汲取了AMD CDNA 3 GPU架构,配备 256GB 下一代HBM3E高带宽内存,内置1530亿个晶体管。它提供6TB/s的内存带宽,在FP8和FP16精度下分辩达到2.6 PF和1.3 PF的峰值表面性能。

  与英伟达H200的集成平台H200 HGX对比,MI325X平台提供1.8倍的内存量、1.3倍的内存带宽和1.3倍的算力水平。

  苏姿丰还暗示,在运行Meta的Llama 3.1大模子时,MI325X的推感性能比H200高出40%。

  AMD暗示,这款AI芯片瞻望在2024年第四季度进展投产,2025年一季度运行向客户委派。

  跟着MI325X的发布,AMD正加快鼓励其居品更新,权术“一年一迭代”,旨在更有用地与英伟达竞争,并收拢AI芯片阛阓的闹热发展机遇。这款全新的AI芯片即是客岁底运行委派的MI300X系列的后续居品。

  AMD还公布了最新的AI芯片途径图,汲取该公司CDNA 4架构的MI350系列瞻望来岁上市。其中,MI355X的AI峰值算力达到74 PF,MI400系列将汲取更先进的CDNA架构。

  濒临企业阛阓挑战

  据外媒报说念,已往数年间,英伟达在数据中心GPU阛阓中占据了主导地位,险些组成了把持,而AMD则永恒稳居次席。

  本年事首,英伟达又发布了其性能最强的居品B200,运算速率比上一代H200芯片进步快要30倍。按权术,B200将在本年第四季度量产上市,届时又将与竞争敌手拉开差距。

  如今,MI325X的推出将使其与英伟达的Blackwell芯片相抗衡。AMD在与英伟达的竞争中,永恒将自己看作“阛阓的多一种选定”。苏姿丰此前在承袭CNBC采访时暗示,AI芯片阛阓实足大,容得下多家企业,“AMD不是必须要击败英伟达才气得胜”。

  AMD在霸占阛阓份额时碰到的最浩劫题,在于英伟达左右自家CUDA平台,已在AI软件开荒范围开荒起一条护城河,把不少开荒东说念主员紧紧绑定在了英伟达的生态系统里。

  对此,AMD回话称,他们一直在不休优假名为ROCm的软件,意见即是让AI开荒东说念主员能更疏忽地把更多AI模子“搬”到AMD的芯片上。现在,ROCm的最新版块6.2,相较于旧版在推理和查验上齐有了零散2倍的进步。

  莫尔黑德暗示,“AMD濒临的最大挑战是取得企业阛阓份额。AMD需要在销售和营销方面进入更多资金,以加快其企业增长。很难评估AMD与英伟达在数据中心GPU方面的地位”。

  莫尔黑德补充说念:“AMD的新GPU,尤其是MI350,与前代居品比较,遵守和性能齐有所提高,对低比特率模子的撑抓也更好,这是一个雄壮的向上。这是一场热烈的竞逐,英伟达遥遥当先,AMD正在飞速追逐并取得了有真理的效果。”

  对此,有网友在交接媒体上留言,指出AMD积极投身行业竞争的格调值得细则。关系词,AMD能否在这场竞争中取得显耀得胜,尚需进一步不雅察。

  还有网友暗示,AMD已在与英特尔的较量中胜出。意在言表是,要赶上英伟达,AMD还有很长的路要走。

海量资讯、精确解读,尽在新浪财经APP

职守裁剪:刘亮堂 j9九游会官方