设为首页
收藏本站
开启辅助访问
切换到窄版
登录
立即注册
首页
Portal
行业资讯
前沿进展
网址导航
芯课堂
加工平台
微纳之家
BBS
搜索
搜索
行业资讯
集成电路
化合物IC
AI芯片
新IC材料
行业政策
MEMS
人才培育
政策法规
行业指导
高等教育
职业教育
人才教育
芯课堂
芯片制造
光刻技术
镀膜技术
刻蚀技术
封装技术
测试技术
异构集成
仪器列表
掺杂设备
刻蚀设备
镀膜设备
光刻设备
封装设备
检测设备
本版
文章
帖子
纳米家园
»
微纳之家
›
微纳综合区
›
微纳资讯
›
挑战英伟达!AMD推出能运行更大模型的AI芯片,也能写诗 ...
返回列表
发新帖
挑战英伟达!AMD推出能运行更大模型的AI芯片,也能写诗
[复制链接]
936
|
3
|
2023-6-18 17:51:49
|
显示全部楼层
|
阅读模式
AI算力市场的二号玩家、芯片厂商AMD推出全新人工智能GPU MI300系列芯片,与英伟达在人工智能算力市场展开竞争。
北京时间6月14日凌晨,AMD如期举办了“AMD数据中心与人工智能技术首映会”,并在会上推出的AI处理器MI300系列。其中,特别为大语言模型优化的MI300X将于今年晚些时候开始向部分客户发货。
AMD CEO苏姿丰先介绍MI300A,这是全球首款针对AI和高性能计算(HPC)的加速处理器(APU)加速器。在13个小芯片中遍布1460亿个晶体管。相比前代MI250,MI300的性能提高八倍,效率提高五倍。
随后,苏姿丰公布了本场发布会最受关注的产品——MI300X,这是一款为大语言模型进行了优化的版本。
“我喜欢这个芯片,”苏姿丰说,MI300X芯片及其CDNA架构是为大型语言模型和其他尖端人工智能模型设计的。
生成式人工智能应用程序的大型语言模型使用大量内存,因为它们运行越来越多的计算。AMD演示了MI300X运行400亿参数的Falcon模型。OpenAI的GPT-3模型有1750亿个参数。
她还用Hugging Face基于MI300X的大模型写了一首关于活动举办地旧金山的一首诗。
苏姿丰表示,MI300X提供的HBM(高带宽内存)密度是英伟达H100的2.4倍,HBM带宽是竞品的1.6倍。这意味着AMD可以运行比英伟达H100更大的模型。
“模型尺寸越来越大,你实际上需要多个GPU来运行最新的大型语言模型,”苏姿丰指出,随着AMD芯片上内存的增加,开发人员将不需要那么多GPU,可为用户节省成本。
AMD还表示,将推出一款Infinity Architecture,在一个系统中集成8个M1300X加速器。英伟达和谷歌也开发了类似的系统,将8个或更多GPU集成在一个盒子里,用于人工智能应用。
好的芯片不仅是产品本身,还需要有一个好的生态。人工智能开发人员历来偏爱英伟达芯片的一个原因是,它有一个开发完善的软件包,称为CUDA,使他们能够访问芯片的核心硬件功能。
为了对标英伟达的CUDA,AMD推出了自己的芯片软件“ROCm”,打造自己的软件生态。
苏姿丰也对投资者和分析师表示,人工智能是该公司“最大、最具战略意义的长期增长机会”,“我们认为,数据中心人工智能加速器(市场)将以超过50%的复合年增长率,从今年的300亿美元左右增长到2027年的1500亿美元以上。”
以ChatGPT等为首的大语言模型需要最顶尖性能的GPU来进行运算,如今这一市场英伟达处于绝对优势,拥有80%的市场,而AMD则被视为一个有力的挑战者。
虽然AMD未披露价格,但此举可能会给英伟达GPU带来价格压力,如后者的H100,其价格能够达到3万美元以上。较低的GPU价格可能有助于降低服务生成人工智能应用程序的高成本。
不过,AMD这场发布会众多产品从性能上都处于“领导”地位,但资本市场并未拉抬AMD的股价,反而收跌3.61%,而同行英伟达则收涨3.90%,市值首次收于1万亿美元关口上方。
本帖子中包含更多资源
您需要
登录
才可以下载或查看,没有账号?
立即注册
×
回复
举报
瘴贝剂群
|
2023-6-29 15:45:19
|
显示全部楼层
高端大气上档次,低调奢华有内涵
回复
举报
人生百、态
|
2023-7-10 17:39:17
|
显示全部楼层
第一次评论啊,好紧张啊,该怎么说啊,打多少字才显得有文采啊,这样说好不好啊,会不会成热帖啊,我写的这么好会不会太招摇,写的这么深奥别人会不会看不懂啊,怎样才能写出我博士后的水平呢,半年写了这么多会不会太快啊,好激动啊:)
回复
举报
yokeco
|
2023-7-21 23:15:24
|
显示全部楼层
看个标题就走了
回复
举报
返回列表
发新帖
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
|
立即注册
本版积分规则
发表回复
回帖后跳转到最后一页
浏览过的版块
实时热点
fab102
48
主题
14
回帖
210
积分
管理员
积分
210
加好友
发消息
回复楼主
返回列表
微纳资讯
人才培训
委托加工
有问必答
图文推荐
三句古训,道破处世大智慧
2023-06-18
再次反转!ASML光刻机出口态度大变,日媒:是对盟友的背叛
2023-06-18
陈冰:日本围剿中国半导体产业,比美国更凶残!
2023-06-18
美国 5000 亿芯片巨头宣布:将对西安投资超 43 亿元!此前未通过我国审查,产品影响
2023-06-18
三大指数陷入调整,光刻胶板块异军突起!
2023-06-18
热门排行
1
再次反转!ASML光刻机出口态度大变,日媒:是对盟友的背叛
2
陈冰:日本围剿中国半导体产业,比美国更凶残!
3
日本宣布8月24日启动核污水排海,外交部:将采取一切必要措施维护食品安全和公众健康
4
美国 5000 亿芯片巨头宣布:将对西安投资超 43 亿元!此前未通过我国审查,产品影响
5
回顾李玟歌手生涯:首位献唱奥斯卡颁奖典礼的亚洲歌手
6
MOCVD 基本介绍
7
又见无理打压!美国商务部将31家中国公司列入“实体清单”
8
兰博基尼燃油车被抢购一空:两年后全面停产,订单已全部排满
9
390亿颗芯片,400台光刻机,ASML摊牌了,美媒:我们输了
10
村超带动榕江县旅游收入超12亿元,接待游客超百万人次