记者实探:一台英伟达AI超算售价高达200万元 AIGC时代的算力瓶颈如何破解? 世界快消息

2023-05-25 15:54:06   来源: 第一财经    

2016年,英伟达创始人黄仁勋将全球首款 DGX 交给了 OpenAI,加速了生成式AI革命的到来。如今,在ChatGPT这一现象级产品的带动下,全球科技公司纷纷入场开发各自的大模型,预训练和推理所需的算力需求也呈现指数级增长。

来自OpenAI的分析报告显示,2012 年至2018年的6年间,人工智能训练任务中使用的算力需求便增长了约30万倍。这一趋势下,GPU被广泛应用于加速芯片,也让全球GPU市场82%份额的英伟达成为其中的受益者。

“一台包含8张A800的DGX超算,现在市面上的价格可能要到230万元到250万元之间,价格还在持续上涨。”位于上海张江的一家数据公司内,公司负责人陈运文正在向技术负责人纪达麒询问算力设备的采购情况。


(资料图片)

上海张江一家初创公司 内部正在商讨英伟达DGX的采购计划

自从今年3月份发布了面向垂直领域的“曹植”大语言模型,庞大的算力规模需求,让英伟达DGX的采购计划,出现在了公司每周的日程表内。

算力成本高企

国内大模型开发者期待国产解决方案

“我们的算力平台是自建的,像国内的云服务厂商,还没有这么大的算力服务。我们现在采购的是DGX的高性能的一些解决方案,单套8张GPU价格接近200万元,现在已经采购了很多套。”在陈运文看来,现在市面上英伟达A800的供应还是有保障的,就是得排队,真正难买的是存量的A100产品。

不过,无论哪种解决方案,算力成本短期内将给这些从事大模型开发的初创公司,带来极大的困扰。陈运文表示,现在公司算力设施主要依赖于进口产品,他们也很期待,国内的GPU厂商能够推出与之媲美的产品,来有效降低算力成本的投入。

而国内的GPU厂商,其实也已经看到了AIGC带来的算力机遇。国内GPU厂商燧原科技,早在两年前就落地了国内第二个千卡集群的训练项目,那时候AIGC还未引发关注。

燧原科技工作人员正在对产品进行测试

而现在AIGC火了,燧原科技看到了大模型预训练之上的市场机会。燧原科技创始人、董事、CEO赵立东告诉记者,在大模型预训练之上,还有一层Fine-tune精调层,再上面是推理应用层。

当有了基础模型以后,还可以针对场景做一些精调的训练,而这些训练需要的算力需求就小了很多,准入门槛也低了很多,会有大量的开发者涌入这个赛道。针对这样的需求变化,国内GPU厂商也在调整自身的产品路线图,使得它更加符合AIGC时代的人工智能算力需求。

上海人工智能研究院院长助力、行业赋能中心主任杨浩也表示,国内通用芯片厂商目前有数十家,可能未来有一两家脱颖而出,而更多的厂家会在FPGA、ASIC等专用芯片领域,找到新的市场机会。

新型算力研发提速

国内首条光子芯片中试线有望明年建成

传统电子芯片技术已经逼近物理极限,在AIGC时代,谁来承接人工智能计算需求的指数级增长?

以光子计算、量子计算为核心的新型算力技术,可能成为新的接棒者。

“传统的电子芯片,包括英伟达的GPU,再早的CPU,一直沿着摩尔定律向前发展,而我们现在新型架构的芯片,是沿着满足人工智能计算需求的方向发展,它的增长曲线一定是更陡峭的。” 图灵量子创始人、上海交大教授金贤敏对记者表示。

上海交大金贤敏团队将建成国内首条光子芯片中试线

自从2014年带团队从事光子芯片研发以来,从在校学术成果积累,到创办公司进行产业化应用,金贤敏团队即将迎来阶段性成果——国内首条光子芯片中试线有望在明年年中建成,预计产能可达上万片。

金贤敏非常自豪地告诉记者,如果在无锡的产线建成,他们将是全球范围内唯一一个拥有光芯片流片中试线的团队。

在AIGC时代,算力已经成为大模型开发的短期瓶颈,而要解决算力短缺的问题,将是一个系统性的工程。上海社科院信息所研究员、互联网研究中心主任惠志斌表示,现在不光要看到国外GPU厂商的一些先进的产品,更要立足长远,在光子计算、量子计算等一些颠覆性技术的领域,也要加强科技攻关。

关键词:

责任编辑:109438dota2web
记者实探:一台英伟达AI超算售价高达200万元 AIGC时代的算力瓶颈如何破解? 世界快消息
来自OpenAI的分析报告显示,2012年至2018年的6年间,人工智能训练任务中使用的算力需求便增长了约30万倍。
热点关注 · 2023-05-25
【全球速看料】从1到10 科研成果产业化的鸿沟如何跨越?
如果说基础研究是从0到1的突破,那么科研成果产业化就是从1到10的跨越。在高质量发展进程中,实现这一跨
焦点 · 2023-05-25
全球热点!最新通知!加快排查整改燃气橡胶软管安全隐患
近日,住房和城乡建设部办公厅印发《关于加快排查整改燃气橡胶软管安全隐患的通知》指出,近年来,橡胶
焦点 · 2023-05-25
用AI换脸来诈骗 千层套路该怎么破
随着技术的不断进步AI应用场景越来越丰富“一键换脸”,和喜爱的偶像合影大叔通过AI技术秒变萝莉御姐“A...
焦点 · 2023-05-25
最资讯丨油价又要变!时间为......
涨了,涨了!油价终究还是没有扛住最后的几天,又是那出戏“由跌转涨”。当前累计上调75元 吨,冲破上...
焦点 · 2023-05-25
【环球新要闻】国泰航空:空中服务员工会不代表国泰,公司不接受支持其立场
国泰航空声明我们知悉空中服务员工会于2023年5月24日,就一名顾客于2023年5月21日于CX987航班上经历的事
焦点 · 2023-05-25
今日黄金期货价格实时行情(2023年5月25日)
今日黄金期货价格实时行情(2023年5月25日)
聚焦 · 2023-05-25
今日国际金价实时行情(2023年5月25日)
今日国际金价实时行情(2023年5月25日)
聚焦 · 2023-05-25
今日伦敦金价格是多少(2023年5月25日)
今日伦敦金价格是多少(2023年5月25日)
聚焦 · 2023-05-25
九龙福铂金多少钱一克(2023年05月25日)参考价格-天天即时
九龙福铂金多少钱一克(2023年05月25日)每日更新
聚焦 · 2023-05-25
协鑫科技主导新版颗粒硅国标将发布
5月25日,在第十六届国际太阳能光伏与智慧能源展览会上,协鑫科技官宣了新版《流化床法颗粒硅》国标的修订
聚焦 · 2023-05-25
安徽助力中小微制造业企业实现数字化转型发展
安徽省中小微制造业企业数字化软件服务包推广应用启动会现场。 秦冉 摄5月23日,安徽省中小微制造业企业
信息 · 2023-05-25
天天快资讯:河南省纪委监委驻省高级人民法院纪检监察组副组长、一级调研员万金生接受纪律审查和监察调查
上证报中国证券网讯据河南省纪委监委5月25日消息,河南省纪委监委驻省高级人民法院纪检监察组副组长、一级
今日关注 · 2023-05-25
国家疾控局发布4月全国法定传染病疫情概况 热点评
2023年4月(2023年4月1日0时至4月30日24时),全国(不含香港、澳门特别行政区和台湾地区,下同)共报告法
今日关注 · 2023-05-25
四川信托重组方初步明确 信托业风险化解加速进行中
上证报中国证券网(记者马嘉悦)近日,四川信托披露了风险处置最新工作进展,相关内容显示其风险处置正加快
今日关注 · 2023-05-25
商务部:中美商务部长将会面
5月25日,商务部举行例行发布会,发布会上,商务部新闻发言人束珏婷介绍,25日至26日,中国商务部部长王文
今日关注 · 2023-05-25
焦点要闻:民族品牌指数收跌0.34% 中际旭创上涨6.28%
上证报中国证券网讯(记者李雨琪)5月25日,中证新华社民族品牌工程指数(简称“民族品牌指数”)收报17...
今日关注 · 2023-05-25
Joybird发现新数据揭示了当前租赁市场上拥有最古老房屋的城市
您是否一直梦想住在历史悠久的住宅中,但现在却买不起?有一种方法可以在没有维护和财务方面的麻烦的情况下
今日头条 · 2023-05-25
【世界报资讯】购买靠垫套时要记住的5个技巧
当你考虑重新设计你的家时,首先想到的是什么?鉴于每个人都有自己的喜好和观点,我相信这些问题的答案会有
今日头条 · 2023-05-25
微动态丨B CORP将鳄梨命名为最适合世界
BCorp™将鳄梨评为2022年全球™最佳公司,以表彰其对社区的特殊积极影响。BestfortheWorld是BLab授予认证B
今日头条 · 2023-05-25
在兼作餐桌的火坑上节省50% 天天热推荐
火坑是使您的庭院看起来更紧密的可靠方式。如果你的空间有限,你不必在它和吃饭的地方之间做出选择。沃尔玛
今日头条 · 2023-05-25
了解一下看商品房需要注意什么问题 世界报道
1、一定要检查房子的质量问题,在看房的时候可以带一个小锤子,用来检查房子的墙体是不是空的,看承重墙是
今日头条 · 2023-05-25
简讯:什么是价格涨跌横盘状态无序性?指个股或指数的上升,下跌,横盘
什么是价格涨跌横盘状态无序性?指个股或指数的上升,下跌,横盘每一种状态结束后,下一种状态出现时是不可
观察 · 2023-05-25
常长亭:杭州热电引起了一股强捍的高温受益股
常长亭:杭州热电引起了一股强捍的高温受益股个人观点仅供参考据此买卖自担风险【温馨提示】劝新老股民,量
观察 · 2023-05-25
短期将反弹!扭转困局需强力!
昨天谈到“沪指明天仍有下探要求…明天开始重点关注下跌能否降速,以及创业板和深成指近期能否形成大分...
观察 · 2023-05-25
热文推荐



Copyright@  2015-2022  聚焦网  版权所有  联系邮箱:nuoxi 7979247 @sohu.com   桂ICP备13001994号-2