当前位置: 首页 > news >正文

算力战争背后:GPU到底凭什么这么贵?

你开启电脑,键入一行代码,屏幕之上浮现一个模型训练进度条,自0%至100%,GPU在消耗。你觉得你在运行AI,实则你在耗费钱财。

真的。

一款高端的GPU,其价钱能够对标一辆二手的小轿车,并且你没办法买到。在2025年时,全球GPU市场的产值攻破2800亿美元,当中数据中心所使用的GPU占据了60%以上。 这一家公司就占据了超出85%的市场份额,每年的出货量快要达到4000万片。每一块,宛如印钞机。

那么你可曾晓得最为离谱的究竟是什么呢?图形处理器最初被设计创造出来的时候,压根就不是用于人工智能方面的。它原来是为了能够方便人们玩游戏而设计的呀!

显卡不卡,卡的是你的想象力

在1999年的时候,推出了 256,它号称是“世界上第一款GPU”。其使命在于,要让3D游戏当中的怪物变得更加逼真,要让子弹特效变得更为炫酷。谁都没有想到,历经二十多年后,这个东西竟然会成为人工智能的引擎。

怎么做到的?

有着如同大学教授般能力的CPU,对各类知识均有所掌握,然而却在同一 time 仅能教导一名学生,那GPU又如何呢?它恰似幼儿园教师那般,仅仅会数数,可却能够于同一时刻对五十个孩童展开教导,AI训练的实质便是数量众多且不断重复的矩阵乘法运算,而恰好GPU在这方面最为擅长。

比方说。在2012年,Alex 借助两块GTX 580训练出了一个名为的神经网络,于图像识别竞赛中,其错误率相较于第二名低了10个百分点。就在那一年,深度学习全面爆发开来了。而GTX 580的算力为1.58 ,大致每秒能够执行1.58万亿次浮点运算。

而今的H100究竟何在呢?其单精度算力能够达到60 ,此乃GTX 580的三十八倍之多。并且其价格已然从三百美元,迅猛飙升至三万美元以上了。

为什么GPU比黄金还贵?

你可能会想,技术升级了,产量大了,东西不是应该更便宜吗?

错了。

GPU的制造花费的确是在降低了,然而需求增长得更为疯狂,速度更快。在2024年的时候,全球范围内AI大模型的数量突破了3000个 ,并且每个大模型在开展训练工作时都需要上万块GPU同时进行运转。据说GPT-4的训练过程中使用了25000块A100 ,且持续运行了100天。仅仅电费这一项支出就快要接近1亿美元了。

更为关键之处在于,GPU的制造深切地依赖着台积电的先进封装工艺。在2025年的时候,台积电的CoWoS封装月产能仅仅为3.2万片。然而全球订单量却超过了15万片。供需比达不到1:5。这便意味着,哪怕你拥有资金,也需要进行排队。

多长时间会排到队呢?2024年的订单,曾经是一直延续排放到2025年年底的状态。有一些公司,纯粹是借助两倍的价格,前往黑市进行扫货的行为。你说说,这样的情况贵不贵呢?

算力不是数字,是时间

不少人倾向于运用FLOPS去对比GPU的强弱程度,然而,真正具有关键意义的,是“你能够在多长时间之内把这个模型跑完”。

一项的基准测试表明,于训练BERT模型之际,一块A100所需时长为2.8天,然而一块H100所需时长仅为1.1天。所节省下来的1.7天,若换算成电费、人力以及机会成本,或许价值几十万美金。

所以,大型公司压根不在意单独一块 GPU 的价格高低状况,他们仅仅侧重于考量每单位计算能力能够节省下来的具体时间量。

可是小团队就并非那般幸运了,在2024年,有一家初创公司,由于买不到GPU,所以不得不将模型训练任务外包给云计算平台,结果一个月花费了120万美元,该团队仅有八个人,全都在烧钱。

谁在用GPU,谁在用命?

于数据中心之中,GPU并非始终保持24小时满负荷运转状态,有时它用于运行训练工作,有时它被用于进行推理任务,有时它处于空转情形,然而即便空转状态其也存在耗电状况。

一台微波炉的功耗与一张H100的700瓦功耗相近,3000张H100一同运行一个小时,会消耗2100度电,如此一来基于一年的情况,GPU本身的费用相比电费反倒更低。

考虑散热情况?液冷已然成为了符合基本条件需具备的配置了。传统的依靠空气对流散热的风冷方式压根就压制不住功率达到700瓦时所产生的热量。到2025年的时候,在全球范围内的数据中心领域里,液冷市场的规模实现了突破80亿美元的情况,其中超过一半以上的份额是源自GPU集群对于冷却的需求。

因此你瞧,一块GPU价格高,并非仅仅是芯片本身价值不菲。它背后涉及的电力供应、散热措施、网络连接、机房环境,每一个相关环节都在耗费大量资金。

普通人怎么用得起?

你可能觉得,这东西跟我没关系。但事实是,你每天都在用。

哪怕是要用GPT去询问一个问题,其背后至少得调用数千块GPU来进行推理。哪怕只是去刷短视频,那推荐算法同样也是在GPU上面运行的。哪怕仅仅是用手机拍摄了一张照片,其中的AI美颜实际上也是在云端的GPU之上完成计算的。

只不过这些成本被平台消化了,你没直接付钱。

然则倘若你身为一名学生,欲自行运行一个模型以进行实践呢?租赁云GPU一个月的费用大概处于500至2000美元之间。绝大多数人根本没有能力去承担这笔费用。故而当前流行着一种做法:去进行拼单。数人共同租用一台GPU服务器,依次轮流使用。既能够节省费用,又具备较高的效率。

在2025年时,于国内涌现出了数量超过50家的GPU算力共享平台,且其用户量实现了突破200万的情况。其中最小的套餐是按照小时进行租赁的模式,每一小时的价格为6块钱。这样的价格听起来是不是会让人觉得颇为便宜呢?然而需要注意的是,那所使用的是低端显卡。要是使用高端卡的话,那么一小时的费用则需要80块。

算力会越来越贵吗?

短期看,会。

到2025年的时候,台积电的3纳米制程良率仅为70%,这极大地抬高了GPU的制造成本,并且HBM3显存的产能同样处于紧缺状态,三星以及SK海力士2025年的订单已然排满。

长期看,不一定。

处于研发进程中的有量子计算,还有光子计算,以及存算一体芯片。在2024年的时候,有一家名为的公司,推出了晶圆级芯片,该芯片是直接在一大块晶圆上进行集成,集成了85万个AI核心。尽管其生态尚不具备成熟的状态,不过至少是给算力领域带去了另外一种可能性。

而且,摩尔定律还没死透——只是慢下来了。

最后说一句

GPU的算力并非技术所达的终点,它仅是在这个时代里最为强硬的货币。无论谁拥有了算力,便能够以更快的速度去迭代模型,能够以更快的速度去占领市场,能够以更快的速度去定义未来。

不过说到底,算力自身不存在价值。真正具备价值的,是你运用算力去开展的事情。

是让AI更聪明,还是让世界更分裂?

我不清楚答案,然而我明白,每次你敲下回车键,GPU就在为你作答。

你是用来画图的?写代码的?还是拿来炒币的?

那块GPU不会说话,但它知道。

http://www.jsqmd.com/news/878366/

相关文章:

  • 2026 上海房屋漏水不用愁!雨中匠人免费上门检测,本地专业防水公司常年TOP1!卫生间免砸砖防水,快速解决您的烦恼。权威!靠谱!稳定!售后无忧!!! - 防水百科
  • DeepSeek流式吞吐翻倍实录:从QPS 23→189的7项配置核弹级调整(含config.yaml安全补丁)
  • 2026 徐州房屋漏水不用愁!雨中匠人免费上门检测,本地专业防水公司常年TOP1!卫生间免砸砖防水,快速解决您的烦恼。权威!靠谱!稳定!售后无忧!!! - 防水百科
  • 【独家首发】DeepSeek官方未公开的额度白名单申请通道(含内部工单编号模板+成功率提升87%的3项资质准备清单)
  • 终极指南:如何快速解密QQ音乐加密音频文件
  • 2026 重庆房屋漏水不用愁!雨中匠人免费上门检测,本地专业防水公司常年TOP1!卫生间免砸砖防水,快速解决您的烦恼。权威!靠谱!稳定!售后无忧!!! - 防水百科
  • 遗传算法优化矩张量势:提升材料模拟效率与精度
  • 惠州工厂搬家公司推荐 专业大型精密仪器设备搬运服务排名 - 从来都是英雄出少年
  • CANN-昇腾NPU-推理服务灰度发布-怎么平滑切换版本
  • 如何用AD8232构建你的第一个专业级心电监测系统:从零到一的完整指南
  • 技术不专业?2026安徽GEO优化公司推荐排行 技术过硬/全场景适配 - 行业深度观察C
  • 论文解读-《Make Heterophily Graphs Better Fit GNN A Graph Rewiring Approach》 - zhang
  • PDF阅读器安全风险与漏洞分析方法论
  • DLSS Swapper:让游戏性能优化变得像点餐一样简单
  • 惠州搬厂公司哪家好?大亚湾惠阳本地大型搬厂企业口碑推荐 - 从来都是英雄出少年
  • NsEmuTools终极指南:3分钟搞定NS模拟器安装与管理的完整解决方案
  • AI重构媒体行业
  • Axure RP 中文语言包配置:实现高效原型设计本地化
  • 如何永久保存微信聊天记录?这款开源工具帮你一键导出并生成年度报告!
  • 独立开发者如何借助Taotoken低成本试验多种AI模型
  • AWVS 25.5 Windows版CVE检测能力深度校准指南
  • 题解:AT_arc172_e [ARC172E] Last 9 Digits
  • 中小团队如何利用Taotoken实现多模型成本可控与统一管理
  • 2026 北京房屋漏水不用愁!雨中匠人免费上门检测,本地专业防水公司常年TOP1!卫生间免砸砖防水,快速解决您的烦恼。权威!靠谱!稳定!售后无忧!!! - 防水百科
  • IPSEC证书体系构建:从OpenSSL根CA到StrongSwan隧道实战
  • 基于Python + LLM的多智能体交响乐团:让AI组队协作的毕设系统设计与实现
  • Legacy iOS Kit:让旧款iPhone/iPad重获新生的终极指南
  • 2026年创作者应对AI挑战必备指南:用言笔AI一键降重,快速提升品质 - 降AI实验室
  • 卖包装薄膜怎么找客户?下游工厂在哪里
  • 3步解决AutoJs6在安卓11上的文件写入难题:终极权限配置指南