本年以来，大模型和AI 2.0既是最炽热的创富梦，也越来越成为一个贵重的“权利的游戏”。在技能、本钱、人才等构建出的种种门槛中，还有一张重要的进场门票——你有没有“门道”能搞到满意的英伟达高端显卡。
王非是华东地区一家服务器定制企业的出售部司理，他向「市界」描绘了最近英伟达显卡的紧俏程度：“需求太火爆，有些人从机房里把芯片禁运方针收效前购买的A100 80GB拆出来倒卖。”这些旧芯片不只没有保修，比较于上一年8月前后8万多元的单价，价格还涨到了10万多元。
即使现已旧货拆卖、物尽其用，显卡的供给仍是严重缺乏。“需求拿现款去，对刚才乐意卖给你。”而相对显存较小、练习功率低的A100 40GB即使有全新的，也乏人问津。“询价的多，成交的少。”
详细而言，这批抢手的显卡指的是英伟达旗下的“Tesla”系列产品。在练习AI大模型时，比传统CPU更高效的GPU（图形处理器，又称闪现芯片），尤其是高端GPU一芯难求。
2020年和2022年，英伟达先后推出了A100芯片、H100芯片，其间A100显卡又供给80GB、40GB两个显存版别，H100则供给80GB显存。显存越大，所能运转的神经网络也就越大。
2022年9月开端，美国制止英伟达等向我国出口高端GPU芯片。为应对禁运方针，英伟达又在2022年和2023年别离推出了我国版的显卡A800和H800。
不过现在，在方针答应范围内的A800芯片，在商场上也呈现了供货周期拉长、价格上浮的现象。王非泄漏：“在大模型火爆之前，A800大约两周即可到货。但现在我跟客户保存估量要在8周内，即使是最达观的状况，也需求4-6周。”
供职于北京一家显卡分销企业的郭丽婕对「市界」表明：现在公司的A800单卡报价为8.75万元，现已超出了A800在2022年11月时8万-8.5万元的价格区间。并且，8.75万元仅仅实时报价，显卡还有持续提价的趋势。“我告知客户确认要了再找我聊，现在的库存也不多。”
另一家坐落深圳的显卡供给商，则给A800开出了8.95万元的报价——更高的溢价意味着等候时刻较短，需求大约两周的货期。
作为算力根底设施，竞购英伟达高端显卡芯片现已成了一种“抢跑游戏”。而决议AI创业公司胜败的要素之一，“就是你究竟有没有才能调集最最少100张以上的英伟达显卡。”一家AI创业公司负责人对「市界」讲到。
他泄漏：“在上一年8月之前，通过国内正规渠道，还能买到A100显卡，也能够收购海外版A100。在此之后，国内A100被切断了货源，从海外收购海关也不会放行。”
不过那些答应被我国的A800和H800芯片关于紧缺算力的AI中小公司而言，相同是遥不行及。
王非泄漏：“一般来说英伟达的货先到国内总代，再被咱们这类厂家分走，出售给做AIGC项目的客户。现在H800尽管现已出售，估计单卡价格会在20万起，也没有进入咱们这一级商场。现在能拿到H800的，应该只需阿里云、腾讯云这种有资历从英伟达原厂直接收购的大厂商。”
在商场紧俏的布景下，H800等高端芯片现已提早被大厂包办。现在，国内仅有腾讯云官宣“用上”了H800。4月14日，腾讯云发布了依据H800的大规模算力集群，并将其界说为H800的“全国首发”。
据《晚点 LatePost》了解，字节本年向英伟达订货了超越 10 亿美元的 GPU，仅字节一家公司本年的订单或许已挨近英伟达上一年在我国出售的商用 GPU 总和。大公司的协作方法首要是和英伟达原厂直接谈收购，能否抢到卡，更多是看商业联系，比方以往是不是英伟达的大客户。
而在巨大的需求面前，据传英伟达乃至开端学起了爱马仕，在购买抢手的 GPU 时，也需购买其它产品作为取得优先供给权的“配货”。
在这场大模型研发竞速赛中，比较超级大厂，更多小玩家只能先把姓名写进等候名单。而不管哪一方历经清洗、终究胜出，作为算力供给者的英伟达都能稳拿订单，笑到终究。
在商界一向有一种说法：当淘金者蜂拥而至时，取得财富就变成了小概率事件。终究挣到钱的，更或许是站在淘金者身边“卖铲子”的人。
一位科技赛道的出资人对「市界」回想：在前几年的AI职业本钱隆冬中，“泡沫幻灭时，出资人和企业忽然意识到，（算法创业）本钱极高，都是在亏钱，反而让上游挣钱了。”
而在AI这个近年来最大的科技风口面前，英伟达就是那个榜首批站在上游、得以走运“起飞”的公司。
在本年5月举行的英伟达成绩电话会上，英伟达创始人、总裁兼CEO黄仁勋直言：本年1月以来呈现的新产品需求“不行思议地峻峭”，公司订单“多到难以置信”。
不只商场对英伟达产品张狂竞逐，本钱也展示出了大方的情绪。5月30日，英伟达成为全球首家市值打破万亿美元的芯片规划商。
当有记者向黄仁勋发问：“（在新一轮AI浪潮中）英伟达取得的丰盛报答是由于命运，仍是由于有先见之明？”黄仁勋并不讳言英伟达人气暴升的“命运”成分：“咱们仅仅信任总有一天会有新的东西产生，其他的需求一些偶然性。”
现在现已无人介意，短短一年之前，英伟达还陷在营收不及预期、股价滑坡的漩涡之中。假如没有AIGC的“天降神力”，看上去这将是一个已产生过无数次的“商业先行者”惋惜折戟的故事。
曩昔数年间，英伟达的高端显卡更多被用于PC游戏和虚拟钱银“挖矿”之上。疫情之下，获益于消费电子需求暴增，英伟达股价也随之连番上涨。2021年，英伟达股价最高升至300多美元，创前史高点。
但进入到了后疫情年代，跟着游戏商场遇冷，叠加虚拟钱银持续动摇，2023财年的前三个季度中，英伟达营收接连下滑，净利润大幅缩水。与之相应的，公司股价在2022年8月，跌至了年内最低的每股108美元。与2021年高点比较，市值仅余三分之一。
不过，到了2022年末，跟着ChatGPT横空出世，英伟达一举扭转颓势，成为了被全球追捧的明星。到6月23日美股收盘，英伟达股价已升至422.90美元。
在英伟达一飞冲天的一起，人们开端追溯，这是否是一个关于决策者“远见卓识”的故事。而黄仁勋自己对此的界说是：“这不是先见之明。先见之明是加快核算。”
2010年，据媒体报道，英伟达首席科学家兼高档研讨副总裁Bill Dally与其老友、全球AI范畴威望学者吴恩达某天在咖啡店里共进早餐。彼时，吴恩达正在谷歌进行AI研讨，但在推进课题进程中遇到了算力缺乏问题。
假如想要补上吴恩达团队面对的算力缺口，谷歌需求新置办约1.6万块CPU（中央处理单元）。以英特尔在2010年发布的服务器CPU产品至强X5680为例，后者当年的单价约为1666美元，1.6万块算计需求约2700万美元。
这笔预算满意让吴恩达的研讨胎死腹中。据数据剖析组织“PitchBook”调研，2010年全球AI和机器学习范畴取得的危险出资还缺乏5亿美元。
Bill Dally听说了吴恩达的烦恼后，主张他用英伟达的GPU代替CPU来进行AI练习。由于CPU选用串行核算方法，更拿手逻辑操控，但数据处理功率较低。而英伟达的GPU产品选用了其自研的并行核算架构“CUDA”，能够将使命分解成若干部分一起处理。终究，吴恩达团队公然仅用48块GPU并联，就处理了问题。
在此之后，越来越多的研讨团队开端将英伟达芯片用于AI练习运用。而黄仁勋也在看到AI商场的巨大机会后，从2012年开端，将AI列为了重要的发展方向。
某种程度上，在10年前AI落地使用仍是含糊一片的布景下，便在深度学习层面开端布局，确实代表了黄仁勋的“先见之明”。
上任于硅谷某AI芯片独角兽公司的Lee对「市界」讲到：对芯片企业而言，在2012年投入深度学习的核算是一个十分可贵的挑选。据他回想：“2012年是大数据年代的巅峰，最挣钱的商场是互联网数据库、文件体系等等，做深度学习能够说是’冷板凳’。并且英伟达是围绕着深度学习的主题进行全方位、点点滴滴的下注，包含完善言语规划、开发者东西等周边软件东西。”
关于英伟达的成功原因，黄仁勋曾这样总结：“咱们很早地，大约在10年前就发现，（AI）这种制造软件的方法能够改动全部。咱们从底层一向到顶层，从各个视点改动了公司。”
从2016年开端，英伟达旗下的加快核算GPU产品线（代号“Tesla”）开端专门针对AI练习使命进行规划。这一年推出的芯片型号为P100，一起配备有英伟达新研发的高速互联技能“NVLink”。而NVLink能够答应CPU、GPU芯片间进行高速交互，进一步提升了运算功率。
从底层到顶层搭建起的软硬件产品生态，也是英伟达在这轮AI风口，因其长时刻布局和最大确实认性，得以遭到本钱热捧的原因。但从商场、技能等视点考虑，英伟达当下构建的“算力帝国”也还远远谈不上铜墙铁壁。
依据2023财年财报闪现，我国是英伟达的榜首大方针商场，英伟达在我国商场完结的营收占其全球商场营收的47%。而在方针约束下，英伟达难以向我国商场出售A100、H100高端芯片，无疑将对其营收形成重击。
黄仁勋个人，从不粉饰关于我国商场的希望。5月底他在承受《金融时报》采访时，诉苦美国政府关于半导体技能的出口约束使得英伟达束手束脚，正告持续晋级的中美芯片战将令美国科技业面对遭受“巨大危害”的危险。“假如失去了我国商场，咱们并没有应急方案。由于世界上没有其他我国，我国只需一个。”
但在英伟达高端显卡出口受阻的态势下，许多我国客户不得不转向其他挑选。而细细数来，商场中英伟达的挑战者并不少。
王非告知「市界」：“我一些做AIGC项目的客户挑选了海光的国产显卡DCU Z100L。据我所知，海光的产品现在现已用到了多个国产大模型里。”
另一位大模型使用层的创业者则泄漏，由于买不到A800，其地点的团队紧迫置办了一批英伟达的消费级显卡GeForce RTX 4090，“未来会考虑其他挑选，或许更多装备云核算资源”。
在供给端，天数智芯、摩尔线程等国产GPU厂商现已开端活跃推进产品落地于大模型练习范畴。
6月10日，天数智芯对外宣告，通过验证，其研发的国内首款量产的通用GPU“天垓100”具有支撑百亿级参数大模型练习的才能。据称，在天垓100加快卡的算力集群支撑下，北京智源研讨院70亿参数的“Aquila”言语根底模型完结了参数优化作业。6月上旬，摩尔线程则宣告其现已完结对智源研讨院“悟道·天鹰”大模型的推理兼容适配，整个适配进程仅花费不到6小时时刻。
除了国产GPU玩家，“AI芯片榜首股”寒武纪、阿里巴巴旗下芯片企业“平头哥”的产品相同能够用于运转AI相关使命。
6月19日，“国产CPU榜首股”龙芯中科在出资者交流平台揭露表明，其已完结通用GPU相关IP规划，估计榜首个集成自研通用GPU中心的SOC芯片（体系级芯片）方案于2024年Q1流片，在此根底上将研发统筹显卡和核算加快卡功用的通用GPU芯片，方案于2024年下半年流片。
服务器厂商南京坤前核算机的一位客户司理总结道，在AIGC等大模型使用范畴中，国产产品现已能够部分满意客户需求。他讲道：“不仅仅现在，在未来的一段时刻内英伟达GPU求过于供也是可预见的，但我以为不用过于寻求英伟达。只需算力集群满意大，国产卡也够用，就算国产卡带宽少一点，运算的时刻多一点，最少能够完结自主。”
此外，从6月上旬开端，商场便不断传出闻名资管组织与大股东对英伟达的减持方案。实际上，英伟达“算力帝国”的缝隙也现已开端闪现。
6月6日，背面站着老牌欧洲金融世家罗斯柴尔德宗族、办理财物近900亿美元的爱德蒙得洛希尔财物办理公司泄漏，现已将部分英伟达头寸获利了断。首要原因是：AI估值太高，越来越不确认。假如估值持续上涨，组织会变得慎重。闻名出资估值专家Aswath Damodaran也表明，卖掉了英伟达的股票，由于“这轮上涨太惊人”。
事实上，黄仁勋自己便或许是硅谷最具危机感的企业家，他曾多次揭露说到：“我一向以为咱们间隔关闭只需30天的时刻。”最近，他也在采访中表达了忧虑：以为在英伟达因方针而“缺席”的这段时刻，我国的GPU草创企业会很快追逐上来。
