去年10月份以來(lái)，有人開(kāi)始在垂直社群中喊話出售面臨美國(guó)出口管制的英偉達(dá)高端芯片，聲稱A100、H100等都有辦法搞到。

　　這些人往往備注直接——“英偉達(dá)芯片貨源”，不論是八九十人的小群還是幾百人的大群，他們都會(huì)冒個(gè)泡，不少芯片行業(yè)群中都收到了類似的消息。

　　按照這些賣家的說(shuō)法，可以提供現(xiàn)貨，但無(wú)法穩(wěn)定供應(yīng)量，期貨一般8-14周交付，“40%定金，貨到驗(yàn)貨付尾款交付�！笨倳�(huì)有人接茬問(wèn)問(wèn)價(jià)格、貨源，能拿多少片，但成交與否不得而知，更多人只是觀望。

　　知情人士稱，這些賣家大多來(lái)自南方，拿貨渠道隱秘，能把貨從海外送到大陸的指定地點(diǎn)，但并不包售后。行業(yè)社群之外，拼多多、小紅書甚至是閑魚等平臺(tái)上，也偶有“貨源”出現(xiàn)。

　　今年10月17日，美國(guó)更新出口管制條例后，英偉達(dá)A800、H800、L40S等更多芯片面臨禁售，地下市場(chǎng)的“尖兒貨”開(kāi)始洗牌，這些隱秘的賣家又開(kāi)始在社交、電商平臺(tái)現(xiàn)身，以二手的形式轉(zhuǎn)售被禁的先進(jìn)芯片。

　　“整機(jī)現(xiàn)貨，欲購(gòu)從速”。4萬(wàn)、13萬(wàn)、25萬(wàn)......不斷變動(dòng)并走高的價(jià)格，也引發(fā)從業(yè)者調(diào)侃：大概這是自去年10月禁售以來(lái)，我離天價(jià)芯片最近的一次。

　　去年10月，美國(guó)商務(wù)部發(fā)布出口管制條例，限制算力上限為4800以及帶寬上限600 GB/s的AI芯片向中國(guó)出口，英偉達(dá)A100面臨禁售，彼時(shí)正值全球人工智能行業(yè)發(fā)展的高峰時(shí)期。

　　A100是基于Ampere架構(gòu)的GPU計(jì)算加速器，專為高性能計(jì)算、人工智能和機(jī)器學(xué)習(xí)等領(lǐng)域設(shè)計(jì)，擁有高達(dá) 6912 個(gè) CUDA 核心和 40GB 的高速 HBM2 顯存，是目前最強(qiáng)大的數(shù)據(jù)中心GPU之一。

　　Lambda網(wǎng)站將A100與V100進(jìn)行對(duì)比測(cè)試，結(jié)果顯示，在卷積神經(jīng)網(wǎng)絡(luò)訓(xùn)練中，1塊A100的訓(xùn)練速度是1塊V100的2.2倍，使用混合精度時(shí)，前者則是后者的1.6倍；在語(yǔ)言模型訓(xùn)練中，1塊A100的訓(xùn)練速度是1塊V100的3.4倍；使用混合精度時(shí)，前者則是后者的2.6倍。

　　左圖：A100與V100卷積神經(jīng)網(wǎng)絡(luò)訓(xùn)練速度對(duì)比，右圖：A100與V100語(yǔ)言模型訓(xùn)練速度對(duì)比

　　這還只是用了A100 40GB版本，80GB版本的A100 HBM2位寬達(dá)5120bit，顯存帶寬達(dá)1935 GB/s，能支持更快的訓(xùn)練速度和更大模型容量，處理大規(guī)模并行計(jì)算的應(yīng)用程序不在話下。

　　有從業(yè)者直白表示：“你做出來(lái)的是人工智能，還是人工智障，全靠背后的算力支持，直接決定勝負(fù)。”

　　此次切斷供應(yīng)直接影響到大數(shù)據(jù)、云計(jì)算、自動(dòng)駕駛、計(jì)算機(jī)等多個(gè)領(lǐng)域，很多企業(yè)被迫延遲甚至砍掉了開(kāi)發(fā)計(jì)劃。

　　為了規(guī)避出口管制，英偉達(dá)針對(duì)性地向中國(guó)市場(chǎng)推出A800和H800芯片，以滿足中概互聯(lián)企業(yè)的算力需求，但如果需要采購(gòu)A100和H100這種在管制清單上的產(chǎn)品，就只能通過(guò)非官方渠道。

　　今年4月以來(lái)，社交、電商甚至二手電商平臺(tái)上，開(kāi)始有人報(bào)價(jià)A100芯片，也有一些帖子暗示自己有少量A100貨源，價(jià)值不低于一臺(tái)寶馬。

　　根據(jù)芯潮IC的跟蹤觀察，今年2月份，A100即開(kāi)始在國(guó)內(nèi)以非官方渠道的形式流通，價(jià)格大概在4萬(wàn)人民幣左右，最低還賣過(guò)2萬(wàn)多，隨著5月份中概互聯(lián)網(wǎng)企業(yè)卷起大模型熱潮，A100價(jià)格一路走高，最高成交價(jià)接近25萬(wàn)元，浮動(dòng)范圍極大。

　　有業(yè)內(nèi)人士透露：“一般一臺(tái)服務(wù)器上需要裝配8張顯卡”，按最高成交價(jià)25萬(wàn)元來(lái)算，一臺(tái)服務(wù)器整機(jī)價(jià)格接近200萬(wàn)元。

　　人工智能產(chǎn)業(yè)對(duì)算力渴望，讓更高端的芯片也加入了非官方流通之列，到6月份，H100的報(bào)價(jià)在上述渠道也多了起來(lái)。不少芯片社群里頭頂“貨源”的潛水銷售們，也將自己的昵稱悄悄改為“H100芯片貨源”。

　　公開(kāi)資料顯示，H100相較于A100，16位推理速度上提升3.5倍，訓(xùn)練速度上提升2.3倍，如果用服務(wù)器集群運(yùn)算的方式，訓(xùn)練速度更是能提高到9倍，自發(fā)布起就受到追捧。

　　亞馬遜CEO Adam Selipsky就曾表示：“H100是最先進(jìn)的……即使對(duì)于AWS來(lái)說(shuō)也很難獲得�！倍�這話，就連OpenAI、Meta、微軟這些科技巨鱷也非常想說(shuō)。據(jù)江湖流傳的小道消息，H100甚至可以作為一種“敲門磚”，初創(chuàng)公司以此找基金拿抵押貸款。

　　據(jù)外媒報(bào)道，9月份，英偉達(dá)在日本的銷售合作公司把H100價(jià)格調(diào)漲16%，達(dá)544萬(wàn)日元（26.5萬(wàn)元人民幣）。

　　有價(jià)無(wú)市，一哄而上，作為市場(chǎng)主流，這兩款芯片儼然是AI算力“硬通貨”，但因?yàn)槌隹诠苤疲�只能在社交、電商平臺(tái)等非官方渠道流通。

　　在具體的詢價(jià)過(guò)程中，有的店主表示“有單卡，模組和整機(jī)”，但更多的手上只有少量的單片散貨：“現(xiàn)貨32張，就看誰(shuí)手快了”，更有店主大方表示，這些產(chǎn)品沒(méi)有保修或支持服務(wù)，但被問(wèn)及發(fā)貨地和貨源時(shí)，回答會(huì)含糊一些，“海外發(fā)貨，大陸交付，但可以送到指定地點(diǎn)。”

　　有購(gòu)買者向芯潮IC透露，“確有不少人在銷售英偉達(dá) GPU，但能否獲得線，在收到貨之前還是難以確認(rèn)，畢竟也曾有人花了兩萬(wàn)美金，卻買到了翻新貨。”

　　一般認(rèn)為：火爆程度上H100＞A100＞A800，A800主要面向中國(guó)市場(chǎng)，是A100的“閹割版”，H100比A100還要更高階一點(diǎn)。此外還有一款號(hào)稱是“H100閹割版”的H800。

　　A100上文已介紹過(guò)，這里不再贅述。A800是英偉達(dá)在遵守2022年出口管制標(biāo)準(zhǔn)的前提下，為中國(guó)地區(qū)開(kāi)發(fā)的A100“平替”。從官方公布的參數(shù)來(lái)看，A800主要是將NVLink的互聯(lián)帶寬由A100的600GB/s降至了400GB/s，其他參數(shù)與A100基本一致。互聯(lián)帶寬也就是我們常說(shuō)的傳輸速率，直接影響著芯片輸入和輸出的能力，對(duì)訓(xùn)練大模型十分重要。

　　Jefferies全球證券首席策略官Christopher Wood在研報(bào)中指出，英偉達(dá)為避開(kāi)美國(guó)2022年9月輸中禁令所打造的“A800”系列芯片，最近幾月對(duì)中國(guó)的銷量非常龐大。

　　H100發(fā)布于今年3月，是一款基于4nm工藝，擁有800億個(gè)晶體管、18432個(gè)核心的 GPU芯片。針對(duì)中國(guó)市場(chǎng)，英偉達(dá)也推出了特供版H800，據(jù)外媒報(bào)道，H800 的芯片間數(shù)據(jù)傳輸速度大概是 H100 的一半，阿里巴巴、百度的云部門已采用H800芯片。

　　一位不愿透露姓名的渠道商表示：“現(xiàn)在整個(gè)市場(chǎng)主流就是H100，很多公司報(bào)價(jià)高達(dá)50萬(wàn)，但實(shí)際成交價(jià)格在32萬(wàn)左右，不過(guò)確實(shí)很難拿到貨，9月份的出貨量也只有3000片左右。”

　　至于支付定金，在這位渠道商看來(lái)，“市面上傳訂貨要付50%定金，比正規(guī)渠道高出了差不多30%，真實(shí)貨源面前，支付多少定金已經(jīng)不重要了�！�

　　而與H100的火熱形成對(duì)比，年初嶄露頭角，年中走向高點(diǎn)的A100已基本“退燒”。電子元器件渠道商覺(jué)S向芯潮IC透露，“A100最熱的時(shí)候，哪怕你手里只有三五片，人家都會(huì)拿過(guò)去拼湊，但采購(gòu)潮在6月份就基本結(jié)束了，現(xiàn)在需求基本飽和，至于A800芯片，現(xiàn)在誰(shuí)拿到基本都會(huì)砸在手里�！�

　　10月17日，美國(guó)商務(wù)部頒布新一輪出口管制條款，針對(duì)中國(guó)市場(chǎng)的平替版本英偉達(dá) A800 和 H800面臨禁售，L40S甚至RTX 4090都被推上了風(fēng)口浪尖，黑市“尖貨”價(jià)格又一次戲劇性上漲。有消息稱，當(dāng)日晚間預(yù)定的H800 GPU整機(jī)單價(jià)已高達(dá)245萬(wàn)元，較一個(gè)月前的期貨預(yù)訂價(jià)195萬(wàn)元已高出25%。

　　不過(guò)這次，很多國(guó)內(nèi)廠商都提前接到了消息，預(yù)先完成了囤貨。國(guó)內(nèi)一家服務(wù)器廠商的內(nèi)部人士表示，他們十月初就接到了這個(gè)（禁售）消息，目前已經(jīng)囤了足夠量，不過(guò)未來(lái)還是有很大壓力。

　　綜合市場(chǎng)的信息，應(yīng)用軟件開(kāi)發(fā)商、初創(chuàng)公司、研究機(jī)構(gòu)和游戲玩家是這些芯片的主要采購(gòu)者，也可能涉及一些敏感機(jī)構(gòu)和實(shí)體 。

　　有需求就會(huì)有供給，一條隱秘的地下交易鏈條也逐漸成型——供應(yīng)商們采購(gòu)芯片的方式主要有二：一是在英偉達(dá)向美國(guó)大型企業(yè)大量發(fā)貨后，搶購(gòu)市場(chǎng)上的剩余庫(kù)存；二是通過(guò)在印度、中國(guó)臺(tái)灣、新加坡等地本地注冊(cè)的公司進(jìn)行進(jìn)口。

　　知情人士表示：“對(duì)于大型企業(yè)來(lái)說(shuō)，拿貨一般有固定的渠道，而且消息都是高層間直接勾兌，走貨量大，中間商作用較弱�！�

　　有渠道商透露，其實(shí)顯卡大概是兩個(gè)巴掌大小，由于每個(gè)國(guó)家把控嚴(yán)格度不一，如果揣在包里，報(bào)關(guān)時(shí)把它報(bào)成普通電子設(shè)備，流通就成為可能，好比當(dāng)年水客運(yùn)輸iPhone。也有人從服務(wù)器上下功夫，“一般服務(wù)器都是類似于茶海大小，海外發(fā)到我們這邊都會(huì)拆散，但里面的東西基本上不會(huì)損壞。”不過(guò)大家心里也清楚，走中小型中間商渠道，風(fēng)險(xiǎn)會(huì)很高，雖然買個(gè)幾片、定金也交了，一旦被查基本只能認(rèn)栽。

　　總的來(lái)說(shuō)，國(guó)內(nèi)真正能勾兌這類交易的人屈指可數(shù)，就連坊間傳得神乎其神的華強(qiáng)北，也有很多辦不到的事。中間商就算想分一杯羹，也多會(huì)因?yàn)榉爆崗?fù)雜的過(guò)程驗(yàn)證而退出——客戶會(huì)質(zhì)疑貨物真假，是不是拆機(jī)件，能不能確保100%原廠出貨；供貨端更是會(huì)仔細(xì)盤問(wèn)買家、用途、是不是真的有能力付錢。

　　也有渠道商曾試圖在這種產(chǎn)品上賺一筆，但最終嘗盡苦頭，有感而發(fā)：“做一單幾萬(wàn)美金，或者二十萬(wàn)美金的生意尚且很復(fù)雜很小心，更何況這是一筆上千萬(wàn)美金的訂單，是很難做到的�！�

　　風(fēng)險(xiǎn)因素眾多，除了產(chǎn)品來(lái)源非官方、去向不確認(rèn)，市面上還會(huì)有不少翻新貨，運(yùn)氣夠差的話，你手里拿到的根本就不是A100。知情人士稱，“拿到芯片后必須得組裝起來(lái)才知道真假好壞，有點(diǎn)兒像開(kāi)盲盒”，“如果向某些比較正規(guī)的公司簽合同購(gòu)買，都至少有1-3年的質(zhì)保，單從外面的渠道購(gòu)買是基本不靠譜的，保修售后也不要想了�！�

　　據(jù)介紹，運(yùn)輸過(guò)程中磕碰、泡水比較常見(jiàn)，還有賣家把已經(jīng)不流通的 A100 40GB芯片，改成80GB來(lái)賣，上當(dāng)?shù)囊泊笥腥嗽凇?/p>

　　H100還沒(méi)成為歷史，搶卡又開(kāi)始了新的輪回，甚至消費(fèi)級(jí)的RTX 4090一下成為風(fēng)暴中心。10月17日之后的短短三日，RTX 4090的價(jià)格像坐了火箭，沖上4萬(wàn)不說(shuō)，在華強(qiáng)北線下和淘寶第三方店鋪均已斷貨。

　　“4090是被性能密度拖下水的，實(shí)際上4090目前也沒(méi)有人真的拿來(lái)做AI�！庇袠I(yè)內(nèi)人士向芯潮IC表示，RTX 4090是目前游戲玩家能夠買到的最頂尖的游戲顯卡，AI大模型訓(xùn)練等商業(yè)需求，RTX 4090雖在理論上可以串聯(lián)滿足（很少有人會(huì)這么做），更多還是滿足個(gè)人需求當(dāng)個(gè)游戲卡。

　　令所有人都沒(méi)想到的是，本來(lái)有30天窗口期的禁令竟提前生效——24日晚間，英偉達(dá)發(fā)布公告稱新出口限制改為立即生效，但炒得正熱的RTX 4090卻不在禁售名單中。

　　根據(jù)英偉達(dá)周二提交給SEC的文件，美國(guó)商務(wù)部10月23日通知該公司，上周（10月17日）公布的出口限制改為立即生效，影響適用于“總處理性能”為4800或更高，并為數(shù)據(jù)中心設(shè)計(jì)或銷售的產(chǎn)品，即A100、A800、H100、H800和 L40S的出貨。

　　日前，又有消息稱，多家英偉達(dá)合作顯卡品牌確認(rèn)RTX 4090系列將于11月17日之后在中國(guó)大陸全面禁售。盡管線似乎有著自己的“線S......歷史宛若一個(gè)輪回，套住了深扎其中的玩家，不論是身為制造商的臺(tái)積電、聯(lián)電，還是像英偉達(dá)、AMD等人工智能計(jì)算公司，更不必說(shuō)華為、寒武紀(jì)、摩爾線程、壁仞等諸多被禁令“點(diǎn)名高掛”的中國(guó)大陸企業(yè)，都隨這一場(chǎng)場(chǎng)的風(fēng)波浮浮沉沉。

　　。CoWoS 是臺(tái)積電的一種“2.5D”封裝技術(shù)，其中多個(gè)有源硅芯片集成在無(wú)源硅中介層上，是最流行的 GPU 和 AI 加速器封裝技術(shù)，英偉達(dá) A100、H100芯片均用臺(tái)積電CoWoS 先進(jìn)封裝。2023年，ChatGPT風(fēng)靡全球，AI芯片需求應(yīng)聲大漲，這大大超過(guò)了英偉達(dá)的預(yù)估。一位有豐富半導(dǎo)體制造經(jīng)驗(yàn)的知情人士表示，“原本英偉達(dá) 2022年在臺(tái)積電預(yù)訂的產(chǎn)能是3萬(wàn)片，今年3月ChatGPT爆火后，又緊急追加了5000片，再后來(lái)又追加了1萬(wàn)片，最終在臺(tái)積電的訂單共有4.5萬(wàn)片。”

　　。對(duì)英偉達(dá)來(lái)說(shuō)，臺(tái)積電出多少就買多少，但同時(shí)還有AMD也要出貨，谷歌自研的TPU也在翹首盼望，這14萬(wàn)片的產(chǎn)能早就被瓜分了個(gè)精光。據(jù)業(yè)內(nèi)人士介紹，CoWoS 所需中介層因關(guān)鍵制程復(fù)雜、高精度設(shè)備交期拉長(zhǎng)而供不應(yīng)求，目前產(chǎn)能嚴(yán)重受限，正處在艱難爬坡過(guò)程中。這也意味著哪怕是英偉達(dá)這樣的大客戶，想追加更多都是不可能的。

　　，這個(gè)問(wèn)題有望在明年第二季度解決，那時(shí)產(chǎn)能大量釋放，明年臺(tái)積電CoWoS有望達(dá)到30萬(wàn)片。想象一個(gè)場(chǎng)景，如果明年產(chǎn)能不再緊缺，在美國(guó)、日本、新加坡，這幾款芯片要多少有多少，需求飽和，流入中國(guó)市場(chǎng)只是時(shí)間早晚�，F(xiàn)在全球缺貨加上中國(guó)被限，芯片的價(jià)差特別高，但產(chǎn)能跟上后，價(jià)差自然會(huì)變小，千金囤貨的故事終會(huì)告一段落。

　　�！睂脮r(shí)，H100在訓(xùn)練端的需求可能會(huì)到頂，但推理端場(chǎng)景有很多，需求增長(zhǎng)無(wú)窮無(wú)盡�，F(xiàn)如今，Meta、Microsoft等國(guó)外大廠做訓(xùn)練和推理基本都用H100，部分小廠可能為了性價(jià)比選擇訓(xùn)練用H100，推理用A100。但其實(shí)，推理端并不是非高端芯片不可，今年8月，

　　。這是一款專為搭建數(shù)據(jù)中心設(shè)計(jì)的 GPU芯片，在具有數(shù)十億參數(shù)和多種模態(tài)的生成式AI工作負(fù)載下，L40S的18176個(gè)CUDA核心可提供近5倍于A100的單精度浮點(diǎn)（FP32）性能，相較于A100推理性能提升1.2倍，訓(xùn)練性能提升1.7倍，從而加速?gòu)?fù)雜計(jì)算和數(shù)據(jù)密集型分析。對(duì)于全球而言，在CoWoS封裝產(chǎn)能有限， H100供給不足的當(dāng)下，L40S 可謂一場(chǎng)及時(shí)雨，但現(xiàn)在也遭遇了“一紙禁令”。

　　禁令的波及不僅體現(xiàn)在先進(jìn)芯片產(chǎn)品的直接銷售上，也體現(xiàn)在先進(jìn)工藝的制造代工上，寒武紀(jì)，摩爾線程、壁仞已經(jīng)無(wú)法在臺(tái)積電流片，而只能轉(zhuǎn)向大陸晶圓廠。據(jù)了解，目前中芯南方廠今年、甚至明年上半年的產(chǎn)能已經(jīng)排滿，相關(guān)需求大概明年下半年才能做。

　　“GPU現(xiàn)在良率很低，必須要有足夠的產(chǎn)能才會(huì)去跑GPU，但等到明年下半年中芯南方產(chǎn)能釋放，其實(shí)一定程度上已經(jīng)失去了先機(jī)�！�