成人区无码高潮av在现观看|国内精品视频在线播放一区|色AV永久无码AV影院|日韩无码高清三区免费

H100租賃價格下跌“GPU泡沫破滅”?
時間:2024-10-16  瀏覽次數(shù):663

  日前,一則有關(guān)“2美元/小時出租H100:GPU泡沫破滅前夜”的報道引發(fā)國內(nèi)市場高度關(guān)注。相關(guān)文章指出:

  英偉達H100 GPU在2023年3月上市之后,因需求激增供不應(yīng)求,其租賃價格從最初的每小時4.7美元一度飆升至每小時8美元以上。但今年以來,H100開始“供過于求”,每小時租賃價格降至2美元左右。

  價格下跌是多方因素導(dǎo)致的:1)有些長期預(yù)訂H100的公司完成模型訓(xùn)練之后,轉(zhuǎn)售閑置未使用的算力;2)許多公司不再從頭訓(xùn)練新模型,轉(zhuǎn)而微調(diào)開放模型,算力需求大幅降低;3)專注構(gòu)建大規(guī);A(chǔ)模型的新創(chuàng)公司數(shù)量大幅減少;4)H100的替代品出現(xiàn),如AMD和英特爾GPU,等等。

  對這篇報道進行溯源后可以發(fā)現(xiàn),海外主流媒體及主要科技媒體暫未進行相關(guān)報道,原報道標(biāo)題為《$2 H100s:How the GPU Bubble Burst》(2美元H100:GPU泡沫是如何破滅的),來自一個名為Latent Space的網(wǎng)站,原文作者為Eugene Cheah。

  根據(jù)網(wǎng)站介紹,Latent Space主要聚焦于AI,形式集內(nèi)容訊息、博客、社區(qū)為一體,由swyx及Alessio Fanelli共同主持,前者的社交平臺賬號并未給出帶有具體身份自我介紹,后者則為早期風(fēng)投公司Decibel VC的合伙人和CTO。

  據(jù)Cheah在“GPU泡沫”一文原文末尾的介紹,F(xiàn)eatherless.Ai目前托管著全球最大的開源AI模型,“每月10美元起,可立即訪問,無限制請求,價格固定;可通過無服務(wù)器方式即時推理,無需昂貴的專用GPU”。

  “GPU泡沫”一文原文中有張配圖,那是法國藝術(shù)家讓-萊昂·熱羅姆在1882年創(chuàng)作的油畫《郁金香狂熱》(Le Duelàla tulipe)。

  這幅畫描繪了有記錄以來的歷史上第一次投機泡沫——17世紀(jì)荷蘭的“郁金香狂熱”,郁金香的價格在1634年持續(xù)攀升,并于1637年2月崩盤,投機者手中只剩下最初投資額的5%。

  三百多年前的投機泡沫會否再次上演?這個問題牽動著每一位AI投資者的神經(jīng),或許也是這一次“H100租賃價格下跌”一文引發(fā)高度關(guān)注的原因。

  從算力租賃商Vast.ai網(wǎng)站報價可以看到,1x H100的一小時租賃報價確實已經(jīng)在2~3美元的區(qū)間內(nèi)。

  一方面,從Eugene Cheah的文章來看,“H100價格下跌”可能用“分化”來形容更為合適——持續(xù)下降的主要是小規(guī)模集群的租賃價格,相較之下,大規(guī)模算力集群的價格則可能依然維持在較高水平。

  而這些大規(guī)模算力集群的背后,多是諸如特斯拉、微軟、OpenAI一類的科技巨頭。Omidia數(shù)據(jù)顯示,H100發(fā)布之后的那個2023年第三季度,其出貨量達到65萬張,其中,僅Meta和微軟就分別拿下了15萬張,占比接近一半。

  另一方面,電子產(chǎn)品都有更新迭代周期,GPU芯片同樣如此。之前英偉達下一代GPU Blackwell系列傳出設(shè)計存在缺陷,可能延遲出貨。但摩根士丹利上周發(fā)布報告稱,Blackwell的生產(chǎn)正在“按計劃進行”,且未來12個月左右的供應(yīng)已經(jīng)售罄,這意味著現(xiàn)在下訂單的客戶要到2025年底才能收到貨,“這將繼續(xù)推動對現(xiàn)有Hopper架構(gòu)產(chǎn)品的強勁短期需求”。

  H100租賃價格并非驟然暴跌,波動已有時日。從A100到H100,從H100到H200,再到未來的Blackwell,新品出世勢必帶來前代產(chǎn)品的沒落,更不用說,Blackwell的算力成本有望比Hopper進一步降低。

  黃仁勛這位英偉達“掌舵人”也在日前現(xiàn)身說法。在接受Altimeter Capital采訪時,他強調(diào),對英偉達的持續(xù)看漲與互聯(lián)網(wǎng)泡沫頂峰時期圍繞思科的狂熱完全不同。英偉達正在“重塑計算”,未來將是“高度機器學(xué)習(xí)”的時代。

  “摩爾定律已經(jīng)基本宣告終結(jié)”,他表示,為了提供必要的算力以跟上未來計算密集型軟件的步伐,未來4~5年內(nèi),現(xiàn)有數(shù)據(jù)中心將需要價值約1萬億美元的GPU來實現(xiàn)升級。

  必須承認(rèn)的是,“AI泡沫”論的警鐘敲了又敲,“AI投資回報難達預(yù)期”的質(zhì)疑聲音一浪高過一浪,一邊是OpenAI抱怨算力上線不及時不夠用、英偉達新品售罄,另一邊是算力租賃價格不斷下降,還有公司“甩賣”GPU。

  但局部、短期的算力過剩或短缺,似乎已難以代表AI的全盤局面,對于供需兩方、多空兩邊來回博弈的AI領(lǐng)域來說,在硬件端之外,或許亟待更多新故事。




上一篇:“一黑、兩暗、三起源、五表征”……空間科學(xué)高質(zhì)量發(fā)展支撐航天強國建設(shè)   下一篇:麥兜馬爾代夫消息可靠嗎?
推薦內(nèi)容