首頁 > 技術(shù) > 正文

馬斯克說AI顯卡賣瘋了 43.2萬張H100顯卡需搶購

2023-08-07 12:13:43來源：中關(guān)村在線  


(資料圖)

據(jù)了解，盡管OpenAI的首席執(zhí)行官曾否認(rèn)，但業(yè)界普遍認(rèn)為該公司已經(jīng)在訓(xùn)練GPT-5大模型，其規(guī)模預(yù)計(jì)將是GPT-4的10倍以上。然而，這也意味著更高的成本，特別是在AI顯卡極度稀缺的情況下。 全球許多從事AI大模型的公司，對于使用的AI顯卡數(shù)量保持高度保密，很少公開準(zhǔn)確數(shù)據(jù)。據(jù)推測，GPT-4可能是在10000-25000張A100顯卡上訓(xùn)練的，而GPT-5所需的顯卡數(shù)量仍然是個未知數(shù)，馬斯克估計(jì)可能需要30000-50000張性能更強(qiáng)的H100顯卡。 除了OpenAI外，其他公司對高性能AI顯卡的需求也居高不下。包括Meta、谷歌、微軟、蘋果、特斯拉以及馬斯克自己都在進(jìn)行各種AI研究，預(yù)計(jì)總需求高達(dá)43.2萬張H100顯卡，價(jià)值超過150億美元。 這只是美國科技行業(yè)的需求分析，實(shí)際上，國內(nèi)的需求并不遜于美國。盡管只能購買特供版的A800、H800加速卡，但這并未阻止國內(nèi)公司投身AI大模型的研究，甚至不惜加價(jià)搶購AI顯卡。 在當(dāng)前市場上，只有NVIDIA能滿足AI顯卡的需求。AMD和Intel的AI顯卡不僅在性能和生態(tài)上存在問題，而且供貨也跟不上。AMD的大殺器MI300X要到年底才能出貨，2024年才能大批量上市。 總的來說，這波需求將使NVIDIA受益，AI顯卡的需求預(yù)計(jì)將持續(xù)到2024年底。在這一年半的時(shí)間里，供應(yīng)將一直無法滿足需求，H100顯卡的售價(jià)起步價(jià)為25萬元，而加價(jià)的幅度則難以預(yù)測，可能會有很大的波動。

標(biāo)簽：

相關(guān)閱讀

精彩推薦

相關(guān)詞

推薦閱讀