為此:微軟Azure上部署了數萬枚A100/H100高性能芯片。這是第一個采用英偉達高端GPU構建的大規模AI算力集群。
在業內,這一公認的說法是:1萬枚英偉達A100芯片,是做好AI大模型的算力門檻。
一些AI領域企業家,甚至將他們獲得的A100數量視為是否搶得先機的標志。
美國人工智能初創公司、參與開發Stable Diffusion的Stability AI首席執行官Emad Mostaque曾公開表示:
一年前,我們有32個A100。但我們夢想遠大,繼續買GPU吧! 目前,Stability AI的估值已經超過10億美元。根據第三方統計,Stability AI現在可以使用的A100已經超過5400個。
現在廣泛使用Stable Diffusion,AI生成的圖片,已經開始威脅到職業畫師
以ChatGPT在1月的獨立訪客平均數 1300 萬計算,其對應芯片需求為 3 萬張英偉達 A100 GPU,初始投入成本約為8億美元,每日電費在 5 萬美元左右。而國內,擁有1萬張GPU的企業,少之又少。