大模型熱潮催生算力服務新商機 企業應對GPU短缺謀變

robot
摘要生成中

算力成爲新型服務模式,大模型熱潮帶來的變革

近期,大模型訓練需求激增,高端GPU供不應求,成爲行業熱點話題。一張英偉達A100顯卡價格飆升至20多萬元,月租也達到5-7萬元。即便如此,仍有企業面臨供應商跳票等問題。

這種算力短缺短期內難以解決。有專家表示,沒有幾十億資金投入,很難持續開發大模型。一些創業者認爲,如果沒有百億千億資金支持,這條路很難走通。

面對這一局面,業內普遍認爲,隨着市場從狂熱走向理性,企業會隨預期變化調整策略控制成本。

爲應對算力短缺,企業採取了多種方法:

  1. 使用高質量數據提升訓練效率
  2. 提升基礎架構穩定性,實現千卡長期穩定運行
  3. 優化算力卡資源調度,實現精細化分布式調度
  4. 提高網路速度,避免訓練中斷
  5. 從雲計算架構過渡到超算架構
  6. 使用國產平台替代英偉達GPU

這些方法都需要較強的技術能力,一般企業難以通過自建數據中心滿足需求,多選擇專業算力服務商支持。

事實上,我們爭搶的"大模型算力"已經成爲一種新的服務模式。算力服務是以多樣性算力爲基礎,以算力網路爲連結,以有效供給算力爲目標的新興領域。它不僅包括算力,還封裝了存儲、網路等資源,以API等形式交付。

在算力產業鏈中,上遊供應基礎資源,中遊提供算力服務,下遊則是行業用戶。相比自建環境,使用算力服務在成本和技術上更有優勢。

目前算力服務主要採用按量計費和包年包月兩種模式。未來還將推進"算網一體化融合",支持跨架構、地域、服務商的資源調度。

隨着大模型需求常態化,算力服務正快速發展成爲獨特的產業鏈和商業模式。雖然當前高端GPU短缺,但這只是暫時現象。長遠來看,算力服務商需未雨綢繆,爲市場回歸理性後的快速轉變做好準備。

查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 讚賞
  • 4
  • 分享
留言
0/400
跨链迷路人vip
· 07-30 20:02
金主才是硬道理
回復0
WalletDivorcervip
· 07-30 20:00
显卡价格炒疯了
回復0
清醒的梦游者vip
· 07-30 19:48
卡疯了疯了疯了
回復0
链上福尔摩斯妹vip
· 07-30 19:35
卖卡的又要赚翻了
回復0
交易,隨時隨地
qrCode
掃碼下載 Gate APP
社群列表
繁體中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)