Jaringan memainkan peran kunci di era model AI besar. Seiring dengan semakin besarnya skala model, kluster server ganda menjadi cara utama untuk menyelesaikan masalah pelatihan, yang juga membentuk dasar bagi jaringan untuk "naik tingkat" di era AI. Berbeda dengan masa lalu yang hanya digunakan untuk mentransmisikan data, kini jaringan lebih banyak digunakan untuk menyinkronkan parameter model antar kartu grafis, yang meningkatkan tuntutan terhadap densitas dan kapasitas jaringan.
Permintaan jaringan terutama berasal dari tiga aspek:
Ukuran model yang besar: Waktu pelatihan sebanding dengan jumlah parameter model, dan kecepatan komputasi per perangkat terbatas, sehingga bagaimana memanfaatkan jaringan untuk memperluas "jumlah perangkat" dan "efisiensi paralel" secara langsung menentukan kekuatan komputasi.
Komunikasi kompleks sinkronisasi multi-kartu: Setelah pemodelan dibagi menjadi kartu tunggal, setiap perhitungan memerlukan penyelarasan, yang menuntut persyaratan lebih tinggi untuk transmisi dan pertukaran jaringan.
Biaya kegagalan yang mahal: Pelatihan model besar berlangsung selama berbulan-bulan, gangguan dapat menyebabkan kerugian besar. Jaringan telah menjadi rekayasa sistem yang kompleks sebanding dengan pesawat dan kapal induk.
Inovasi jaringan terutama berfokus pada arah berikut:
Peralihan media komunikasi: Tiga media utama, yaitu cahaya, tembaga, dan silikon, masing-masing memiliki keunggulan, teknologi baru seperti LPO dan silikon optik membantu menurunkan biaya.
Persaingan protokol jaringan: Protokol komunikasi antar chip seperti NV-LINK, Infinity Fabric bersaing dengan protokol komunikasi antar node seperti IB, Ethernet.
Perubahan Arsitektur Jaringan: Selain arsitektur leaf-spine, Dragonfly, rail-only, dan arsitektur baru lainnya diharapkan menjadi arah evolusi untuk kluster besar.
Saran investasi harus memperhatikan perusahaan-perusahaan yang terkait dengan inti sistem komunikasi dan inovasi. Inovasi jaringan di masa depan akan mencari keseimbangan antara "pengurangan biaya", "keterbukaan", dan skala komputasi.
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
16 Suka
Hadiah
16
5
Bagikan
Komentar
0/400
PermabullPete
· 07-31 19:20
Infrastruktur dibangun, ayo mulai!
Lihat AsliBalas0
MoonlightGamer
· 07-30 18:18
Kartu jaringan menjual pendek makanan
Lihat AsliBalas0
OnchainSniper
· 07-29 04:20
Biaya jaringan terlalu tinggi, ya?
Lihat AsliBalas0
MevShadowranger
· 07-29 04:19
Daya Komputasi dukungan upgrade yang paling penting
Permintaan jaringan meningkat pesat di era AI, arah inovasi berfokus pada pengurangan biaya dan keterbukaan.
Jaringan Era AI: Permintaan dan Inovasi
Jaringan memainkan peran kunci di era model AI besar. Seiring dengan semakin besarnya skala model, kluster server ganda menjadi cara utama untuk menyelesaikan masalah pelatihan, yang juga membentuk dasar bagi jaringan untuk "naik tingkat" di era AI. Berbeda dengan masa lalu yang hanya digunakan untuk mentransmisikan data, kini jaringan lebih banyak digunakan untuk menyinkronkan parameter model antar kartu grafis, yang meningkatkan tuntutan terhadap densitas dan kapasitas jaringan.
Permintaan jaringan terutama berasal dari tiga aspek:
Ukuran model yang besar: Waktu pelatihan sebanding dengan jumlah parameter model, dan kecepatan komputasi per perangkat terbatas, sehingga bagaimana memanfaatkan jaringan untuk memperluas "jumlah perangkat" dan "efisiensi paralel" secara langsung menentukan kekuatan komputasi.
Komunikasi kompleks sinkronisasi multi-kartu: Setelah pemodelan dibagi menjadi kartu tunggal, setiap perhitungan memerlukan penyelarasan, yang menuntut persyaratan lebih tinggi untuk transmisi dan pertukaran jaringan.
Biaya kegagalan yang mahal: Pelatihan model besar berlangsung selama berbulan-bulan, gangguan dapat menyebabkan kerugian besar. Jaringan telah menjadi rekayasa sistem yang kompleks sebanding dengan pesawat dan kapal induk.
Inovasi jaringan terutama berfokus pada arah berikut:
Peralihan media komunikasi: Tiga media utama, yaitu cahaya, tembaga, dan silikon, masing-masing memiliki keunggulan, teknologi baru seperti LPO dan silikon optik membantu menurunkan biaya.
Persaingan protokol jaringan: Protokol komunikasi antar chip seperti NV-LINK, Infinity Fabric bersaing dengan protokol komunikasi antar node seperti IB, Ethernet.
Perubahan Arsitektur Jaringan: Selain arsitektur leaf-spine, Dragonfly, rail-only, dan arsitektur baru lainnya diharapkan menjadi arah evolusi untuk kluster besar.
Saran investasi harus memperhatikan perusahaan-perusahaan yang terkait dengan inti sistem komunikasi dan inovasi. Inovasi jaringan di masa depan akan mencari keseimbangan antara "pengurangan biaya", "keterbukaan", dan skala komputasi.