Evolusi Jaringan di Era AI: Dari Permintaan ke Inovasi
Dengan kedatangan era model besar, jaringan telah menjadi bagian kunci dalam sistem AI. Artikel ini akan membahas dari prinsipnya, mengapa jaringan menjadi "posisi C" di era AI, dan mendiskusikan inovasi serta peluang investasi di sisi jaringan di masa depan.
Sumber Permintaan Jaringan
Ukuran model semakin besar, batas kemampuan per kartu dan skala model semakin jauh, perlu solusi pelatihan dengan kluster server multi.
Jaringan tidak hanya digunakan untuk mentransfer data, tetapi lebih untuk menyinkronkan parameter model antara kartu grafis, yang menuntut persyaratan yang lebih tinggi untuk kepadatan dan kapasitas jaringan.
Waktu pelatihan sangat terkait dengan kecepatan perhitungan, dan kecepatan perhitungan bergantung pada kecepatan perangkat tunggal, jumlah perangkat, dan efisiensi paralel beberapa perangkat. Jaringan memainkan peran kunci dalam dua hal terakhir.
Dalam pelatihan multi-kartu, setelah setiap perhitungan perlu dilakukan penyelarasan parameter, yang menuntut persyaratan tinggi untuk transmisi dan pertukaran jaringan.
Pelatihan model besar berlangsung selama berbulan-bulan, gangguan jaringan dapat menyebabkan kerugian besar, dan permintaan stabilitas sistem sangat tinggi.
Arah Inovasi Jaringan
Perubahan media komunikasi: cahaya, tembaga, dan silikon masing-masing memiliki keunggulan, sedang berkembang ke arah pengurangan biaya seperti LPO, LRO, dan silikon optik.
Kompetisi Protokol Jaringan: Protokol komunikasi dalam node terikat dengan kartu grafis, komunikasi antar node terutama menggunakan IB dan Ethernet.
Perubahan Arsitektur Jaringan: Beralih dari arsitektur Leaf-Spine ke arah arsitektur Dragonfly, arsitektur rail-only, dan lainnya untuk memenuhi kebutuhan cluster besar.
Saran Investasi
Perhatikan inti sistem komunikasi: Zhongji Xuchuang, Xinyi Sheng, Tianfu Communication, dll.
Perhatikan inovasi dalam sistem komunikasi: Yangtze Optical Fiber, Taiyuan Optics, Shengke Communication, dll.
Fokus utama pada inovasi pengurangan biaya, ekosistem terbuka, dan keseimbangan skala komputasi.
Mengikuti perkembangan teknologi baru, memahami perubahan permintaan komponen yang dihasilkan.
Rekayasa sistem jaringan adalah hasil inovasi dan upaya bersama dari banyak aspek, di mana peluang investasi menjadi lebih jelas dan dapat diikuti. Sambil menangkap aspek inti, penting juga untuk secara aktif memperhatikan peluang baru yang dibawa oleh inovasi.
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
20 Suka
Hadiah
20
8
Bagikan
Komentar
0/400
ApeDegen
· 16jam yang lalu
Ini terlalu ketat sekarang, kartu juga harus bekerja secara paralel.
Lihat AsliBalas0
ResearchChadButBroke
· 08-05 16:03
Tsk tsk, sekali lagi kesempatan untuk Dianggap Bodoh datang.
Lihat AsliBalas0
MindsetExpander
· 08-03 03:45
Saya sudah mengerti tentang kepadatan jaringan dan sebagainya, sekarang yang kurang adalah uang.
Lihat AsliBalas0
ShitcoinConnoisseur
· 08-03 03:45
Hanya mengikuti tren, semuanya hanya untuk memotong.
Lihat AsliBalas0
EthMaximalist
· 08-03 03:44
Chip sudah tidak cukup, masih membahas jaringan di sini.
Lihat AsliBalas0
SorryRugPulled
· 08-03 03:44
Sekali lagi menggambar kue, menunggu puncak besar besi
Evolusi Jaringan di Era AI: Dari Permintaan ke Inovasi Menganalisis Peran Kunci Jaringan di Era Model Besar
Evolusi Jaringan di Era AI: Dari Permintaan ke Inovasi
Dengan kedatangan era model besar, jaringan telah menjadi bagian kunci dalam sistem AI. Artikel ini akan membahas dari prinsipnya, mengapa jaringan menjadi "posisi C" di era AI, dan mendiskusikan inovasi serta peluang investasi di sisi jaringan di masa depan.
Sumber Permintaan Jaringan
Ukuran model semakin besar, batas kemampuan per kartu dan skala model semakin jauh, perlu solusi pelatihan dengan kluster server multi.
Jaringan tidak hanya digunakan untuk mentransfer data, tetapi lebih untuk menyinkronkan parameter model antara kartu grafis, yang menuntut persyaratan yang lebih tinggi untuk kepadatan dan kapasitas jaringan.
Waktu pelatihan sangat terkait dengan kecepatan perhitungan, dan kecepatan perhitungan bergantung pada kecepatan perangkat tunggal, jumlah perangkat, dan efisiensi paralel beberapa perangkat. Jaringan memainkan peran kunci dalam dua hal terakhir.
Dalam pelatihan multi-kartu, setelah setiap perhitungan perlu dilakukan penyelarasan parameter, yang menuntut persyaratan tinggi untuk transmisi dan pertukaran jaringan.
Pelatihan model besar berlangsung selama berbulan-bulan, gangguan jaringan dapat menyebabkan kerugian besar, dan permintaan stabilitas sistem sangat tinggi.
Arah Inovasi Jaringan
Perubahan media komunikasi: cahaya, tembaga, dan silikon masing-masing memiliki keunggulan, sedang berkembang ke arah pengurangan biaya seperti LPO, LRO, dan silikon optik.
Kompetisi Protokol Jaringan: Protokol komunikasi dalam node terikat dengan kartu grafis, komunikasi antar node terutama menggunakan IB dan Ethernet.
Perubahan Arsitektur Jaringan: Beralih dari arsitektur Leaf-Spine ke arah arsitektur Dragonfly, arsitektur rail-only, dan lainnya untuk memenuhi kebutuhan cluster besar.
Saran Investasi
Perhatikan inti sistem komunikasi: Zhongji Xuchuang, Xinyi Sheng, Tianfu Communication, dll.
Perhatikan inovasi dalam sistem komunikasi: Yangtze Optical Fiber, Taiyuan Optics, Shengke Communication, dll.
Fokus utama pada inovasi pengurangan biaya, ekosistem terbuka, dan keseimbangan skala komputasi.
Mengikuti perkembangan teknologi baru, memahami perubahan permintaan komponen yang dihasilkan.
Rekayasa sistem jaringan adalah hasil inovasi dan upaya bersama dari banyak aspek, di mana peluang investasi menjadi lebih jelas dan dapat diikuti. Sambil menangkap aspek inti, penting juga untuk secara aktif memperhatikan peluang baru yang dibawa oleh inovasi.