Ağ, AI büyük model çağında kritik bir rol oynamaktadır. Modellerin ölçeği sürekli olarak genişledikçe, çoklu sunucu kümeleri eğitim sorunlarını çözmenin ana yolu haline gelmiştir; bu da AI çağında ağın "üst düzey" olmasının temelini atmıştır. Geçmişte yalnızca veri iletimi için kullanılan ağ, artık daha fazla olarak grafik kartları arasındaki model parametrelerini senkronize etmek için kullanılmakta ve bu durum ağ yoğunluğu ve kapasitesi için daha yüksek gereksinimler ortaya çıkarmaktadır.
Ağ talebinin temel kaynakları üç alandan gelmektedir:
Büyük model boyutu: Eğitim süresi, model parametre miktarı ile doğru orantılıdır ve tek cihazın hesaplama hızı sınırlıdır, bu nedenle ağı kullanarak "cihaz sayısını" ve "eşzamanlı verimliliği" nasıl artıracağınız, hesaplama gücünü doğrudan belirler.
Çoklu kart senkronizasyonunun karmaşık iletişimi: Model tek karta bölündüğünde, her hesaplama için hizalama yapılması gerekmektedir, bu da ağ iletim ve değişimi için daha yüksek talepler ortaya çıkarmaktadır.
Pahalı arıza maliyetleri: Büyük model eğitimi aylarca sürmektedir, kesintiler büyük kayıplara neden olabilir. Ağ, uçak ve uçak gemileriyle karşılaştırılabilecek karmaşık bir sistem mühendisliği haline gelmiştir.
Ağ inovasyonu esas olarak aşağıdaki alanlara odaklanmaktadır:
İletişim ortamlarının değişimi: Işık, bakır ve silikondan oluşan üç ana ortamın her birinin avantajları var, LPO, silikon ışık gibi yeni teknolojiler maliyetleri düşürmeye yardımcı oluyor.
Ağ Protokolü Rekabeti: NV-LINK, Infinity Fabric gibi yongalar arası iletişim protokolleri ile IB, Ethernet gibi düğümler arası iletişim protokolleri arasında rekabet.
Ağ mimarisi değişiklikleri: Yaprak omuz mimarisinin ötesinde, Dragonfly, sadece demir yolu gibi yeni mimarilerin büyük kümelerin evrim yönü olması bekleniyor.
Yatırım önerileri, iletişim sistemlerinin temel ve yenilikçi aşamalarındaki ilgili şirketlere odaklanmalıdır. Gelecekteki ağ yenilikleri, "maliyet düşürme", "açıklık" ve hesaplama gücü ölçeği arasında bir denge arayacaktır.
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
AI çağında ağ talebinin artması, yenilikçi yönlerin maliyetleri düşürme ve açık olma üzerine odaklanmasını sağlıyor.
AI Çağı İnterneti: Talep ve Yenilik
Ağ, AI büyük model çağında kritik bir rol oynamaktadır. Modellerin ölçeği sürekli olarak genişledikçe, çoklu sunucu kümeleri eğitim sorunlarını çözmenin ana yolu haline gelmiştir; bu da AI çağında ağın "üst düzey" olmasının temelini atmıştır. Geçmişte yalnızca veri iletimi için kullanılan ağ, artık daha fazla olarak grafik kartları arasındaki model parametrelerini senkronize etmek için kullanılmakta ve bu durum ağ yoğunluğu ve kapasitesi için daha yüksek gereksinimler ortaya çıkarmaktadır.
Ağ talebinin temel kaynakları üç alandan gelmektedir:
Büyük model boyutu: Eğitim süresi, model parametre miktarı ile doğru orantılıdır ve tek cihazın hesaplama hızı sınırlıdır, bu nedenle ağı kullanarak "cihaz sayısını" ve "eşzamanlı verimliliği" nasıl artıracağınız, hesaplama gücünü doğrudan belirler.
Çoklu kart senkronizasyonunun karmaşık iletişimi: Model tek karta bölündüğünde, her hesaplama için hizalama yapılması gerekmektedir, bu da ağ iletim ve değişimi için daha yüksek talepler ortaya çıkarmaktadır.
Pahalı arıza maliyetleri: Büyük model eğitimi aylarca sürmektedir, kesintiler büyük kayıplara neden olabilir. Ağ, uçak ve uçak gemileriyle karşılaştırılabilecek karmaşık bir sistem mühendisliği haline gelmiştir.
Ağ inovasyonu esas olarak aşağıdaki alanlara odaklanmaktadır:
İletişim ortamlarının değişimi: Işık, bakır ve silikondan oluşan üç ana ortamın her birinin avantajları var, LPO, silikon ışık gibi yeni teknolojiler maliyetleri düşürmeye yardımcı oluyor.
Ağ Protokolü Rekabeti: NV-LINK, Infinity Fabric gibi yongalar arası iletişim protokolleri ile IB, Ethernet gibi düğümler arası iletişim protokolleri arasında rekabet.
Ağ mimarisi değişiklikleri: Yaprak omuz mimarisinin ötesinde, Dragonfly, sadece demir yolu gibi yeni mimarilerin büyük kümelerin evrim yönü olması bekleniyor.
Yatırım önerileri, iletişim sistemlerinin temel ve yenilikçi aşamalarındaki ilgili şirketlere odaklanmalıdır. Gelecekteki ağ yenilikleri, "maliyet düşürme", "açıklık" ve hesaplama gücü ölçeği arasında bir denge arayacaktır.