AI Çağı'nın Ağı: Talep Kaynağı ve Yenilik Yönleri

Büyük modellerin yükselişiyle birlikte, ağın AI altyapısındaki önemi giderek artmaktadır. Bu makalede, ilkelerden yola çıkarak, ağın neden AI çağında kritik bir parça haline geldiğini tartışacak ve gelecekteki ağ tarafındaki yenilikçi trendler ve yatırım fırsatlarını analiz edeceğiz.

1. Ağ İhtiyaçlarının Kaynağı

Büyük model çağında, model boyutu ile tek kart hesaplama gücü sınırları arasındaki fark hızla açılıyor, çoklu sunucu kümeleri çözüm haline geliyor ve bu, AI çağında ağın öneminin artmasının temelini oluşturuyor. Geçmişte sadece veri iletimi için kullanılan ağ, artık daha fazla grafik kartları arasındaki model parametrelerini senkronize etmek için kullanılıyor ve bu da ağ yoğunluğu ve kapasitesi için daha yüksek talepler getiriyor.

Giderek Büyüyen Model Hacmi:

• Eğitim süresi = Eğitim veri ölçeği x Model parametre sayısı / Hesaplama hızı
• Hesaplama hızı = Tek cihaz hesaplama hızı x Cihaz sayısı x Çoklu cihaz paralel verimliliği

Daha büyük ölçekli eğitim verileri ve parametreler peşinde koşarken, hesaplama verimliliğini artırmak, eğitim süresini kısaltmanın anahtarı haline geliyor. Ağı kullanarak "cihaz sayısını" artırmanın ve "paralel verimliliği" yükseltmenin yolu, doğrudan hesaplama gücü seviyesini belirliyor.

Birden Fazla Kart Senkronizasyonunun Karmaşık İletişimi: Büyük model eğitiminde, modeli tek kartta kesip her hesaplamadan sonra hizalama işlemi yapılması gerekmektedir (Reduce, Gather vb. ). NVIDIA'nın NCCL iletişim ilkesinde, All-to-All ( tüm düğümlerin birbirinden değer alıp hizaladığı ) işlemi yaygındır ve ağ iletimine ve değişimine daha yüksek talepler getirir.

Artan Arıza Maliyetleri: Büyük model eğitimi genellikle aylarca sürer, kesintiye uğradığında önceki kesintiye geri dönüp yeniden eğitim yapılması gerekir. Ağdaki herhangi bir aşamanın arızası veya yüksek gecikmesi kesintiye neden olabilir, ilerlemenin geride kalmasına ve maliyetin artmasına yol açar. Modern AI ağları, uçak ve uçak gemisi gibi karmaşık sistem mühendisliklerine dönüşmüştür.

2. Ağ Yeniliğinin Yönü

Hesaplama gücü yatırım ölçeğinin genişlemesi ve model parametrelerinin sürekli genişlemesi bağlamında, "maliyet azaltma", "açıklık" ve hesaplama gücü ölçeğinin dengesi, ağ inovasyonunun ana konuları haline geldi.

İletişim Ortamının Değişimi: Işık, bakır ve silisyum, insanlığın iletimdeki üç büyük ortamıdır. AI çağında, ışık modülleri daha yüksek hız arayışında LPO, LRO, silisyum ışığı gibi maliyet düşürme yollarına da girmiştir. Bakır kablolar, maliyet etkinliği ve düşük arıza oranı sayesinde kabinet içi bağlantılarda yer edinmiştir. Chiplet, Wafer-scaling gibi yeni yarı iletken teknolojileri, silisyum tabanlı bağlantının sınırlarını keşfetmektedir.

Ağ Protokollerinin Rekabeti: Kısım arası iletişim protokolleri ve ekran kartları arasında güçlü bir bağ, örneğin NVIDIA'nın NV-LINK'i, AMD'nin Infinity Fabric'i gibi, tek bir sunucu veya tek bir hesaplama düğümünün kapasite sınırını belirler, bu da devlerin yoğun rekabet alanıdır. Düğümler arası iletişim ise esasen IB ve Ethernet etrafında yoğunlaşan bir rekabet içindedir.

Ağ mimarisindeki değişiklikler: Mevcut düğümler arası ağ mimarisi genellikle yaprak-sırt mimarisini benimsemekte olup, kullanışlı, basit ve stabil gibi özelliklere sahiptir. Ancak, tek bir kümedeki düğüm sayısı arttıkça, yaprak-sırt mimarisi aşırı büyük kümelerde gereksiz hale gelmekte ve yüksek ağ maliyetlerine yol açmaktadır. Dragonfly mimarisi, yalnızca demir yolu mimarisi gibi yeni çözümler, bir sonraki nesil aşırı büyük kümeler için evrimsel yönler olarak umut vaat etmektedir.

3. Yatırım Önerileri

İletişim Sisteminin Temel Aşamaları: Zhongji Xuchuang, Xinyi Sheng, Tianfu İletişim, Sanayi Fuhuan, Yingweike, Hudian Hisse Senetleri

İletişim Sistemi Yenilik Aşaması: Changfei Fiber, Taicheng Technology, Yuanjie Technology, Shengkete Communication-U, Hanwujing, Dekoli

4. Risk Uyarısı

• Yapay zeka talebi beklenenden düşük
• Ölçekleme yasası geçersiz
• Sektörde rekabet arttı