Bilgi İşlem Gücü yeni hizmet modeli haline geliyor, büyük model heyecanının getirdiği dönüşüm
Son günlerde, büyük model eğitimi talebi patladı, yüksek performanslı GPU'lar yetersiz kalıyor ve bu durum sektörün sıcak konularından biri haline geldi. Bir Nvidia A100 ekran kartının fiyatı 20 bin civarına fırladı, aylık kiralama ücreti ise 5-7 bin lira oldu. Buna rağmen, hâlâ bazı şirketler tedarikçi iptalleri gibi sorunlarla karşılaşıyor.
Bu bilgi işlem gücü kıtlığının kısa vadede çözülmesi zor. Uzmanlar, on milyarlarca dolarlık bir yatırım olmadan büyük modellerin geliştirilmesinin sürdürülebilir olamayacağını belirtiyor. Bazı girişimciler, yüz milyar veya trilyonlarca dolarlık bir destek olmadan bu yolun geçilebilir olmadığını düşünüyor.
Bu durumla karşı karşıya kalındığında, sektörde genel olarak, pazarın coşkudan rasyonelliğe geçmesiyle birlikte, şirketlerin beklentilere göre stratejilerini ayarlayıp maliyetleri kontrol edeceği düşünülmektedir.
Bilgi İşlem Gücü kıtlığı ile başa çıkmak için şirketler çeşitli yöntemler kullandı:
Yüksek kaliteli verileri kullanarak eğitim verimliliğini artırın
Altyapı istikrarını artırmak, 1000 kalori uzun vadeli istikrarlı çalışmasını sağlamak
Bilgi İşlem Gücü kartı kaynak dağıtımını optimize edin, ayrıntılı dağıtılmış dağıtım gerçekleştirin.
Ağ hızını artırın, eğitim kesintilerini önleyin
Bulut bilişim mimarisinden süper bilgisayar mimarisine geçiş
Yerli platformları kullanarak Nvidia GPU'ların yerini alın.
Bu yöntemlerin hepsi güçlü teknik yetenekler gerektirir, genel olarak işletmeler kendi veri merkezlerini kurarak ihtiyaçlarını karşılamakta zorlanır, bu nedenle genellikle profesyonel Bilgi İşlem Gücü hizmet sağlayıcılarından destek alırlar.
Aslında, rekabet ettiğimiz "büyük model Bilgi İşlem Gücü" yeni bir hizmet modeli haline geldi. Bilgi İşlem Gücü hizmetleri, çeşitli Bilgi İşlem Gücü temelli, Bilgi İşlem Gücü ağları ile bağlantılı ve etkili Bilgi İşlem Gücü arzını hedefleyen yeni bir alandır. Bu sadece Bilgi İşlem Gücü ile sınırlı kalmaz, aynı zamanda depolama, ağ gibi kaynakları da kapsar ve API gibi biçimlerde sunulur.
Güç işlem endüstri zincirinde, yukarı akış temel kaynakları sağlar, orta akış güç işlem hizmetleri sunar, aşağı akış ise endüstri kullanıcılarıdır. Kendine ait bir çevre inşa etmeye kıyasla, güç işlem hizmetleri kullanmak maliyet ve teknoloji açısından daha avantajlıdır.
Şu anda bilgi işlem gücü hizmetleri esasen iki modelde sunulmaktadır: kullanım başına ücretlendirme ve yıllık/aylık abonelik. Gelecekte ise "bilgi ağı entegrasyonu"nu teşvik edecek, farklı mimariler, bölgeler ve hizmet sağlayıcılar arasında kaynak yönetimini destekleyecektir.
Büyük model taleplerinin normalleşmesiyle birlikte, bilgi işlem gücü hizmetleri hızla benzersiz bir sanayi zinciri ve iş modeli haline gelmektedir. Şu anda yüksek kaliteli GPU'ların kıtlığı yaşansa da, bu sadece geçici bir durumdur. Uzun vadede, bilgi işlem gücü sağlayıcıları, pazarın rasyonelliğe döndükten sonraki hızlı değişime hazırlıklı olmalıdır.
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Büyük model dalgası, bilgi işlem gücü hizmetlerinde yeni iş fırsatları yaratıyor. Şirketler, GPU kıtlığına karşı stratejiler geliştirmeli.
Bilgi İşlem Gücü yeni hizmet modeli haline geliyor, büyük model heyecanının getirdiği dönüşüm
Son günlerde, büyük model eğitimi talebi patladı, yüksek performanslı GPU'lar yetersiz kalıyor ve bu durum sektörün sıcak konularından biri haline geldi. Bir Nvidia A100 ekran kartının fiyatı 20 bin civarına fırladı, aylık kiralama ücreti ise 5-7 bin lira oldu. Buna rağmen, hâlâ bazı şirketler tedarikçi iptalleri gibi sorunlarla karşılaşıyor.
Bu bilgi işlem gücü kıtlığının kısa vadede çözülmesi zor. Uzmanlar, on milyarlarca dolarlık bir yatırım olmadan büyük modellerin geliştirilmesinin sürdürülebilir olamayacağını belirtiyor. Bazı girişimciler, yüz milyar veya trilyonlarca dolarlık bir destek olmadan bu yolun geçilebilir olmadığını düşünüyor.
Bu durumla karşı karşıya kalındığında, sektörde genel olarak, pazarın coşkudan rasyonelliğe geçmesiyle birlikte, şirketlerin beklentilere göre stratejilerini ayarlayıp maliyetleri kontrol edeceği düşünülmektedir.
Bilgi İşlem Gücü kıtlığı ile başa çıkmak için şirketler çeşitli yöntemler kullandı:
Bu yöntemlerin hepsi güçlü teknik yetenekler gerektirir, genel olarak işletmeler kendi veri merkezlerini kurarak ihtiyaçlarını karşılamakta zorlanır, bu nedenle genellikle profesyonel Bilgi İşlem Gücü hizmet sağlayıcılarından destek alırlar.
Aslında, rekabet ettiğimiz "büyük model Bilgi İşlem Gücü" yeni bir hizmet modeli haline geldi. Bilgi İşlem Gücü hizmetleri, çeşitli Bilgi İşlem Gücü temelli, Bilgi İşlem Gücü ağları ile bağlantılı ve etkili Bilgi İşlem Gücü arzını hedefleyen yeni bir alandır. Bu sadece Bilgi İşlem Gücü ile sınırlı kalmaz, aynı zamanda depolama, ağ gibi kaynakları da kapsar ve API gibi biçimlerde sunulur.
Güç işlem endüstri zincirinde, yukarı akış temel kaynakları sağlar, orta akış güç işlem hizmetleri sunar, aşağı akış ise endüstri kullanıcılarıdır. Kendine ait bir çevre inşa etmeye kıyasla, güç işlem hizmetleri kullanmak maliyet ve teknoloji açısından daha avantajlıdır.
Şu anda bilgi işlem gücü hizmetleri esasen iki modelde sunulmaktadır: kullanım başına ücretlendirme ve yıllık/aylık abonelik. Gelecekte ise "bilgi ağı entegrasyonu"nu teşvik edecek, farklı mimariler, bölgeler ve hizmet sağlayıcılar arasında kaynak yönetimini destekleyecektir.
Büyük model taleplerinin normalleşmesiyle birlikte, bilgi işlem gücü hizmetleri hızla benzersiz bir sanayi zinciri ve iş modeli haline gelmektedir. Şu anda yüksek kaliteli GPU'ların kıtlığı yaşansa da, bu sadece geçici bir durumdur. Uzun vadede, bilgi işlem gücü sağlayıcıları, pazarın rasyonelliğe döndükten sonraki hızlı değişime hazırlıklı olmalıdır.