Sự tiến hóa của mạng trong thời đại AI: Từ nhu cầu đến đổi mới
Với sự xuất hiện của thời đại mô hình lớn, mạng đã trở thành một phần quan trọng trong hệ thống AI. Bài viết này sẽ bắt đầu từ nguyên lý, khám phá lý do tại sao mạng trở thành "vị trí trung tâm" trong thời đại AI, và thảo luận về các cơ hội đổi mới và đầu tư trong tương lai của mạng.
Nguồn gốc của nhu cầu mạng
Kích thước mô hình ngày càng lớn, giới hạn sức mạnh tính toán của một thẻ so với quy mô mô hình ngày càng cách xa, cần giải quyết vấn đề đào tạo bằng cụm máy chủ đa năng.
Mạng không chỉ được sử dụng để truyền dữ liệu, mà còn chủ yếu để đồng bộ hóa các tham số mô hình giữa các card đồ họa, đặt ra yêu cầu cao hơn về mật độ và dung lượng mạng.
Thời gian huấn luyện có liên quan chặt chẽ đến tốc độ tính toán, trong đó tốc độ tính toán phụ thuộc vào tốc độ của một thiết bị, số lượng thiết bị và hiệu suất song song của nhiều thiết bị. Mạng đóng vai trò quan trọng đối với hai yếu tố sau.
Trong đào tạo nhiều thẻ, cần phải thực hiện căn chỉnh tham số sau mỗi lần tính toán, điều này đặt ra yêu cầu cao đối với việc truyền tải và trao đổi mạng.
Đào tạo mô hình lớn kéo dài hàng tháng, sự cố mạng có thể dẫn đến tổn thất lớn, yêu cầu độ ổn định của hệ thống rất cao.
Hướng đổi mới mạng
Thay đổi phương tiện truyền thông: Ba loại phương tiện chính là ánh sáng, đồng và silicon đều có ưu điểm riêng, đang phát triển theo hướng giảm chi phí như LPO, LRO và ánh sáng silicon.
Cạnh tranh giao thức mạng: Giao thức truyền thông trong nút liên kết với card đồ họa, giao tiếp giữa các nút chủ yếu sử dụng IB và Ethernet.
Thay đổi kiến trúc mạng: tiến hóa từ kiến trúc lá và cột sang kiến trúc Dragonfly, kiến trúc chỉ đường ray, v.v., để đáp ứng nhu cầu của cụm siêu lớn.
Gợi ý đầu tư
Chú ý đến các khâu cốt lõi của hệ thống thông tin: Trung Tế Hướng Sáng, Tân Dễ Thắng, Thiên Phú Thông Tin, v.v.
Quan tâm đến các khâu đổi mới hệ thống truyền thông: Longfly Fiber, Taicheng Light, Shengke Communication, v.v.
Tập trung vào sự cân bằng giữa đổi mới giảm chi phí, hệ sinh thái mở và quy mô sức mạnh tính toán.
Theo dõi sự phát triển công nghệ mới, nắm bắt sự thay đổi nhu cầu linh kiện do đó.
Kỹ thuật hệ thống mạng là kết quả của sự đổi mới và nỗ lực chung của nhiều yếu tố, các cơ hội đầu tư trở nên rõ ràng hơn và dễ theo dõi. Bên cạnh việc nắm bắt các yếu tố cốt lõi, cũng cần tích cực chú ý đến những cơ hội mới do sự đổi mới mang lại.
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
20 thích
Phần thưởng
20
8
Chia sẻ
Bình luận
0/400
ApeDegen
· 12giờ trước
Cái này thật sự quá căng thẳng rồi, bây giờ thẻ cũng phải làm việc song song.
Xem bản gốcTrả lời0
ResearchChadButBroke
· 22giờ trước
啧啧 又是一波 được chơi cho Suckers的机会来了
Xem bản gốcTrả lời0
MindsetExpander
· 08-03 03:45
Mạng lưới mật độ gì đó đã rõ ràng, chỉ còn thiếu tiền.
Xem bản gốcTrả lời0
ShitcoinConnoisseur
· 08-03 03:45
Chỉ là theo phong trào thôi, mọi thứ đều là dao hái.
Sự tiến hóa mạng trong thời đại AI: Từ nhu cầu đến đổi mới Phân tích vai trò then chốt của mạng trong thời đại mô hình lớn
Sự tiến hóa của mạng trong thời đại AI: Từ nhu cầu đến đổi mới
Với sự xuất hiện của thời đại mô hình lớn, mạng đã trở thành một phần quan trọng trong hệ thống AI. Bài viết này sẽ bắt đầu từ nguyên lý, khám phá lý do tại sao mạng trở thành "vị trí trung tâm" trong thời đại AI, và thảo luận về các cơ hội đổi mới và đầu tư trong tương lai của mạng.
Nguồn gốc của nhu cầu mạng
Kích thước mô hình ngày càng lớn, giới hạn sức mạnh tính toán của một thẻ so với quy mô mô hình ngày càng cách xa, cần giải quyết vấn đề đào tạo bằng cụm máy chủ đa năng.
Mạng không chỉ được sử dụng để truyền dữ liệu, mà còn chủ yếu để đồng bộ hóa các tham số mô hình giữa các card đồ họa, đặt ra yêu cầu cao hơn về mật độ và dung lượng mạng.
Thời gian huấn luyện có liên quan chặt chẽ đến tốc độ tính toán, trong đó tốc độ tính toán phụ thuộc vào tốc độ của một thiết bị, số lượng thiết bị và hiệu suất song song của nhiều thiết bị. Mạng đóng vai trò quan trọng đối với hai yếu tố sau.
Trong đào tạo nhiều thẻ, cần phải thực hiện căn chỉnh tham số sau mỗi lần tính toán, điều này đặt ra yêu cầu cao đối với việc truyền tải và trao đổi mạng.
Đào tạo mô hình lớn kéo dài hàng tháng, sự cố mạng có thể dẫn đến tổn thất lớn, yêu cầu độ ổn định của hệ thống rất cao.
Hướng đổi mới mạng
Thay đổi phương tiện truyền thông: Ba loại phương tiện chính là ánh sáng, đồng và silicon đều có ưu điểm riêng, đang phát triển theo hướng giảm chi phí như LPO, LRO và ánh sáng silicon.
Cạnh tranh giao thức mạng: Giao thức truyền thông trong nút liên kết với card đồ họa, giao tiếp giữa các nút chủ yếu sử dụng IB và Ethernet.
Thay đổi kiến trúc mạng: tiến hóa từ kiến trúc lá và cột sang kiến trúc Dragonfly, kiến trúc chỉ đường ray, v.v., để đáp ứng nhu cầu của cụm siêu lớn.
Gợi ý đầu tư
Chú ý đến các khâu cốt lõi của hệ thống thông tin: Trung Tế Hướng Sáng, Tân Dễ Thắng, Thiên Phú Thông Tin, v.v.
Quan tâm đến các khâu đổi mới hệ thống truyền thông: Longfly Fiber, Taicheng Light, Shengke Communication, v.v.
Tập trung vào sự cân bằng giữa đổi mới giảm chi phí, hệ sinh thái mở và quy mô sức mạnh tính toán.
Theo dõi sự phát triển công nghệ mới, nắm bắt sự thay đổi nhu cầu linh kiện do đó.
Kỹ thuật hệ thống mạng là kết quả của sự đổi mới và nỗ lực chung của nhiều yếu tố, các cơ hội đầu tư trở nên rõ ràng hơn và dễ theo dõi. Bên cạnh việc nắm bắt các yếu tố cốt lõi, cũng cần tích cực chú ý đến những cơ hội mới do sự đổi mới mang lại.