Khả năng tính toán thiếu hụt đằng sau: Mô hình kinh doanh mới trong thời đại mô hình lớn
Đào tạo mô hình lớn cần một lượng lớn Khả năng tính toán, nhưng nhu cầu về GPU cao cấp vượt quá cung đã trở thành một vấn đề khó khăn trong ngành. Giá của một chiếc Nvidia A100 đã bị đẩy lên tới hai đến ba mươi vạn nhân dân tệ, và giá thuê một máy chủ A100 cũng tăng vọt lên tới 5-7 vạn nhân dân tệ mỗi tháng. Dù vậy, nhiều doanh nghiệp vẫn khó khăn trong việc có được chip cần thiết.
Các chuyên gia trong ngành tiết lộ, hiện tại thị trường Trung Quốc có khoảng 100.000 thẻ GPU cao cấp, có thể tăng lên 200.000 thẻ vào cuối năm. Các doanh nghiệp sở hữu gần 10.000 thẻ chiếm khoảng 10% thị phần, trong khi 40.000 thẻ có thể chiếm 20%.
Nhưng chi phí khả năng tính toán cao khiến nhiều doanh nghiệp phải chùn bước. Để đào tạo một mô hình lớn chuyên ngành khí tượng cần tới 2 triệu nhân dân tệ, trong khi chi phí cho mô hình lớn tổng quát có thể gấp trăm lần. Ngành công nghiệp thường cho rằng, không có hàng tỷ vốn hỗ trợ, rất khó để tiếp tục đầu tư vào nghiên cứu và phát triển mô hình lớn.
Đối mặt với tình trạng thiếu hụt khả năng tính toán, các doanh nghiệp đang tích cực ứng phó. Một số phương pháp bao gồm: sử dụng dữ liệu chất lượng cao để nâng cao hiệu quả đào tạo; cải thiện độ ổn định của hạ tầng; tối ưu hóa việc phân bổ khả năng tính toán; chuyển đổi từ kiến trúc điện toán đám mây sang kiến trúc siêu máy tính; sử dụng nền tảng GPU nội địa.
Khả năng tính toán đã trở thành một mô hình dịch vụ mới. Dịch vụ khả năng tính toán thực hiện đầu ra đồng nhất khả năng tính toán dị thể thông qua công nghệ tính toán mới, kết hợp với các công nghệ như điện toán đám mây. Người sử dụng chỉ cần đưa ra nhu cầu về khả năng tính toán, nhà cung cấp sẽ hoàn thành cấu hình và giao hàng khả năng tính toán.
Hiện tại, dịch vụ khả năng tính toán chủ yếu áp dụng hai hình thức tính phí là theo lượng sử dụng và theo gói hàng năm hoặc hàng tháng. Trong tương lai, có thể phát triển mô hình "tích hợp khả năng tính toán và mạng", hỗ trợ điều phối linh hoạt giữa các kiến trúc, khu vực và nhà cung cấp khác nhau.
Mặc dù hiện tại có sự thiếu hụt GPU cao cấp, nhưng về lâu dài, cung và cầu cuối cùng sẽ cân bằng. Các nhà cung cấp dịch vụ khả năng tính toán cần chuẩn bị trước cho những điều không chắc chắn, sẵn sàng cho sự trở lại của thị trường một cách hợp lý. Khi nhu cầu về mô hình lớn trở nên bình thường, dịch vụ khả năng tính toán phát sinh từ dịch vụ đám mây đang nhanh chóng hình thành một chuỗi công nghiệp và mô hình kinh doanh độc đáo.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
24 thích
Phần thưởng
24
7
Đăng lại
Chia sẻ
Bình luận
0/400
WalletDetective
· 07-17 18:11
Chắc là không còn tiền sau khi giành thẻ rồi nhỉ.
Xem bản gốcTrả lời0
SignatureAnxiety
· 07-17 00:53
Không phải GPU quá đắt, mà là tôi quá nghèo.
Xem bản gốcTrả lời0
OnchainSniper
· 07-14 22:19
Tiền đều vào túi của Nvidia.
Xem bản gốcTrả lời0
AirdropFreedom
· 07-14 22:18
Có tiền thì có khả năng tính toán
Xem bản gốcTrả lời0
MoneyBurner
· 07-14 22:15
Lạc quan làm việc, sẵn sàng mất hết hộ chiếu Rug Pull
Thiếu hụt khả năng tính toán trong thời đại mô hình lớn: Các mô hình kinh doanh mới và chiến lược ứng phó
Khả năng tính toán thiếu hụt đằng sau: Mô hình kinh doanh mới trong thời đại mô hình lớn
Đào tạo mô hình lớn cần một lượng lớn Khả năng tính toán, nhưng nhu cầu về GPU cao cấp vượt quá cung đã trở thành một vấn đề khó khăn trong ngành. Giá của một chiếc Nvidia A100 đã bị đẩy lên tới hai đến ba mươi vạn nhân dân tệ, và giá thuê một máy chủ A100 cũng tăng vọt lên tới 5-7 vạn nhân dân tệ mỗi tháng. Dù vậy, nhiều doanh nghiệp vẫn khó khăn trong việc có được chip cần thiết.
Các chuyên gia trong ngành tiết lộ, hiện tại thị trường Trung Quốc có khoảng 100.000 thẻ GPU cao cấp, có thể tăng lên 200.000 thẻ vào cuối năm. Các doanh nghiệp sở hữu gần 10.000 thẻ chiếm khoảng 10% thị phần, trong khi 40.000 thẻ có thể chiếm 20%.
Nhưng chi phí khả năng tính toán cao khiến nhiều doanh nghiệp phải chùn bước. Để đào tạo một mô hình lớn chuyên ngành khí tượng cần tới 2 triệu nhân dân tệ, trong khi chi phí cho mô hình lớn tổng quát có thể gấp trăm lần. Ngành công nghiệp thường cho rằng, không có hàng tỷ vốn hỗ trợ, rất khó để tiếp tục đầu tư vào nghiên cứu và phát triển mô hình lớn.
Đối mặt với tình trạng thiếu hụt khả năng tính toán, các doanh nghiệp đang tích cực ứng phó. Một số phương pháp bao gồm: sử dụng dữ liệu chất lượng cao để nâng cao hiệu quả đào tạo; cải thiện độ ổn định của hạ tầng; tối ưu hóa việc phân bổ khả năng tính toán; chuyển đổi từ kiến trúc điện toán đám mây sang kiến trúc siêu máy tính; sử dụng nền tảng GPU nội địa.
Khả năng tính toán đã trở thành một mô hình dịch vụ mới. Dịch vụ khả năng tính toán thực hiện đầu ra đồng nhất khả năng tính toán dị thể thông qua công nghệ tính toán mới, kết hợp với các công nghệ như điện toán đám mây. Người sử dụng chỉ cần đưa ra nhu cầu về khả năng tính toán, nhà cung cấp sẽ hoàn thành cấu hình và giao hàng khả năng tính toán.
Hiện tại, dịch vụ khả năng tính toán chủ yếu áp dụng hai hình thức tính phí là theo lượng sử dụng và theo gói hàng năm hoặc hàng tháng. Trong tương lai, có thể phát triển mô hình "tích hợp khả năng tính toán và mạng", hỗ trợ điều phối linh hoạt giữa các kiến trúc, khu vực và nhà cung cấp khác nhau.
Mặc dù hiện tại có sự thiếu hụt GPU cao cấp, nhưng về lâu dài, cung và cầu cuối cùng sẽ cân bằng. Các nhà cung cấp dịch vụ khả năng tính toán cần chuẩn bị trước cho những điều không chắc chắn, sẵn sàng cho sự trở lại của thị trường một cách hợp lý. Khi nhu cầu về mô hình lớn trở nên bình thường, dịch vụ khả năng tính toán phát sinh từ dịch vụ đám mây đang nhanh chóng hình thành một chuỗi công nghiệp và mô hình kinh doanh độc đáo.