Обчислювальна потужність короткочасного дефіциту: нові бізнес-моделі епохи великих моделей

Навчання великих моделей потребує величезної обчислювальної потужності, але дефіцит висококласних GPU став проблемою в галузі. Ціна на одну картку NVIDIA A100 зросла до двох-трьох десятків тисяч юанів, а місячна оренда одного сервера A100 також злетіла до 5-7 тисяч юанів. Навіть так, багатьом компаніям все ще важко отримати необхідні чіпи.

Експерти розповідають, що наразі на китайському ринку налічується близько 100 тисяч висококласних GPU-карт, до кінця року їхня кількість може зрости до 200 тисяч. Компанії, які мають близько 10 тисяч карт, займають приблизно 10% ринкової частки, а 40 тисяч карт можуть займати 20%.

Але висока вартість обчислювальної потужності змушує багато компаній відмовлятися від цього. Навчання великої вертикальної моделі в галузі метеорології коштує 2 мільйони юанів, тоді як вартість загальної великої моделі може бути в сто разів вищою. В галузі вважається, що без підтримки на десятки мільярдів коштів важко продовжувати інвестувати в розробку великих моделей.

Стикаючись з нестачею обчислювальної потужності, підприємства активно реагують. До деяких методів відносяться: використання якісних даних для підвищення ефективності навчання; підвищення стабільності інфраструктури; оптимізація розподілу обчислювальної потужності; перехід з хмарної архітектури до суперкомп'ютерної архітектури; використання вітчизняних платформ GPU тощо.

Обчислювальна потужність вже стала новою моделлю послуг. Послуга обчислювальної потужності реалізує єдине виведення гетерогенних обчислювальних потужностей за допомогою нових обчислювальних технологій, інтегруючись з такими технологіями, як хмарні обчислення. Користувачам потрібно лише висловити свої потреби в обчислювальній потужності, а постачальник послуг виконає налаштування та доставку обчислювальної потужності.

Наразі послуги обчислювальної потужності в основному використовують дві моделі: оплату за споживання та підписку на рік або місяць. У майбутньому можлива розробка моделі "інтеграції обчислювальної мережі", що підтримуватиме гнучке управління між архітектурами, регіонами та постачальниками послуг.

Хоча зараз спостерігається нестача висококласних GPU, в довгостроковій перспективі попит і пропозиція врешті-решт зрівняються. Постачальники обчислювальної потужності повинні заздалегідь підготуватися до повернення ринку до раціональності. Оскільки попит на великі моделі стає нормою, обчислювальні послуги, які виникають з хмарних сервісів, швидко формують унікальний виробничий ланцюг і бізнес-модель.