Вычислительная мощность в дефиците: новая бизнес-модель эпохи больших моделей
Обучение больших моделей требует огромной вычислительной мощности, но нехватка высококлассных графических процессоров стала проблемой в отрасли. Цена одной видеокарты NVIDIA A100 взлетела до 200-300 тысяч юаней, а месячная аренда одного сервера A100 также поднялась до 50-70 тысяч юаней. Тем не менее, многим компаниям по-прежнему трудно получить необходимые чипы.
По данным инсайдеров, в настоящее время на китайском рынке насчитывается около 100 000 высококачественных графических процессоров (GPU), и к концу года их количество может вырасти до 200 000. Компании, владеющие почти 10 000 карт, занимают около 10% рыночной доли, а 40 000 карт могут занять 20%.
Но высокая стоимость вычислительной мощности заставляет многие компании отказываться от этого. Обучение вертикальной большой модели в области метеорологии требует 2 миллиона юаней, в то время как стоимость универсальной большой модели может быть в сто раз выше. В业内普遍认为, без миллиардных инвестиций сложно продолжать вкладываться в разработку больших моделей.
面对 Вычислительная мощность 短缺,企业正在积极应对。一些方法包括:使用高质量数据提升训练效率;提升基础架构稳定性;优化 Вычислительная мощность 调度;从云计算架构过渡到超算架构;使用国产GPU平台等。
Вычислительная мощность стала новой моделью услуги. Сервисы вычислительной мощности реализуют унифицированный вывод гетерогенной вычислительной мощности с помощью новых вычислительных технологий, интегрируясь с такими технологиями, как облачные вычисления. Пользователям нужно лишь обозначить потребность в вычислительной мощности, а поставщик услуг осуществляет конфигурацию и доставку вычислительной мощности.
В настоящее время услуги вычислительной мощности в основном предлагаются в двух режимах: по мере использования и по годовой или месячной подписке. В будущем возможно развитие модели "интеграции вычислительной сети", которая будет поддерживать гибкое распределение ресурсов между различными архитектурами, регионами и поставщиками услуг.
Хотя в настоящее время наблюдается нехватка высококлассных GPU, в долгосрочной перспективе спрос и предложение в конечном итоге уравновесятся. Поставщики вычислительной мощности должны заранее позаботиться о подготовке к возвращению рынка к рациональности. С учетом нормализации спроса на большие модели, вычислительные услуги, возникшие из облачных сервисов, быстро формируют уникальную цепочку производства и бизнес-модель.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
24 Лайков
Награда
24
7
Репост
Поделиться
комментарий
0/400
WalletDetective
· 07-17 18:11
Вы, наверное, потратили все деньги на карты.
Посмотреть ОригиналОтветить0
SignatureAnxiety
· 07-17 00:53
Не то чтобы GPU были слишком дорогими, а я слишком беден.
Посмотреть ОригиналОтветить0
OnchainSniper
· 07-14 22:19
Все деньги ушли в карман NVIDIA.
Посмотреть ОригиналОтветить0
AirdropFreedom
· 07-14 22:18
Деньги дают вычислительную мощность
Посмотреть ОригиналОтветить0
MoneyBurner
· 07-14 22:15
Оптимистичный работяга, всегда готов потерять паспорт и сбежать.
Недостаток вычислительной мощности в эпоху больших моделей: новые бизнес-модели и стратегии реагирования
Вычислительная мощность в дефиците: новая бизнес-модель эпохи больших моделей
Обучение больших моделей требует огромной вычислительной мощности, но нехватка высококлассных графических процессоров стала проблемой в отрасли. Цена одной видеокарты NVIDIA A100 взлетела до 200-300 тысяч юаней, а месячная аренда одного сервера A100 также поднялась до 50-70 тысяч юаней. Тем не менее, многим компаниям по-прежнему трудно получить необходимые чипы.
По данным инсайдеров, в настоящее время на китайском рынке насчитывается около 100 000 высококачественных графических процессоров (GPU), и к концу года их количество может вырасти до 200 000. Компании, владеющие почти 10 000 карт, занимают около 10% рыночной доли, а 40 000 карт могут занять 20%.
Но высокая стоимость вычислительной мощности заставляет многие компании отказываться от этого. Обучение вертикальной большой модели в области метеорологии требует 2 миллиона юаней, в то время как стоимость универсальной большой модели может быть в сто раз выше. В业内普遍认为, без миллиардных инвестиций сложно продолжать вкладываться в разработку больших моделей.
面对 Вычислительная мощность 短缺,企业正在积极应对。一些方法包括:使用高质量数据提升训练效率;提升基础架构稳定性;优化 Вычислительная мощность 调度;从云计算架构过渡到超算架构;使用国产GPU平台等。
Вычислительная мощность стала новой моделью услуги. Сервисы вычислительной мощности реализуют унифицированный вывод гетерогенной вычислительной мощности с помощью новых вычислительных технологий, интегрируясь с такими технологиями, как облачные вычисления. Пользователям нужно лишь обозначить потребность в вычислительной мощности, а поставщик услуг осуществляет конфигурацию и доставку вычислительной мощности.
В настоящее время услуги вычислительной мощности в основном предлагаются в двух режимах: по мере использования и по годовой или месячной подписке. В будущем возможно развитие модели "интеграции вычислительной сети", которая будет поддерживать гибкое распределение ресурсов между различными архитектурами, регионами и поставщиками услуг.
Хотя в настоящее время наблюдается нехватка высококлассных GPU, в долгосрочной перспективе спрос и предложение в конечном итоге уравновесятся. Поставщики вычислительной мощности должны заранее позаботиться о подготовке к возвращению рынка к рациональности. С учетом нормализации спроса на большие модели, вычислительные услуги, возникшие из облачных сервисов, быстро формируют уникальную цепочку производства и бизнес-модель.