Как торговать этими акциями из России? >Подробная инструкция здесь<
Nvidia Принимает (Почти) Все деньги
С весны я повторяю фразу об оборудовании для центров обработки данных: Nvidia забирает все деньги. По цене GPU-сервера вы можете купить 10 или более процессорных серверов, и 90% GPU-сервера достанется Nvidia. Очень дорогостоящие графические процессоры от Nvidia поглощают другое оборудование центров обработки данных.
Intel (INTC) получила контракт на графический сервер Nvidia DGX-H100. Он поставляется с двумя самыми дорогими процессорами Intel, и это не сильно помогло Intel. Nvidia даже крадет маржу у своих клиентов.
AWS (AMZN) потребовалось шесть лет, чтобы довести свою операционную маржу с 24% до 32%, а Nvidia — год, чтобы свести ее на нет.
Но среди крупных игроков в области искусственного интеллекта Google и Google Cloud (NASDAQ:GOOG), (NASDAQ:GOOGL) являются своего рода исключением. Как и их конкуренты, они хотят сдавать в аренду столько графических процессоров Nvidia H100, сколько смогут заполучить. Но у Google также есть тензорный процессор TPU. Это «ускоритель искусственного интеллекта»: аппаратное обеспечение без графического процессора, специализированное для умножения матриц, — главное, что делает вычисления на графическом процессоре с искусственным интеллектом такими дорогими. Несколько недель назад, наряду со своими новыми облачными экземплярами Nvidia H100 GPU, Google также анонсировала TPU версии 5e в предварительном просмотре.
TPU разработаны компанией Broadcom (NASDAQ:AVGO) и производится компанией Taiwan Semiconductor (TSM).
TPU v5e (буква «e» означает «эффективность»)
В середине двадцатых годов у Google были большие амбиции в области искусственного интеллекта. Они продолжают это делать, и примерно в 2015 году у них возникла та же проблема, что и у всех сегодня: графические процессоры Nvidia было дорого покупать и масштабировать, и их было трудно найти в нужных количествах. Поэтому они решили изготовить свой собственный кремний на заказ — TPU. Как и большинство его преемников в области ускорителей искусственного интеллекта, это обходной путь к дорогостоящей в вычислительном отношении математике умножения матриц с плавающей запятой, в которой так хороши графические процессоры. Это позволяет снизить уровень точности за счет снижения затрат. Существует большое количество исследований, которые показывают, что очень высокий уровень точности, который вы получаете с помощью графических процессоров, в большинстве приложений теряется впустую. Все сервисы Google AI, которые охватывают все — поиск, рекламу, карты, YouTube и т.д. — работают на TPU, что дает им большое преимущество в затратах
Иногда вы увидите, что их называют ASIC — специализированными интегральными схемами, что является общим названием для чипов, предназначенных для очень хорошего выполнения одной задачи. Я предпочитаю «ускоритель искусственного интеллекта» просто для конкретики.
TPU v1 вышел в 2016 году и предназначался только для внутреннего использования. Версии TPU 2-4 также доступны в Google Cloud, и теперь к ним присоединяется v5e. Версия 5, более мощная и менее эффективная, остается необъявленной. Версии с 1 по 4 были разработаны с учетом внутренних потребностей Google, но мне кажется, что они разрабатывали v5e с учетом потребностей облачных клиентов.
Процессоры TPU работают медленнее, чем графические процессоры на чипе, но также намного дешевле в покупке и масштабировании. Таким образом, ключ в том, чтобы направить многих из них на выполнение какой-либо задачи. В то время как TPU v4 достиг максимальной производительности на чипах 4k, 5e будет стоить «десятки тысяч.» Вы можете сдать в аренду весь дата-центр целиком. Это позволит обучать и развертывать на TPU гораздо более крупные модели, чем раньше. Они говорят о двух триллионах параметров, которые, я думаю, будут поддерживать GPT-4.
Для каждого чипа, мне кажется, производительность, которую вы получаете от v5e, примерно такая же, как у v4, или даже хуже, в зависимости от рабочей нагрузки. Но это гораздо дешевле и эффективнее, поэтому они берут на 63% меньше за аренду чипа, так что при выполнении той же работы экономия будет аналогичной по сравнению с версией 4.
У нас есть только хорошие сравнения между предыдущими поколениями как от Google, так и от Nvidia, TPU v4 и Nvidia A100. Но, основываясь на большом количестве экстраполяций, я предполагаю, что TPU v5e обеспечит клиентам экономию примерно на 40-70% по сравнению с Nvidia H100 при выполнении той же работы в Google Cloud, даже лучше, чем предыдущие поколения. Большая разница теперь заключается в том, что TPU может работать с гораздо более крупными моделями, чем раньше. Эти TPU являются большим преимуществом с точки зрения затрат для Google внутри компании за их собственную обширную работу с искусственным интеллектом.
Но программное обеспечение — это ров Nvidia, а не аппаратное обеспечение. Сейчас существует множество ускорителей искусственного интеллекта, и их будет еще больше, которые могут выполнять подобную работу гораздо дешевле, чем графические процессоры Nvidia. Но Nvidia разрабатывает программные средства для обучения моделей и запуска их в производство с 2005 года, и их объем постоянно растет.
Одной из ключевых особенностей выпуска TPU v5e является то, что они последовали примеру AWS и интегрировали популярные платформы искусственного интеллекта с открытым исходным кодом в качестве сервисов. Но им нужно сделать больше, чтобы соответствовать стеку Nvidia, если они хотят осушить этот ров.
Совершенно очевидно, что Google в первую очередь сосредоточилась на затратах при разработке модулей v5e и на том, как они подключаются. Одно из преимуществ, которое у них есть перед Nvidia, заключается в том, что они всегда проектировали эти устройства с учетом модулей и целых центров обработки данных, в то время как Nvidia в этом новичок. В этом видео показан новый дата-центр TPU v5e.
Судя по снимку со спутника на видео, это похоже на то, что он находится недалеко от Колумбуса, штат Огайо. Мое лучшее предположение, исходя из этого, заключается в том, что в этом дата-центре находится около 128 модулей, что означает в общей сложности 33 тыс. чипов. Вы можете арендовать весь этот центр обработки данных для одного задания и запускать его параллельно.
Многое из того, что вы там видите — чипы, внутренняя сетевая «структура» внутри модулей и все сетевое оборудование за пределами модулей — поставляется компанией Broadcom.
Broadcom — Вещатель
Если бы все это было сделано Broadcom — эти чипы TPU и все окружающие их высококлассные сети, — они бы прекрасно себя чувствовали и росли в середине 20—х годов. Но они производят много других продуктов, в основном для слабых рынков смартфонов и ПК.
Они сказали, что в отсутствие искусственного интеллекта остальная часть их полупроводникового сегмента остается на прежнем уровне в годовом исчислении. В целом, он растет средними однозначными цифрами. Они ориентируются на ту же динамику в следующем квартале — большой всплеск от искусственного интеллекта, но все остальное остается на прежнем уровне.
Благодаря нескольким приобретениям у них теперь также есть большой сегмент программного обеспечения, и он может увеличиться с добавлением VMware (VMW), ожидающего одобрения в октябре. Я ожидаю, что они это поймут и добавят к этому:
61% их активов составляет гудвилл, что сейчас на 22 миллиарда долларов больше, чем акционерный капитал. Без гудвилла у них был бы акционерный капитал в размере 22 миллиардов долларов. Долг, который вы видите, и они увеличат долг и деловую репутацию с этим приобретением.
Помимо проблем с балансом, которые это вызвало, сегмент программного обеспечения также растет средними однозначными цифрами, и руководство рассчитывает на то же самое.
Broadcom находится в лучшей форме, чем другие конкуренты центров обработки данных, благодаря своим отношениям с Google и сегменту программного обеспечения, который менее цикличен, чем аппаратный. Они прогнозировали «мягкую посадку», и они ее получили. По сравнению с сетевым конкурентом Marvell (MRVL):
По их прогнозам, в следующем квартале мы увидим примерно то же самое для обеих этих компаний. Не так уж много поводов для волнения. Продажи в этом дата-центре Google, показанные в видеоролике на YouTube, были включены в отчет Broadcom за квартал и руководство. Это попутный ветер, но пока недостаточно сильный, чтобы компенсировать другую медлительность.
Broadcom во многом зависит от Google. Они также являются контрактом на неанонсированное оборудование TPU v5, которое, возможно, разрабатывается прямо сейчас. Реальный потенциал роста для обоих заключается в том, что TPU сможет прижиться и начать вытеснять вычисления на GPU. Это тяжелая битва из-за программного рва Nvidia.
Итог
На данный момент я сижу в стороне от обеих этих компаний. Я уже очень внимательно следил за Google Cloud и TPU, но у v5e еще больше возможностей разрушить Nvidia. Как и инфраструктура искусственного интеллекта AWS, они поставляются с популярными программными инструментами с открытым исходным кодом, готовыми к использованию в качестве сервисов. Но этого недостаточно. Ключевым моментом здесь является приведение программного стека в соответствие с Nvidia. Но если они смогут набрать обороты, это также станет большим попутным ветром для Broadcom
Отказ от ответственности: Содержимое этого сайта не следует рассматривать как инвестиционный совет. Инвестирование носит спекулятивный характер. При инвестировании ваш капитал подвергается риску.
