Реальный срок службы GPU под нагрузкой ИИ — 1–3 года, и это ставит под вопрос $300 млрд амортизации в отчетах облачных гигантов.
Разрыв между бухгалтерией и физикой вскрылся в ходе обсуждения предыдущей статьи о neocloud-пузыре. Читатель @vladf привел данные CNN (18 месяцев–3 года) и оценки Princeton CITP (1–2 года при загрузке 60–70%). Копнув глубже, картина оказалась суровее, чем предполагалось изначально.
Мета обучала Llama 3 на 16 384 картах H100: за 54 дня кластер 419 раз обваливался, причем 148 срывов дали сами GPU. Экстраполяция — около 9% парка выходит из строя за год, каждый четвертый ускоритель — за три. Университет Иллинойса (NCSA, суперкомпьютер Delta 1) накопил 11,7 млн GPU-часов наблюдений за 1056 картами A100 и H100 и обнаружил: память H100 деградирует в 3,2 раза быстрее. Архитектор Alphabet резюмирует: один–два года при типичной нагрузке в дата-центре, потолок — три.
Amazon, Microsoft и Google амортизируют GPU по шестилетнему графику — Amazon начал продлевать срок еще в 2020-м, остальные подтянулись к 2023-му. Майкл Бёрри оценивает недоамортизацию в $176 млрд за 2026–2028; по его расчетам, Oracle к 2028-му завышает прибыль на 26,9%. Barclays из-за реалистичной амортизации уже срезал прогнозы прибыли AI-компаний до 10%.
Вторичный рынок дает картам вторую жизнь: CoreWeave перезаключала контракты на H100 2022 года по 95% первоначальной цены (Introl), Azure вывела из работы K80 и P100 после семи–девяти лет, а двухлетняя б/у H100 уходит за 70–85% от цены новой. Но Princeton CITP охлаждает: при выручке NVIDIA выше $115 млрд в год рынок покупателей ее старых карт — статистическая погрешность. Если электричество для H100 дороже, чем рынок платит за ее инференс, остаточная стоимость падает до нуля безотносительно графика амортизации.
Практический вывод: для инференса фронтир не нужен — берите класс под задачу, б/у H100 справится. При расчетах рынка берите базой 1–3 года реальной службы, а не шесть лет из отчетности, и закладывайте ~5% карт в запас на отказы — это подтверждено на 11,7 млн GPU-часов. Планируйте по сроку жизни железа, а не бухгалтерскому перу.
Загрузка...
