Своя инфраструктура или API: реальная стоимость adult-генерации изображений

Разговор «своё или готовое» про генерацию изображений обычно начинается с почасовой цены GPU и на ней же заканчивается. Цифра настоящая — и при этом самая мелкая строка в бюджете. Всё дорогое в собственном пайплайне — это то, чего нет в счёте за аренду.

Что на самом деле означает self-hosting

Рабочий пайплайн — это граф из моделей, кастомных нод и весов, и каждый элемент имеет версию, которая может уехать у вас под ногами. Обновился пакет нод — и параметр поменял смысл. Заменилась базовая модель — и аккуратно настроенные пресеты сменили характер. Ничего экзотического, это обычный вторник. Инженерные затраты — не собрать пайплайн один раз, а удерживать стабильность результата, пока экосистема под ним двигается.

Дальше — мощности. Генерация по природе всплесковая: вечера и выходные дают пики, утро буднего дня пустое. Заложиться на пик — значит платить за простаивающий кремний большую часть недели. Заложиться на среднее — значит поставить пользователей в очередь ровно тогда, когда им важнее всего. Автомасштабирование GPU возможно, но холодный воркер должен загрузить десятки гигабайт весов, прежде чем что-то отдаст, — так что масштабирование измеряется минутами, а не секундами.

Затраты, которые не попадают в табличку

• Дежурства. GPU-машина, умершая в 03:00 в субботу, — это чья-то ночь, а генерация изображений по природе ночная и выходная нагрузка.
• Хранение и сроки. Входные и выходные файлы копятся на диске и тихо превращаются в риск, который никто не удаляет.
• Дрейф моделей. Регрессионное тестирование пресетов после апгрейда — настоящая работа, и её приходится повторять при каждом апгрейде.
• Инженерия очередей. Backpressure, ретраи, дедупликация и восстановление после падения — те же самые задачи, арендуете вы GPU или нет.
• Безопасность. GPU-хост с открытым инференс-портом — привлекательная цель, а этот софт не писался с расчётом на враждебный интернет.

Где self-hosting действительно выигрывает

Аргумент не односторонний. Держите свой пайплайн, когда пайплайн и есть продукт: вы обучаете или дообучаете собственные модели, конкретный граф — ваше отличие от других, или регулирование обязывает держать обработку внутри вашей инфраструктуры. Стабильный, высокий и предсказуемый объём тоже меняет арифметику: загруженный круглосуточно GPU дешевле в пересчёте на изображение, чем оплата за вызов.

Подозрительна середина: умеренный объём, рваный спрос, небольшая команда и пайплайн как средство, а не как цель. Такая комбинация платит полную операционную стоимость self-hosting и почти не получает его выгод.

Где выигрывает API

API превращает проблему мощностей в строку расходов. Нет простаивающего железа, нет инженерии холодных стартов, нет выходных на апгрейд, нет дежурств по железу. Интеграция сводится к четырём HTTP-вызовам, а вопрос объёма становится чужой операционной проблемой.

Ещё это сжимает time to market с недель до вечера. Для функции, которую вы ещё проверяете гипотезой, это важнее юнит-экономики: выкатить за день и узнать, что пользователям не надо, — куда дешевле, чем узнать то же самое после закупки GPU-флота.

Решение на пять минут

1. Пайплайн и есть ваш продукт? Если да — стройте своё.
2. Объём достаточно высокий, ровный и предсказуемый, чтобы GPU был реально загружен? Если да — своё начинает окупаться.
3. Есть человек, который возьмёт дежурства по GPU, и знает ли он об этом? Если нет — берите API.
4. Вы ещё проверяете саму функцию? Берите API сейчас, вернитесь к вопросу, когда появится реальная кривая спроса.

Гибрид, о котором не говорят

Варианты не взаимоисключающие. Частая и здравая схема: API на непредсказуемый публичный трафик и своё железо под ровную внутреннюю базовую нагрузку. Это же снимает риск миграции: если интеграция спрятана за одной HTTP-границей, переход между вариантами позже — вопрос конфигурации, а не переписывания.

Частые вопросы