Self-hosted ou API: o custo real de rodar geração de imagens adultas

A conversa entre construir e comprar geração de imagens costuma começar com um preço de GPU por hora e terminar aí. Esse número é real e também é a menor linha do orçamento. Tudo que é caro num pipeline self-hosted é justamente a parte que não aparece na fatura do aluguel.

O que hospedar por conta própria realmente envolve

Um pipeline funcional é um grafo de modelos, custom nodes e pesos — e cada um deles é uma versão que pode se mover sob os seus pés. Um pacote de nodes é atualizado e um parâmetro muda de significado. Um modelo base é substituído e seus presets cuidadosamente ajustados mudam de caráter. Nada disso é exótico; é terça-feira. O custo de engenharia não é montar o pipeline uma vez, é manter a saída estável enquanto o ecossistema abaixo dele se move.

Depois vem a capacidade. A geração é intrinsecamente irregular: noites e fins de semana disparam, manhãs de dia útil são mortas. Dimensionar para o pico significa pagar por silício ocioso na maior parte da semana. Dimensionar para a média significa que seus usuários entram em fila exatamente quando mais se importam. Autoscaling de GPU é possível, mas um worker frio precisa carregar dezenas de gigabytes de pesos antes de atender qualquer coisa, então escalar se mede em minutos, não em segundos.

Os custos que nunca entram na planilha

• Plantão. Uma máquina com GPU que morre às 3h de um sábado é a noite de alguém, e geração de imagens é, por natureza, uma carga de noite e fim de semana.
• Armazenamento e retenção. Entradas e saídas se acumulam em disco e viram silenciosamente um passivo que ninguém está apagando.
• Model drift. Fazer teste de regressão dos presets após um upgrade é trabalho real, e precisa ser refeito a cada upgrade.
• Engenharia de filas. Backpressure, retries, deduplicação e recuperação após um crash são os mesmos problemas, alugando GPU ou não.
• Segurança. Um host de GPU com porta de inferência aberta é um alvo atraente, e o software envolvido não foi escrito pensando em exposição hostil à internet.

Onde o self-hosting realmente ganha

Este não é um argumento de mão única. Rode seu próprio pipeline quando o pipeline é o produto — quando você treina ou faz fine-tuning dos seus próprios modelos, quando o grafo exato é o seu diferencial, ou quando a regulação obriga a manter o processamento dentro de infraestrutura que você controla. Volume alto, estável e previsível também muda a conta: uma GPU saturada rodando o dia inteiro sai mais barata por imagem do que um preço por chamada.

O padrão a desconfiar é o meio-termo: volume moderado, demanda irregular, time pequeno e um pipeline que é meio, não fim. Essa combinação paga o custo operacional completo do self-hosting sem capturar quase nenhum de seus benefícios.

Onde a API ganha

Uma API converte um problema de capacidade em uma linha de custo. Não há silício ocioso, nem engenharia de cold start, nem fim de semana de upgrade, nem escala de plantão para hardware. Sua integração vira quatro chamadas HTTP, e a questão de volume passa a ser problema operacional de outra pessoa.

Também comprime o time to market de semanas para uma tarde. Para um recurso que você ainda está validando, isso importa mais que economia unitária: lançar em um dia e descobrir que os usuários não querem é um desfecho muito mais barato do que descobrir o mesmo depois de provisionar uma frota de GPUs.

Uma decisão de cinco minutos

1. O pipeline em si é o seu produto? Se sim, construa.
2. Seu volume é alto, estável e previsível o bastante para manter uma GPU de fato saturada? Se sim, construir começa a compensar.
3. Você tem alguém que vai assumir o plantão de GPU, e essa pessoa sabe disso? Se não, compre.
4. Você ainda está validando o recurso? Compre agora e reavalie quando a curva de demanda for real.

O híbrido que ninguém menciona

As opções não são excludentes. Um arranjo comum e sensato é usar API para o tráfego público imprevisível, com hardware próprio absorvendo uma linha de base interna estável. Isso também elimina o precipício da migração: manter a integração atrás de uma única fronteira HTTP faz com que trocar de lado depois seja uma mudança de configuração, não um rewrite.

Perguntas frequentes