RunPod: preços justos na inferência ComfyUI e falta de fila

Uso o RunPod de forma pontual para inferência de imagens com modelos de difusão no ComfyUI, sempre com o storage persistente global conectado, e a experiência tem sido a mais tranquila possível: a interface web é limpa, a seleção de GPUs é muito boa e os preços são justos para o meu volume. Não tive nenhum problema até agora. A única lacuna é a ausência de uma fila na GPU escolhida quando ela está indisponível.

Inferência no ComfyUI com storage persistente conectado

Meu uso do RunPod não é de produção contínua. De tempos em tempos eu subo uma instância para rodar inferência de modelos de difusão no ComfyUI, gero as imagens de que preciso e encerro. Como o storage persistente global fica conectado, o fluxo não vira um retrabalho a cada sessão: eu entro, escolho a GPU, trabalho no que preciso e saio. É essa combinação que faz a experiência ser conveniente para mim, porque o uso é esporádico e ainda assim não sinto que estou remontando tudo do zero toda vez.

A interface web contribui bastante para isso. Ela é limpa, sem excesso de menu ou de etapa escondida, e eu encontro o que preciso sem tutorial. Para quem só quer subir uma máquina, conectar o storage e rodar a inferência, a curva é curta. Até agora não tive nenhum problema nesse caminho, nem falha que me fizesse perder a sessão. É simples, e é o tipo de simplicidade que eu procuro quando o objetivo é apenas gerar imagens com modelos de difusão e seguir com o resto do dia.

Escolha de GPU e preços justos para uso esporádico

A seleção de GPUs é muito boa. Quando vou subir a instância, tenho opções suficientes para escolher de acordo com o tipo de trabalho que vou rodar no ComfyUI, sem ficar preso a uma única placa ou a um único tamanho de máquina. Essa variedade importa para quem faz inferência de vez em quando, porque nem toda tarefa exige a mesma configuração, e poder decidir na hora da sessão dá flexibilidade.

E os preços, na minha percepção, são justos. Como o meu uso é pontual, o que pesa para mim é o valor de cada sessão, e nesse ponto o RunPod tem me atendido bem: o preço cobrado me parece honesto para o que eu recebo, sem aquela sensação de estar pagando por um monte de coisa que não vou usar. É claro que preço justo depende de conseguir a GPU disponível, e é exatamente aí que a experiência trava. As placas mais baratas, que são justamente as que eu prefiro, são as que somem mais rápido. Ou seja, o preço bom existe, mas nem sempre está à mão no momento em que eu quero rodar a inferência.

Falta uma fila de GPU quando a placa escolhida está ocupada

Se eu pudesse pedir uma coisa só, seria uma fila para a GPU que eu selecionei. Hoje, quando a placa que eu quero está ocupada, ela simplesmente não fica à minha disposição e eu preciso tentar de tempos em tempos até conseguir. Na prática, espero alguns minutos e, em dias piores, chego a esperar cerca de meia hora nesse processo de tentar e não encontrar.

Minhas GPUs preferidas quase nunca estão disponíveis, então essa espera não é exceção: ela é a regra quando eu decido rodar a inferência no ComfyUI. Uma fila resolveria porque eu entraria na lista, deixaria a solicitação registrada e voltaria quando a placa ficasse livre, em vez de depender de eu estar na frente da tela no exato momento em que ela aparece. A alternativa, ou o complemento, seria ampliar a capacidade das placas de preço mais baixo, que são as que eu escolho. De qualquer forma, essa é a única coisa que eu senti falta até agora.

Mesmo com essa lacuna, a nota que eu dou para o RunPod é a máxima. Para o meu tipo de uso, que é subir uma máquina de vez em quando para inferência no ComfyUI com o storage persistente global conectado, o conjunto funciona: interface limpa, boa escolha de GPU e preço justo. Não tive problema nenhum até aqui, e a espera pela placa disponível é o único ponto que eu realmente gostaria de ver resolvido. Se a fila aparecer, ou se as placas de preço mais baixo ficarem mais disponíveis, não vai faltar nada na minha experiência.