O que é a Together AI e para que serve?
A Together AI é uma nuvem para IA generativa que se apresenta como AI Native Cloud e oferece três serviços principais: inferência serverless, ajuste fino de modelos e clusters de GPU.
Na inferência serverless, você chama modelos abertos por API, sem gerenciar infraestrutura. O site cita chat, imagem, vídeo e áudio entre as modalidades disponíveis. Para cargas assíncronas existe a inferência em lote.
No ajuste fino, a empresa treina versões personalizadas de modelos a partir dos seus dados. Os clusters de GPU rodam em hardware NVIDIA com rede InfiniBand e podem ser contratados sob demanda ou reservados, de 8 até mais de 4.000 GPUs, segundo o site.
A Together AI serve, portanto, a quem quer usar modelos abertos sem montar o próprio parque de GPUs, e também a quem precisa treinar ou ajustar modelos em escala. A API de inferência usa o formato compatível com a OpenAI, o que facilita levar código existente para lá.
Os nomes e a lista de modelos mudam com frequência, então a página de modelos da documentação é a referência atual.






