O que é o Groq e para que serve?
O Groq é uma empresa de inferência de IA que criou o chip LPU e vende acesso a ele pela GroqCloud, uma API para executar modelos de linguagem, visão e fala já treinados.
A empresa se apresenta como fundada em 2016. O chip LPU foi desenhado para rodar modelos, não para treiná-los, e o site oficial diz que ele usa memória SRAM em vez da HBM das GPUs. Essa descrição de desempenho e de arquitetura é da própria Groq.
Na prática, o Groq serve a quem já tem um modelo em mente e precisa de uma API para chamá-lo dentro de um produto: chatbot, transcrição de áudio, análise de imagem, agente com ferramentas. Os endpoints seguem o formato da API da OpenAI. Segundo a documentação, basta trocar a URL base para o endereço da Groq e usar a chave da GroqCloud.
A Groq também publica bibliotecas próprias em Python e TypeScript. O catálogo de modelos hospedados muda com o tempo, então a lista vigente fica sempre na documentação da GroqCloud.






