Groq
O Groq executa LLMs de código aberto em hardware LPU personalizado para inferência ultrarrápida. A opção LLM mais rápida disponível.
Configuração
- Cadastre-se em console.groq.com.
- Crie uma chave API.
- Nas configurações do OpenTypeless, selecione Groq e cole a chave API.
Velocidade
O hardware LPU do Groq entrega respostas em milissegundos. Se você quer a experiência de polimento mais rápida, o Groq é imbatível.