Groq
Groq ejecuta LLMs de código abierto en hardware LPU personalizado para inferencia ultrarrápida. La opción LLM más rápida disponible.
Configuración
- Regístrate en console.groq.com.
- Crea una clave API.
- En la configuración de OpenTypeless, selecciona Groq y pega la clave API.
Velocidad
El hardware LPU de Groq entrega respuestas en milisegundos. Si quieres la experiencia de pulido más rápida, Groq no tiene rival.