Groq
Groq betreibt Open-Source-LLMs auf spezieller LPU-Hardware für ultraschnelle Inferenz. Die schnellste verfügbare LLM-Option.
Einrichtung
- Registrieren Sie sich auf console.groq.com.
- Erstellen Sie einen API-Schlüssel.
- Wählen Sie in den OpenTypeless-Einstellungen Groq und fügen Sie den API-Schlüssel ein.
Geschwindigkeit
Groqs LPU-Hardware liefert Antworten in Millisekunden. Wenn Sie die schnellste Verfeinerung wünschen, ist Groq unübertroffen.