Groq
Groq 在定制 LPU 硬件上运行开源 LLM,提供超快的推理速度。是最快的 LLM 选项。
设置
- 在 console.groq.com 注册。
- 创建 API 密钥。
- 在 OpenTypeless 设置中,选择 Groq 并粘贴 API 密钥。
速度
Groq 的 LPU 硬件可在毫秒内返回响应。如果你想要最快的润色体验,Groq 无可匹敌。
Groq 在定制 LPU 硬件上运行开源 LLM,提供超快的推理速度。是最快的 LLM 选项。
Groq 的 LPU 硬件可在毫秒内返回响应。如果你想要最快的润色体验,Groq 无可匹敌。