Groq

Groq 在定制 LPU 硬件上运行开源 LLM,提供超快的推理速度。是最快的 LLM 选项。

设置

  1. 在 console.groq.com 注册。
  2. 创建 API 密钥。
  3. 在 OpenTypeless 设置中,选择 Groq 并粘贴 API 密钥。

速度

Groq 的 LPU 硬件可在毫秒内返回响应。如果你想要最快的润色体验,Groq 无可匹敌。