OpenTypeless

Groq

GroqはカスタムLPUハードウェアでオープンソースLLMを実行し、超高速推論を実現。利用可能な最速のLLMオプションです。

セットアップ

  1. console.groq.comでサインアップします。
  2. APIキーを作成します。
  3. OpenTypelessの設定でGroqを選択し、APIキーを貼り付けます。

速度

GroqのLPUハードウェアはミリ秒単位でレスポンスを返します。最速の校正体験を求めるなら、Groqに勝るものはありません。