OpenTypeless

Groq

Groq는 맞춤 LPU 하드웨어에서 오픈소스 LLM을 실행하여 초고속 추론을 제공합니다. 가장 빠른 LLM 옵션입니다.

설정

  1. console.groq.com에서 가입하세요.
  2. API 키를 생성하세요.
  3. OpenTypeless 설정에서 Groq를 선택하고 API 키를 붙여넣으세요.

속도

Groq의 LPU 하드웨어는 밀리초 단위로 응답을 제공합니다. 가장 빠른 다듬기 경험을 원한다면 Groq가 최고입니다.