申请步骤

  1. 注册账号 — 访问 控制台,支持Google 邮箱注册
  2. 账号验证 — 邮箱注册即可,一般无需额外认证
  3. 创建API Key — 在控制台中找到「API Keys」页面,点击创建并复制
  4. 配置并调用 — 兼容 OpenAI SDK,使用下方代码示例测试

概览

控制台地址
API Base URL
https://api.groq.com/openai/v1
免费额度亮点
免费层:30请求/分钟,6000 Token/分钟,50万Token/天/模型;无需绑信用卡
计费方式
免费层足够个人使用,付费层按用量计费
额度有效期
详见免费额度说明
是否需要实名
无需
并发限制
详见平台文档

适用场景

💻
代码生成
推理速度 ~800 tok/s,适合需要极速响应的编程辅助。
🧮
数学推理
LPU 芯片推理延迟极低,适合实时计算和推理场景。
📄
长文档分析
超低延迟适合交互式文档问答。

最新动态

  • 2026年 Groq LPU 推理引擎持续优化,支持更多主流开源模型的高速推理。
  • 2025年 Groq 以 ~800 tok/s 的推理速度震惊业界。

可用模型

免费模型

llama-3.3-70b-versatile
128K · Llama 3.3 70B,免费
免费
llama-3.1-8b-instant
128K · Llama 3.1 8B,免费
免费
gemma2-9b-it
8K · Gemma 2 9B,免费
免费
mixtral-8x7b-32768
32K · Mixtral 8x7B,免费
免费

快速接入

cURL

curl -X POST "https://api.groq.com/openai/v1/chat/completions" \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -d '{"model":"llama-3.3-70b-versatile","messages":[{"role":"user","content":"你好"}]}'

Python

from openai import OpenAI

client = OpenAI(
    base_url="https://api.groq.com/openai/v1",
    api_key="YOUR_API_KEY"
)

response = client.chat.completions.create(
    model="llama-3.3-70b-versatile",
    messages=[{"role": "user", "content": "你好"}]
)
print(response.choices[0].message.content)
免费额度约可调用 ≈6 次/月(按每次 1K tokens 估算)

使用须知

  1. LPU硬件加速,推理速度极快
  2. 国内访问需要特殊网络环境
  3. 完全兼容OpenAI接口格式
  4. 无需绑定信用卡即可注册

优缺点分析

优点

  • 推理速度极快
  • 免费额度够用
  • 无需绑卡

注意

  • 国内需要特殊网络
  • 模型选择有限

竞品对比

服务商核心免费模型价格上下文
Cerebras llama-3.3-70b 有免费额度 128K
Cloudflare Workers AI @cf/meta/llama-3.1-8b-instruct / @cf/mistral/mistral-7b-instruct-v0.1 有免费额度 8K
DeepInfra Llama-3.1-8B 有免费额度 128K

常见问题 (FAQ)

免费层:30请求/分钟,6000 Token/分钟,50万Token/天/模型;无需绑信用卡

访问 https://console.groq.com/ 注册账号,在控制台创建API Key即可获取。

支持模型包括:llama-3.3-70b-versatile、llama-3.1-8b-instant、gemma2-9b-it、mixtral-8x7b-32768。

平台特性

速度最快 LPU加速 免费够用 OpenAI兼容