调用 API
AIGO 推理 API 是 OpenAI 兼容接口,可以直接使用 OpenAI 官方 SDK 或任何兼容客户端,只需更换 base URL 和 API Key。
Base URL 与认证
Section titled “Base URL 与认证”- Base URL:
https://api.macrental.shop/v1(OpenAI 兼容)。下面的示例用环境变量AIGO_INFERENCE_BASE_URL表示这个地址。 - 认证:在请求头中携带
Authorization: Bearer <你的 API Key>。 - 模型名:使用你创建 Key 时加入白名单的模型名。可用模型及其上下文长度、单价在控制台算力首页的模型目录中查看。
下面示例中的 Key 是假值,请替换为你自己的 Key:
export AIGO_INFERENCE_BASE_URL="https://api.macrental.shop/v1"export AIGO_API_KEY="sk-cmp-EXAMPLE_NOT_A_REAL_KEY_xxxxxxxxxxxx"export AIGO_MODEL="<控制台模型目录中的模型名>"curl "$AIGO_INFERENCE_BASE_URL/chat/completions" \ -H "Authorization: Bearer $AIGO_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "'"$AIGO_MODEL"'", "messages": [ {"role": "user", "content": "用一句话介绍你自己。"} ] }'Python
Section titled “Python”pip install openaiimport osfrom openai import OpenAI
client = OpenAI( base_url=os.environ["AIGO_INFERENCE_BASE_URL"], api_key=os.environ["AIGO_API_KEY"],)
resp = client.chat.completions.create( model=os.environ["AIGO_MODEL"], messages=[{"role": "user", "content": "用一句话介绍你自己。"}],)print(resp.choices[0].message.content)print(resp.usage) # prompt_tokens / completion_tokens 即计费依据Node.js
Section titled “Node.js”npm install openaiimport OpenAI from 'openai';
const client = new OpenAI({ baseURL: process.env.AIGO_INFERENCE_BASE_URL, apiKey: process.env.AIGO_API_KEY,});
const resp = await client.chat.completions.create({ model: process.env.AIGO_MODEL, messages: [{ role: 'user', content: '用一句话介绍你自己。' }],});console.log(resp.choices[0].message.content);console.log(resp.usage);- 正式支持的接口:
POST /chat/completions(对话补全)。其他 OpenAI 兼容端点与流式输出(stream: true)不在正式支持范围内。 - 只能调用 Key 白名单中的模型;白名单之外的模型会被网关拒绝。
- 在服务端调用,不要把 Key 放到浏览器或移动端代码中。
- 为不同应用创建不同的 Key,并设置总预算与到期日期。
- 怀疑泄露时立即在 API Key 页吊销。