EdgeOne Makers AI 模型概览

AI 模型能力正在成为现代应用的标配，但自己部署 GPU 服务器成本高、运维复杂。EdgeOne Makers 提供了托管的 AI 模型服务，几行代码就能调用主流大模型，按调用次数计费，不用管基础设施。这篇讲清楚 EdgeOne Makers 的 AI 模型服务能力、支持的模型类型、调用方式。

AI 模型服务能力

EdgeOne Makers 的 AI 模型服务是托管的推理平台，模型跑在平台的 GPU 集群上，你只需要写代码调用，不用关心硬件、模型部署、扩缩容。

核心能力:

和自建推理服务对比:

支持的模型类型

EdgeOne Makers 支持多种类型的 AI 模型，覆盖主流应用场景。

文本生成模型

用于对话、问答、摘要、翻译等任务。支持 GPT、Claude、Llama、Qwen 等主流模型。

图像生成模型

用于文生图、图像编辑等任务。

Embedding 模型

用于文本向量化，支持 RAG、语义搜索等场景（落地做法见 EdgeOne Makers RAG 与知识库）。

调用方式说明

调用 AI 模型分三步: 创建函数、绑定 AI 资源、编写调用代码。

第一步: 创建函数

在 EdgeOne Makers 控制台创建一个 Cloud Functions，因为 AI 推理需要完整的运行时环境。

第二步: 绑定 AI 资源

在函数配置文件中声明 AI 绑定:

{
  "name": "ai-demo",
  "bindings": {
    "ai": {
      "name": "AI"
    }
  }
}

配置后，代码里就能通过 env.AI 访问 AI 服务。

第三步: 编写调用代码

export default {
  async fetch(request, env) {
    // 调用文本生成模型
    const response = await env.AI.run("@openai/gpt-3.5-turbo", {
      messages: [
        { role: "system", content: "你是一个用中文回答问题的助手" },
        { role: "user", content: "用一句话解释什么是边缘计算" },
      ],
    });

    return Response.json(response);
  },
};

返回结果的结构:

{
  "response": "边缘计算是把计算任务放到离数据源更近的地方执行的一种方式。",
  "usage": {
    "prompt_tokens": 25,
    "completion_tokens": 28,
    "total_tokens": 53
  }
}

字段说明:

token 是模型处理文本的基本单位，一个中文字大约 1 到 2 个 token，一个英文单词大约 1 个 token。token 数直接影响费用和延迟。

多轮对话

messages 数组可以放多轮历史，模型会参考上下文继续对话。把上一轮的回复作为 assistant 消息加进去就行:

const response = await env.AI.run("@openai/gpt-3.5-turbo", {
  messages: [
    { role: "system", content: "你是一个用中文回答问题的助手" },
    { role: "user", content: "什么是 RAG" },
    { role: "assistant", content: "RAG 是检索增强生成，先检索再生成。" },
    { role: "user", content: "它和微调有什么区别" },
  ],
});

三种角色的分工:

多轮对话的 token 会累积，历史越长消耗越大。生产环境要控制历史长度，比如只保留最近 5 到 10 轮。

速查卡片