概述

LLM 调用服务是平台的 AI 能力核心。通过统一的调用接口，支持 OpenAI、Anthropic、DeepSeek、通义千问、智谱等多家供应商的大语言模型， 并内置用量统计、成本核算、故障自动切换等企业级功能。

多供应商架构

调用流程

// 统一调用接口
const result = await callLLM({
  model: "gpt-4o-mini",       // 模型标识
  messages: [...],             // 对话消息
  temperature: 0.7,            // 创造性参数
  maxTokens: 4096,             // 最大输出长度
  userId: ctx.user.id,         // 用户ID（用于计费）
  appId: "bid",                // 应用ID（用于统计）
});

// 内部自动完成：
// 1. 路由到对应供应商 API
// 2. 记录 Token 用量
// 3. 扣减用户积分
// 4. 写入调用日志

成本核算

系统自动记录每次 LLM 调用的 Token 用量和成本，管理员可在「成本核算」页面查看：

相关文档