commit eb58160c8fc85d953a5b0ed0e4a72fb0255c9e7e Author: qyyfw Date: Sat Jun 27 06:18:43 2026 +0000 feat: AI PaaS 商业平台需求描述与架构方案 diff --git a/README.md b/README.md new file mode 100644 index 0000000..f57d1a4 --- /dev/null +++ b/README.md @@ -0,0 +1,19 @@ +# AI PaaS 商业平台 - 需求描述与架构方案 + +## 项目说明 + +本仓库用于 AI PaaS 商业平台的架构设计，包含： + +1. **需求描述**（`需求描述.md`）— 纯需求文档，可直接复制到其他 AI 平台进行交叉验证 +2. **架构方案**（`架构方案.md`）— 完整的架构设计方案，包含分层架构、技术选型、实施路线图 + +## 交叉验证方法 + +1. 将 `需求描述.md` 复制到豆包、千问、百度、元宝等平台 +2. 收集各平台返回的方案 +3. 与 `架构方案.md` 进行对比 +4. 找出共识部分和分歧部分 + +## 创建时间 + +2026-06-27 diff --git a/架构方案.md b/架构方案.md new file mode 100644 index 0000000..7de72c1 --- /dev/null +++ b/架构方案.md @@ -0,0 +1,287 @@ +# AI PaaS 商业平台 - 架构方案 + +## 架构概览 + +基于需求分析，采用 **平台底座 + 标准化中间件 + AI 能力层** 三层架构： + +``` +┌─────────────────────────────────────────────────────────────────────┐ +│ 用户入口层 │ +│ Web UI / IM Bot / CLI / OpenAPI / MCP Client / ACP │ +└───────────────────────────┬─────────────────────────────────────────┘ + ▼ +┌─────────────────────────────────────────────────────────────────────┐ +│ 平台底座层 │ +│ ┌─────────────┐ ┌──────────────┐ ┌──────────────┐ ┌────────────┐ │ +│ │ Auth/多租户 │ │ 订阅+Token计费 │ │ 用户Dashboard │ │ Admin 管理 │ │ +│ └─────────────┘ └──────────────┘ └──────────────┘ └────────────┘ │ +└───────────────────────────┬─────────────────────────────────────────┘ + ▼ +┌─────────────────────────────────────────────────────────────────────┐ +│ 标准化中间件层（核心 IP） │ +│ │ +│ ┌──────────────────────────────────────────────────────────────┐ │ +│ │ Capability Registry（能力注册中心） │ │ +│ │ - 每个 AI 项目注册为 Capability │ │ +│ │ - 标准接口：发现 / 调用 / 计费 / 版本管理 │ │ +│ └──────────────────────────────────────────────────────────────┘ │ +│ │ +│ ┌────────────┐ ┌────────────┐ ┌────────────┐ ┌────────────────┐ │ +│ │ API Gateway │ │ LLM Router │ │ Metering │ │ OpenAPI 网关 │ │ +│ │ 统一入口 │ │ 多平台模型 │ │ 用量追踪 │ │ 外部应用接入 │ │ +│ └────────────┘ └────────────┘ └────────────┘ └────────────────┘ │ +└───────────────────────────┬─────────────────────────────────────────┘ + ▼ +┌─────────────────────────────────────────────────────────────────────┐ +│ AI 能力层（各取所长） │ +│ │ +│ ┌────────┐ ┌────────┐ ┌────────┐ ┌────────┐ ┌────────┐ ┌──────┐ │ +│ │ Agent │ │ MCP │ │ Skills │ │ LLM │ │ ACP │ │ IMBot│ │ +│ │ 编排 │ │ Server │ │ 市场 │ │ Provider│ │ Agent │ │ │ │ +│ └────────┘ └────────┘ └────────┘ └────────┘ └────────┘ └──────┘ │ +│ LangFlow mcp-hub 自研 多平台对接 自研 LangBot │ +└─────────────────────────────────────────────────────────────────────┘ +``` + +## 技术选型 + +### 平台底座候选方案 + +| 方案 | 底座 | 许可证 | 多租户 | 计费 | 成熟度 | 风险 | +|------|------|--------|--------|------|--------|------| +| **方案一** | Sovra | MIT ✅ | ✅ 内置 | ✅ Stripe | ⭐ (1星) | 高 | +| **方案二** | 全自研 | - | ✅ 自研 | ✅ 自研 | 需 6-9 月 | 低 | +| **方案三** | CoAI | Apache 2.0 ✅ | ✅ 内置 | ✅ 内置 | ⭐⭐⭐ | 中 | + +### 推荐方案：方案三（CoAI 底座） + +**选择理由**： +1. **许可证合规**：Apache 2.0 允许多租户 SaaS 商业化 +2. **功能齐全**：OpenAI 兼容 API + 订阅计费 + 多租户 + 模型市场 +3. **快速验证**：可在 2-3 个月内上线 MVP +4. **自主可控**：自研标准化中间件层，核心 IP 不受限 + +### 标准化中间件设计 + +#### Capability Registry（能力注册中心） + +```yaml +# 能力注册示例 +capabilities: + - id: "langflow-agent" + name: "LangFlow Agent 编排" + type: "agent" + version: "1.0.0" + endpoint: "http://langflow:7860/api/v1" + auth_type: "api_key" + billing_model: "per_request" + description: "可视化 AI Agent 工作流编排" + tags: ["agent", "workflow", "no-code"] + + - id: "langbot-im" + name: "LangBot 即时通讯" + type: "imbot" + version: "2.0.0" + endpoint: "http://langbot:5300/api" + auth_type: "jwt" + billing_model: "subscription" + description: "多平台即时通讯机器人" + tags: ["im", "wechat", "qq"] + + - id: "mcp-hub" + name: "MCP 服务管理" + type: "mcp" + version: "1.0.0" + endpoint: "http://mcp-hub:3001/api" + auth_type: "api_key" + billing_model: "per_token" + description: "MCP 协议服务发现与管理" + tags: ["mcp", "protocol", "tools"] +``` + +#### LLM Provider Router + +```yaml +# 多平台模型配置 +llm_providers: + - name: "deepseek" + base_url: "https://api.deepseek.com/v1" + api_key: "${DEEPSEEK_API_KEY}" + models: ["deepseek-chat", "deepseek-coder"] + compatible: true # OpenAI 兼容 + + - name: "qianwen" + base_url: "https://dashscope.aliyuncs.com/compatible-mode/v1" + api_key: "${QIANWEN_API_KEY}" + models: ["qwen-turbo", "qwen-plus", "qwen-max"] + compatible: true + + - name: "doubao" + base_url: "https://ark.cn-beijing.volces.com/api/v3" + api_key: "${DOUBAO_API_KEY}" + models: ["doubao-pro", "doubao-lite"] + compatible: true + + - name: "baidu" + base_url: "https://aip.baidubce.com/rpc/2.0/ai_custom/v1/wenxinworkshop" + api_key: "${BAIDU_API_KEY}" + models: ["ernie-4.0", "ernie-3.5"] + compatible: false # 需要适配层 + + - name: "yuanbao" + base_url: "https://api.yuanbao.tencent.com/v1" + api_key: "${YUANBAO_API_KEY}" + models: ["yuanbao-pro", "yuanbao-lite"] + compatible: true +``` + +### AI 能力层选型 + +| 能力 | 推荐项目 | 许可证 | 成熟度 | 作用 | +|------|---------|--------|--------|------| +| **Agent 编排** | LangFlow | MIT ✅ | ⭐⭐⭐⭐⭐ | 可视化工作流编排 | +| **IM Bot** | LangBot | Apache 2.0 ✅ | ⭐⭐⭐⭐ | 个人微信/多平台 | +| **MCP** | mcp-hub | MIT ✅ | ⭐⭐⭐ | MCP 服务管理 | +| **知识库** | FastGPT | ❌ 限制 | ⭐⭐⭐⭐⭐ | 单租户使用 | +| **Skills 市场** | 自研 | - | - | 完全自定义 | +| **ACP** | 自研 | - | - | Agent 间通信 | + +## 标准化中间件 API 设计 + +### 能力注册 API + +```http +POST /api/v1/capabilities +Content-Type: application/json +Authorization: Bearer + +{ + "id": "my-agent", + "name": "我的智能体", + "type": "agent", + "version": "1.0.0", + "endpoint": "http://my-agent:8000/api", + "auth_type": "api_key", + "billing_model": "per_request", + "description": "自定义 AI Agent" +} +``` + +### 能力调用 API + +```http +POST /api/v1/capabilities/{capability_id}/invoke +Content-Type: application/json +Authorization: Bearer + +{ + "method": "chat", + "params": { + "model": "gpt-4", + "messages": [ + {"role": "user", "content": "你好"} + ] + } +} +``` + +### 用量查询 API + +```http +GET /api/v1/usage?user_id=xxx&start_date=2026-06-01&end_date=2026-06-30 +Authorization: Bearer +``` + +## 实施路线图 + +### 阶段一：MVP（2-3 月） + +**目标**：上线基础版本，验证商业模式 + +- [ ] 部署 CoAI 底座（多租户 + 计费） +- [ ] 部署 LangBot（IM Bot） +- [ ] 部署 LangFlow（Agent 编排） +- [ ] 实现 Capability Registry 基础版 +- [ ] 实现 LLM Provider Router（接入 DeepSeek、千问、豆包） +- [ ] 用户 Dashboard 基础版 +- [ ] 基础计费功能 + +### 阶段二：功能完善（3-4 月） + +**目标**：补齐核心功能，提升用户体验 + +- [ ] MCP 支持（部署 mcp-hub） +- [ ] Skills 市场 v1（发布、审核、交易） +- [ ] 知识库功能（集成 FastGPT 单租户版） +- [ ] ACP 协议实现 +- [ ] 高级计费模式（订阅 + Token 混合） +- [ ] 管理后台完善 + +### 阶段三：商业化（2-3 月） + +**目标**：正式商业化运营 + +- [ ] 支付集成（支付宝、微信支付） +- [ ] 开发者文档完善 +- [ ] API 开放平台 +- [ ] 运营数据分析 +- [ ] 安全审计与合规 +- [ ] 性能优化与扩展 + +## 验证计划 + +### 多平台 LLM 对接验证 + +1. **DeepSeek**：直接 OpenAI 兼容，无需适配 +2. **千问**：直接 OpenAI 兼容，无需适配 +3. **豆包**：直接 OpenAI 兼容，无需适配 +4. **百度**：需要适配层，封装非标准 API 为 OpenAI 格式 +5. **元宝**：直接 OpenAI 兼容，无需适配 +6. **智谱**：直接 OpenAI 兼容，无需适配 +7. **本地 Ollama**：直接 OpenAI 兼容，无需适配 + +### 测试用例 + +```python +# 统一调用示例 +import openai + +# DeepSeek +client = openai.OpenAI( + base_url="https://api.deepseek.com/v1", + api_key="your-deepseek-key" +) +response = client.chat.completions.create( + model="deepseek-chat", + messages=[{"role": "user", "content": "你好"}] +) + +# 千问 +client = openai.OpenAI( + base_url="https://dashscope.aliyuncs.com/compatible-mode/v1", + api_key="your-qianwen-key" +) +response = client.chat.completions.create( + model="qwen-turbo", + messages=[{"role": "user", "content": "你好"}] +) +``` + +## 风险与对策 + +| 风险 | 影响 | 对策 | +|------|------|------| +| CoAI 停更 | 中 | 核心功能自研，CoAI 仅作底座 | +| LangFlow 依赖 | 低 | MIT 许可，可自行维护 | +| LLM API 价格波动 | 中 | 多平台路由，自动选择最优 | +| 多租户性能 | 高 | 数据库分库分表，缓存优化 | +| 计费纠纷 | 中 | 实时用量追踪，详细日志 | + +## 总结 + +本方案的核心竞争力在于 **标准化中间件层**： +- **Capability Registry**：让每个 AI 项目都能标准化接入 +- **LLM Router**：统一多平台模型对接 +- **Metering**：精确的用量追踪与计费 + +通过这种架构，可以快速接入各种 AI 能力，形成 **AI 能力市场**，为个人用户提供完整的 AI 服务交易平台。 diff --git a/需求描述.md b/需求描述.md new file mode 100644 index 0000000..6e5a6f2 --- /dev/null +++ b/需求描述.md @@ -0,0 +1,112 @@ +# AI PaaS 商业平台 - 需求描述 + +## 商业目标 + +我需要设计一套 AI PaaS 商业平台的完整架构。面向个人用户提供 AI 能力服务，包括但不限于： + +- **Agent（智能体）**：用户可以创建、部署、管理自己的 AI Agent +- **MCP（Model Context Protocol）**：支持 MCP 协议的 AI 服务接入 +- **Skills（技能市场）**：用户可以发布、购买、使用 AI 技能 +- **IMBot（即时通讯机器人）**：支持微信、QQ、钉钉等平台的 AI 机器人 +- **CLI（命令行工具）**：开发者友好的命令行接口 +- **ACP（Agent Communication Protocol）**：Agent 间通信协议 +- **AI 产品交易平台**：为个人用户提供 AI 产品的交易市场 + +## 技术需求 + +### 1. 平台底座 + +需要一个完整的 Web 系统作为平台基础，包含： +- 用户认证与授权（OAuth、JWT） +- 多租户架构（每个用户/团队独立空间） +- 用户 Dashboard（使用统计、账单、配置管理） +- 管理后台（用户管理、系统监控、内容审核） + +### 2. 订阅计费系统 + +支持灵活的计费模式： +- **订阅制收费**：月度/年度订阅，包含不同等级的套餐 +- **Token 计费**：基于 API 调用次数/Token 消耗量计费 +- **混合模式**：基础订阅 + 超出部分按量计费 +- 支持多种支付方式（支付宝、微信支付、Stripe） + +### 3. 标准化中间件（核心需求） + +这是平台的核心竞争力，需要能够： + +#### 能力注册中心 + +- 每个 AI 项目（Agent、MCP、Skills 等）注册为一个 **Capability** +- 标准化的接口规范：发现 / 调用 / 计费 / 版本管理 +- 支持动态注册和注销 +- 能力元数据管理（描述、标签、版本、依赖关系） + +#### API Gateway + +- 统一入口：所有 AI 能力通过统一 API 网关暴露 +- 认证鉴权：JWT/API Key 多种认证方式 +- 限流熔断：保护后端服务 +- 请求路由：根据能力类型、用户等级路由到不同后端 +- 协议转换：支持 REST、WebSocket、gRPC 等多种协议 + +#### LLM Provider Router + +- 多平台模型对接：DeepSeek、千问、豆包、百度、元宝、智谱、本地 Ollama +- 统一 OpenAI 兼容格式：`POST /v1/chat/completions` +- 模型路由：根据用户选择、成本、性能自动路由 +- 故障转移：主模型不可用时自动切换备用模型 + +#### 用量追踪与计费 + +- 实时记录每个用户的 API 调用量 +- Token 消耗统计 +- 按能力、按模型、按时间维度统计 +- 与订阅计费系统联动 + +### 4. AI 能力层 + +各 AI 项目通过标准化接口接入，每个项目做自己最擅长的事： + +- **Agent 编排**：可视化工作流编排（类似 LangFlow） +- **MCP Server**：MCP 协议服务管理与发现 +- **Skills 市场**：技能发布、审核、交易、版本管理 +- **IM Bot**：多平台即时通讯机器人（微信、QQ、钉钉） +- **知识库**：文档上传、向量化检索、RAG 问答 +- **LLM Provider**：多模型统一接入与管理 + +### 5. 平台验证 + +需要能在多个 LLM 平台上验证和运行： +- DeepSeek +- 千问（阿里云） +- 豆包（字节跳动） +- 百度文心一言 +- 腾讯元宝 +- 智谱 GLM +- 本地 Ollama + +## 约束条件 + +### 许可证合规 + +所有使用的开源项目必须允许商业化多租户 SaaS 部署。注意： + +- ❌ **Dify**：Modified Apache 2.0，禁止多租户 SaaS 商业化 +- ❌ **FastGPT**：Modified Apache 2.0，禁止多租户 SaaS 商业化 +- ✅ **Sovra**：MIT，允许商业化 +- ✅ **CoAI/ChatNIO**：Apache 2.0，允许商业化 +- ✅ **LangFlow**：MIT，允许商业化 +- ✅ **LangBot**：Apache 2.0，允许商业化 + +### 部署环境 + +- 服务器：Linux (Ubuntu/CentOS) +- 容器化：Docker + Docker Compose +- 数据库：PostgreSQL + Redis +- 存储：支持本地存储和对象存储 (S3/MinIO) + +### 商业化考量 + +- 快速验证 MVP：2-3 个月内上线基础版本 +- 长期商业化：架构可扩展，支持多租户、多计费模式 +- 核心竞争力：标准化中间件层，而非底层 AI 能力