feat: AI PaaS 商业平台需求描述与架构方案
This commit is contained in:
commit
eb58160c8f
3 files changed
+418
No files matched your search
@@ -0,0 +1,19 @@
|
||||
# AI PaaS 商业平台 - 需求描述与架构方案
|
||||
|
||||
## 项目说明
|
||||
|
||||
本仓库用于 AI PaaS 商业平台的架构设计,包含:
|
||||
|
||||
1. **需求描述**(`需求描述.md`)— 纯需求文档,可直接复制到其他 AI 平台进行交叉验证
|
||||
2. **架构方案**(`架构方案.md`)— 完整的架构设计方案,包含分层架构、技术选型、实施路线图
|
||||
|
||||
## 交叉验证方法
|
||||
|
||||
1. 将 `需求描述.md` 复制到豆包、千问、百度、元宝等平台
|
||||
2. 收集各平台返回的方案
|
||||
3. 与 `架构方案.md` 进行对比
|
||||
4. 找出共识部分和分歧部分
|
||||
|
||||
## 创建时间
|
||||
|
||||
2026-06-27
|
||||
@@ -0,0 +1,287 @@
|
||||
# AI PaaS 商业平台 - 架构方案
|
||||
|
||||
## 架构概览
|
||||
|
||||
基于需求分析,采用 **平台底座 + 标准化中间件 + AI 能力层** 三层架构:
|
||||
|
||||
```
|
||||
┌─────────────────────────────────────────────────────────────────────┐
|
||||
│ 用户入口层 │
|
||||
│ Web UI / IM Bot / CLI / OpenAPI / MCP Client / ACP │
|
||||
└───────────────────────────┬─────────────────────────────────────────┘
|
||||
▼
|
||||
┌─────────────────────────────────────────────────────────────────────┐
|
||||
│ 平台底座层 │
|
||||
│ ┌─────────────┐ ┌──────────────┐ ┌──────────────┐ ┌────────────┐ │
|
||||
│ │ Auth/多租户 │ │ 订阅+Token计费 │ │ 用户Dashboard │ │ Admin 管理 │ │
|
||||
│ └─────────────┘ └──────────────┘ └──────────────┘ └────────────┘ │
|
||||
└───────────────────────────┬─────────────────────────────────────────┘
|
||||
▼
|
||||
┌─────────────────────────────────────────────────────────────────────┐
|
||||
│ 标准化中间件层(核心 IP) │
|
||||
│ │
|
||||
│ ┌──────────────────────────────────────────────────────────────┐ │
|
||||
│ │ Capability Registry(能力注册中心) │ │
|
||||
│ │ - 每个 AI 项目注册为 Capability │ │
|
||||
│ │ - 标准接口:发现 / 调用 / 计费 / 版本管理 │ │
|
||||
│ └──────────────────────────────────────────────────────────────┘ │
|
||||
│ │
|
||||
│ ┌────────────┐ ┌────────────┐ ┌────────────┐ ┌────────────────┐ │
|
||||
│ │ API Gateway │ │ LLM Router │ │ Metering │ │ OpenAPI 网关 │ │
|
||||
│ │ 统一入口 │ │ 多平台模型 │ │ 用量追踪 │ │ 外部应用接入 │ │
|
||||
│ └────────────┘ └────────────┘ └────────────┘ └────────────────┘ │
|
||||
└───────────────────────────┬─────────────────────────────────────────┘
|
||||
▼
|
||||
┌─────────────────────────────────────────────────────────────────────┐
|
||||
│ AI 能力层(各取所长) │
|
||||
│ │
|
||||
│ ┌────────┐ ┌────────┐ ┌────────┐ ┌────────┐ ┌────────┐ ┌──────┐ │
|
||||
│ │ Agent │ │ MCP │ │ Skills │ │ LLM │ │ ACP │ │ IMBot│ │
|
||||
│ │ 编排 │ │ Server │ │ 市场 │ │ Provider│ │ Agent │ │ │ │
|
||||
│ └────────┘ └────────┘ └────────┘ └────────┘ └────────┘ └──────┘ │
|
||||
│ LangFlow mcp-hub 自研 多平台对接 自研 LangBot │
|
||||
└─────────────────────────────────────────────────────────────────────┘
|
||||
```
|
||||
|
||||
## 技术选型
|
||||
|
||||
### 平台底座候选方案
|
||||
|
||||
| 方案 | 底座 | 许可证 | 多租户 | 计费 | 成熟度 | 风险 |
|
||||
|------|------|--------|--------|------|--------|------|
|
||||
| **方案一** | Sovra | MIT ✅ | ✅ 内置 | ✅ Stripe | ⭐ (1星) | 高 |
|
||||
| **方案二** | 全自研 | - | ✅ 自研 | ✅ 自研 | 需 6-9 月 | 低 |
|
||||
| **方案三** | CoAI | Apache 2.0 ✅ | ✅ 内置 | ✅ 内置 | ⭐⭐⭐ | 中 |
|
||||
|
||||
### 推荐方案:方案三(CoAI 底座)
|
||||
|
||||
**选择理由**:
|
||||
1. **许可证合规**:Apache 2.0 允许多租户 SaaS 商业化
|
||||
2. **功能齐全**:OpenAI 兼容 API + 订阅计费 + 多租户 + 模型市场
|
||||
3. **快速验证**:可在 2-3 个月内上线 MVP
|
||||
4. **自主可控**:自研标准化中间件层,核心 IP 不受限
|
||||
|
||||
### 标准化中间件设计
|
||||
|
||||
#### Capability Registry(能力注册中心)
|
||||
|
||||
```yaml
|
||||
# 能力注册示例
|
||||
capabilities:
|
||||
- id: "langflow-agent"
|
||||
name: "LangFlow Agent 编排"
|
||||
type: "agent"
|
||||
version: "1.0.0"
|
||||
endpoint: "http://langflow:7860/api/v1"
|
||||
auth_type: "api_key"
|
||||
billing_model: "per_request"
|
||||
description: "可视化 AI Agent 工作流编排"
|
||||
tags: ["agent", "workflow", "no-code"]
|
||||
|
||||
- id: "langbot-im"
|
||||
name: "LangBot 即时通讯"
|
||||
type: "imbot"
|
||||
version: "2.0.0"
|
||||
endpoint: "http://langbot:5300/api"
|
||||
auth_type: "jwt"
|
||||
billing_model: "subscription"
|
||||
description: "多平台即时通讯机器人"
|
||||
tags: ["im", "wechat", "qq"]
|
||||
|
||||
- id: "mcp-hub"
|
||||
name: "MCP 服务管理"
|
||||
type: "mcp"
|
||||
version: "1.0.0"
|
||||
endpoint: "http://mcp-hub:3001/api"
|
||||
auth_type: "api_key"
|
||||
billing_model: "per_token"
|
||||
description: "MCP 协议服务发现与管理"
|
||||
tags: ["mcp", "protocol", "tools"]
|
||||
```
|
||||
|
||||
#### LLM Provider Router
|
||||
|
||||
```yaml
|
||||
# 多平台模型配置
|
||||
llm_providers:
|
||||
- name: "deepseek"
|
||||
base_url: "https://api.deepseek.com/v1"
|
||||
api_key: "${DEEPSEEK_API_KEY}"
|
||||
models: ["deepseek-chat", "deepseek-coder"]
|
||||
compatible: true # OpenAI 兼容
|
||||
|
||||
- name: "qianwen"
|
||||
base_url: "https://dashscope.aliyuncs.com/compatible-mode/v1"
|
||||
api_key: "${QIANWEN_API_KEY}"
|
||||
models: ["qwen-turbo", "qwen-plus", "qwen-max"]
|
||||
compatible: true
|
||||
|
||||
- name: "doubao"
|
||||
base_url: "https://ark.cn-beijing.volces.com/api/v3"
|
||||
api_key: "${DOUBAO_API_KEY}"
|
||||
models: ["doubao-pro", "doubao-lite"]
|
||||
compatible: true
|
||||
|
||||
- name: "baidu"
|
||||
base_url: "https://aip.baidubce.com/rpc/2.0/ai_custom/v1/wenxinworkshop"
|
||||
api_key: "${BAIDU_API_KEY}"
|
||||
models: ["ernie-4.0", "ernie-3.5"]
|
||||
compatible: false # 需要适配层
|
||||
|
||||
- name: "yuanbao"
|
||||
base_url: "https://api.yuanbao.tencent.com/v1"
|
||||
api_key: "${YUANBAO_API_KEY}"
|
||||
models: ["yuanbao-pro", "yuanbao-lite"]
|
||||
compatible: true
|
||||
```
|
||||
|
||||
### AI 能力层选型
|
||||
|
||||
| 能力 | 推荐项目 | 许可证 | 成熟度 | 作用 |
|
||||
|------|---------|--------|--------|------|
|
||||
| **Agent 编排** | LangFlow | MIT ✅ | ⭐⭐⭐⭐⭐ | 可视化工作流编排 |
|
||||
| **IM Bot** | LangBot | Apache 2.0 ✅ | ⭐⭐⭐⭐ | 个人微信/多平台 |
|
||||
| **MCP** | mcp-hub | MIT ✅ | ⭐⭐⭐ | MCP 服务管理 |
|
||||
| **知识库** | FastGPT | ❌ 限制 | ⭐⭐⭐⭐⭐ | 单租户使用 |
|
||||
| **Skills 市场** | 自研 | - | - | 完全自定义 |
|
||||
| **ACP** | 自研 | - | - | Agent 间通信 |
|
||||
|
||||
## 标准化中间件 API 设计
|
||||
|
||||
### 能力注册 API
|
||||
|
||||
```http
|
||||
POST /api/v1/capabilities
|
||||
Content-Type: application/json
|
||||
Authorization: Bearer <token>
|
||||
|
||||
{
|
||||
"id": "my-agent",
|
||||
"name": "我的智能体",
|
||||
"type": "agent",
|
||||
"version": "1.0.0",
|
||||
"endpoint": "http://my-agent:8000/api",
|
||||
"auth_type": "api_key",
|
||||
"billing_model": "per_request",
|
||||
"description": "自定义 AI Agent"
|
||||
}
|
||||
```
|
||||
|
||||
### 能力调用 API
|
||||
|
||||
```http
|
||||
POST /api/v1/capabilities/{capability_id}/invoke
|
||||
Content-Type: application/json
|
||||
Authorization: Bearer <token>
|
||||
|
||||
{
|
||||
"method": "chat",
|
||||
"params": {
|
||||
"model": "gpt-4",
|
||||
"messages": [
|
||||
{"role": "user", "content": "你好"}
|
||||
]
|
||||
}
|
||||
}
|
||||
```
|
||||
|
||||
### 用量查询 API
|
||||
|
||||
```http
|
||||
GET /api/v1/usage?user_id=xxx&start_date=2026-06-01&end_date=2026-06-30
|
||||
Authorization: Bearer <token>
|
||||
```
|
||||
|
||||
## 实施路线图
|
||||
|
||||
### 阶段一:MVP(2-3 月)
|
||||
|
||||
**目标**:上线基础版本,验证商业模式
|
||||
|
||||
- [ ] 部署 CoAI 底座(多租户 + 计费)
|
||||
- [ ] 部署 LangBot(IM Bot)
|
||||
- [ ] 部署 LangFlow(Agent 编排)
|
||||
- [ ] 实现 Capability Registry 基础版
|
||||
- [ ] 实现 LLM Provider Router(接入 DeepSeek、千问、豆包)
|
||||
- [ ] 用户 Dashboard 基础版
|
||||
- [ ] 基础计费功能
|
||||
|
||||
### 阶段二:功能完善(3-4 月)
|
||||
|
||||
**目标**:补齐核心功能,提升用户体验
|
||||
|
||||
- [ ] MCP 支持(部署 mcp-hub)
|
||||
- [ ] Skills 市场 v1(发布、审核、交易)
|
||||
- [ ] 知识库功能(集成 FastGPT 单租户版)
|
||||
- [ ] ACP 协议实现
|
||||
- [ ] 高级计费模式(订阅 + Token 混合)
|
||||
- [ ] 管理后台完善
|
||||
|
||||
### 阶段三:商业化(2-3 月)
|
||||
|
||||
**目标**:正式商业化运营
|
||||
|
||||
- [ ] 支付集成(支付宝、微信支付)
|
||||
- [ ] 开发者文档完善
|
||||
- [ ] API 开放平台
|
||||
- [ ] 运营数据分析
|
||||
- [ ] 安全审计与合规
|
||||
- [ ] 性能优化与扩展
|
||||
|
||||
## 验证计划
|
||||
|
||||
### 多平台 LLM 对接验证
|
||||
|
||||
1. **DeepSeek**:直接 OpenAI 兼容,无需适配
|
||||
2. **千问**:直接 OpenAI 兼容,无需适配
|
||||
3. **豆包**:直接 OpenAI 兼容,无需适配
|
||||
4. **百度**:需要适配层,封装非标准 API 为 OpenAI 格式
|
||||
5. **元宝**:直接 OpenAI 兼容,无需适配
|
||||
6. **智谱**:直接 OpenAI 兼容,无需适配
|
||||
7. **本地 Ollama**:直接 OpenAI 兼容,无需适配
|
||||
|
||||
### 测试用例
|
||||
|
||||
```python
|
||||
# 统一调用示例
|
||||
import openai
|
||||
|
||||
# DeepSeek
|
||||
client = openai.OpenAI(
|
||||
base_url="https://api.deepseek.com/v1",
|
||||
api_key="your-deepseek-key"
|
||||
)
|
||||
response = client.chat.completions.create(
|
||||
model="deepseek-chat",
|
||||
messages=[{"role": "user", "content": "你好"}]
|
||||
)
|
||||
|
||||
# 千问
|
||||
client = openai.OpenAI(
|
||||
base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
|
||||
api_key="your-qianwen-key"
|
||||
)
|
||||
response = client.chat.completions.create(
|
||||
model="qwen-turbo",
|
||||
messages=[{"role": "user", "content": "你好"}]
|
||||
)
|
||||
```
|
||||
|
||||
## 风险与对策
|
||||
|
||||
| 风险 | 影响 | 对策 |
|
||||
|------|------|------|
|
||||
| CoAI 停更 | 中 | 核心功能自研,CoAI 仅作底座 |
|
||||
| LangFlow 依赖 | 低 | MIT 许可,可自行维护 |
|
||||
| LLM API 价格波动 | 中 | 多平台路由,自动选择最优 |
|
||||
| 多租户性能 | 高 | 数据库分库分表,缓存优化 |
|
||||
| 计费纠纷 | 中 | 实时用量追踪,详细日志 |
|
||||
|
||||
## 总结
|
||||
|
||||
本方案的核心竞争力在于 **标准化中间件层**:
|
||||
- **Capability Registry**:让每个 AI 项目都能标准化接入
|
||||
- **LLM Router**:统一多平台模型对接
|
||||
- **Metering**:精确的用量追踪与计费
|
||||
|
||||
通过这种架构,可以快速接入各种 AI 能力,形成 **AI 能力市场**,为个人用户提供完整的 AI 服务交易平台。
|
||||
@@ -0,0 +1,112 @@
|
||||
# AI PaaS 商业平台 - 需求描述
|
||||
|
||||
## 商业目标
|
||||
|
||||
我需要设计一套 AI PaaS 商业平台的完整架构。面向个人用户提供 AI 能力服务,包括但不限于:
|
||||
|
||||
- **Agent(智能体)**:用户可以创建、部署、管理自己的 AI Agent
|
||||
- **MCP(Model Context Protocol)**:支持 MCP 协议的 AI 服务接入
|
||||
- **Skills(技能市场)**:用户可以发布、购买、使用 AI 技能
|
||||
- **IMBot(即时通讯机器人)**:支持微信、QQ、钉钉等平台的 AI 机器人
|
||||
- **CLI(命令行工具)**:开发者友好的命令行接口
|
||||
- **ACP(Agent Communication Protocol)**:Agent 间通信协议
|
||||
- **AI 产品交易平台**:为个人用户提供 AI 产品的交易市场
|
||||
|
||||
## 技术需求
|
||||
|
||||
### 1. 平台底座
|
||||
|
||||
需要一个完整的 Web 系统作为平台基础,包含:
|
||||
- 用户认证与授权(OAuth、JWT)
|
||||
- 多租户架构(每个用户/团队独立空间)
|
||||
- 用户 Dashboard(使用统计、账单、配置管理)
|
||||
- 管理后台(用户管理、系统监控、内容审核)
|
||||
|
||||
### 2. 订阅计费系统
|
||||
|
||||
支持灵活的计费模式:
|
||||
- **订阅制收费**:月度/年度订阅,包含不同等级的套餐
|
||||
- **Token 计费**:基于 API 调用次数/Token 消耗量计费
|
||||
- **混合模式**:基础订阅 + 超出部分按量计费
|
||||
- 支持多种支付方式(支付宝、微信支付、Stripe)
|
||||
|
||||
### 3. 标准化中间件(核心需求)
|
||||
|
||||
这是平台的核心竞争力,需要能够:
|
||||
|
||||
#### 能力注册中心
|
||||
|
||||
- 每个 AI 项目(Agent、MCP、Skills 等)注册为一个 **Capability**
|
||||
- 标准化的接口规范:发现 / 调用 / 计费 / 版本管理
|
||||
- 支持动态注册和注销
|
||||
- 能力元数据管理(描述、标签、版本、依赖关系)
|
||||
|
||||
#### API Gateway
|
||||
|
||||
- 统一入口:所有 AI 能力通过统一 API 网关暴露
|
||||
- 认证鉴权:JWT/API Key 多种认证方式
|
||||
- 限流熔断:保护后端服务
|
||||
- 请求路由:根据能力类型、用户等级路由到不同后端
|
||||
- 协议转换:支持 REST、WebSocket、gRPC 等多种协议
|
||||
|
||||
#### LLM Provider Router
|
||||
|
||||
- 多平台模型对接:DeepSeek、千问、豆包、百度、元宝、智谱、本地 Ollama
|
||||
- 统一 OpenAI 兼容格式:`POST /v1/chat/completions`
|
||||
- 模型路由:根据用户选择、成本、性能自动路由
|
||||
- 故障转移:主模型不可用时自动切换备用模型
|
||||
|
||||
#### 用量追踪与计费
|
||||
|
||||
- 实时记录每个用户的 API 调用量
|
||||
- Token 消耗统计
|
||||
- 按能力、按模型、按时间维度统计
|
||||
- 与订阅计费系统联动
|
||||
|
||||
### 4. AI 能力层
|
||||
|
||||
各 AI 项目通过标准化接口接入,每个项目做自己最擅长的事:
|
||||
|
||||
- **Agent 编排**:可视化工作流编排(类似 LangFlow)
|
||||
- **MCP Server**:MCP 协议服务管理与发现
|
||||
- **Skills 市场**:技能发布、审核、交易、版本管理
|
||||
- **IM Bot**:多平台即时通讯机器人(微信、QQ、钉钉)
|
||||
- **知识库**:文档上传、向量化检索、RAG 问答
|
||||
- **LLM Provider**:多模型统一接入与管理
|
||||
|
||||
### 5. 平台验证
|
||||
|
||||
需要能在多个 LLM 平台上验证和运行:
|
||||
- DeepSeek
|
||||
- 千问(阿里云)
|
||||
- 豆包(字节跳动)
|
||||
- 百度文心一言
|
||||
- 腾讯元宝
|
||||
- 智谱 GLM
|
||||
- 本地 Ollama
|
||||
|
||||
## 约束条件
|
||||
|
||||
### 许可证合规
|
||||
|
||||
所有使用的开源项目必须允许商业化多租户 SaaS 部署。注意:
|
||||
|
||||
- ❌ **Dify**:Modified Apache 2.0,禁止多租户 SaaS 商业化
|
||||
- ❌ **FastGPT**:Modified Apache 2.0,禁止多租户 SaaS 商业化
|
||||
- ✅ **Sovra**:MIT,允许商业化
|
||||
- ✅ **CoAI/ChatNIO**:Apache 2.0,允许商业化
|
||||
- ✅ **LangFlow**:MIT,允许商业化
|
||||
- ✅ **LangBot**:Apache 2.0,允许商业化
|
||||
|
||||
### 部署环境
|
||||
|
||||
- 服务器:Linux (Ubuntu/CentOS)
|
||||
- 容器化:Docker + Docker Compose
|
||||
- 数据库:PostgreSQL + Redis
|
||||
- 存储:支持本地存储和对象存储 (S3/MinIO)
|
||||
|
||||
### 商业化考量
|
||||
|
||||
- 快速验证 MVP:2-3 个月内上线基础版本
|
||||
- 长期商业化:架构可扩展,支持多租户、多计费模式
|
||||
- 核心竞争力:标准化中间件层,而非底层 AI 能力
|
||||
Reference in new issue
Block a user