feat: AI PaaS 商业平台需求描述与架构方案

This commit is contained in:
qyyfw committed 2026-06-27 06:18:43 +00:00
commit eb58160c8f
3 files changed
+418

No files matched your search

+19
View File
@@ -0,0 +1,19 @@
# AI PaaS 商业平台 - 需求描述与架构方案
## 项目说明
本仓库用于 AI PaaS 商业平台的架构设计,包含:
1. **需求描述**(`需求描述.md`)— 纯需求文档,可直接复制到其他 AI 平台进行交叉验证
2. **架构方案**(`架构方案.md`)— 完整的架构设计方案,包含分层架构、技术选型、实施路线图
## 交叉验证方法
1. 将 `需求描述.md` 复制到豆包、千问、百度、元宝等平台
2. 收集各平台返回的方案
3. 与 `架构方案.md` 进行对比
4. 找出共识部分和分歧部分
## 创建时间
2026-06-27
+287
View File
@@ -0,0 +1,287 @@
# AI PaaS 商业平台 - 架构方案
## 架构概览
基于需求分析,采用 **平台底座 + 标准化中间件 + AI 能力层** 三层架构:
```
┌─────────────────────────────────────────────────────────────────────┐
│ 用户入口层 │
│ Web UI / IM Bot / CLI / OpenAPI / MCP Client / ACP │
└───────────────────────────┬─────────────────────────────────────────┘
▼
┌─────────────────────────────────────────────────────────────────────┐
│ 平台底座层 │
│ ┌─────────────┐ ┌──────────────┐ ┌──────────────┐ ┌────────────┐ │
│ │ Auth/多租户 │ │ 订阅+Token计费 │ │ 用户Dashboard │ │ Admin 管理 │ │
│ └─────────────┘ └──────────────┘ └──────────────┘ └────────────┘ │
└───────────────────────────┬─────────────────────────────────────────┘
▼
┌─────────────────────────────────────────────────────────────────────┐
│ 标准化中间件层(核心 IP) │
│ │
│ ┌──────────────────────────────────────────────────────────────┐ │
│ │ Capability Registry(能力注册中心) │ │
│ │ - 每个 AI 项目注册为 Capability │ │
│ │ - 标准接口:发现 / 调用 / 计费 / 版本管理 │ │
│ └──────────────────────────────────────────────────────────────┘ │
│ │
│ ┌────────────┐ ┌────────────┐ ┌────────────┐ ┌────────────────┐ │
│ │ API Gateway │ │ LLM Router │ │ Metering │ │ OpenAPI 网关 │ │
│ │ 统一入口 │ │ 多平台模型 │ │ 用量追踪 │ │ 外部应用接入 │ │
│ └────────────┘ └────────────┘ └────────────┘ └────────────────┘ │
└───────────────────────────┬─────────────────────────────────────────┘
▼
┌─────────────────────────────────────────────────────────────────────┐
│ AI 能力层(各取所长) │
│ │
│ ┌────────┐ ┌────────┐ ┌────────┐ ┌────────┐ ┌────────┐ ┌──────┐ │
│ │ Agent │ │ MCP │ │ Skills │ │ LLM │ │ ACP │ │ IMBot│ │
│ │ 编排 │ │ Server │ │ 市场 │ │ Provider│ │ Agent │ │ │ │
│ └────────┘ └────────┘ └────────┘ └────────┘ └────────┘ └──────┘ │
│ LangFlow mcp-hub 自研 多平台对接 自研 LangBot │
└─────────────────────────────────────────────────────────────────────┘
```
## 技术选型
### 平台底座候选方案
| 方案 | 底座 | 许可证 | 多租户 | 计费 | 成熟度 | 风险 |
|------|------|--------|--------|------|--------|------|
| **方案一** | Sovra | MIT ✅ | ✅ 内置 | ✅ Stripe | ⭐ (1星) | 高 |
| **方案二** | 全自研 | - | ✅ 自研 | ✅ 自研 | 需 6-9 月 | 低 |
| **方案三** | CoAI | Apache 2.0 ✅ | ✅ 内置 | ✅ 内置 | ⭐⭐⭐ | 中 |
### 推荐方案:方案三(CoAI 底座)
**选择理由**:
1. **许可证合规**:Apache 2.0 允许多租户 SaaS 商业化
2. **功能齐全**:OpenAI 兼容 API + 订阅计费 + 多租户 + 模型市场
3. **快速验证**:可在 2-3 个月内上线 MVP
4. **自主可控**:自研标准化中间件层,核心 IP 不受限
### 标准化中间件设计
#### Capability Registry(能力注册中心)
```yaml
# 能力注册示例
capabilities:
- id: "langflow-agent"
name: "LangFlow Agent 编排"
type: "agent"
version: "1.0.0"
endpoint: "http://langflow:7860/api/v1"
auth_type: "api_key"
billing_model: "per_request"
description: "可视化 AI Agent 工作流编排"
tags: ["agent", "workflow", "no-code"]
- id: "langbot-im"
name: "LangBot 即时通讯"
type: "imbot"
version: "2.0.0"
endpoint: "http://langbot:5300/api"
auth_type: "jwt"
billing_model: "subscription"
description: "多平台即时通讯机器人"
tags: ["im", "wechat", "qq"]
- id: "mcp-hub"
name: "MCP 服务管理"
type: "mcp"
version: "1.0.0"
endpoint: "http://mcp-hub:3001/api"
auth_type: "api_key"
billing_model: "per_token"
description: "MCP 协议服务发现与管理"
tags: ["mcp", "protocol", "tools"]
```
#### LLM Provider Router
```yaml
# 多平台模型配置
llm_providers:
- name: "deepseek"
base_url: "https://api.deepseek.com/v1"
api_key: "${DEEPSEEK_API_KEY}"
models: ["deepseek-chat", "deepseek-coder"]
compatible: true # OpenAI 兼容
- name: "qianwen"
base_url: "https://dashscope.aliyuncs.com/compatible-mode/v1"
api_key: "${QIANWEN_API_KEY}"
models: ["qwen-turbo", "qwen-plus", "qwen-max"]
compatible: true
- name: "doubao"
base_url: "https://ark.cn-beijing.volces.com/api/v3"
api_key: "${DOUBAO_API_KEY}"
models: ["doubao-pro", "doubao-lite"]
compatible: true
- name: "baidu"
base_url: "https://aip.baidubce.com/rpc/2.0/ai_custom/v1/wenxinworkshop"
api_key: "${BAIDU_API_KEY}"
models: ["ernie-4.0", "ernie-3.5"]
compatible: false # 需要适配层
- name: "yuanbao"
base_url: "https://api.yuanbao.tencent.com/v1"
api_key: "${YUANBAO_API_KEY}"
models: ["yuanbao-pro", "yuanbao-lite"]
compatible: true
```
### AI 能力层选型
| 能力 | 推荐项目 | 许可证 | 成熟度 | 作用 |
|------|---------|--------|--------|------|
| **Agent 编排** | LangFlow | MIT ✅ | ⭐⭐⭐⭐⭐ | 可视化工作流编排 |
| **IM Bot** | LangBot | Apache 2.0 ✅ | ⭐⭐⭐⭐ | 个人微信/多平台 |
| **MCP** | mcp-hub | MIT ✅ | ⭐⭐⭐ | MCP 服务管理 |
| **知识库** | FastGPT | ❌ 限制 | ⭐⭐⭐⭐⭐ | 单租户使用 |
| **Skills 市场** | 自研 | - | - | 完全自定义 |
| **ACP** | 自研 | - | - | Agent 间通信 |
## 标准化中间件 API 设计
### 能力注册 API
```http
POST /api/v1/capabilities
Content-Type: application/json
Authorization: Bearer <token>
{
"id": "my-agent",
"name": "我的智能体",
"type": "agent",
"version": "1.0.0",
"endpoint": "http://my-agent:8000/api",
"auth_type": "api_key",
"billing_model": "per_request",
"description": "自定义 AI Agent"
}
```
### 能力调用 API
```http
POST /api/v1/capabilities/{capability_id}/invoke
Content-Type: application/json
Authorization: Bearer <token>
{
"method": "chat",
"params": {
"model": "gpt-4",
"messages": [
{"role": "user", "content": "你好"}
]
}
}
```
### 用量查询 API
```http
GET /api/v1/usage?user_id=xxx&start_date=2026-06-01&end_date=2026-06-30
Authorization: Bearer <token>
```
## 实施路线图
### 阶段一:MVP(2-3 月)
**目标**:上线基础版本,验证商业模式
- [ ] 部署 CoAI 底座(多租户 + 计费)
- [ ] 部署 LangBot(IM Bot)
- [ ] 部署 LangFlow(Agent 编排)
- [ ] 实现 Capability Registry 基础版
- [ ] 实现 LLM Provider Router(接入 DeepSeek、千问、豆包)
- [ ] 用户 Dashboard 基础版
- [ ] 基础计费功能
### 阶段二:功能完善(3-4 月)
**目标**:补齐核心功能,提升用户体验
- [ ] MCP 支持(部署 mcp-hub)
- [ ] Skills 市场 v1(发布、审核、交易)
- [ ] 知识库功能(集成 FastGPT 单租户版)
- [ ] ACP 协议实现
- [ ] 高级计费模式(订阅 + Token 混合)
- [ ] 管理后台完善
### 阶段三:商业化(2-3 月)
**目标**:正式商业化运营
- [ ] 支付集成(支付宝、微信支付)
- [ ] 开发者文档完善
- [ ] API 开放平台
- [ ] 运营数据分析
- [ ] 安全审计与合规
- [ ] 性能优化与扩展
## 验证计划
### 多平台 LLM 对接验证
1. **DeepSeek**:直接 OpenAI 兼容,无需适配
2. **千问**:直接 OpenAI 兼容,无需适配
3. **豆包**:直接 OpenAI 兼容,无需适配
4. **百度**:需要适配层,封装非标准 API 为 OpenAI 格式
5. **元宝**:直接 OpenAI 兼容,无需适配
6. **智谱**:直接 OpenAI 兼容,无需适配
7. **本地 Ollama**:直接 OpenAI 兼容,无需适配
### 测试用例
```python
# 统一调用示例
import openai
# DeepSeek
client = openai.OpenAI(
base_url="https://api.deepseek.com/v1",
api_key="your-deepseek-key"
)
response = client.chat.completions.create(
model="deepseek-chat",
messages=[{"role": "user", "content": "你好"}]
)
# 千问
client = openai.OpenAI(
base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
api_key="your-qianwen-key"
)
response = client.chat.completions.create(
model="qwen-turbo",
messages=[{"role": "user", "content": "你好"}]
)
```
## 风险与对策
| 风险 | 影响 | 对策 |
|------|------|------|
| CoAI 停更 | 中 | 核心功能自研,CoAI 仅作底座 |
| LangFlow 依赖 | 低 | MIT 许可,可自行维护 |
| LLM API 价格波动 | 中 | 多平台路由,自动选择最优 |
| 多租户性能 | 高 | 数据库分库分表,缓存优化 |
| 计费纠纷 | 中 | 实时用量追踪,详细日志 |
## 总结
本方案的核心竞争力在于 **标准化中间件层**:
- **Capability Registry**:让每个 AI 项目都能标准化接入
- **LLM Router**:统一多平台模型对接
- **Metering**:精确的用量追踪与计费
通过这种架构,可以快速接入各种 AI 能力,形成 **AI 能力市场**,为个人用户提供完整的 AI 服务交易平台。
+112
View File
@@ -0,0 +1,112 @@
# AI PaaS 商业平台 - 需求描述
## 商业目标
我需要设计一套 AI PaaS 商业平台的完整架构。面向个人用户提供 AI 能力服务,包括但不限于:
- **Agent(智能体)**:用户可以创建、部署、管理自己的 AI Agent
- **MCP(Model Context Protocol)**:支持 MCP 协议的 AI 服务接入
- **Skills(技能市场)**:用户可以发布、购买、使用 AI 技能
- **IMBot(即时通讯机器人)**:支持微信、QQ、钉钉等平台的 AI 机器人
- **CLI(命令行工具)**:开发者友好的命令行接口
- **ACP(Agent Communication Protocol)**:Agent 间通信协议
- **AI 产品交易平台**:为个人用户提供 AI 产品的交易市场
## 技术需求
### 1. 平台底座
需要一个完整的 Web 系统作为平台基础,包含:
- 用户认证与授权(OAuth、JWT)
- 多租户架构(每个用户/团队独立空间)
- 用户 Dashboard(使用统计、账单、配置管理)
- 管理后台(用户管理、系统监控、内容审核)
### 2. 订阅计费系统
支持灵活的计费模式:
- **订阅制收费**:月度/年度订阅,包含不同等级的套餐
- **Token 计费**:基于 API 调用次数/Token 消耗量计费
- **混合模式**:基础订阅 + 超出部分按量计费
- 支持多种支付方式(支付宝、微信支付、Stripe)
### 3. 标准化中间件(核心需求)
这是平台的核心竞争力,需要能够:
#### 能力注册中心
- 每个 AI 项目(Agent、MCP、Skills 等)注册为一个 **Capability**
- 标准化的接口规范:发现 / 调用 / 计费 / 版本管理
- 支持动态注册和注销
- 能力元数据管理(描述、标签、版本、依赖关系)
#### API Gateway
- 统一入口:所有 AI 能力通过统一 API 网关暴露
- 认证鉴权:JWT/API Key 多种认证方式
- 限流熔断:保护后端服务
- 请求路由:根据能力类型、用户等级路由到不同后端
- 协议转换:支持 REST、WebSocket、gRPC 等多种协议
#### LLM Provider Router
- 多平台模型对接:DeepSeek、千问、豆包、百度、元宝、智谱、本地 Ollama
- 统一 OpenAI 兼容格式:`POST /v1/chat/completions`
- 模型路由:根据用户选择、成本、性能自动路由
- 故障转移:主模型不可用时自动切换备用模型
#### 用量追踪与计费
- 实时记录每个用户的 API 调用量
- Token 消耗统计
- 按能力、按模型、按时间维度统计
- 与订阅计费系统联动
### 4. AI 能力层
各 AI 项目通过标准化接口接入,每个项目做自己最擅长的事:
- **Agent 编排**:可视化工作流编排(类似 LangFlow)
- **MCP Server**:MCP 协议服务管理与发现
- **Skills 市场**:技能发布、审核、交易、版本管理
- **IM Bot**:多平台即时通讯机器人(微信、QQ、钉钉)
- **知识库**:文档上传、向量化检索、RAG 问答
- **LLM Provider**:多模型统一接入与管理
### 5. 平台验证
需要能在多个 LLM 平台上验证和运行:
- DeepSeek
- 千问(阿里云)
- 豆包(字节跳动)
- 百度文心一言
- 腾讯元宝
- 智谱 GLM
- 本地 Ollama
## 约束条件
### 许可证合规
所有使用的开源项目必须允许商业化多租户 SaaS 部署。注意:
- ❌ **Dify**:Modified Apache 2.0,禁止多租户 SaaS 商业化
- ❌ **FastGPT**:Modified Apache 2.0,禁止多租户 SaaS 商业化
- ✅ **Sovra**:MIT,允许商业化
- ✅ **CoAI/ChatNIO**:Apache 2.0,允许商业化
- ✅ **LangFlow**:MIT,允许商业化
- ✅ **LangBot**:Apache 2.0,允许商业化
### 部署环境
- 服务器:Linux (Ubuntu/CentOS)
- 容器化:Docker + Docker Compose
- 数据库:PostgreSQL + Redis
- 存储:支持本地存储和对象存储 (S3/MinIO)
### 商业化考量
- 快速验证 MVP:2-3 个月内上线基础版本
- 长期商业化:架构可扩展,支持多租户、多计费模式
- 核心竞争力:标准化中间件层,而非底层 AI 能力