4.0 KiB
4.0 KiB
AI PaaS 商业平台 - 需求描述
商业目标
我需要设计一套 AI PaaS 商业平台的完整架构。面向个人用户提供 AI 能力服务，包括但不限于：
- Agent（智能体）：用户可以创建、部署、管理自己的 AI Agent
- MCP（Model Context Protocol）：支持 MCP 协议的 AI 服务接入
- Skills（技能市场）：用户可以发布、购买、使用 AI 技能
- IMBot（即时通讯机器人）：支持微信、QQ、钉钉等平台的 AI 机器人
- CLI（命令行工具）：开发者友好的命令行接口
- ACP（Agent Communication Protocol）：Agent 间通信协议
- AI 产品交易平台：为个人用户提供 AI 产品的交易市场
技术需求
1. 平台底座
需要一个完整的 Web 系统作为平台基础，包含：
- 用户认证与授权（OAuth、JWT）
- 多租户架构（每个用户/团队独立空间）
- 用户 Dashboard（使用统计、账单、配置管理）
- 管理后台（用户管理、系统监控、内容审核）
2. 订阅计费系统
支持灵活的计费模式：
- 订阅制收费：月度/年度订阅，包含不同等级的套餐
- Token 计费：基于 API 调用次数/Token 消耗量计费
- 混合模式：基础订阅 + 超出部分按量计费
- 支持多种支付方式（支付宝、微信支付、Stripe）
3. 标准化中间件（核心需求）
这是平台的核心竞争力，需要能够：
能力注册中心
- 每个 AI 项目（Agent、MCP、Skills 等）注册为一个 Capability
- 标准化的接口规范：发现 / 调用 / 计费 / 版本管理
- 支持动态注册和注销
- 能力元数据管理（描述、标签、版本、依赖关系）
API Gateway
- 统一入口：所有 AI 能力通过统一 API 网关暴露
- 认证鉴权：JWT/API Key 多种认证方式
- 限流熔断：保护后端服务
- 请求路由：根据能力类型、用户等级路由到不同后端
- 协议转换：支持 REST、WebSocket、gRPC 等多种协议
LLM Provider Router
- 多平台模型对接：DeepSeek、千问、豆包、百度、元宝、智谱、本地 Ollama
- 统一 OpenAI 兼容格式：
POST /v1/chat/completions - 模型路由：根据用户选择、成本、性能自动路由
- 故障转移：主模型不可用时自动切换备用模型
用量追踪与计费
- 实时记录每个用户的 API 调用量
- Token 消耗统计
- 按能力、按模型、按时间维度统计
- 与订阅计费系统联动
4. AI 能力层
各 AI 项目通过标准化接口接入，每个项目做自己最擅长的事：
- Agent 编排：可视化工作流编排（类似 LangFlow）
- MCP Server：MCP 协议服务管理与发现
- Skills 市场：技能发布、审核、交易、版本管理
- IM Bot：多平台即时通讯机器人（微信、QQ、钉钉）
- 知识库：文档上传、向量化检索、RAG 问答
- LLM Provider：多模型统一接入与管理
5. 平台验证
需要能在多个 LLM 平台上验证和运行：
- DeepSeek
- 千问（阿里云）
- 豆包（字节跳动）
- 百度文心一言
- 腾讯元宝
- 智谱 GLM
- 本地 Ollama
约束条件
许可证合规
所有使用的开源项目必须允许商业化多租户 SaaS 部署。注意：
- ❌ Dify：Modified Apache 2.0，禁止多租户 SaaS 商业化
- ❌ FastGPT：Modified Apache 2.0，禁止多租户 SaaS 商业化
- ✅ Sovra：MIT，允许商业化
- ✅ CoAI/ChatNIO：Apache 2.0，允许商业化
- ✅ LangFlow：MIT，允许商业化
- ✅ LangBot：Apache 2.0，允许商业化
部署环境
- 服务器：Linux (Ubuntu/CentOS)
- 容器化：Docker + Docker Compose
- 数据库：PostgreSQL + Redis
- 存储：支持本地存储和对象存储 (S3/MinIO)
商业化考量
- 快速验证 MVP：2-3 个月内上线基础版本
- 长期商业化：架构可扩展，支持多租户、多计费模式
- 核心竞争力：标准化中间件层，而非底层 AI 能力