# AI PaaS 商业平台 - 需求描述 ## 商业目标 我需要设计一套 AI PaaS 商业平台的完整架构。面向个人用户提供 AI 能力服务,包括但不限于: - **Agent(智能体)**:用户可以创建、部署、管理自己的 AI Agent - **MCP(Model Context Protocol)**:支持 MCP 协议的 AI 服务接入 - **Skills(技能市场)**:用户可以发布、购买、使用 AI 技能 - **IMBot(即时通讯机器人)**:支持微信、QQ、钉钉等平台的 AI 机器人 - **CLI(命令行工具)**:开发者友好的命令行接口 - **ACP(Agent Communication Protocol)**:Agent 间通信协议 - **AI 产品交易平台**:为个人用户提供 AI 产品的交易市场 ## 技术需求 ### 1. 平台底座 需要一个完整的 Web 系统作为平台基础,包含: - 用户认证与授权(OAuth、JWT) - 多租户架构(每个用户/团队独立空间) - 用户 Dashboard(使用统计、账单、配置管理) - 管理后台(用户管理、系统监控、内容审核) ### 2. 订阅计费系统 支持灵活的计费模式: - **订阅制收费**:月度/年度订阅,包含不同等级的套餐 - **Token 计费**:基于 API 调用次数/Token 消耗量计费 - **混合模式**:基础订阅 + 超出部分按量计费 - 支持多种支付方式(支付宝、微信支付、Stripe) ### 3. 标准化中间件(核心需求) 这是平台的核心竞争力,需要能够: #### 能力注册中心 - 每个 AI 项目(Agent、MCP、Skills 等)注册为一个 **Capability** - 标准化的接口规范:发现 / 调用 / 计费 / 版本管理 - 支持动态注册和注销 - 能力元数据管理(描述、标签、版本、依赖关系) #### API Gateway - 统一入口:所有 AI 能力通过统一 API 网关暴露 - 认证鉴权:JWT/API Key 多种认证方式 - 限流熔断:保护后端服务 - 请求路由:根据能力类型、用户等级路由到不同后端 - 协议转换:支持 REST、WebSocket、gRPC 等多种协议 #### LLM Provider Router - 多平台模型对接:DeepSeek、千问、豆包、百度、元宝、智谱、本地 Ollama - 统一 OpenAI 兼容格式:`POST /v1/chat/completions` - 模型路由:根据用户选择、成本、性能自动路由 - 故障转移:主模型不可用时自动切换备用模型 #### 用量追踪与计费 - 实时记录每个用户的 API 调用量 - Token 消耗统计 - 按能力、按模型、按时间维度统计 - 与订阅计费系统联动 ### 4. AI 能力层 各 AI 项目通过标准化接口接入,每个项目做自己最擅长的事: - **Agent 编排**:可视化工作流编排(类似 LangFlow) - **MCP Server**:MCP 协议服务管理与发现 - **Skills 市场**:技能发布、审核、交易、版本管理 - **IM Bot**:多平台即时通讯机器人(微信、QQ、钉钉) - **知识库**:文档上传、向量化检索、RAG 问答 - **LLM Provider**:多模型统一接入与管理 ### 5. 平台验证 需要能在多个 LLM 平台上验证和运行: - DeepSeek - 千问(阿里云) - 豆包(字节跳动) - 百度文心一言 - 腾讯元宝 - 智谱 GLM - 本地 Ollama ## 约束条件 ### 许可证合规 所有使用的开源项目必须允许商业化多租户 SaaS 部署。注意: - ❌ **Dify**:Modified Apache 2.0,禁止多租户 SaaS 商业化 - ❌ **FastGPT**:Modified Apache 2.0,禁止多租户 SaaS 商业化 - ✅ **Sovra**:MIT,允许商业化 - ✅ **CoAI/ChatNIO**:Apache 2.0,允许商业化 - ✅ **LangFlow**:MIT,允许商业化 - ✅ **LangBot**:Apache 2.0,允许商业化 ### 部署环境 - 服务器:Linux (Ubuntu/CentOS) - 容器化:Docker + Docker Compose - 数据库:PostgreSQL + Redis - 存储:支持本地存储和对象存储 (S3/MinIO) ### 商业化考量 - 快速验证 MVP:2-3 个月内上线基础版本 - 长期商业化:架构可扩展,支持多租户、多计费模式 - 核心竞争力:标准化中间件层,而非底层 AI 能力