Skip to content

3. 系统架构

Jump to bottom
qihai edited this page Jul 25, 2025 · 2 revisions

Coze loop 采用微服务架构，基于领域驱动设计（DDD）原则构建，提供了 AI 应用开发运维一站式平台，整体架构如下： Image 整体可以分为三个部分：

  • 平台：平台提供了一整套 AI 应用的解决方案，包含各模块服务和基础组件部署
  • SDK：当前提供的SDK修改其中初始化参数即可无缝和开源平台对接。
  • LLM：主流的大模型，配置密钥后可使用对应大模型调用

代码结构

backend/
├── api/         # API 接口定义和实现
│   ├── handler/ # API 处理
│   └── router/  # API 路由
├── cmd/         # 应用入口和服务启动
├── modules/     # 核心业务模块
│   ├── data/         # 数据集模块
│   │    │── application/ #应用服务层
│   │    │── domain/      #领域模型层
│   │    │── infra/       #基础设施层
│   │    └── pkg/         #公共工具层
│   ├── evaluation/   # 评测模块
│   ├── foundation/   # 基建模块
│   ├── llm/          # LLM模块
│   ├── observability/# 观测模块
│   └── prompt/       # PE模块
├── infra/      # 基础设施层
│   ├── db/     # 数据库
│   ├── mq/     # 消息队列
│   ├── redis/  # Redis客户端
│   └── ck/     # ClickHouse客户端
└── pkg/        # 通用工具包和库

当前后端服务总共有六个业务模块，各模块职责如下：

  • data：数据集模块: 负责数据集的创建/管理
  • evaluation：评测模块: 负责对Prompt等评估对象进行评估试验
  • observability：观测模块: 负责可视化的全链路请求记录
  • prompt：Prompt模块: 负责提示词的开发/调试
  • llm：LLM管理模块: 负责大模型的管理/调用
  • foundation：基建模块: 负责用户/权限等基础功能

每个业务模块都遵循以下分层架构：

  • application：应用服务层，协调领域对象完成业务流程
  • domain：领域模型层，定义核心业务实体和业务逻辑
  • infra：基础设施层，提供技术实现和外部服务集成
  • pkg：模块特定的公共包

基础组件

  • 后端框架：
    • Hertz ( Cloudwego 高性能 HTTP 框架)
    • Kitex ( Cloudwego 高性能 RPC 框架)
  • 数据存储：
    • MySQL：结构化数据存储
    • ClickHouse：高性能分析数据存储
    • Redis：缓存和临时数据
    • MinIO：对象存储
    • RocketMQ: 消息队列
  • 容器化：Docker 和 Docker Compose

Home

Clone this wiki locally