ART AI 平台技术白皮书

ART (Artificial Intelligence Runtime Technology) - 企业级 AI 大模型应用开发平台

产品概述

ART AI 是基于 Java 生态构建的企业级 AI 大模型应用开发平台，为企业提供完整的 AI 应用构建能力。通过灵活的工作流编排、智能的 Agent 代理、强大的知识库检索等核心功能，帮助企业快速构建和部署生产级 AI 应用。

技术架构

ART AI 基于 Java 生态构建：

• 后端: Spring Boot 3 + JDK 17+
• 前端: Vue 3
• 架构: 前后端分离，多模块开发
• LLM 集成: LangChain4j
• 向量存储: 多向量数据库支持
• 消息推送: SSE (Server-Sent Events) ART AI 不仅是 AI 应用开发平台，也是一个完整的 Java 企业级应用架构参考实现。
  

咨询微信: JavaaiArt

核心功能

Agent 应用

Agent充分发挥了大语言模型的强大推理能力，能够自主完成复杂人类任务的目标规划、任务拆解、工具调用和过程迭代。它具备在无需人类干预的情况下高效完成任务的能力，为任务执行带来全新可能。

核心功能：

• 多场景构建：灵活支持多种应用类型，包括对话式 AI、问答助手等，轻松适配多场景需求。
• 多样化执行策略：支持多种 Agent 策略，灵活适配不同应用场景。
• 动态配置：支持实时调整关键配置项，如模型参数、对话逻辑等，确保高效响应业务变化。
• 上下文管理：具备智能对话上下文管理能力，支持长对话场景及会话状态的持续保持。

ART AI 提供两种 Agent 策略模式，满足不同场景的智能决策需求：

ReAct Agent (推理与行动)

ReAct (Reasoning and Acting) 模式是经典的 Agent 策略，通过"思考-行动-观察"循环实现复杂任务处理。

核心特性:

• 推理循环: 模型在每一步进行推理，决定下一步行动
• 工具调用: 动态选择和调用工具获取信息
• 实时决策: 根据观察结果调整后续策略
• 预算控制: 支持最大步数、最大工具调用次数限制

适用场景:

• 信息检索与整合
• 多步推理任务
• 需要灵活决策的场景
• 实时交互式问答

Plan-Execute Agent (计划与执行)

Plan-Execute 模式先制定完整计划，再逐步执行，适合复杂的多步骤任务。

核心特性:

• 两阶段执行:
  • 规划阶段：分析任务，生成步骤计划
  • 执行阶段：按计划逐步执行，支持动态调整
• 计划持久化: 计划状态缓存，支持断点续传
• 用户交互: 支持等待用户输入，计划可暂停恢复
• 状态管理: 完整的计划状态追踪 (ACTIVE, WAITING_USER, COMPLETED)

适用场景:

• 复杂的多步骤任务
• 需要用户交互的工作流
• 长时间运行的任务
• 需要审计计划执行过程的场景

Agent 知识检索

Agent 知识库检索基于 RAG（Retrieval-Augmented Generation）技术架构，通过向量检索和图数据库相结合的方式，精准定位相关文档片段，为大语言模型（LLM）提供高质量的上下文信息，从而实现更准确的智能问答能力。

核心功能：

• 混合检索策略：融合向量检索与知识图谱检索，将语义关联与结构化数据结合，提供更精准的检索结果。
• 检索结果排序：支持多维度排序算法，可基于相关性、时间戳、权重等因素优化结果展示，为任务需求提供定制化排序能力。
• 上下文窗口管理：智能控制检索结果的上下文长度，高效适配模型 token 限制，确保为大模型提供最优的关键信息输入。

工作流编排 (Workflow)

可视化的工作流编排引擎，支持复杂业务逻辑的无代码实现。

核心节点类型:

• 开始节点: 定义工作流输入变量
• LLM 节点: 大模型调用节点，支持多模型切换
• 知识库检索节点: RAG 检索节点
• 代码执行节点: JavaScript 代码执行
• 条件分支节点: IF/ELSE 逻辑分支
• 变量赋值节点: 动态变量赋值
• 直接回复节点: 自定义文本回复
• 结束节点: 工作流输出

变量系统:

• 系统变量: QUERY, CONVERSATION_ID 等内置变量
• 环境变量: 应用级配置变量
• 会话变量: 跨轮对话的持久化变量
• 用户输入变量: 工作流/Agent 的参数化输入

对话流 (Conversation Flow)

专为对话式应用优化的简化工作流，提供更流畅的对话体验。

核心特性:

• 会话管理: 完整的会话生命周期管理
• 消息流式推送: 统一的 SSE 推送协议
• 记忆管理: 集成 Memory 能力
• 多轮对话: 支持上下文保持
• 消息完成回调: LLM 消息完成后的扩展点机制

知识库 (RAG)

基于检索增强生成 (Retrieval-Augmented Generation) 的知识库系统。

核心能力:

文档向量化

• 支持多种文档格式 (PDF, Word, TXT, Markdown)
• 智能文档分段 (Chunking)
• 多 Embedding 模型支持
• 向量存储 (支持 Milvus, Pinecone, Qdrant 等)

QA 问答对

• 手动 QA 对: 用户手动创建问答对
• 精确匹配: 支持问题精确匹配优先
• 混合检索: 向量检索 + 关键词检索

高级 RAG

• 图谱搜索: 知识图谱发掘实体关系
• 混合检索: 多种检索策略组合
• 重排序: 结果相关性优化

LLM 模型集成

集成数十个国内外大模型，统一调用接口。

国内模型:

• DeepSeek
• 阿里通义 (Alibaba Bailian)
• 百度千帆 (Baidu Qianfan)
• 智谱 AI (Zhipu AI)
• Gitee AI
• 抖音豆包 (Doubao)
• 零一万物 (Yi)
• 讯飞星火 (iFlytek Spark)
• 月之暗面 (Moonshot)
• 腾讯混元 (Tencent Hunyuan)

国际模型:

• OpenAI (GPT-4, GPT-3.5)
• Ollama (本地部署)
• Azure OpenAI
• Google Gemini
• Anthropic Claude
• Mistral AI

技术特性:

• 动态配置: 可视化配置模型参数和密钥
• 热更新: 无需重启服务即可刷新配置
• 统一接口: 抽象的模型调用层
• 流式输出: 支持 SSE 流式响应
• 结构化输出: JSON Schema 约束输出格式

权限管理

• 用户生命周期管理：支持用户的全生命周期管理，包括创建、编辑、禁用、删除等操作，全面覆盖用户管理场景。
• 角色权限配置：支持灵活定义角色并动态分配权限，实现功能权限和数据权限的细粒度控制，满足复杂权限管理需求。
• 菜单权限管理：支持动态菜单配置、权限路由及按钮级权限控制，保证用户仅能访问被授权的功能模块，提升系统安全性。
• 数据权限控制：基于部门、角色和用户可灵活配置数据访问权限，确保数据安全性以及用户隐私的有效保护。

技术特点

1. 企业级架构

• 基于 Spring Boot 3，符合企业开发规范
• 完整的 RBAC 权限控制
• 多租户支持
• 审计日志

2. 模块化设计

• 多模块开发，职责清晰
• 接口抽象，易于扩展
• 依赖注入，松耦合

3. 高性能

• 流式响应，降低首字延迟
• 异步处理，提升并发能力
• 缓存优化，减少重复计算

4. 可扩展性

• 自定义模型适配器
• 自定义工具扩展
• 自定义工作流节点
• 自定义渠道接入

5. 开箱即用

• 可视化配置，零代码开发
• 丰富的预置模板
• 完善的文档和示例

与 Dify 的对比

总结： ART AI 专为 Java 生态量身打造，与企业现有 Spring Boot 技术体系无缝集成，无需引入 Python 等异构技术栈，降低运维复杂度，是 Java 企业构建 AI 应用的理想选择。

应用场景

• 企业 AI 知识库: 内部文档检索、知识问答
• 智能客服: 多轮对话、工单处理
• 业务流程自动化: 工作流编排、RPA 集成
• 数据分析助手: SQL 生成、报表分析
• 代码助手: 代码生成、代码审查
• 内容创作: 文章写作、营销文案

愿景

ART AI 致力于成为 Java 生态中最具影响力的企业级 AI 应用开发平台。我们的愿景是：

降低 AI 应用开发门槛

让每一位 Java 开发者都能轻松构建生产级 AI 应用，无需深入了解复杂的 AI 底层技术，通过可视化编排和模块化组件快速实现业务创新。

推动企业智能化转型

为企业提供安全、可控、可扩展的 AI 基础设施，帮助企业将 AI 能力无缝融入现有业务系统，加速数字化与智能化转型进程。

构建开放的技术生态

坚持开源开放的理念，汇聚社区力量共建 AI 应用开发生态，让更多开发者参与贡献，共同推动 AI 技术的普惠化发展。

引领行业最佳实践

持续探索 AI 应用开发的最佳实践，为 Java 企业级 AI 应用提供架构参考和技术标杆，助力行业共同进步。

我们相信，AI 的未来属于每一个愿意拥抱技术变革的开发者和企业。ART AI 将与您一起，开启智能应用的无限可能。