AI产品推荐

优秀的AI产品，满足企业多样化需求

AI应用背景

Xinference 分布式推理框架

Xinference 是一个性能强大且功能全面的分布式推理框架，可用于大语言模型（LLM）、语音识别模型、多模态模型等各种模型的推理。借助 Xinference，您可以使用任何开源 LLM、嵌入模型和多模态模型在云端或本地环境中运行推理，并创建强大的 AI 应用。

支持的模型类型

  • 大语言模型（LLM）：支持各种主流的开源大语言模型
  • 多模态模型：支持图像、文本、音频等多种模态的模型
  • 嵌入模型：用于向量化和语义搜索
  • 图像生成模型：文生图等创意AI模型
  • 语音识别模型：音频处理相关模型

技术架构

它底层提供的分布式能力，使得模型可以在集群上部署，上层提供了类 OpenAI 的接口。该框架集成了Transformer、vLLM、Llama.cpp、SGLang、TensorRT等多种推理引擎。

主要优势

  • 一键部署：通过Xinference，你可以轻松地一键部署你自己的模型或内置的前沿开源模型
  • 企业级特性：无论是个人电脑还是分布式集群，通过 Xinference 都可以完成大规模模型推理任务
  • 用户友好：提供了直观的UI界面来管理和控制集成的模型
  • API兼容：提供类似 OpenAI 的 API 接口，便于开发者集成
  • 支持国产GPU/NPU：商业版和企业版支持昇腾、海光、天数、寒武纪、沐曦等芯片
  • 性能监控：商业版和企业版支持监控指标API接口，便于和现有系统集成
  • 微调：商业版和企业版支持上传数据集微调
链接到Xinference官方文档 Xinference官网

产品架构示意图

Xinference架构图

TorchV企业知识管理平台

TorchV是一个专注于企业级AI应用的平台，通过RAG技术帮助企业更好地利用内部知识资产，实现AI技术与业务场景的深度融合，可帮助企业可以更好地将大语言模型能力应用于自身业务工作中。

主要特点

  • 用户体验：提供可视化功能帮助用户完成知识创建、问答和应用发布等重要工作
  • 可私有化：提供私有化部署方案，帮助企业用户充分发掘本地私有知识数据的价值
  • 高准确率：高于95%的通用问答准确率，以及在特定优化场景接近100%的问答准确率
  • 能力延伸：将AI能力从问答延伸到报告撰写、精准匹配、预审核、培训与实战演练、推荐等多类型企业应用能力

技术优势

  • 知识提取能力：支持PDF、Word、Excel、CSV、PPT、Txt、Markdown、Image、Epub等多类文件解析，并且因为TorchV AI采用企业级开发语言Java开发，具备丰富企业级组件。还拥有自研的表格解析工具（独家专利技术）
  • 自研RAG算法：在检索算法上将检索过程分为多段进行，在第一阶段注重召回率，采用改进过的HNSW算法；在第二阶段采用交叉熵编码算法对一阶段召回的chunks进行更为严格的检索
  • 模糊问答处理：支持对特定业务场景做槽位设置，给定问题的必要条件，在问答过程中，如果问题中（的实体）未发现必要信息，系统将会进行反问
  • 丰富的集成方式：可集成到钉钉、飞书和企业微信中，支持OpenAI的Chat接口格式，提供多子租户开户和费用结算能力

主要产品

  • TorchV AI - AI应用能力平台
  • TorchV KB - AI知识库协同平台
  • TorchV KBS - 基于AI知识库驱动的数字员工平台

适用场景

TorchV适用于有非常复杂的业务流程，对知识检索准确率要求极高，且希望通过定制化开发来满足自身业务的个性化需求的客户，以实现AI技术与业务场景的深度融合。

大型企业、集团企业、互联网公司、金融机构、政府事业单位等。

链接到TorchV官方文档 TorchV官网

TorchV产品示意图

TorchV架构图

MaxKB知识管理平台

MaxKB是由1Panel开源项目组正式对外介绍的开源子项目，MaxKB是一款基于LLM（Large Language Model）大语言模型的知识库问答系统。MaxKB是一款强大易用的企业级 AI 助手，支持 RAG 检索增强、工作流编排、MCP 工具调用能力。

开发背景

MaxKB是由飞致云开发的社区开源产品，这也是开发大名鼎鼎的jumpserver（市面上开源为数不多的堡垒机产品）的同一家公司出品。MaxKB也是继MeterSphere、DataEase和1Panel之后，飞致云旗下第四个入选GVP的开源项目。

优势特性

  • 开箱即用：支持直接上传文档、自动爬取在线文档，支持文本自动拆分、向量化，智能问答交互体验好；
  • 无缝嵌入：支持零编码快速嵌入到第三方业务系统；
  • 多模型支持：支持对接主流的大模型，包括本地私有大模型（如 Llama 2）、Azure OpenAI 和百度千帆大模型等；包括 Ollama 本地私有大模型（如 Llama 2、Llama 3、qwen）、通义千问、OpenAI、Azure OpenAI、Kimi、智谱 AI、讯飞星火和百度千帆大模型等；
  • RAG技术支持：支持文本自动拆分、向量化、RAG（检索增强生成），无缝集成RAG管道，支持强大的工作流程，并提供MCP工具使用能力；
  • 中文友好：由于这是中国开源社区开发的项目，因此天生对中文的支持比较好。

应用场景

MaxKB适用于对于知识应用明确、希望快速构建企业内部私有AI知识库，且注重投入产出性价比客户，MaxKB广泛应用于智能客服、企业内部知识库问答、员工业务助手、教育等场景。

中小企业、制造业、学术研究机构、电商等。

链接到MaxKB官方文档 MaxKB官网

MaxKB产品架构图

MaxKB架构图

DataFocus数据分析平台

DataFocus是一款新型的商业智能产品（BI,Business Intelligence），主要用于智能的大数据分析领域。该产品在2018年是全球第一款能同时支持中英文自然语言搜索的大数据分析系统。DataFocus自2016年开始，死磕NL2SQL技术长达8年，是真正让技术应用于实际生产的优秀产品。

核心优势

  • 搜索式分析（核心特色）：DataFocus属于第三代BI产品，是以搜索式分析为主的智能可视化工具。是国际上第一家正式投入商用的，同时支持中英双文搜索的大数据分析产品，也是国内第一家开创搜索分析交互方式的产品。采用拥有专利权的自然语言搜索式分析，简单高效，搜索关键句式，即可实时得到分析结果，无需任何代码。
  • 问答式BI体验：在DataFocus中，用户可以通过自然语言输入查询需求，系统能够快速响应并返回相应的分析结果。同时，支持多种数据呈现方式，包括自然语言文本报告、动态可视化模板报告以及交互式数据探索助手等。
  • 一站式服务：像 KFC 全家桶一样, DFC 提供一站式云数据分析服务，Analyse As A Service（AaaS），DFC 提供即插即用的数据分析能力。

主要功能特色

  • 高性能：支持亿级别的数据同步和预处理，内置高效内存数据库，可实现亿级数据秒级查询
  • 数据仓库：链接和汇聚企业数据库表，形成数据资产，弹性部署，支持PB级海量数据
  • 自动生成指标公式：可根据用户的自然语言提示，自动生成指标公式，极大降低使用门槛
  • 指标管理：统一管理分析过程中的各项指标，便于管理员构造特定的指标体系供用户查询
  • 丰富的图表：丰富的图标插件，自适应图标种类超过50种，方便呈现各类数据报表
  • 大屏展示：开箱即用的模板、轮播看板、数据应用看板等，且支持PC、移动端、TV等不同类型的屏展示，方便快速构建智能驾舱
  • 权限管控：基于角色进行访问控制，提供精确到字段的权限配置，满足企业丰富的数据管控需求
  • 安全管控：WEB防护、SQL防注入、隐私防护、XSS防护，且经过多轮红队攻击测试，具备极高的安全性
  • 归因分析：根据查询检索，快速进行归因分析，给出主要的影响因素，帮助定位和分析问题
  • 易于集成：支持页面级、功能级、组件级、API调用的嵌入方式，方便企业进行系统集成和联动
DataFocus官网

DataFocus产品架构图

DataFocus架构图