sdk/oapiSdk/output/files/test2.md

311 lines
26 KiB
Markdown
Raw Blame History

This file contains ambiguous Unicode characters

This file contains Unicode characters that might be confused with other characters. If you think that this is intentional, you can safely ignore this warning. Use the Escape button to reveal them.

1、一种AI知识管理软硬件一体机其特征在于包括硬件微型服务器以及搭载于所述微型服务器上的若干软件功能模块所述软件功能模块包括AI 智能问答模块;各所述软件功能模块对应于基于容器的微服务架构中的一个或多个微服务组件;
其中所述软件功能模块采用DevOps知识框架赋能研发所述AI智能问答模块基于私有知识库对AI模型进行微调获取。
2、根据权利要求1所述的方法其特征在于所述AI智能问答模块采用多模态大模型和 $\mathrm {RAG}$ 技术结合的方案实现智能问答。
3、根据权利要求1所述的方法其特征在于所述软件功能模块还包括代码管理模块用于通过DevOps知识框架实现代码管理和代码质量评估。
4、根据权利要求1所述的方法其特征在于所述软件功能模块还包括云文档模块用于提供基于云计算的文档存储与协作平台。
5、根据权利要求4所述的方法其特征在于所述云文档模块中引入HTML5 CANVAS技术。
6、根据权利要求4所述的方法其特征在于所述云文档模块包括
后台服务子模块,用于接收文件处理请求,并根据所述文件处理请求执行对应对所述云文档执行对应操作;
前端页面子模块,用于展示前端页面,并对所述后台服务子模块发出所述文件处理请求;
前端插件子模块,用于提供可扩展的在线处理系统的入口;
前端SDK库包括封装所述文件处理请求的库文件以可访问API的形式供所述前端页面子模块和所述前端插件子模块调用。
7、根据权利要求1所述的方法其特征在于所述软件功能模块还包括在线会议模块所述视频会议模块采用WebRTC技术实现音视频会议功能。
8、根据权利要求1所述的方法其特征在于所述软件功能模块还包括知识社区模块用于提供智能化学习、分享和协作的平台。
9、根据权利要求1所述的方法其特征在于所述软件功能模块还包括任务看板模块用于对任务进行可视化展示。
10、根据权利要求1所述的方法其特征在于所述硬件微型服务器包括主板、通过PCI-E接口与所述主板连接的GPU、通过标准接口与所述主板连接的CPU和内存、通过SATA或NVMe接口与所述主板连接的SSD。
# AI知识管理软硬件一体机
## 技术领域
本申请涉及知识管理技术领域特别是涉及一种AI知识管理软硬件一体机。
# 背景技术
知识管理Knowledge Management简称KM是一种系统化的方法用于创建、获取、整理、存储、传递和应用知识以提高组织的绩效和竞争力。知识管理的核心目标是通过有效管理和利用组织内外的知识资源提升决策质量、加速创新、改进客户服务、提高成员的生产力和满意度。随着 AI技术的发展和应用AI知识管理软硬件一体化设备已经进入大众视野通过AI技术处理知识资源极大地提升了知识管理的效率和智能化水平。
然而现有的AI知识管理软硬件一体化设备存在以下问题
1、硬件与业务需求的不匹配现有产品虽然覆盖从轻量到高配的多种方案但对于小型企业或特定行业定制化需求支持不足往往需要额外调整硬件或软件配置
2、技术门槛高即使在强调“开箱即用”的产品中用户仍需掌握一定的AI基础知识才能有效利用系统例如模型调参、训练优化等操作仍对技术不熟悉的用户构成挑战
3、数据隐私与安全顾虑尽管部分产品支持本地部署以确保数据隔离但依赖网络传输的过程仍可能存在潜在的数据泄露风险这对高度依赖知识资产管理的企业尤为重要
4、部署与运维成本高目前的一体化设备大多价格昂贵不适合预算有限的中小企业同时其运维复杂度可能进一步增加成本。
# 发明内容
基于此,有必要针对上述技术问题,提供一种 AI知识管理软硬件一体机在安全性、便捷性、高效性和成本控制方面得到全方位提升。
本申请提供了一种AI知识管理软硬件一体机包括硬件微型服务器
以及搭载于微型服务器上的若干软件功能模块;软件功能模块包括 AI智能问答模块各软件功能模块对应于基于容器的微服务架构中的一个或多个微服务组件
其中软件功能模块采用DevOps知识框架赋能研发AI智能问答模块基于私有知识库对AI模型进行微调获取。
在一个实施例中AI智能问答模块采用多模态大模型和RAG技术结合的方案实现智能问答。
在一个实施例中软件功能模块还包括代码管理模块用于通过DevOps知识框架实现代码管理和代码质量评估。
在一个实施例中,软件功能模块还包括:云文档模块,用于提供基于云计算的文档存储与协作平台。
在一个实施例中云文档模块中引入HTML5 CANVAS技术。
在一个实施例中,云文档模块包括:
后台服务子模块,用于接收文件处理请求,并根据文件处理请求执行对应对云文档执行对应操作;
前端页面子模块,用于展示前端页面,并对后台服务子模块发出文件处理请求;
前端插件子模块,用于提供可扩展的在线处理系统的入口;
前端SDK库包括封装文件处理请求的库文件以可访问API的形式供前端页面子模块和前端插件子模块调用。
在一个实施例中软件功能模块还包括在线会议模块视频会议模块采用WebRTC技术实现音视频会议功能。
在一个实施例中,软件功能模块还包括:知识社区模块,用于提供智能化学习、分享和协作的平台。
在一个实施例中,软件功能模块还包括:任务看板模块,用于对任务进行可视化展示。
在一个实施例中硬件微型服务器包括主板、通过PCI-E接口与主板连接的GPU、通过标准接口与主板连接的CPU和内存、通过SATA或NVMe接口与主板连接的SSD。
上述AI知识管理软硬件一体机包括硬件微型服务器以及搭载于微型服务器上的若干软件功能模块软件功能模块包括 AI智能问答模块各软件功能模块对应于基于容器的微服务架构中的一个或多个微服务组件其中
软件功能模块采用DevOps知识框架赋能研发AI智能问答模块基于私有知识库对AI模型进行微调获取。采用微服务架构整合软件功能模块实现了系统的模块化扩展和高效性确保各类功能或工具的无缝对接极大地提升了知识管理的便捷性和灵活性。此外通过将微服务架构结合容器化技术和 DevOOps 实践结合在资源有限的环境中实现高效、灵活的部署实现对成本的有效控制。最后结合私有知识库对AI模型进行精细微调帮助企业或组织最大化地沉淀和利用其内部数据从而提供高效的业务决策支持并保证数据隐私和安全性。
附图说明
图1为一个实施例中AI知识管理软硬件一体机的系统框图
图2为一个实施例中云文档模块的结构框图
图3为一个实施例中的解决方案系统框架图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
本申请实施例提供了一种AI知识管理软硬件一体机包括硬件微型服务器以及搭载于微型服务器上的若干软件功能模块软件功能模块包括AI 智能问答模块各软件功能模块对应于基于容器的微服务架构中的一个或多个微服务组件其中软件功能模块采用DevOps知识框架赋能研发AI智能问答模块基于私有知识库对AI模型进行微调获取。
如图1所示AI知识管理软硬件一体机是一站式集成各种知识协同管理服务的平台该平台采用容器技术的面向微服务架构。微服务架构通过将应用程序拆分为一系列小型、独立的服务来提高开发效率、灵活性和可维护性。每个微服务都是一个独立进程可以独立开发、部署和扩展通常使用轻量级的通信机制如HTTP、gRPC等进行交互避免传统单体应用中复杂的网络调用开销。开发时无需新增服务器只需要新建容器一个进程即可该进程可以在本机或其他服务器或在云端比如云服务和云函数FaaS运行。因为更轻量级所以功能的解耦和服务化可以做得更彻底。除此以外本实施例通过容器化技术和微服务架构的结合实现了标准化的程式同样的容器不管在哪里运行结果都是一样的。同时容器化的微服务启动速度快、资源占用低能够高效利用硬件资源。例如使用Docker+K8s的组合可以在资源有限的环境下实现轻量化的部署。
本实施例还将微服务架构与DevOps实践结合支持持续集成CI和持续部署CD),能够快速发布和回滚,降低部署成本。
微服务架构非常适合私有化部署,尤其适合需要在企业内部环境中部署复杂应用的场景。这是因为微服务架构允许将不同的服务部署在不同的基础设施上(如物理服务器、虚拟机、私有云或混合云),对于一些对数据安全和隐私要求较高的企业,微服务可以将敏感数据处理服务部署在企业内部的私有基础设施上,而不是依赖外部公有云服务。微服务架构还允许企业根据需求将部分服务部署在公有云,而将核心服务部署在私有环境中,形成混合云架构。另外,微服务架构的模块化特性使得企业可以根据自身需求定制每个服务的实现,满足私有化环境的特定需求。
综上所述微服务架构支持轻量化和私有化部署通过结合轻量化的基础设施如Docker、K8s等和DevOps实践微服务架构可以在资源有限的环境中实现高效、灵活的部署。
在一个实施例中,硬件微型服务器的核心硬件配置为 8核16线程CPU、16GB显存的独立显卡、64GB内存和10TB的SSD硬盘空间。
其中CPU负责计算任务的核心处理适合高强度的知识管理算法。GPU 用于加速图形处理及AI计算支持深度学习等高性能计算任务。内存用于支持大规模数据加载及并行处理。SSD存储用于高效存储大规模知识库及实时访问。
GPU通过PCI-E接口与主板连接提供高速数据传输。CPU、内存与主板通过标准接口连接确保数据处理流畅。SSD通过SATA或NVMe接口连接提供高读写性能。此外整机提供独立的散热模块确保运行稳定。
在一个实施例中软件功能模块包括AI智能问答模块、代码管理模块、云文档模块、在线会议模块、任务看板模块和知识社区模块。
其中AI智能问答模块利用多模态大模型和 RAG(Retrieval-Augmented Generation检索增强生成技术实现智能问答。在问答任务中RAG技术通
过检索相关知识片段为生成的答案提供更高的准确性和事实性。RAG技术是一种将检索和生成相结合的自然语言处理技术它利用大规模的语料库进行信息检索为生成过程提供丰富的背景知识和上下文信息从而提高生成结果的准确性和多样性。RAG的核心组件分为三个部分检索Retrieval、增强
Augmentation、生成Generation
多模态大模型是一种能够处理和生成多种类型数据(如文本、图像、音频、视频等)的复杂机器学习模型。它们通过融合不同类型的数据模态,提高了模型的综合理解和生成能力,使其在处理复杂的现实世界任务时更加有效。多模态大模型的处理对象包括:文本,能够理解、生成和处理自然语言文本;图像,能够识别、生成和处理图像数据;音频,能够识别、生成和处理音频数据,如语音和音乐;视频,能够理解、生成和处理视频数据;其他模态,包括其他类型的传感器数据、结构化数据等。多模态大模型还可以跨模态进行任务,例如将文本生成图像、将图像生成文本、将音频转换为文本等。
代码管理模块通过Git版本控制系统支持代码托管、协作开发和CI/CD集成结合高级代码质量评估功能。其中Git版本控制系统主要用于管理代码的变更历史支持多个开发者的协同开发。该模块主要基于 DevOps知识框架实现。在现代应用开发中多个开发人员通常会同时处理同一应用的不同功能。如果企业设定特定的“合并日”来将所有分支源代码合并这可能导致工作繁琐、耗时并且需要手动处理。这是因为如果每个开发人员都使用自定义的本地开发环境IDE),开发人员在独立修改代码时,可能会与其他开发人员的更改发生冲突,导致问题更加复杂化。
因此DevOps知识框架的工具链CI的目的在于让开发人员持续将小型代码片段提交到主分支master),系统会自动进行自动化测试(如单元测试、集成测试和兼容性验证),并及时反馈问题。这样可以尽早修复问题,避免在“合并日”集中处理大量冲突,从而减少对其他合作开发者的影响。
代码管理模块中Git是DevOps框架中的一个重要组成部分提供了代码管理和版本控制的基础帮助团队高效地协作和管理代码变更。 Git仓库是DevOps流程中的核心数据存储所有的代码变更、分支管理和代码审查都在Git仓库中进行。CI/CD是DevOps框架中实现自动化和持续交付的关键实践。它们通过自动化工具确保代码的质量和快速、可靠地交付到生产环境。CI/C
D 工具通常与 Git仓库集成自动触发构建、测试和部署流程从而实现
DevOps的核心目标。通过CI/CD流程企业能够自动化集成、测试和部署提升开发效率并减少手动操作的风险。
Git仓库是CI/CD流程的起点代码提交和PR/MR事件会触发CI/CD管道。CI/CD工具会从Git仓库中拉取代码执行构建和测试任务并将结果反馈到Git仓库中帮助团队进行代码审查和问题追踪。
云文档模块是一个基于云计算的文档存储与协作平台。该模块引入HTML5 CANVAS技术可以实现更丰富、交互性更强的功能。CANVAS是HTML5中的一种绘图技术允许web开发人员在网页上绘制图形通常用于动画、游戏、数据可视化、图形密集的应用程序和其它需要图形渲染的上下文中。在云文档协作的环境下CANVAS技术的应用主要体现在以下几个方面
1、绘图与设计编辑允许用户直接在文档中进行绘图或设计工作比如创建流程图、布局图、概念图等。这种实时的绘图功能对于团队协作中的创意交流、项目规划等场景尤其有价值。
2、实时数据可视化CANVAS可以在云文档中实现实时的数据可视化展示比如图表、仪表板等这对于数据分析、报表制作等应用场景非常有用。团队成员可以即时地更新数据其他人可以在文档中看到数据变化带来的图表更新提高了协作效率和数据的沟通效果。
3、增强用户体验通过使用CANVAS技术云文档协作应用可以提供更加动态、交互式的界面比如动态背景、交互式图表等增强用户体验使文档更加生动有趣。
4、实现自定义界面元素开发者可以使用CANVAS技术来创建各种自定义界面元素如按钮、滑块等从而在云文档协作应用中实现更加独特和定制化的功能。这对于构建有特定需求的专业协作工具非常有帮助。
5、在线签名对于需要签署协议或合同的文档CANVAS技术可以用来实现在线签名功能用户可以直接在文档中手写签名这对于提高工作效率、促进远程协作有显著的效果。
6、注释与标记用户可以利用CANVAS在文档中添加注释、高亮显示、标记等帮助团队成员更好地理解和交流文档内容。这些功能可以与文档中的文字或图表紧密结合提高团队协作的灵活性和效率。
综上所述HTML5 CANVAS技术在云文档协作中主要起到增加可视化表现力、提升用户交互体验及促进更高效协作的作用。
如图2所示云文档模块主要包括四大部分前端页面子模块、前端插件子模块、前端SDK库、后台服务子模块实现高效协同管理。
其中前端页面子模块按照用户需求展示页面并根据用户操作对后台服务发出请求前端插件子模块提供了方便扩展的在线处理系统的入口可以按照需求增加各种插件前端SDK库起到承上启下的作用封装对后台服务的操作并为前端页面和插件提供可访问的API后台服务子模块主要负责接受文件处理请求然后对文档进行下载、转码、缓存、协同编辑等操作。
在线会议模块基于WebRTC(WebReal-TimeCommunication,Web实时通信技术提供无插件、高质量的视频通信功能。WebRTC允许用户之间通过P2P (Peer-to-Peer模式进行实时通信减轻服务器的负担并提高通信效率。
该技术支持网页浏览器进行实时音视频通信它通过提供一套JavaScript API使得网页浏览器能够进行点对点的音视频通信无需依赖任何插件或第三方软件。
WebRTC实现音视频通信涉及到多个关键组件主要包括信令服务器、ICE(Interactive Connectivity Establishment 交互式连接创建)协议和**STUN** (Session Traversal Utilities for NAT, NAT 会话穿越应用程序)/TURN (Traversal Using Relays around NAT服务器。其中信令服务器用于协调浏览器之间的通信建立WebRTC通信的信道传输通信所需的元数据信息如SDP、ICE候选项等。在 WebRTC中信令服务器通常使用WebSocket协议实现。ICE协议用于在不同设备之间寻找可用的网络路径并选择最佳路径进行通信。STUN/TURN服务器用于帮助WebRTC在不同设备之间建立直接的点对点连接克服NAT和防火墙等网络障碍。
任务看板模块通过直观的卡片拖拽方式可视化项目任务。
知识社区模块知识社区旨在为用户创建一个数字化、智能化学习与协作的平台。
如图3所示公开了一种面向企业或高校科研实验室的一站式协同知识管理软硬件一体化的平台提供轻量级知识管理协作工具涵盖文章、云文档、代码、任务看板等多种内容类型轻松管理多维数据搭建专属知识空间。该一体化平台提供以下服务协同知识库、实验项目管理、在线会议、代码仓库、可视化数据分析等协同科研工具多项权限管理、硬件迷你服务器确保知识资产数据安全内置大模型AI-Bot助手协助师生高效处理工作学习问题搭建数字化教育资源管理平台助力实验室科研协同化、数字化、智能化地工作学习。
该设备主要分为一站式聚集存储、协同管理、智能分析利用三大部分。一站式数据聚集主要通过一站式提供学习、工作过程中常用的协同工具例如IM聊天、视频会议、云文档、代码托管、项目管理等把在业务中产生的数据全部集中存储在平台上。这样做的好处有两个一是快速帮助团队建立起完善的数字收集系统二是将各个不同模块的数据汇总起来减少数据的分散、消除数据隔离大大提升数据的管理效率。数据聚集起来后方便团队内协同创作、协同管理、交流分享例如将文档分享到团队内部进行权限设置等提升信息流通效率。同时大模型技术迅猛发展其多模态的推理、分析能力有了质的提升可以应用大模型来对数据进行分析和利用提供知识库问答、长文档生成等赋能团队业务。整套软件系统包括大模型都是直接本地部署在硬件微型服务器中产生的数据都是存储在硬件微型服务器里不访问互联网支持离线使用数据百分百私有安全可控。
综上所示本发明提供AI知识管理软硬件一体机具有以下有益效果
1、自主研发的微服务架构采用自主设计并研发的微服务架构整合代码管理、云文档、任务看板、音视频会议、即时通讯等多个协同办公功能构建了一个一站式的企业数字化办公解决方案。这不仅实现了系统的模块化扩展和高效性还确保了各类工具的无缝对接极大提升了企业数字化管理的便捷性和灵活性。
2、企业私有多模态大模型通过定制化的多模态大模型项目能够深入挖掘企业私有数据的潜在价值自动化处理业务流程显著提升生产力和运营效率。同时结合企业内部数据和开源 AI模型进行精细微调帮助企业最大化地沉淀和利用其“暗”数据从而提供高效的业务决策支持并保证数据隐私和安全性。
3、轻量化私有化部署项目突破了传统AI部署中高交付和运维成本的瓶颈提供轻量级、开箱即用的私有化部署方案无需企业投入过多的人力和技术资源大幅降低了技术和运营门槛使企业可以快速、安全地进行智能化转型。
4、深度融合AI技术的智能办公项目通过结合开源预训练模型和企业内部数据进行个性化、精细化的AI模型微调提供智能写作、创新思维激发、信息检索和知识管理等功能提升了办公流程中的自动化和智能化程度。这种结合不仅提升了生产效率同时也确保了数据的安全性和隐私保护。
整体而言本发明的技术创新体现在对企业或组织数据安全性、成本控制、AI技术深度融入工作流以及智能化办公协作的全方位提升极大推动了企业的数字化和智能化转型。
需要说明的是,本申请所涉及的用户信息(包括但不限于用户设备信息、用户个人信息等)和数据(包括但不限于用于分析的数据、存储的数据、展示的数据等),均为经用户授权或者经过各方充分授权的信息和数据,且相关数据的收集、使用和处理需要遵守相关国家和地区的相关法律法规和标准。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程是可以通过计算机程序来指令相关的硬件来完成所述的计算机程序可存储于一非易失性计算机可读取存储介质中该计算机程序在执行时可包括如上述各方法的实施例的流程。其中本申请所提供的各实施例中所使用的对存储器、数据库或其它介质的任何引用均可包括非易失性和易失性存储器中的至少一种。非易失性存储器可包括只读存储器Read-Only Memory,ROM、磁带、软盘、闪存、光存储器、高密度嵌入式非易失性存储器、阻变存储器
ReRAM、磁变存储器 Magnetoresistive Random Access Memory,MRAM、铁电存储器Ferroelectric Random Access Memory,FRAM、相变存储器Phase Change Memory,PCM、石墨烯存储器等。易失性存储器可包括随机存取存储器RandomAccess Memory,RAM或外部高速缓冲存储器等。作为说明而非局限RAM可以是多种形式比如静态随机存取存储器 Static Random Access Memory,SRAM或动态随机存取存储器Dynamic Random Access Memory,DRAM等。本申请所提供的各实施例中所涉及的数据库可包括关系型数据库和非关系型数据库中至少一种。非关系型数据库可包括基于区块链的分布式数据库等不限于此。本申请所提供的各实施例中所涉及的处理器可为通用处理器、中央处理器、图形处理器、数字信号处理器、可编程逻辑器、基于量子计算的数据处理逻辑器等不限于此。
以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对本申请专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请的保护范围应以所附权利要求为准。
说明书附图
![](https://web-api.textin.com/ocr_image/external/6d05d6e8dd7c12e8.jpg)
图 1
![](https://web-api.textin.com/ocr_image/external/731ecd043c66a4b7.jpg)
图2
# 说明书附图
![](https://web-api.textin.com/ocr_image/external/e6f2f3a395e37004.jpg)
图3
本申请公开了一种AI知识管理软硬件一体机涉及知识管理领域包括硬件微型服务器和软件功能模块软件功能模块包括 AI智能问答模块各软件功能模块对应于基于容器的微服务架构中的一个或多个微服务组件其中软件功能模块采用DevOps知识框架赋能研发AI智能问答模块基于私有知识库对AI模型进行微调获取。采用微服务架构整合软件功能模块实现了系统的模块化扩展和高效性。此外通过将微服务架构结合容器化技术和 DevOps 实践结合在资源有限的环境中实现高效、灵活的部署实现对成本的有效控制。最后结合私有知识库对AI模型进行精细微调帮助企业或组织最大化地沉淀和利用其内部数据从而提供高效的