一、方案简介
某司以军工及政务特种领域的大模型私有化落地为核心方向，打磨覆盖数据治理，微调数据生成，知识库构建，领域大模型训练、编排、应用全周期的大模型开发产品集，提供军事智能问答、军事情报分析、智能空战助手、指挥辅助决策及自动化调度等解决方案及应用产品。
二、技术能力
（一）数据治理
支持标准化的数据治理流程，为大模型训练及领域知识库提供数据基础。
（二）大模型微调
支持多种大模型基座、微调算法及优化训练，轻松、高效评测领域大模型效果。
（三）数据生成
支持适应特定任务的微调数据生成策略为大模型微调提供海量高质量问答对语料数据。
（四）大模型编排
支持拖拉拽交互方式、智能提示词工程意图识别分流调用、思维链构建等业务相关编排集成，快速搭建RAG及Agent应用。
（五）知识库构建
支持领域知识图谱构建及知识向量化为大模型提供高效、可信的知识增强能力。
（六）大模型应用
支持可信智能问答、多源情报自监督学习、外部系统API精准调用、作战计划推理生成等可信、可控、安全、白盒的军事领域大模型应用。
三、方案拓扑图
四、核心子系统
（一）大模型数据治理平台
用于单位海量知识数据管理，为大模型增量化训练及微调训练提供基础输出处理支撑。
1.多源异构文档一键解析处理
支持海量多源异构数据集一键上传解析单个数据集支持上千量级文档解析处理。
2.逐词句精准检索定位
内置AI模型，支持OCR文字、图片、表格等精准识别支持文档内逐词句的精准检索、定位及调用具备简便高效的人工审核功能。
3.高度互操作的系统框架
提供高度可扩展的接口，确保灵活的系统集成能力 支持多种数据源及文件格式，实现无缝数据交互。
4.多元高精度OCR识别
支持从PDF、模糊扫描件和图片中精准提取文字、表格、图像，并有效排除水印和印章等干扰信息。
5.原文结构高效解析审核
支持自动解析原文结构及内容，实现高效的内容定位与审核。
（二）大模型微调训练管理应用平台
平台可基于单位历史数据、知识库等私有领域资料推理生成微调训练数据集，效果质量媲美业务人员编写，并具有领域专属、内容准确、溯源可查的优势。
平台定义了面向大模型时代的微调训练数据标准与规范，提供基座模型微调训练、应用部署服务。
1.领域训练数据集一键生成
基于企业历史数据、知识库等私有领域资料推理生成的微调训练数据集，效果质量媲美业务人员编写，并具有领域专属、内容准确、溯源可查的优势。
2.以审代标成本可控效率高
提供高效智能的数据审核方法及工具链，以审核代替人工编写，大幅解决人员、时间成本问题，降低数据配置和处理门槛，提升组织效能。
3.一站搞定基座大模型微调
整合基座大模型库、标准化数据推理生成和模型微调训练流程，一站式完成用户微调大模型需求，提供模型云部署、云应用服务。
4.自研问答数据生成大模型
一键生成海量高质量问答数据，军事领域问答数据生成效果超越ChatGPT 3.5。
5.自研问答数据质量评估模型
构建基于关键维度的QA数据评估体系，支持模型自动化评估，显著提升审核效率。
6.训练效果可视化评估对比
支持生成模型可视化评估报告，支持多模型性能对比，帮助选择最优模型。
（三）基于大模型增强的知识图谱平台
平台依托于大模型技术，解决现有知识图谱构建难、知识不完整的问题，通过自动化生成图式、零样本抽取知识及智能化补全知识，极大简化知识图谱构建流程，提升图谱的全面性、准确性和泛化性；解决大模型事实幻觉、推理可解释性低的问题，确保回答准确率；基于知识图谱结构化的业务逻辑与规则，通过可信推理来辅助决策。
1.自动生成图谱本体结构
基于大模型自动生成本体结构(Schema)，降低图谱构建的业务门槛。利用大模型挖掘潜在实体与关系，补全完善图谱本体结构(Schema)。采用可视化拖拉拽的交互方式，提供极致的用户体验。
2.知识图谱可信推理
支持原因溯源，帮助理解复杂事件起因推导实体潜在结果，预见可能发展方向，助力战略制定和风险管理直观揭示实体之间的复杂联系，帮助识别关键关联和潜在影响。
3.知识图谱精准问答
支持知识纠错与溯源、验证结果、提升答案的可解释性。填补大模型领域知识空白，提供更全面的答案。推荐关联实体，帮助用户深入全面获取相关信息。
（四）大模型应用编排平台
平台面向定制化业务场景，可通过自由配置、组合组件，高效搭建、测试、优化大模型RAG及Agent应用，满足各类军工业务场景的应用需求。
1.智能提示词工程
提供典型结构化提示词设计架构；提供典型提示词要素模板；新手快速构建优质提示词。
2.意图识别分流Agent调用
意图分流模块组件，支持用户意图精准分流；指令槽位解析组件，准确生成API调用指令；支持多类型大模型应用部件调用，大幅提升大模型应用可拓展性。
3.高效思维链推理组件生成
预置高频思维链构建应用模板；业务人员快速搭建思维链复杂大模型智能应用；可视化Flow节点编排业务流程，极简交互方式。
4.跟踪预览应用性能调试
可视化跟踪和检查输入输出，支持自动化调试延迟，Tokens及其他性能指标，快速定位并解决编排问题；支持窗口预览应用响应，助力高效调试应用效果。
五、核心硬件——国产化一体机
（一）产品概述
该产品是基于国产GPU、CPU及国产操作系统的AI一体机，可集成行至自研大模型产品应用，为军工用户提供高性能、安全可靠的AI解决方案，实现快速部署与高效应用。
（二）使用模式
1.集群端
单台设备最大支持千亿量级训练数据准备、及大模型微调训练。推理支持百级用户并发，可覆盖千级以上用户应用场景。适用于集群端，如机房、数据中心等专业化环境。
2.边缘端
单台设备最大支持百亿级大模型推理应用，支持超20个用户并发，可覆盖百人规模用户应用场景。适用于边缘端，如车载、机载等场景。
（三）产品特点
1.全国产芯片：搭载国产化GPU、CPU、ARM架构，提供卓越性能，彻底摆脱外部依赖。
2.自主操作系统：基于国产操作系统，确保数据安全与兼容性，实现自主可控。
3.内置大模型应用：内置成熟大模型软件产品，无需额外开发直接上手，实现快速部署与高效应用。
4.稳定可靠：通过严苛测试，具备多卡推理能力，支持快速上线，确保高稳定性与强大性能。
5.灵活适配：灵活适配多种基座大模型，包括但不限于ChatGLM、Qwen、BaiChuan等。
六、应用场景
（一）知识检索工程
试验鉴定大模型通过文档管理、文档识别、文档章节分类、文档信息提取、数据治理等全流程工作，构建试验鉴定数据的知识检索应用，支持用户进行智能问答、展示型号百科和型号履历卡等。基于全周期的数据提取、治理、应用过程，帮助军事人员高效掌握装备和兵种信息。
（二）可信知识问答应
系统首先需要对语料库进行收集同时结合专业知识设置提示词，而后通过检索增强技术完成智能问答并支持知识溯源；结合任务场景和相关知识微调大模型，最终提供领域“专用”的问答能力。
（三）智能参谋助手
系统通过深入分析和融合历史数据、实时态势和业务系统信息，面向作战场景实现情报分析、计划推荐，涵盖单任务执行到复杂的工作流程自动化，为决策者提供全面而精确的辅助决策建议。
（四）作战方案生成
基于大模型的NLP任务统一、数据格式统一、任务模式统一的巨大优势，将其替代或辅助传统人力环节，大幅提高方案生成效率，实现自动化的作战行动方案生成。
（五）杀伤链生成
在杀伤链应用中设计基于大模型的智能体框架，通过任务规划智能体实现针对当前战场态势的杀伤链构建规划，通过任务执行智能体执行当前杀伤链及其评估，同时面向态势变化场景进行实时更迭实现杀伤链的动态重构。
