国防领域一站式大模型构建方案——紫光银河大模型平台

2024-08-22 14:56:41

来源:军桥网

一、平台概述
IT系统的建成即落后是一个相对常见的现象,信息技术领域的发展速度非常快,新的技术、工具和方法不断涌现。一个系统从规划到建成可能需要数月甚至数年的时间,在这期间,技术可能已经发生了重大变化,导致建成即落后。
过去的两年中随着大模型的问世,人工智能技术经历了质的飞跃,作为最先进的人工智能技术,大模型技术仍在日新月异的快速发展。在国防智能化建设过程中如何避免建成即落后,是必须应对的挑战。相较于民用大模型应用,大模型在国防领域的应用面临着更多的挑战:
为了应对上面的挑战,紫光银河大模型平台应运而生,平台提供了可持续的大模型生产线,聚焦“持续学习、人机协作、成长演化”。
模型持续学习,平台基于完全国产化的软硬件环境,结合国防领域私域数据,通过高效的模型重训、模型微调、强化学习训练、模型评估、模型安全等能力,实现了一站式、可持续的国防领域大模型构建。
系统人机协作,对于复杂业务平台提供了基于大模型的多智能体框架,采用角色模拟、工具调用和人在回路的组合设计,使得多个智能体之间能够自主配合,同时智能体也能与人类指挥官进行交互,通过人机协作完成复杂的综合、组合型任务。
业务成长演化,平台提供大模型仓库,基座大模型可以随着技术进步而升级或替换。另外平台还提供60+项国防应用任务构建所需的工具,通过简单的流程编排即可实现后勤保障行动方案制定、军事公文写作、档案知识服务等多样的大模型+国防业务场景应用,可编排的业务流程使得平台能够对未来业务变化快速响应,保护已有投资价值。
二、典型应用场景
一)后勤保障行动方案制定
后勤保障行动方案制定主要利用了平台的多智能体能力,由总计划官智能体向路线规划官、代码执行官、文书官和评论官等不同职责的智能体下达任务,智能体间互相协助最终完成后勤保障行动方案制定。平台支持智能体角色定义、工具调用、任务分配与协同、自动化执行、自我优化及反馈等功能。通过智能体并行处理任务,优化任务执行,可以提高行动方案制定的效率,另外在多智能体处理过程中也可以进行人为的干预,从而规范每个智能体的行为,形成人在回路。
(二)军事公文写作助手
军事公文写作助手利用海量公文数据训练军事公文领域大模型,以满足军事公文写作风格要求,通过概要生成、长文本生成、文生图等能力进行公文辅助创作。支持根据公文类型、纲要生成写作内容,通过智能续写、扩写、润色完成词汇优化和段落重组,通过文生图功能生成流程图与架构图。为了满足军事公文写作严谨性的要求,写作助手融合了知识库、知识图谱检索增强能力,并为用户提供相关军事文献参考。对于大模型生成的优秀文本可以回流至知识库,从而不断升模型在特定类型或主题上的公文写作能力。军事公文写作助手可以激发创作灵感,将写作效率提升10倍以上。
(三)大小模型协作的档案知识服务
档案知识服务应用中采用了“大模型为中枢、小模型为骨干”的能力设计,由总体规划智能体自动完成意图理解、工具理解以及规划理解,自主组合调度领域大模型、任务场景模型以及传统业务小模型的能力。小模型能够快速准确地完成诸如关系抽取、实体识别等任务,在处理结构化数据和明显的信息抽取任务时效果显著。当任务涉及到需要更多背景知识、逻辑推理,需要深度分析时,就需要大模型来接管这些复杂的任务。大小模型合作可以充分利用各自的优势,实现能力的互补,协作完成档案鉴定、档案整理著录、档案分级分类、档案辅助编研、多模态电子档案智能检索等档案业务应用。
三、平台优势
(一)智能体完成多模态复杂任务
平台提供了基于大模型的多智能体框架,采用角色模拟、工具调用和人在回路的组合设计,使得多个智能体之间能够自主配合完成复杂的综合、组合型任务,实现了任务规划能力、编排和调度大模型及各外部工具的能力,整合了文本、图像、声音等多模态交互的能力,从而完成多模态复杂任务。
(二)效率更高,成本更低
大模型平台优选清华智谱ChatGLM系列作为基座模型,辅以高效的推理加速组件,在不损失模型推理精度的情况下最终实现了计算量级和显存需求的降低,使得存储开销降至10分之1,推理速度显著提升2至8倍,最大化的利用了计算资源,有效降低了算力成本。
(三)国产化自主可控硬件
平台适配紫光恒越UNIS Server R3810 G6 服务器,该款服务器采用了完全国产化的硬件,其中CPU为飞腾5000C,GPU 为天H****,单卡FP16峰值算力能够达到288TFLOPS。
(四)大模型生命周期安全
大模型平台围绕大模型生命周期核心资产,从数据、算法、模型、应用和环境五个维度保障大模型安全。采用数据隐私计算、模型后门检测、漏洞挖掘修复、安全攻击检测、业务合规审核等技术手段,保障数据安全稳定、算法抗诱鲁棒、模型决策可信、应用合法合规、环境安全可靠。
  • 关键词:
  • 一站式大模型构建方案
索取“此产品”详细资料,请留言
  • *姓名:
  • *手机:
  • *邮寄地址:
相关阅读
<