中国指挥与控制学会会刊 
1 人工智能和指控的关系
从军事上说,指挥控制是一种围绕作战任务提出的作战需求。指挥、控制、通信、计算、杀伤、情报、监视与侦察(C4KISR)业务支撑着指挥控制活动。指挥、控制、通信、计算、杀伤、情报、监视与侦察设备和相关服务,是指挥控制活动的依托。人工智能技术作用于C4KISR的各个领域和各个环节。
指挥控制通过作战需求、作战环境,与人工智能发生联系,同时,指挥控制在人工智能技术和系统的加持下,影响作战需求、作战环境。
作战需求和作战环境反映了作战方式、作战对手、作战地域和作战人员及装备。
指挥员就打什么仗,跟谁打,在什么环境下打,用什么工具打,打什么目标,打到什么程度等初始作战想定,对C4KISR诸要素全方位地提出初始需求。面对特定作战想定牵引所提出的作战需求,军事人员从人工智能方法工具箱中,寻找恰当的模型、数据与服务进行匹配,进而形成C4KISR诸要素的初步能力。
然后,指挥员依据C4KISR诸要素所能提供的能力,再就打什么仗,跟谁打,在什么环境下打,用什么工具打,打什么目标,打到什么程度调整想定。之后,指挥员对指挥控制领域的C4KISR诸要素全方位地提出需求,如此往复。人工智能与指控要素影响关系图,如图1 所示。
其中,人工智能工具箱会随着C4KISR诸要素所提出的需求和时间的推进,出现自我进化。即它可以通过不断进行数据采集、算法进化、算力调整、服务改进等形式,逼近式地满足作战需求并提升其能力水平。并随需求的不断提出,演进式地拓展出新的功能。任务—系统—技术循环影响关系,如图2 所示。
2 人工智能对指控要素的影响方式
2.1 目标识别更加精细
指挥控制要素C4KISR中的KISR涉及目标和信号的识别,它包括目标几何特征的识别、目标光学和红外特性的识别、无线信号身份的识别等诸多识别任务。人工智能中的深度学习技术,可以通过数据累计进行各种目标分类,从而有效地识别目标和信号。由于人工智能系统识别目标更加快速、准确、持久,且能24小时持续不断地识别目标和信号,因此,它能够支持更多类型的作战任务。目标识别精细度的提升,可支撑军事人员设计新的作战方式,进而产生新的指挥控制需求。
2.2 战场预测更加准确
指挥控制的终极目标是协助指挥员完成组织、指挥、决策与实施(执行),人工智能中的强化学习技术,可以支持红蓝对抗推演,利用多Agent仿真,可以更快速、更大范围地推演战场进程,可以更多地搜寻、探索作战方案,可以在更大深度和覆盖广度上预测战场走势,从而更有效地支持各类计划、部署、决策与实施(执行)。人工智能技术可以实现战中仿真推演,战中战场设计,战中系统更新。这将对指控系统的软硬件性能和功能提出新的要求。
2.3 组织指挥更加灵活
现代战争变化多端,可以看成是一种预设之外的战争,是一种“边打边学”式的战争。开战之前,没有人能精准预测仗会怎么打,需要指挥员在战场上“见招拆招”。人工智能大语言模型以其“高超的理解和领悟能力”可以支持战场指挥员临时设计各种各样的“奇招妙法”,只要指挥员“说得明白”打算怎么办,大语言模型几乎可以“立等可得”地提供软件和系统服务的支持,从而让现代战争成为一场“看不懂的战争”。现代战争可以用人类语言下达指令,由人工智能机器理解指令,分解指令,直到执行指令,人类的指挥领域不仅仅是覆盖人类,而且能够覆盖到人工智能机器和系统。人工智能机器和系统将成为指挥员的高级参谋、超级助手,这会对指挥控制提出新的要求。
2.4 目标攻击更加高效
人工智能加持下的无人系统+精准识别+精准攻击+拼装式自主协同约等于无人作战,它可以根据攻击目标的特点和特性,临机设计攻击模式,用最适合的方式、最适合的角度和距离,使用最适合的弹药量,采用最适合的战术,对敌目标最大效率、最好效果的攻击。这对指控系统自主攻击能力提出要求。特别是远距离大规模无人蜂群作战,面向自主性体系打击能力的指挥控制要求,会有新的不同。在人类给定的目标任务确定的情况下,人工智能攻击系统自主完成判断,自主实施决策,是其突出特点。
3 人工智能对指控的影响趋势
人工智能对指控的影响是一个渐进的过程,一方面人工智能系统需要依赖数据进行学习,另一方面它是一个协同进化的过程。就像盖楼房,有了底层的智能系统支撑,才能获得上层的系统构建。由需求特性和人工智能技术本身的特点,可以得到人工智能对指控的影响趋势。
3.1 有极限的能力增长
虽然人工智能技术应用增加非常快,但是,从机制上看,它却不是一个无限增长模型,随时间而产生的影响指数AII(t)可以用如图3 所示的规律定性地加以刻画。
其中,包络形式为Logistic函数,影响指数随时间震荡变化的周期形式为Logistic函数,它表示人工智能对指挥控制的影响程度的变化幅度会在算力和精度的共同作用下趋于一个常数,其影响更新周期也会受天文时间影响而趋于一个常数。这既是由指挥控制所需要执行的任务的颗粒度大小决定的,也是由人工智能系统物理能力限制造成的。通俗的比喻就是,人们希望看东西更清楚,但是人们并不希望带着显微镜看世界。适可而止才是最好的。这一规律潜在地表明,指控领域的人工智能系统,从长期演化趋势看,它不是一个混沌系统。它将是一个从有序到无序,再到有序的过程。其中无序阶段可预测性最差,是技术影响战争最危险的阶段。
3.2 随学习进程的推进不断协同进化
人工智能系统与传统系统一个非常大的不同在于,人工智能系统是一个“活的系统”,它会随着训练数据的增加和训练活动不断更新自身,不断提升或者改进自身性能。因此,人工智能与指控的关系是一个协同进化的过程,其相互影响也是一种协同进化的影响。这就好比开始的时候是两个乒乓球爱好者,但是随着两个人相互切磋并且提升水平,一段时间之后会发展出一个乒乓球队,并最终形成一个乒乓球俱乐部。它不仅仅是外在性能的影响,更是可以有机制性的影响。由此,需要动态地看待人工智能对指挥控制的影响。
3.3 人—机参与度的进化调整——无人作战占比变化趋势
如果设定战场上包括C4KISR的全部操作由人类操作和无人作战自动操作(自主操作组成),其总和占比为1,则有人类操作占比+无人作战自动操作占比=1。随着人工智能技术的进步,其发展变化趋势如图4 所示。
随着人工智能技术的发展,人类在C4KISR中所承担的决策层次也会发生变化,其趋势如图5 所示。
3.4 体系化多领域深度关联
4 人工智能与指控协同进化面临的风险与挑战
由于人工智能与指控是一个协同进化的关系,因此,它是一个动态的过程,其行为表现具有环境边界敏感性和初始条件敏感性,由此,一方面它会对指控带来极大的增益,另一方面它必然存在一些风险与挑战。
4.1 复杂性涌现挑战
一般,人工智能可以认为是一个技术工具,但是它是一个极端特殊的技术工具,它的特性和表现是通过数据和训练习得而来。人工智能系统就像一个婴儿,它会被数据和训练塑造成什么样子,预先不可尽知。一个在学校受过训练的孩子,我们知道他能说能写能算,但是他在遇到“难题”的时候会有什么表现,我们不可预知。这种不可预知的表现,就是涌现。对于被称为“神兽”的孩子,我们只能大概率地预测他的表现,同样面对极端复杂的指控领域人工智能系统,我们也只能概率性地预测它会有什么表现。
4.2 安全可控性挑战
人工智能系统难以进行全面可靠性测试,在系统变得足够复杂的时候,它的安全可靠性问题会变得愈加突出。自组织、自运行、自运用人工智能一旦出现故障后是否可控,故障是否可以有效隔离就成为一个巨大的隐患。安全性不仅仅受训练数据和算法的影响,也受使用的影响。恰当使用和极端化使用,会有不同的表现。例如,目前ChatGPT在常规输入下,会表现得自然而聪明,但是如果输入超过ChatGPT“训练可及范围”,它会一本正经地胡说八道。如果用于指挥控制领域,人工智能系统是否会“发疯”,如何识别“发疯”?如果“发疯”,如何制止?就成为一个值得高度关注的安全问题。
4.3 过度依赖性挑战
随着人工智能系统的日益强大,人工智能的表现越来越好,它的人工替代范围和领域会日益扩大。当人工智能系统表现足够好的时候,人们会越来越依赖人工智能系统,就像今天人们对手机的依赖一样。一旦依赖形成,人类本身的一些分析和决策能力将会不可避免地出现退化。现实中可以观察到的是,在汉字拼音输入法普及下,“提笔忘字”现象越来越普遍。在人工智能替代人类操作的基础上,过度依赖人工智能所带来的路径依赖,人类长此以往地疏于思考、不做训练,将导致指挥控制工作存在体系性风险。
4.4 进化的可恢复性挑战
人工智能系统是一个数据依赖型的复杂系统,它会随着训练而不断进化。军事活动具有对抗性,在系统受到打击出现毁坏时,是否可以做原始状态恢复,就成为一项挑战。这就好比,我们无法让一个孩子清零大脑,恢复至出生时的状态一样。人工智能支持下的指控系统可恢复性,是一个非常值得研究的理论和现实问题。直觉和经验所提出的历史数据备份法,在系统高度复杂的情况下,是否依然有效,值得探索。
5 结束语
人工智能每天都在无声无息地不断发展,对指挥控制的影响深刻而深远。受军事系统特性和人工智能技术本身影响,它对指挥控制的影响在非战争期间不容易显性捕捉,难以显性度量。这就要求相关研究人员,既从数据、算法、算力和服务上发力,更要从作战概念和应用构想上开展头脑风暴。“设计战争”针对的是可知的战争,“战争设计”面对的是不可知的战争。人工智能像是一股“黑旋风”来去匆匆,因此不能守株待兔,而是要逐渐适应以月、以周、以日为单位的“从战争中学习战争”的新节奏,努力从“设计战争”向“战争设计”转变。