来源:冰川思(si)享号(ID:icereview)

  01

  古往(wang)今来,人类聪明才智的(de)结晶,总(zong)是(shi)被(bei)优先用于军事领域(yu),以提(ti)高杀人效率。

  上世纪70年(nian)代以来,几(ji)乎所有高新技术,譬如计算机、微电子、精确制导、电子对抗、推(tui)进技术,以及生物材料(liao)、纳(na)米(mi)技术等(deng)等(deng),无不优先用于军(jun)事(shi),今天深度侵入我们日常(chang)生活(huo)的互联(lian)网,一开始就是(shi)美国军(jun)方(fang)的通讯技术。

  但是像美国这样的军事强国,除了军事科技全球首屈一指,每场战争胜算极大之外,却还面临这样的问题,“将别人的子女送上战场的总统,必须公开证明其正当性,负责拨款和宣战的国会也一样。”

  也就是说(shuo),纵(zong)然总(zong)统和国会拍着胸脯保证(zheng)每战必胜(sheng),但是在其国内,还必须(xu)办完一道手续(xu):你要把别人的(de)孩子送上(shang)战场,让他们去送死(si),你必须(xu)给出一个正当理由。如果(guo)民意反对声音太大,这个仗(zhang)说(shuo)不定就打不成了。

▲新一代美国军用战斗机械狗BigDog(图/东方IC)

▲新(xin)一代(dai)美国军用战斗(dou)机械狗BigDog(图/东方(fang)IC)

  在既不能变更美国(guo)制度,却又处在一个高科(ke)技(ji)爆(bao)发(fa)时代,突破民意障碍(ai)的办法,就(jiu)是研(yan)发(fa)机(ji)器人士(shi)兵,让他们去(qu)完成打仗的任务,这(zhei)样(yang),反战的民意大概也就(jiu)无话可说了吧。

  在(zai)既有民(min)意压力又有科技出(chu)路(lu)之下,美国军方在(zai)军事机(ji)器(qi)人方面的(de)研发投入和应用,可(ke)谓(wei)不遗(yi)余力。上海人民(min)出(chu)版社的(de)《谁为机(ji)器(qi)人的(de)行为负责?》([意大(da)利]乌戈·帕加(jia)罗著)一书提供(gong)的(de)数据(ju)显示:

  就研(yan)发(fa)而论,军事(shi)机(ji)器人科(ke)技是目前最具活力,也是资金最充足的(de)机(ji)器人研(yan)究领域(yu)之一,美国机(ji)器人学(xue)一半以上的(de)人工智能研(yan)究和发(fa)展(zhan),由军方资助。

  就使用而论,以军事无(wu)人(ren)机为(wei)例,在2003年(nian)年(nian),美军进入伊拉克时,地面部队还没有无(wu)人(ren)机系统(tong);到2004年(nian),美军已经有150套(tao)无(wu)人(ren)机系统(tong),2005年(nian)猛增(zeng)到2400套(tao);2009年(nian),库存量(liang)达到12000套(tao)。军事装备的智能化(hua)、自动化(hua)程度大幅度提升。

  有数据显示,从2011-2020年,美国在无人机研发方面投入的资金占全球56%,中国12%,以色列9%,俄罗斯8%,泛欧3%,英法意各2%。

  这一(yi)(yi)(yi)长串(chuan)数据,可以变(bian)换为具体场景(jing)——网上流传的(de)(de)(de)视频显示,美军无人机在(zai)高空(kong)通过红外线把地面的(de)(de)(de)恐怖(bu)分子看(kan)(kan)得(de)一(yi)(yi)(yi)清二楚,操(cao)纵(zong)无人机的(de)(de)(de)军人坐在(zai)有空(kong)调(diao)的(de)(de)(de)办公室(shi)里,按动一(yi)(yi)(yi)下按钮,那(nei)些恐怖(bu)分子就被(bei)一(yi)(yi)(yi)个一(yi)(yi)(yi)个清除(chu)了,同时,还可以看(kan)(kan)到恐怖(bu)分子惊慌失措(cuo),躲躲闪闪,但最终还是被(bei)一(yi)(yi)(yi)个个歼灭。

  相信绝(jue)大多(duo)数(shu)人都很(hen)赞同以这种(zhong)方式进行(xing)反恐(kong)战争,并对机器人士(shi)兵(bing)出现(xian)在未来战争中抱有很(hen)高的(de)期待。

  但是(shi)有没有想过,如果国与国之间发(fa)生战(zhan)争(zheng)而不是(shi)针对人(ren)神共愤的(de)恐怖分子,那么大规模的(de)机器人(ren)士兵进(jin)入(ru)战(zhan)场,会不会影响(并且已(yi)经影响到)到许(xu)多关键领域——战(zhan)争(zheng)法(fa)(fa)、国际刑事(shi)和人(ren)道主义法(fa)(fa)以及宪(xian)法(fa)(fa)。也就是(shi)说(shuo),战(zhan)争(zheng)的(de)规则(ze)是(shi)不是(shi)显(xian)得更(geng)为重要(yao)?

  02

  说到(dao)战争(zheng)要讲(jiang)规(gui)则,对今(jin)天(tian)的(de)中(zhong)国人(ren)来(lai)说是很陌生的(de),因为战争(zheng)讲(jiang)规(gui)则而被嘲笑的(de)宋(song)襄(xiang)公,至今(jin)还(hai)是一个(ge)小丑式的(de)历史人(ren)物。

  公(gong)元(yuan)前638年,宋(song)(song)(song)襄公(gong)讨伐郑国,楚(chu)(chu)国人(ren)准(zhun)备通过进攻宋(song)(song)(song)国,救援郑国。这年初冬,宋(song)(song)(song)襄公(gong)与(yu)楚(chu)(chu)军在(zai)泓水交战。宋(song)(song)(song)军已经摆好战阵,而楚(chu)(chu)军却还没有全部渡(du)过河,随军的司马建议说,他们(men)人(ren)多我们(men)人(ren)少(shao),他们(men)正在(zai)渡(du)河,您下令马上进攻吧。宋(song)(song)(song)襄公(gong)说,那(nei)不行。

  等到楚(chu)军渡完河(he)还(hai)来(lai)不及摆好阵(zhen)势,司(si)马又建议进攻,宋襄公还(hai)是回答,那不行。等到楚(chu)军摆好阵(zhen)势,宋襄公才下令进攻,结果大败,宋襄公的(de)大腿还(hai)被射了一箭。

▲宋襄公充满仁义的做法最终被楚国打败(图/网络)

▲宋襄公充满仁义的(de)做法最终被楚国打败(图/网络)

  宋国人(ren)都埋怨(yuan)宋襄(xiang)公(gong)(gong),宋襄(xiang)公(gong)(gong)却(que)说:“仁德的君子打(da)仗,不(bu)攻击受伤的人(ren),不(bu)攻打(da)头(tou)发花白(bai)的人(ren),古代那些带兵(bing)打(da)仗的,都不(bu)依靠(kao)关山险隘取胜,宋国即便灭亡,也(ye)不(bu)会去进(jin)攻没有摆好阵势(shi)的敌人(ren)。”

  打仗讲什么规则?胜利就是唯一的规则,为了胜利,可以放弃一切,包括规则本身。这就是宋襄公被今天的人视为迂腐的代表,被谴责嘲笑的所有原因。

  但其实,宋襄公并(bing)不迂(yu)腐。结合(he)宋襄公的(de)(de)其他政(zheng)治(zhi)行为来看,他能够灵活处理很多复(fu)杂(za)棘手的(de)(de)政(zheng)治(zhi)关(guan)系,譬如(ru)为了笼络东夷人而不惜(xi)用(yong)人祭;曹国不服,就动用(yong)武力攻打。

  宋(song)襄公(gong)在泓水之(zhi)(zhi)战中(zhong)表现得文绉绉,乃(nai)因楚(chu)国(guo)地(di)处(chu)南方(fang)被视为蛮(man)夷之(zhi)(zhi)邦,文化落后,不(bu)属(shu)于(yu)“诸夏(xia)”,而(er)宋(song)国(guo)乃(nai)殷人之(zhi)(zhi)后,文化先进,当坚守礼(li)(li)仪(yi)(yi),此外,当时各国(guo)正在形成一(yi)种新的(de)普(pu)世观(guan)念,即(ji)对礼(li)(li)仪(yi)(yi)的(de)尊(zun)崇,而(er)宋(song)襄公(gong)在敌(di)强我弱,胜算极小的(de)情况下,正打算通过礼(li)(li)仪(yi)(yi)-规则的(de)坚守,树立一(yi)种文化上的(de)优势地(di)位,从而(er)成为诸侯国(guo)“礼(li)(li)仪(yi)(yi)英雄”。

  但正如有学者所认为的那样,军事上的小国试图凭借文化大国的优势取得伟大奇迹。宋襄公的失败,是过高估计了文化力量在实际政治事务中所能发挥的作用。

  后世对宋(song)襄公的批评,多(duo)集(ji)中于其(qi)(qi)德行多(duo)寡(gua)和个人品(pin)行。近代以来,随着(zhe)社会(hui)动荡(dang)加剧,战乱不(bu)断,世人才逐(zhu)渐将宋(song)襄公的礼(li)仪(yi)行为与战败后果勾连(lian)起来,直斥其(qi)(qi)蠢货、迂腐。

  03

  撇开近代的观念因素,可(ke)以说(shuo),宋襄公试图通过“礼仪”这种(zhong)外在的规则形式,向世人阐(chan)发一种(zhong)价值观,并且意图用价值观来取得(de)战(zhan)争(zheng)所(suo)不能(neng)取得(de)的优势地位,使楚国的战(zhan)争(zheng)不仅(jin)失(shi)去(qu)理(li)由,而且所(suo)得(de)甚少。

  发动战(zhan)争一(yi)定需要(yao)理由(you)吗?对某些国家来说,恐(kong)怕不需要(yao),或者甚(shen)至不必告诉他的(de)人(ren)民,但是(shi)(shi)如果战(zhan)争的(de)发动不是(shi)(shi)政客的(de)密室(shi)阴谋,而是(shi)(shi)由(you)法学家来决定,那(nei)么正如《谁为(wei)机(ji)器(qi)人(ren)的(de)行(xing)为(wei)负(fu)责(ze)?》所说,过去20年,法学家们事(shi)实上已经(jing)讨论了能够(gou)使一(yi)场战(zhan)争正当化的(de)若干条件(jian),它包括:是(shi)(shi)否(fou)有一(yi)个正当的(de)主张、暴力是(shi)(shi)否(fou)作为(wei)最后手段(duan)、是(shi)(shi)否(fou)有成(cheng)功(gong)的(de)可能性(xing),以及(ji)武(wu)力的(de)合比例性(xing)使用。这其实就是(shi)(shi)讨论为(wei)何(he)要(yao)发动战(zhan)争,以及(ji)如何(he)进行(xing)战(zhan)争的(de)规则问题。

  譬如,发动战争不需要正当理由吗?现代战争不是为一家一姓而战,而是牵涉全体国民的福祉,它必须经过民意这一关,民意的讨论和同意,是正当性的前提和基础。而如果机器人士兵进入战场,与之相关联的问题是,机器人士兵导致的非正常死亡,由谁来承担责任?是制造者的责任,还是使用者和指挥者的责任?

  又譬如(ru),现代战争的正(zheng)义性还体现在(zai)在(zai)一般都很(hen)注重区分(fen)战斗人员(yuan)和平(ping)民(min)(min)(min),尽(jin)量不(bu)(bu)伤(shang)及无辜平(ping)民(min)(min)(min)的生命财产安全,而(er)美军在(zai)中东等地的军事行动经(jing)常伤(shang)及平(ping)民(min)(min)(min),成为(wei)国际舆论诟(gou)病的焦点之(zhi)一,当然,恐怖(bu)分(fen)子更是(shi)经(jing)常以平(ping)民(min)(min)(min)为(wei)袭击目标,更是(shi)激起全球愤(fen)怒。而(er)进(jin)一步思考就会(hui)发现,如(ru)果让机器人士兵加(jia)入战斗,它如(ru)何区分(fen)战斗人员(yuan)和平(ping)民(min)(min)(min)?会(hui)不(bu)(bu)会(hui)一体消灭?

  还譬如,武力使用的力度。机器人士兵如何判定一个敌方人员是否有投降的意图?对一个已经丧失部分反抗能力的敌方人员,如何判定应该击毙还是击伤?这就是战场上武力的合比例性使用问题。进而言之,正义的战争,要求“发动战争达成的善,必须与发动战争的恶之间合比例”。

  为(wei)此,《谁为(wei)机器(qi)人的行为(wei)负责(ze)?》一书的作者(zhe)乌戈·帕(pa)加罗认为(wei),在机器(qi)人士兵投入战斗之(zhi)前(qian),必须遵(zun)守的规则(ze),通俗地讲,包括:

  人类必须为致命性(xing)的(de)机器人士兵的(de)行(xing)为负责;

  攻击目标必(bi)须是有(you)军事(shi)意义的;

  能够区分出(chu)合法的战斗(dou)人员;

  以及不能过分使用武力。

  等等。

  04

  现代战争(zheng)(zheng)对(dui)(dui)具有(you)武器绝对(dui)(dui)优势的(de)(de)一方(fang)来说,简直就像玩电脑(nao)游戏一样,具有(you)绝对(dui)(dui)优势的(de)(de)一方(fang),因此(ci)极(ji)大降(jiang)低(di)了发动战争(zheng)(zheng)的(de)(de)门槛,战争(zheng)(zheng)的(de)(de)潜在随意(yi)性极(ji)大增(zeng)强(qiang)。尤其是(shi)诸如机器人士(shi)兵(bing)的(de)(de)加入(ru),更加使武器具有(you)绝对(dui)(dui)优势的(de)(de)一方(fang),伤亡人数大幅(fu)下降(jiang)。

  有(you)(you)统(tong)计称(cheng),从(cong)2006年到2018年为止(zhi),美军(jun)总共有(you)(you)15851名现役和预备役军(jun)人非正常死亡,损失(shi)不可谓不高。但(dan)是(shi),美军(jun)72%的(de)死亡,共有(you)(you)11341人,是(shi)在“和战争无关情况下”发(fa)生(sheng)的(de),它包括训(xun)练事故、航(hang)空事故或车祸等(deng)等(deng),以及有(you)(you)大约(yue)14%的(de)意外死亡和药物滥用直接相关,还(hai)有(you)(you)4%即634人是(shi)自(zi)杀身亡。

  与之相对的是,对手的战死率通常都是上述数字的10倍以上。如果放任机器人士兵进入战场而毫无规则可言,则武力使用会更加随意,正义必受侵蚀。人类经过数千年相互残杀才出现的一点人道主义微光,必将很快熄灭。

  那(nei)么,有(you)(you)没(mei)有(you)(you)可能(neng)为未来机器人(ren)进入战场订立规(gui)则(ze)呢?完全是有(you)(you)可能(neng)的。实际(ji)上,过去十多年间,国际(ji)协定(ding)已经控(kong)制(zhi)了化学(xue)、生物和核武器、地雷等领域(yu)的科技进步,同样(yang),作(zuo)者认为,亟需一(yi)项(xiang)类似的联合国发起的协定(ding),来明(ming)确规(gui)定(ding)正(zheng)当(dang)使用机器人(ren)士兵的条件。

  今天的各种科技,正在最大化地放飞人类的智谋。这种智谋精进的另一面是,同类相残从来没有像今天这么容易,而且可以想见的是,未来会更加容易。如果没有一种宋襄公精神的指引,毫无疑问,人类必将堕入深渊。

  谁(shei)(shei)为机器(qi)人(ren)(ren)(ren)的行(xing)为负责?答案(an)显然是(shi)人(ren)(ren)(ren)类。但(dan)是(shi)面对机器(qi)人(ren)(ren)(ren),各色人(ren)(ren)(ren)等(deng)的各种责任,除了(le)本文重点(dian)讨论的机器(qi)人(ren)(ren)(ren)士兵之(zhi)外(wai),《谁(shei)(shei)为机器(qi)人(ren)(ren)(ren)的行(xing)为负责?》一书还(hai)例举(ju)了(le)包(bao)括合同(tong)法(fa)中(zhong)的外(wai)科手(shou)术机器(qi)人(ren)(ren)(ren),以及(ji)侵(qin)权法(fa)中(zhong)的人(ren)(ren)(ren)工智(zhi)能雇员等(deng)等(deng)27种假设(she)情况,它(ta)们(men)(men)都(dou)没有明确(que)答案(an),但(dan)它(ta)们(men)(men)在未来必定深(shen)度(du)进入和影(ying)响我们(men)(men)的生活。