分享到:
其速度令人震惊:在哈马斯领导的武装分子于10月7日发动野蛮袭击之后,以色列军队在加沙地带(地中海沿岸的一小块土地)内袭击了22,000多个目标。自从12月1日临时休战破裂以来,以色列空军已经袭击了3500多个地点。以色列军方表示,他们正在使用人工智能来实时选择这些目标。军方声称,名为“福音”的人工智能系统帮助他们快速识别敌方战斗人员和装备,同时减少了平民伤亡。但批评人士警告说,该系统往好了说还未经证实,往坏了说,它为杀害数千名巴勒斯坦平民提供了技术上的正当理由。英国兰开斯特大学(Lancaster University)研究军事技术的人类学家、名誉教授露西•苏奇曼(Lucy Suchman)表示:“这似乎是一次旨在对加沙地带造成最大破坏的袭击。”如果人工智能系统真的像以色列军方声称的那样工作,“你怎么解释?”她问道。其他专家质疑人工智能是否能承担像在战场上瞄准人类那样重要的工作。技术安全公司Trail of Bits的人工智能保障工程总监海蒂·赫拉夫(heidi Khlaaf)警告说:“众所周知,人工智能算法存在缺陷,在需要精度、准确性和安全性的应用程序中,错误率很高。”尽管存在这些担忧,但大多数专家一致认为,这是在战争中使用人工智能的新阶段的开始。美国国防情报局(Defense intelligence Agency)前局长罗伯特·阿什利(Robert Ashley)说,算法筛选大量情报数据的速度远远快于人类分析师。使用人工智能来协助定位有可能给指挥官带来巨大的优势。他说:“你会比对手更快地做出决定,这才是真正的意义所在。”以下是我们对福音的了解,以及它对未来战争的意义。
以色列使用的人工智能瞄准系统可以快速产生目标英国埃克塞特大学(University of Exeter)国防与安全研究教授安东尼·金(Anthony King)表示,十多年来,世界各地的军队一直在试验人工智能。“吸引力是显而易见的,”他说。大多数现代军队的规模都在缩小,需要技术来帮助缩小差距。人工智能系统可以帮助他们搜索大量的情报数据,试图找到敌人。根据以色列军方网站上的帖子,福音是由以色列的信号情报部门8200部队开发的。该系统相对较新——最早被提及的是它在2020年获得的最高创新奖。耶路撒冷希伯来大学(Hebrew University)讲师塔尔·米姆兰(Tal Mimran)表示,“福音书”实际上是以色列情报部门使用的几个人工智能程序之一。米姆兰在之前的军事行动中为以色列政府研究目标。其他人工智能系统会收集大量的智能数据并对其进行分类。最后一个系统是“福音”,它会向人类分析师提供有针对性的推荐。这些目标可以是任何东西,从单个战士到火箭发射器等设备,或者哈马斯指挥所等设施。他说:“基本上,《福音书》模仿了一群情报官员过去的做法。”但福音更有效率。他说,一个由20名警官组成的小组可能在300天内产生50-100个目标。相比之下,米姆兰说,他认为福音及其相关的人工智能系统可以在“10-12天内”提出大约200个目标,速度至少快50倍。虽然我们不知道福音书使用了什么数据来提出建议,但它可能来自各种不同的来源。美国犹太国家安全研究所(Jewish Institute for National Security of America)负责政策的副院长布莱斯·米兹塔尔(Blaise Misztal)说,这份清单包括手机短信、卫星图像、无人机镜头,甚至地震传感器。该研究所致力于促进以色列和美国之间的军事合作。米兹塔尔的小组记录了2021年以色列与激进组织哈马斯和伊斯兰圣战组织在加沙的冲突期间,福音的第一次考验之一。
根据新闻报道和军方本身的声明,以色列使用福音和其他人工智能程序来识别可能的目标,如火箭发射器。该系统用于识别战场上出现的静态目标和移动目标。据媒体报道,它在冲突中确定了大约200个目标。但它也并非没有问题。米兹塔尔小组的行动后报告指出,虽然人工智能有足够的训练数据来确定什么是目标,但它缺乏人类分析师认为不是目标的数据。以色列军方没有收集其分析人员丢弃的目标数据,因此该系统的训练存在偏见。米兹塔尔说:“从那以后已经两年了,所以希望他们能够纠正这一点。”在最近的冲突中,以色列以前所未有的规模使用人工智能。据以色列政府说,以色列在加沙的最新军事行动是对10月7日造成大约1200人死亡的袭击的回应。军方表示,他们正在努力消除哈马斯的威胁,并营救人质。它说,哈马斯利用平民作为人体盾牌,并在平民区地下的隧道中活动,使战斗复杂化。11月2日,以色列军方在博客上发表了一篇简短的文章,阐述了如何在当前的冲突中使用福音。根据这篇文章,军方的目标理事会正在利用福音根据最新的情报迅速制定目标。该系统为人类分析师提供目标推荐,然后由分析师决定是否将其传递给战场上的士兵。“这不仅仅是一个自动系统,”Misztal强调。“如果它认为自己发现了可能是潜在目标的东西,就会把它标记出来,让情报分析师进行审查。”该帖子称,瞄准部门能够将这些目标发送给空军和海军,并通过一款名为“火柱”的应用程序直接发送给地面部队,指挥官可以在军用智能手机和其他设备上使用这款应用程序。金认为,这场冲突可能是第一次大规模推出由基地组织产生的目标,试图影响军事行动。他说:“加沙最近的这场战争将使这种技术扩散到正规军。”目前还不清楚《福音书》中有多少目标遭到袭击,但以色列军方表示,目前每天袭击多达250个目标。批评人士质疑人工智能的表现是否如宣传的那样以色列军方没有直接回应NPR关于福音的询问。
据一位不愿透露姓名的发言人说,以色列在11月2日的帖子中说,该系统使军方能够“确定目标,对与哈马斯有关的基础设施进行精确攻击,同时对敌人造成巨大损害,对未参与的人造成最小伤害”。但批评者质疑福音书和其他相关的人工智能系统是否真的像军方声称的那样运行。Khlaaf指出,人工智能完全依赖于训练数据来做出决策。她说:“人工智能系统的本质是基于统计和概率推断以及历史数据的相关性来提供结果,而不是任何类型的推理、事实证据或‘因果关系’。”“鉴于人工智能系统的高错误率记录,不精确和有偏见的自动化目标真的离不分青红皂白的目标不远了。”一些对福音的指控更甚。以色列出版物+972杂志和希伯来语媒体Local Call的一份报告称,该系统被用来制造目标,以便以色列军队能够继续以巨大的速度轰炸加沙,惩罚巴勒斯坦人民。美国国家公共电台尚未独立核实这些说法,也不清楚目前仅人工智能就能产生多少目标。但根据以色列军方自己的数据,袭击目标已经大幅增加。在2021年的冲突中,以色列表示,它袭击了加沙的1500个目标,其中大约200个来自福音。以色列军方说,自10月7日以来,他们已经袭击了加沙地带2万2千多个目标,每天的袭击次数是2021年冲突期间的两倍多。巴勒斯坦平民的伤亡是巨大的。据加沙卫生部称,到目前为止,已有超过1.8万名巴勒斯坦人死亡,其中大多数是妇女和儿童。根据纽约市立大学研究生中心的科里·谢尔和俄勒冈州立大学的贾蒙·范登·霍克的独立分析,加沙地带三分之一的建筑遭到破坏或摧毁。Suchman说,大量的目标也可能给被要求审查它们的人带来压力。她说:“面对这种加速发展,人们实际能够做出的判断越来越受到限制。”米姆兰补充说,在压力下,分析师将更有可能接受人工智能的目标建议,而不管这些建议是否正确。他说,目标官员可能会想,“如果我们跟着机器走,接受它的建议和建议,生活就会容易得多。”但如果机器系统地错误识别目标,可能会产生“全新的问题”。
最后,Khlaaf指出,人工智能的使用可能会使追究参与冲突的人的责任变得更加困难。尽管人类仍然对袭击负有法律责任,但如果定位系统失灵,谁来负责尚不清楚。是分析师接受了人工智能的建议吗?制作系统的程序员?收集训练数据的情报人员?她说:“鉴于人工智能系统输出的决策缺乏可解释性,以及这些模型的庞大规模和复杂性,因此不可能将决策追溯到特定的设计点,从而让任何个人或军队承担责任。”尽管有这些批评,但以色列的系统很可能是未来的一种体验虽然以色列使用福音来生成全套目标可能是独一无二的,但该国并不是唯一一个使用人工智能协助情报分析的国家。美国正在积极与许多不同类型的人工智能合作,试图确定该领域的目标。一套人工智能工具,被称为Project Maven,通过国家地理空间情报局(National Geospatial-Intelligence Agency)运行,该机构收集了大量的卫星图像——远远超过了人类分析师的搜索能力。阿什利不愿对美国情报界使用的任何特定人工智能工具发表评论,但他表示,这些系统通常会将多层人工智能拼接在一起。有些人擅长在图像中寻找物体,而另一些人则可以通过无线电传输等信息进行分类。阿什利说,就像以色列的系统一样,美国也有人力分析人员和指挥官来做出打击目标的最终决定。他相信其他国家也在研究类似的系统。“你知道俄罗斯人在这么做,你知道中国人在这么做,”他说。阿什利认为,人工智能在这类工作中的扩散是不可避免的,部分原因是它可以用现成的商业计算机视觉来完成算法。他说,这种算法不是用来“寻找一个特定的小部件,而是用来寻找一辆坦克或一门高射炮”。“这是一项军民两用的技术。”金认为,这种定位算法是最终将部署到战场上的自主系统的中间步骤。这些机器人系统很可能能够在没有太多或任何人为干预的情况下识别和杀死目标。金说,这可能会使未来的战斗更加迅速和致命,但战争的性质将保持不变。他说:“人类战斗团队配备了真正致命的武器,以对抗这些可怕的中世纪战斗。”“我认为这就是战争的走向。”