如果武器集合了 AI 能力是个什么样儿（含视频）

最近，正值联合国将在瑞士日内瓦召开自动化武器会议之际，一部 7 分钟 47 秒的短片——《杀人机器人》（Slaughterbots）引起广泛讨论。影片选择在这个时候放出，显然是刻意为之。这部短片将于本周在联合国《特定常规武器公约大会》上播放，届时将有 70 多个国家参加会议。与之相比，电影《终结者》只能算是迪士尼动画片的水平。

《杀人机器人》视频连接： https://v.qq.com/x/page/w05059i9kft.html

自动化杀人机器人

《杀人机器人》是由 Autonomousweapons.org 和加利福尼亚大学计算机科学教授 Stuart Russell 合作制作的一部恐怖短片，目的是为了警醒世人，未来随处可见的杀人机器人，将置人类于危险的境地，因为自动化武器可以在无人指导的情况下，定位并射杀人类。

影片描述了迷你无人机群刺杀政治活动家和美国律师的故事，只有巴掌大的无人机通过实时数据挖掘和人工智能，血腥猎杀目标。

通常在我们的想象中，杀人机器人应该是可以承受巨大攻击，用重火力毁灭世界的钢铁巨兽。但在《杀人机器人》中，真正的危险，却来自于我们熟悉的小型无人机。而且，影片中展现的灾难性场景就发生在不远的将来，这也是它让人毛骨悚然的原因之一。该片展示出的另一个让人不寒而栗的事情，是人类对于机器人屠杀人类事件的态度，似乎是对全球政治分歧严重现状的一种讽刺。

此外，影片中描写的科技都是现存可行的技术，如面部识别、自动定位、无人机等。

影片中无人机群闯入教室后疯狂屠杀学生的画面，恐怖的气息让人窒息。

幸好，有些公司已经在进行“反无人机”的研究，政府也开始关注 AI，尤其是无人机群带来的潜在威胁。

接近真实的“预设”

而引起争议的话题，是自动化武器在不受人类指令的情况下屠杀人类。这对于很多科学家，如伊隆·马斯克、斯蒂芬·霍金来说，是人类面临的实实在在的威胁。

Stuart Russell 称，这部短片不仅仅完全是猜想，同时也是人类现在掌握的综合化、微型化技术发展可能引起的后果。“机器可以杀死被定位的人类，这对于我们的安全和自由来说是个灾难，我的很多研究员同事也同意这个观点。我们可以采取预防措施，但行动要快，因为时机不等人。”

这部短片的支持者还包括“未来生活研究院”（The Future of Life Institute），一个致力于研究人工智能等先进技术潜在威胁的非政府组织。这个组织由众多科学家和商业大佬成立，并受到对人工智一向持怀疑态度的的科学家伊隆·马斯克和斯蒂芬·霍金等的资助。

据悉，该组织还是“制止杀人机器人运动”（Campaign to Stop Killer Robots）的背后支持团体，呼吁禁止致命性自动化武器。今年，该组织已举行过多次全球性禁止致命性自动化武器的会议，声称自动化武器将可能发展成为具有杀伤性的飞行器、自动驾驶坦克和自动化机枪等武器。目前，没有国家公开使用这种武器，但有人怀疑多个武装组织已经在开发具有人工智能的杀伤性武器。

禁令的支持者称，从道德层面上，禁止杀伤性自动化武器十分必要，因为机器永远都不应该主宰人类的生死。

感谢杜小芳对本文的审校。