关于人们对人工智能的威力和危险有很多猜测，但主要集中在人工智能在不久的将来会对我们的工作造成什么影响。现在，科技领袖、政府和记者们正在讨论人工智能如何制造致命的自主武器系统，如果这项技术落入流氓国家或恐怖组织手中，将会发生什么。关于自主武器的道德和法律问题的辩论已经开始，这并不是简单的答案。

　　联合国最近讨论了自主武器的使用以及国际上禁止“杀手”的可能性。这场辩论是在包括特斯拉的埃隆·马斯克和Alphabet的穆斯塔法·苏利曼在内的100多名人工智能团体的领导下进行的，他们警告说，这些武器可能会导致“第三次战争大战”。

　　虽然人工智能已经在许多经济上的问题得到改进和增加效率（如从娱乐到运输在到医疗保健），但在武器机器人能够在不受人类干预的情况下自动运作的时候，许多问题都将被提出来了。

　　目前已经有一些不同程度的人员参与的武器系统测试中了。

　　在英国，Taranis无人机预计将在2030年全面投入使用，并能够取代人类驾驶的龙卷风GR4战斗机，这是皇家空军未来进攻空中系统的一部分。

　　包括美国和俄罗斯在内的其他国家正在开发可以自主操作或遥控的机器人坦克。美国也有一艘自2016年发射的自主战舰。尽管它仍在研发中，但预计拥有包括反潜武器在内的进攻能力。据报道韩国使用的是一种三星SGR-A1哨枪，据称可以自动开火来控制其边境。

　　虽然这些武器的开发是为了尽量减少军事冲突对人类生命的威胁，想象一下恐怖组织如果利用这些武器进行大规模杀伤，将会是一个什么样的场景。

　　法国国防巨头Thales公司的研究副总裁阿尔文·威尔比（Alvin Wilby）告诉英国国会议员人工情报委员会说，流氓国家和恐怖分子“将在不久的将来掌握致命的人工智能”。谢菲尔德大学（University of Sheffield）人工智能和机器人研究的名誉教授诺埃尔？夏基（Noel Sharkey）也持同样的观点。他担心这种武器的“非常糟糕的副本”会落入恐怖组织手中。

　　并不是所有人都认为人工智能弊大于利的，事实上，它对人类的潜在益处是巨大的。

　　在人工智能领域的另一边，Facebook宣布，它正在利用人工智能从其平台上查找和删除恐怖分子的内容。在后台Facebook使用图像匹配技术来识别和防止已知恐怖分子从其他账户弹出的照片和。该公司还表示，它可以利用机器学习算法在恐怖主义宣传中寻找模式，这样就能更快地将其从其他人的新闻推送中删除。这些反恐措施将延伸到Facebook旗下的其他平台，包括WhatsApp和Instagram。Facebook与包括Twitter、微软和YouTube在内的其他科技公司合作，创建了一个行业数据库，用来记录恐怖组织的数字指纹。

　　那些希望禁止杀伤性自动武器的团体，如阻止杀人机器人的运动，这是一种压倒性的担忧，即如果机器完全自主，人类就不会在战争任务中扮演决定性的角色。这就造成了一个道德困境。而且，如果一些邪恶的政权使用致命的自治系统来对付他们自己的人民呢？

　　就像威尔比先生说的，“妖怪已经从封印中出来了”。和其他创新一样，现在人工智能技术已经开始影响我们的世界，我们需要尽最大努力去控制它。如果恐怖组织想用人工智能来作恶，也许我们最好的防御就是人工智能的攻击。