到目前为止，几乎所有人都可以直接地感受到这一事实，即人类和人工智能技术的关系仍有待提升。

　　亚马逊将个人助理Alexa被接入自己的在线商店，并且可以从维基百科上获取信息。

　　但是，当用户说想要听一听自己刚刚听到的今夏最热单曲时，得到的回答却是“不好意思，我不明白这个问题”。所有被认为很智能的个人助手，包括苹果的Siri和谷歌的GoogleAssistant都会让人失望。这时我们会感受到所谓的“人工愚蠢”。

　　这也是谷歌开始一项新的旨在了解和改善人类与人工智能之间的关系的项目的原因之一。

　　日前，谷歌宣布了一个“人+人工智能”关系的研究项目：PAIR计划。该计划将由两名数据可视化专家FernandaViégas和MartinWattenberg领导。他们希望通过一系列技术和创意改进人工智能系统，以减少其让人们感到失望或者惊讶的几率。

　　在无法做到我们期望他们可以做到的事情时，虚拟助理们会让人抓狂。

　　Viégas说，她很有兴趣研究人们对这些机器能力界限所产生的期望是如何形成的，以及如何在设计过程中确保人们只向人工智能提出他们能力可以实现的要求。

　　她说：“一个研究焦点是当用户与虚拟助手互动时，如何重置用户的期望。”

　　Viégas和Wattenberg的PAIR项目源于位于山景城的谷歌大脑人AI团队。他们此前在这一团队中开发可以让研究者和工程师观察到机器学习内部工作机制的工具。

　　PAIR项目将继续研究这一问题，该项目今天发布了两种开源工具，以帮助工程师了解他们正在向机器学习系统灌输的数据。

　　不过，这项新举措也将致力于让人工智能更好地服务于那些不懂技术的人群。

　　这些深度学习算法在分析个人数据或通过医学影像诊断疾病时发挥了重大作用，与此同时，它们也因其具有的被称作“黑箱”的特征而闻名。黑箱意味着很难真正了解到为什么系统会做出某种决定，例如一个诊断结果。

　　这是一个问题，因为这样的软件正逐步被用于一些性命攸关的场合：手术台或行驶中的无人车。

　　Viégas说：“医生需要对情况有一定的了解，这包括机器提出的建议或者预测的依据。”

　　这可能意味着要想办法让诊断软件可以突出扫描影像中影响其结论、或者导致其做出某种解释的部分。

　　谷歌开展这一项目正值人们愈发关注人工智能所带来的后果之际。

　　今天，人工智能伦理和治理基金，在包括骑士基金会和领英联合创始人雷德霍夫曼在内的支持者的支持下，宣布向公共组织提供760万美元以研究人工智能可能给劳动力市场和刑事司法系统等领域带来的变化。

　　与谷歌其他新项目一样，PAIR的大部分研究工作将被公开。

　　举例来说，麻省理工学院和哈佛大学的教授HalAbelson和BrendanMeade将会同PAIR合作，以研究AI如何帮助提升教育和科研工作。但是，研究如何让人类和人工智能更加兼容也可以带来显著的商业利益，这也是为什么首席执行官桑达尔皮查伊将谷歌描述为一家“AI优先”的公司。

　　例如，如果PAIR能够帮助人工智能技术更顺利地融入于诸如医疗等领域，那么它将能够为谷歌的人工智能云业务带来新客户群。

　　Viégas说，她也希望与能于例如谷歌助理的幕后团队这样的产品团队进行密切合作。这样的合作可能会带来丰厚的利润，因为它能让人们更好地使用产品，而这也成为公司更多服务的入口，并能带来潜在的广告业务。

　　PAIR不仅有助于增进全社会对人类和人工智能如何更好结合的认识，也可以帮助提高谷歌的竞争力。