你愿意投资人工智能推荐的股票吗？人类已经做好准备把生命安全托付给智能驾驶系统了吗？

　　人工智能发展至今，已经可以基于海量的数据学习来进行独立思考和决策，但人类还无法解读人工智能的决策基础。人工智能的思维方式，对人类来说仍然是个谜。这种情况被称为人工智能的“黑匣子问题”。

　　据日本《朝日新闻》7月2日报道，现代社会海量的信息中包含了特定的组合模式，各类信息的结合有可能会影响到股价波动，但人类很难挖掘到它们。这时只要给人工智能提供足够的数据用于学习，人工智能系统就能发现这些特定模式——这就是人工智能辅助投资背后的想法。比如，通过东京的降雨和降雪天气变化，人工智能系统就可预测一家大型服装零售商的股价波动。

　　雅虎日本旗下的投资信托公司Yjam Plus!从2016年开始借助人工智能进行投资。公司借助雅虎日本收集到的大数据资源，让人工智能学习后进而预测股价，为公司投资提出建议。

　　报道称，公司从2016年底开始运营，在日本已经投资了近180家上市公司的股票。但工作人员Hiroi表示，在使用人工智能辅助投资两年半后，自己依然没弄明白它提出建议的依据是什么：“在传统的人类投机行为中，我们的投资决策可能基于某公司业绩的改善或股价过去被低估的分析。但我们至今无法理解人工智能系统做出决策的基础。”

　　“如果你理解不了人工智能系统做出决定的逻辑依据，那出现问题时你就无法找到根源，更无力解决问题。”茨城县大学(Ibaraki University)机械系统工程学教授铃木朋也(Tomoya Suzuki)坦言，“如果投资失败了，人们唯一能做的就只能终止投资，再无他法。”

　　相比于预测长期投资，人工智能系统在预测短期投资的表现上更好。事实也证明了这一观点：Yjam Plus!公司参考人工智能建议做出的长期投资业绩表现欠佳。2017年5月至2018年5月的一年时间里，投资公司虽然实现了约18%的高回报率，但从2018年5月至2019年5月的一年时间，投资业绩戏剧性地下跌了约18%。

　　如果人工智能系统开始自学如何提振股价，涉足“操纵股价”，或者为了盈利而强行推高股价，结果会怎样？根据现行的金融交易法律法规，这种行为还无法受到刑事处罚或罚款。

　　日本中央大学全球信息学院院长平野进(Susumu Hirano)表示：“在自动驾驶等涉及人类生命安全的行业中，人类很难在其便利性、安全性和低成本之间找到平衡，为此我们还应开展更多更深入地讨论。”

　　随着人工智能系统日益成为社会基础设施的一部分，出台针对人工智能的新规得到国际社会的广泛关注。5月22日，经济合作与发展组织(OECD)部长级会议通过了人工智能发展的五项原则，包括“发展透明化”、“遵守人权”、“遵守民主价值观”等。与会各方一致认为，只有当人工智能系统不会给个人带来不利影响时，人们才可以将决策权托付给人工智能系统。

　　记者 王雅林 实习生 王鹤霏