2019年亟待解决的11个AI伦理困境(2)

谷歌的未来学家兼首席工程师雷·库兹韦尔(RayKurzweil)表示，奇点比我们想象的还要近。Kurzweil预测，到2045年，我们将把人类智能和人工智能结合起来，他认为这将使我们更加智能化——这是一个值得期待而不是恐惧的未来。

8. 人工智能的人性化处理

A.I.系统(或机器人)是否有权利?如果Kurzweil是正确的，那么A.I.的人道待遇可能仅仅意味着对人类的人道待遇。目前，一些人工智能系统甚至拥有公民身份，比如索菲亚Sophia(由汉森机器人公司制造的人形机器人)。

人工智能和不可预测的次要事件

9.  A.I.犯的错误

如果有人工智能，那么也会有人工愚蠢(artificial stupidity)。目前，A.I.系统在某些领域中接受了模式方面的培训，并且由于无法涵盖所有可能性，当出现新的场景时，系统就很容易困惑。这是因为A.I.系统还没有能力像人类那样识别相似性，就像在模式识别中，当A.I.系统遇到与训练集中的数据不同的场景时，它并不会根据上下文来判断。

如果A.I.系统很容易被愚弄，这也就意味着它们很容易受到邪恶势力的影响，比如机器学习中的敌对攻击。例如，一种算法可以从一个有影响力的账户中读取假新闻，并根据优化的内容因素来推广它，而不是像新闻工作者在发布前那样检查新闻来源或想法。

10. A.I.条例

总的来说，科技产业因缺乏监管而备受争议，一部分原因是该产业的变化太快，以至于很难确定执法应从哪里开始，另一部分原因是科技文化与西方世界的梦想是一样的，也就是说，不惜任何代价进行创新。

也有人试图自我监管，比如谷歌，它在内部设立了一个道德委员会，但不久之后就因为其内部有争议的成员，即那些否认气候变化和持有反移民情绪的人，所以这个委员会就解散了。同样，微软也在口头上鼓励政府调整A.I.系统，尤其是面部识别软件;然而戏剧性的是，微软的竞争对手指出，微软与立法者的关系过于紧密。

与此同时，A.I.系统的开发和部署几乎是完全没有监管。

11. 如果有道德的A.I.是不可能存在的…

尽管我们尽了最大的努力，但A.I.可能永远都不会变得有道德感。训练A.I.系统使其变得有道德，过程包括：

• 假设A.I.有动机采取道德行动
• 期待普遍道德规则的出现
• 相信训练A.I.变得有道德的人本身是有道德的。

史蒂芬·霍金、比尔·盖茨和埃隆·马斯克都表示，超级智能应该被谨慎处理。A.I.能够变得有道德性吗?大家对此意见不一，但事实上大家都很清楚，A.I.道德规范的时代就要来临了，如果我们不行动起来，那将是一个最大的错误…

相关报道：https://blog.remesh.ai/top-11-a.i.-ethics-dilemmas-affecting-tech-right-now

【本文是51CTO专栏机构大数据文摘的原创文章，微信公众号“大数据文摘（ id: BigDataDigest）”】

戳这里，看该作者更多好文

（编辑：ASP站长网）