阅读Google针对人性化AI的五条规则

谷歌已经提出了五条规则来创造人性化的人工智能 - 取代艾萨克·阿西莫夫的三部机器人法则。这个技术巨头，其DeepMind部门最近设计了一个能够击败世界上最好的围棋玩家的人工智能 - 相信AI创作者应该问自己这五个基本问题， 以避免机器人统治人类的奇点风险。

谷歌研究院的克里斯·奥拉在题为“ 人工智能安全中的具体问题 ”的研究论文中概述了这些问题：“虽然可能的人工智能安全风险已引起公众的广泛关注，但大多数先前的讨论都是非常假设和推测的。

“我们认为，必须在实际机器学习研究中解决问题，并开始开发安全可靠运行的工程AI系统的实用方法。”与OpenAI，斯坦福和伯克利合作出版，本文以清洁机器人为例，概述了以下五条规则。

避免负面影响：确保AI系统在完成任务时不会以负面方式干扰其环境。

避免奖励黑客攻击：有效的人工智能需要在不偷工减料的情况下正确完成任务。

可扩展的监督： AI需要从反馈中学习，不需要人类程序员的持续反馈。

安全探索： AI在执行任务时需要避免破坏环境中的对象。

分布式转变的稳健性：人工智能应该能够适应它最初没有条件的环境，并且仍然可以运行。

在恐惧机器人的背景下，谷歌投入了大量资源用于开发深度学习和人工智能，其中包括SpaceX创始人埃隆马斯克和科学家斯蒂芬霍金等名人。

DeepMind正在开发一种故障安全措施 ，可以在企图违反用户的情况下有效关闭AI。

包括微软在内的其他公司正在探索人工智能，让AI讲述有关假日照片的故事，并推出其聊天机器人Tay，在Twitter上发表了粗鲁的回复。