谷歌使用人工智能来模仿人类是不道德和糟糕的用户体验

谷歌首席执行官桑达皮采本周朝着错误的方向迈出了一大步。在他的公司的I / O开发者大会上，Pichai通过使用虚拟助手愚弄人们，让毫无戒心的人成为笑声的目标，并提出有关人工智能未来用途的严重道德问题，让人群惊叹不已。

Pichai为观众播放了Google智能助理和美发沙龙助手之间的对话

虚拟助手的“Mm-hmm”的话语引起了那些窃听相当于恶作剧电话(公告视频的1:56:36)的笑声。听听美发沙龙接待员这个可怜的汁液!她完全堕落了!让我们聆听，看看接下来会发生什么!

电话会议的结论引起了I / O与会者和Google首席执行官们的更多欢笑和掌声。“这是你刚才听到的真实电话，”皮海说，笑声继续说道。他解释说这个电话是由一项名为Google Duplex的新技术提供支持的。“它汇集了我们多年来的所有投资：自然语言理解，深度学习，文本到语音。”

好像不知道美发沙龙接待员是不够的，Pichai然后在餐馆工作人员上扮演同样的伎俩，员工的英语口音和Google智能助理使用“呃”和“mm-hmm”更加挑衅窃笑。

“再一次，”皮海说，摇摇头，对这一切都非常欢闹，“这是一个真正的呼唤。”

用户体验错误

谷歌努力使助手的声音模式与人类无法区分，这引发了一个问题：为什么?仅仅因为可以做到这一点并不足以做到这一点。

我可以想象用户体验专家对这种欺骗感到震惊。虽然与一个人性化的语音助手进行交互肯定比机械化机器人更愉快，但当我与他们互动时，我想知道它。谷歌因没有教导机器人自我介绍而失败了什么?打电话给美发沙龙时，可能会说：“嗨，我是Google助理代表客户打电话。”

它应该这样做。

虽然这可能会让接待员 - 以及餐厅员工，也许对你我来说，假设我们最终接到这些电话 - 我们对这种互动的接受会随着时间的推移而增长。没有理由认为AI呼叫有一天不会像语音菜单那样普遍。

但我们接受看似自主的语音助理将取决于信任。信任要求能够区分我们何时与人交谈以及何时与人工智能交谈。

危险的游戏

一个人工智能驱动的文本，语音和视频从人类生成的类比中难以辨认的世界是一个可怕的世界，创建它的技术已经存在。这并不是艾伦·图灵在提出同名考试时所设想的。

防止这样一个反乌托邦社会的最佳方式 - 即所谓的天真的 - 就是应用相同的道德规范人类互动与人工智能的互动。即，诚实和诚实。

Pichai在I / O上犯了两个道德错误。第一个是将发廊和餐厅员工变成骗子。这真的不比为他的开发者客人娱乐而做的虚假电话噱头。

Pichai的第二次进攻是鼓励开发一种冒充人类的AI。可以从中得到一点好处; 它有可能创造一个危险的先例。谷歌不应该使用Duplex来代替这种新技术欺骗。

太平洋时间下午1点15分更新：为了回应 批评 双面驱动助理并未将自己标识为机器人的问题，谷歌发表了以下声明：“我们正在设计此功能并内置披露，我们将确保系统得到适当的识别。我们在I / O上展示的是早期的技术演示，我们期待在将其开发成产品时整合反馈。“