Gartner敦促CIO考虑人工智能道德

Gartner的一份报告 发现，首席信息官必须专注于商业中的“智能机器” - 或人工智能 - 的道德规范，以建立和维护科幻虚拟技术的信任。

虽然世界还远未开发人工智能机器人，但分析公司已经发布了一份报告，研究道德在智能机器方面的重要性 - 无论是连接物联网(IoT)设备还是自动机器人。Gartner研究副总裁兼分析师Frank Buytendijk表示：“显然，人们必须信任智能机器才能接受并使用它们。

“获得信任的能力必须是实施人工智能(AI)或智能机器的任何计划的一部分，并且在推广这项技术时将成为一个重要的卖点。“首席信息官必须能够监控智能机器技术，以应对公众使用的意外后果，并立即做出反应，接受无法预料的积极结果并应对不良后果。”

为实现这一目标，Gartner确定了五个编程级别，包括“非道德规划”(制造商有限的道德责任)，“道德监督”(责任在于用户)，“道德规划”(责任由用户共享，服务提供商和设计师)，“进化道德规划”(任务开始自主执行)和“机器开发的道德规范”(机器是自我意识的)。

通过三级“进化伦理规划”，对智能机器的信任变得更加重要，随着技术自主性的增加，用户控制也会减少。

报告指出，机器变得自我意识的第四级不太可能在不久的将来出现。

“我们应该问自己的问题是：我们如何确保这些机器坚持自己的责任?我们会像宠物一样对待智能机器吗?或者我们会像孩子一样对待他们，直到他们能够为自己承担责任吗?“，Buytendijk补充道。

今年年初，斯蒂芬霍金谈到了人工智能的到来，签署了生命未来研究所的信，警告人们可能带来的潜在威胁。

信中写道：“由于人工智能的巨大潜力，研究如何在避免潜在陷阱的同时获得收益非常重要。我们建议进行扩展研究，以确保功能越来越强大的人工智能系统强大而有益：我们的人工智能系统必须做我们希望他们做的事情。“

与此形成鲜明对比的是，微软研究院院长Eric Horvitz 声称围绕人工智能的“世界末日情景”是没有根据的，他说：“人们一直担心我们失去对某些智能的控制权的长期前景。我从根本上认为这不会发生。

“我认为我们在人工智能系统的实施方面将非常积极主动，最终我们将能够从生活的各个方面，从科学到教育，从经济到日常生活，从机器智能中获得难以置信的好处。 ”