AI会流氓吗讨论企业机器智能的障碍

李飞飞(Fei-Fei Li)是人工智能领域的世界知名专家，已升格成为斯坦福大学AI实验室的负责人和Google Cloud的AI首席科学家。但是，当Google LLC去年就如何与美国国防部公开讨论其AI合同展开内部辩论时，Li于去年9月决定就此问题写一份机密备忘录的决定，可能是她职业生涯中第二糟糕的时刻。最糟糕的是当一切都公开时。

“给所有成本避免任何提及或暗示AI的事情，” Li写道。“这是媒体发现所有损害Google的方法的红肉。”

5月，《纽约时报》发表了一系列泄露的电子邮件，最终揭露了李彦宏对Google的AI参与五角大楼指挥的无人机成像项目Project Maven的担忧。4,000名Google员工签署了一份请愿书，要求该公司不要建造战争技术后，该公司在6月宣布，明年将不续签其政府AI合同。

Google的经验为我们揭开了帷幕，这已迅速成为当今许多在AI领域运营的公司的核心问题。企业如何管理AI开发和部署的风险?

SiliconANGLE Media Wikibon市场研究部门的负责人，SiliconANGLE移动平台CUBE的主持人彼得·伯里斯(Peter Burris)说：“员工已经开始反对利用他们的知识产权，聪明才智，他们的研究成果并将其应用于应用的想法。”直播工作室，与Wikibon分析师进行“ AI风险”讨论。“这只是所有企业都必须面对的考虑因素之一。”

随着AI在许多实际应用中根深蒂固，其社会意义迫使许多企业面临一个关键问题：仅仅因为我们可以做到，我们应该吗?

隐私和面部识别

一个备受争议的领域是面部识别技术的使用及其对个人隐私的影响。摄像机能够识别出人群中的面孔并针对信息数据库应用机器学习算法以将姓名与面部图像进行匹配的能力已经变得越来越复杂。

这种发展在很大程度上归因于AI片上系统的兴起。苹果公司的A11 Bionic SoC驱动了其较新的iPhone型号的面部识别功能。去年，英特尔公司 在芯片上发布了自己的系统 Movidius Myriad X，用于在智能相机和其他边缘设备中进行AI导向的视觉处理。

对于广大公众而言，面部识别的这些快速发展有时会在每日新闻中播出。英国当局通过对中毒发生社区周围数千小时的录像进行了精密的分析，找出了两名涉嫌与一名前克格勃间谍中毒的俄罗斯男子。

Wikibon分析师James Kobielus说：“人工智能正在我们的生活中争议最大的领域是面部识别。” “面部识别是“老大哥”最好的朋友，有可能在我们碰巧出现在公共场所以及越来越多地在私人领域中不断追踪我们每个人。”

尽管人们担心隐私和Google最近的动荡，但AI仍然代表着全球经济发展的诱人机会。一个普华永道报告估计，人工智能技术，可以通过157000亿$在未来十年增加全球国内生产总值(GDP)。像这样的数字给企业公司施加了巨大的压力，要求它们以有益于弊的方式传播人工智能。

Wikibon分析师Stu Miniman说：“数十年来，我们一直在谈论自动化将如何提供帮助。” “您通常可以从运营数据中细分客户的个人信息数据，因此确实存在机会。技术提供商将希望利用这一点。”

保护企业数据

有迹象表明一些AI技术提供商正在倾听。本月初，IBM Corp.推出了IBM AI OpenScale，该平台可帮助企业管理AI应用程序。这个旨在阻止企业“ AI蔓延”潜在增长的新平台将于今年晚些时候在IBM Cloud上可用。

9月，Microsoft Ignite发布的公告之一是有消息称Adobe Systems Inc.，SAP SE和Microsoft Corp.将成为开放数据计划的合作伙伴。它本质上是Azure云上的汇总安全数据“湖”，将由三家公司维护，以保护和分离客户信息。

“毫无疑问，人工智能将在基础设施公司，云公司中得到深度利用，以此作为他们如何使用服务，如何从服务中获利，如何保证服务交付的前提。” “科技行业有巨大的动力来确保AI行为的领域和使用它的适当风险得到解决。”

控制AI的影响

一个重点关注的领域涉及算法控制，因为毕竟，人类首先建立了AI技术以在机器上运行。AI可以开发自己的防御机制并学习如何规避人的命令，这并非没有可能。

洛桑联邦理工学院的研究人员一直在研究这种可能性，并评估了避免这种可能性的方法。他们的解决方案部分基于“安全可中断性”的概念，使人类能够中断AI流程，同时确保中断不会影响技术的学习能力。

这是一项棘手的控制措施，在未来几年中可能会成为进一步辩论和研究的主题。Kobielus说：“通过自动机器学习的力量，人工智能可以在没有人工指导的情况下构建自己的机器运行模型，对其进行自动训练并采取行动。” “因此，在物联网中，我所谓的AI流氓机构的潜力是非常现实的。”

人工智能的影响和控制这一更广泛的问题远远超出了企业的范围。围绕AI的问题是政治，文化和全球性的。

在本周早些时候于比利时举行的一次隐私会议上，苹果首席执行官蒂姆·库克(Tim Cook)在一次演讲中 警告说，人工智能必须尊重人类价值观，并呼吁业界采用隐私标准以防止滥用。库克的讲话代表了对控制的呼吁，随着AI采用率的增长，控制可能会持续下去。

Wikibon的创始人兼主持人Dave Vellante说：“这将是一个高度两极化的环境，它将出现一系列非常多样化的标准。” “我们的技术使我们陷入了问题，但是技术可以帮助我们摆脱问题。”