您现在的位置是:首页 >互联网 > 2021-01-19 11:34:53 来源:
大数据公司努力在负责任的数据使用中扮演角色
Looker Inc.的商业智能软件可用于在市中心地区更有效地部署教育资源,识别暴力的热点并查明劳动力中的收入不平等状况。它也可以用于种族特征,政治手段和确定恐怖袭击的目标。Looker的工作是选择吗?
首席执行官弗兰克·比恩(Frank Bien)认为,至少在某种程度上是这样。他正在提倡一个议程,称其为“善事而不是邪恶的数据”,他愿意划清界限。Looker不会与任何会使用其软件来区分受保护的阶级或操纵选举结果的公司开展业务。
该公司还与员工进行持续的对话,以更好地为其软件定义适当和不适当的用例。比恩在接受采访时说:“可能会有艰难的决定和销售,我们可能需要屈服。” “员工想要这种清晰度,我认为我们的首要义务在那里。”
Bien鼓励大数据业务的同事也这样做。他说:“我们坚信,数据科学专业人士和行业团体需要定义这个问题。” “技术供应商将就其产品的使用方式做出一些艰难的决定。”
并非只有CEO呼吁大数据公司在数据责任中扮演更积极的角色。在Salesforce.com Inc.与分析师的最新财报电话会议上,首席执行官Marc Benioff呼吁政府对分析公司和工具制造商对私人数据的使用制定更严格的法规。他指的是新的《欧洲通用数据隐私条例》,他说:“我们需要在制定类似于GDPR的国家隐私法。”
大数据公司Cloudera Inc.的首席Hadoop架构师,存储和处理大量数据的重要Hadoop软件的创建者Doug Cutting多年来一直在敦促他的同时代人,在他称为“ Pax Data ”的演示文稿中,他提出了更多建议。维权人士对数据使用的立场。
他说,在引起争议的剑桥Analytica丑闻 和谷歌公司员工最近 抗议该公司向五角大楼出售可用于识别监视视频中的个人的技术的抗议之后,人们对该话题的兴趣重新燃起 。谷歌周四感到被迫发布八点指导方针,其中包括 本周承诺不要在这种情况下武器化使用人工智能的承诺。
人们放弃自己的数据越多,被滥用的可能性就越大。“如果你看大多数科幻小说,收集数据的人就是坏人,”切特说。“我不希望这种反乌托邦式的未来成为现实。”
两难的角
大多数人可能会同意,自越南战争以来,他们的国家并未在政治上出现两极分化,但大数据为这一方程式注入了一个新的且可能具有致命性的因素。可以使用检测种族歧视等滥用行为的相同软件来启用这些功能。这就使大数据公司陷入了困境:它们是否应在拒绝公众舆论操纵者和仇恨贩子接触方面发挥积极作用?还是应该将自己视为谦虚而沉默寡言的工具制造商?
如果他们是工具制造商,那么这些工具的功能是否更接近枪支或锤子?
SiliconANGLE联系了一些最大的大数据软件提供商以及专门收集和分析数据的组织,以收集意见。毫不奇怪,许多人拒绝接受采访。在那些愿意记录在案的人中,除了专利违法的产品以外,目前没有人制定任何严格的政策来规范其产品的使用。但是,几乎所有人都承认,社会责任已成为内部讨论的一个越来越普遍的话题,而且有政治头脑的员工的压力促使他们更加仔细地监视其产品的使用。
Gartner Inc.数据和分析小组研究主管Lydia Clougherty-Jones说:“大数据移动正处于道德十字路口。您如何从道德上利用数据获取价值-例如提高效率和检测欺诈–在某种程度上也要注意道德责任?”
走一条线
Neo4j Inc.的经验说明了这些公司必须走的一条线。该公司的同名图形数据库技术使用户能够发现表面上不明显的数据元素之间的关系。这使它成为调查性记者的最爱,他们使用图形技术探究隐藏的联系的拜占庭式网络,这些网络具有竞选融资和洗钱等领域的特征。
Neo4j将其技术捐赠给了国际调查记者协会(International Consortium of Investigative Journalists),用于研究《天堂文件》(Paradise Papers)。《天堂文件》是2017年的一系列报告,介绍了公司和富人利用离岸避税港避免缴纳税款的方式。它还参与了一个项目,以探讨影响2016年大选的因素,并赞助了新闻实习。它还 指派了开发人员关系团队的一些成员来协助记者将其技术应用于他们的手工艺品。
Neo4j产品副总裁Philip Rathle说:“当我们看到产品被永久使用时,我们都会非常有动力。”
但是,该公司的客户还包括有争议的农业化学巨头孟山都公司(Monsanto Co.),一些未具名的政府机构和用于监视的无人机制造商。Rathle承认:“我们没有对它们进行太多宣传。”但该公司认为,其政府关系带来的好处超过了任何可能被滥用的可能性。
像许多接受采访的公司一样,Neo4j由员工决定自己的舒适度,并且不会因选择退出项目或与冒犯他们的客户而受到惩罚。拉特尔说:“任何人都不应被迫与一个使他们感到不舒服的组织接触。”
灰色区域
但是,与大多数同行一样,Neo4j拒绝制定正式政策。问题不是白人至上主义团体和恐怖组织这样的明显案件,而是中间的广阔灰色地区。Talend SA首席执行官Mike Tuchen表示:“我喜欢这样一个概念,我们要确保工具能永远使用,但我不想站在屋顶上,而是说有一种神奇的方法来做到这一点。”
例如,除非有法院裁定特别的安排,否则就不宜采用摆渡服务(重新划分边界和选举区以偏向某个政党的候选人的做法),这是非法的,但很多人对此表示反感。尽管高管们的政治观点可能会使他们偏向某些自由派或保守派利益集团,但这并不是与他们不做生意的理由。
Gartner的Clougherty-Jones说:“适当的定义太模糊了,很难执行。” “数据并不像商标那样专有,因此创建限制下游使用的合同具有挑战性。”
不过,Looker的Bien认为,数据责任的责任制过于滑坡,以至于难以理big大数据公司需要回答的难题。他说:“这可能是无所事事的理由。” “我们想远离一些问题,但这并不意味着我们无事可做。”
目前,非正式政策占主导地位。“我个人使用的测试是,如果我们的客户审查了任何用例,我们会为他们的所作所为感到骄傲吗?” MapR Technologies Inc.数据和应用程序高级副总裁Jack Norris说:“我们没有政策,但这是我们的时代精神。”
而且一些软件公司对其产品的了解甚少,几乎不可能监视客户的行为。例如,Talend通过多个渠道分发其集成软件,还提供了可免费下载的开源版本。Tuchen说:“在通过渠道销售产品时,试图在全球范围内做出价值判断是不切实际的。”
数据集成初创公司 Dremio Corp.还根据开放源代码许可证分发其分析平台的版本。首席营销官Kelly Stirman表示:“您可能在您不想与之开展业务的国家/地区拥有用户,但是在开源环境中,您对这些事情没有了解。”
另一个极端是诸如Looker和Hortonworks Inc.的公司,它们具有广泛的专业服务运营,应该允许他们了解如何详细使用其软件。旁观者没有适当的数据使用的书面政策,但它采用了合规团队定期进行评估,以确保“使用任何数据是透明的,安全的和相互尊重的,”根据其网站。Hortonworks没有回应采访请求。
如果没有严格的指导方针,信任和透明度可能就足够了。Cuting说:“我一直在鼓励收集数据的行业建立与客户的更多信任。” “他们可以通过定期提供审核以证明自己在做自己所说的那样来做到这一点。”
聘请数据科学家
工具供应商的高管们也将矛头指向数据分析公司,因为它们是规范数据使用的更合适的人选。例如,IBM公司没有关于如何使用其广泛的数据库和分析工具产品线的政策,但表示希望客户做正确的事。该公司有关于如何期望其客户对待个人信息的准则,但最终将决定权交给了客户。
正如Facebook在Cambridge Analytica违反社交网络的使用条款时所发现的那样,说出客户应该负责任的行为,并检查以确保他们做的是不同的事情。在迅速发展的专业数据分析服务世界中,基本上没有规则。
MariaDB Corp.首席执行官Michael Howard说:“没人知道Palantir在做什么。” Palantir Technologies Inc.是一家秘密公司,为许多政府机构和公司开展复杂的大数据项目。
数据科学家的严重短缺迫使许多组织在不了解(或可能不关心)如何使用与承包商共享的数据的情况下,向精品公司寻求机器学习和人工智能专业知识。霍华德称这些公司为“不受控制的数据雇佣军。他们不卖枪支。他们是,排和海豹突击队的行动,”他说。
可以理解的是,数据分析公司不愿谈论此问题,并且与之接触的六家SiliconANGLE都不会发表讲话。但是,Cambridge Analytica案说明了这个问题。该公司通过第三方获得了Facebook数据的访问权,然后未经许可将其出售,尽管Facebook已发布禁止这样做的信息。
公司如 段公司和泽塔互动公司 收集数以亿计的消费者的数据,并代表客户进行定制化分析在产品开发和市场营销使用。没有人指责这些公司中的任何一个做错了事。但是他们运营的领域几乎没有规则,两家公司的隐私政策都将保护他们收集给个人和客户公司的数据的责任。
留给立法者吗?
GDPR可能是一个转折点。该法律对如何收集,使用和维护有关欧盟公民的数据施加了严格的规定,并对违反者处以严厉的惩罚。澳大利亚已经采用了类似的规定,加拿大正在考虑这些规定。尽管没有人期望在当前的政治环境中采用类似的法规,但是每一次重大的数据泄露事件对政府采取行动的压力都在增加。
大数据主管在这是否是一件好事上存在分歧。“ GDPR可能会改变游戏规则,” Looker的Bien说。“例如,关于选举之类的事情,我们必须更加清楚数据的适当使用和不适当使用。GDPR是一个巨大的机会。”
但是,很少有高管想考虑大规模的政府监管。大多数人宁愿看到金融业自己进行监管,就像 金融业监管局(Financial Industry Regulatory Authority Inc.)为投资专业人士所做的那样,还是律师协会(American Bar Association)为律师所做的那样。
Cuting说,自我监管“从长远来看符合我们的商业利益,因为它将使整个行业蓬勃发展。” “如果消费者拒绝(或政府取缔)某些类型的数据收集,那么您将禁用进度。”
在没有自我施加的规则的情况下,透明性很可能是即时替代,但这并不一定是一件坏事。实际上,IBM在GDPR实施前夕进行的研究发现,合规管理人员对法规持积极态度,认为加强问责制和对数据管理的关注会改善客户关系。
MapR的Norris表示:“如果个人信任组织,他们更有可能共享其数据。” “信任带来了做一些有趣的事情的能力。”
有了企业和消费者之间的信任,大数据工具看起来像枪支还是锤子就无关紧要了。最后,两者都可以打成犁。