生物识别镜凸显了人工智能的缺陷

墨尔本大学的研究人员设计了一种人工智能(AI)系统，该系统仅根据他们的脸部照片来检测和显​​示人们的人格特质和身体吸引力，这是世界首创的。

该系统称为“生物识别镜像”，用于调查一个人对AI的理解以及他们对有关其独特特征的信息的反应。

当有人站在生物识别镜前时，系统会在几秒钟内检测到一系列面部特征。然后，它将用户的数据与成千上万张面部照片的数据进行比较，这些照片由一组来自人群的响应者对其心理测量进行了评估。

生物识别镜显示14个特征，从性别，年龄和种族到吸引力，怪异和情绪稳定。一个人站在那里的时间越长，特质就越个性化。

由社交自然用户界面中心(SocialNUI)和墨尔本科学馆的尼尔斯·沃特斯(Niels Wouters)博士领导的研究项目，探讨了该技术引起的关于同意，数据存储和算法偏差的担忧。

Wouters博士说：“随着AI和大数据的兴起，政府和企业将越来越多地使用CCTV摄像机和交互式广告来检测路过的人们的情绪，年龄，性别和人口统计信息。”

“我们的研究旨在引发有关AI边界的具有挑战性的问题。它向用户表明，实施以不道德或有问题的方式进行歧视的AI可能会产生社会后果，这是多么容易。通过鼓励就隐私和大规模监视进行辩论，我们希望有助于更好地理解AI背后的道德规范。”

Biometric Mirror强调了算法偏差和假设在现实世界中可能产生的后果。

Wouters博士说：“尽管收集有关您的购物偏好的个人信息以量身定制一项服务似乎无害，但未经同意捕获这些信息将使我们无法知道预测是否基于正确的数据，” Wouters博士说。

“ AI的应用范围很广，超出了购物和广告领域。想象一下，无法控制一种算法，该算法错误地认为您不适合担任管理职位，不具备大学学位，或者未经您的同意公开分享您的照片。

Wouters博士说：“选择了您的一个特征(例如，您的责任级别)，而Biometric Mirror要求您想象现在正在与您的保险公司或未来的雇主共享此信息。” “该项目是对个人潜在后果的透明展示。”

沃特斯博士说，重要的是要注意，生物特征镜不是进行心理分析的工具。