自动驾驶汽车可能很快就能像人类一样做出道德和道德决策

自动驾驶汽车可以是道德的，像人类一样行动，还是像人类期望人类一样行事?与先前的想法相反，一项突破性的新研究首次发现人类道德可以被建模，这意味着基于机器的道德决策原则上是可能的。

研究，虚拟现实实验调查人类行为和道德评估，来自奥斯纳布吕克大学认知科学研究所，并发表在行为神经科学的前沿，使用沉浸式虚拟现实，让作者研究模拟道路交通情景中的人类行为。

参与者被要求在一个有雾的日子里在一个典型的郊区街区开车，当时他们遇到了无生命的物体，动物和人类意想不到的不可避免的困境，并且不得不决定哪些是幸免的。结果由导致规则的统计模型概念化，具有解释观察到的行为的相关解释力程度。研究表明，在所有不可避免的交通碰撞范围内的道德决策可以通过每个人类，动物或无生命物体的单一生命值来解释和建模。

该研究的第一作者LeonSütfeld表示，到目前为止，人们一直认为道德决策具有强烈的背景依赖性，因此不能用算法模拟或描述，“但我们发现恰恰相反。困境中的人类行为可以通过以下方式建模：一个相当简单的基于生命值的模型，由参与者归因于每个人类，动物或无生命的物体。“ 这意味着人类的道德行为可以通过机器也可以使用的算法很好地描述。

该研究的结果对于关于自动驾驶汽车和其他机器的行为的争论具有重大意义，例如在不可避免的情况下。例如，德国联邦运输和数字基础设施部(BMVI)的一项主要新举措已经确定了20项与自动驾驶车辆相关的道德原则，例如，与不可避免事故情况下的行为有关，做出了关键假设人类的道德行为无法模仿。

该研究的高级作者戈登琵琶教授表示，由于现在似乎有可能将机器编程为使人类做出道德决定，因此社会必须进行紧急和认真的辩论，“我们需要问自治系统是否应该采取道德判断，如果是的话，他们是否应该通过模仿人类的决定来模仿道德行为，他们是否应该按照道德理论行事，如果是的话，哪些是批判性的，如果事情出错则是谁或什么是过错?“

例如，在新的德国道德原则中，跑到路上的孩子将被归类为与创造风险有关的重要因素，因此与站在人行道上的成年人相比，作为非参与方更难以保存。但这是大多数人持有的道德价值，解释的范围有多大?

“现在我们知道如何将人类道德决策纳入机器，作为一个社会，我们仍然处于双重困境之中，”该论文的高级作者PeterKönig教授解释道。“首先，我们必须决定道德价值是否应该包含在机器行为准则中;其次，如果它们是，机器应该像人类一样行事。”

这项研究的作者说，自动驾驶汽车只是一个开始，因为医院和其他人工智能系统中的机器人变得更加普遍。他们警告说，我们现在处于一个新时代的开端，需要明确的规则，否则机器将开始在没有我们的情况下做出决定。