汽车制造商必须决定自动驾驶汽车可接受的不确定性

为了实现可以安全运行且无需人工输入的自动驾驶汽车的目标- 即 L5自动化 - 汽车制造商必须培训AI系统，以便在现实世界中遇到无数条件，以便它们实际上不会遇到现实世界中的任何事情)。正如我们从车轮后面的经验所知，我们的高速公路和道路是完全不可预测的地方，他们将不断要求自动驾驶汽车立即解释并对“边缘情况”情景做出反应。

虽然机器学习可以指导AI开发对其多次见过的场景的认识和反应，但是对于百万分之一(或十亿)的情况，人工智能训练存在巨大的障碍。例如，AI可能精通基本的高速公路驾驶，或在预期情况下识别行人。然而，边缘案件比比皆是。高速公路上可能散落着各种东西，从轮胎废料到沙发，再到追逐鸭子的祖母 ; 万圣节服装可以使行人难以察觉; 你可以设置自动驾驶汽车的陷阱 ; 甚至电动滑板车也可能证明AV有问题。总会存在公司无法模拟的“未知未知数”，因为没有人能预见到要模拟什么。

成功解决不可预测性对于自动驾驶尤为重要，因为任何意外和未被发现的障碍都可能成为生死攸关的安全问题。因此，解决边缘情况的风险对于行业来说是巨大的。

解决深度学习的边缘情况约束

深度学习在解决这些边缘案例中的应用阻碍了一个主要问题：深度学习并不适合提供这样的保证。虽然可以根据已知数据集确定AI应用程序的准确性，但在边缘情况发生且必须处理不熟悉数据的实际情况下，无法保证性能。在处理与之前遇到的数据集非常相似的数据集时，深度学习系统可提供令人惊叹的结果并超出预期。但是，由于它们推断信息的能力有限，因此没有办法预测它们在这些异常情景中的运作方式。实际上，大量的深度学习理论支持这样一种观点，即在某种程度上，这些系统实际上不可能理解与他们所训练的数据不同的数据领域。

面对这种限制，今天最成功的策略就是为AI应用程序提供大量数据，以便尽可能熟悉尽可能多的潜在边缘情况。这种强力方法要求汽车一直被驱动，以便在更加陌生的场景中构建体验，然后将这些数据添加到系统中。这样做需要自动驾驶汽车系统制造商拥有标记和支持这些令人难以置信的数据量的基础设施。

然而，即使制造商能够在这一刻获得接近无限量的数据，仍然无法为他们在道路上看到的所有东西准备自动驾驶汽车。世界变化，人类行为改变，新车和物体(如前面提到的踏板车)被引入等等。鉴于这一现实，车辆系统制造商有很大的责任来决定他们如何最终解决现实世界的不确定性，同时提供安全舒适的自动驾驶车辆体验，不会出现每个未知的误报(即不必要的制动)。

建立衡量成功的方法

今天，AV行业的参与者自然而然地采取对抗的立场来竞争谁拥有最好的技术。然而，这里面临的问题是如此存在和具有挑战性 - 例如确定如何最好地测试自动驾驶汽车技术是否真正可以安全使用 - 行业领导者可能需要联合起来回答这些问题。与此同时，客户和整个社会需要确信这项技术是安全和有益的。我相信一个开放的标准，由行业建立，用于测试和验证自动驾驶汽车的安全性，可以帮助实现这一目的。协作和边缘案例数据共享可能是每个人的最佳策略。

至于自动驾驶汽车必须达到的安全水平，重要的是要认清两件事。首先，人类是非常好的驱动力; 我们每165,000英里只发生一次事故。其次，在人类和机器方面，我们的期望是双重标准。我们希望人类犯错误，但我们发现当机器出现故障时它更不可接受。鉴于这些期望，自动驾驶汽车可能需要比人类驾驶员安全10倍才能获得广泛认可。虽然我们距离看到L5完全自动驾驶的车辆能够驾驭通道无处不在的情况可能需要几年的时间，但是当我们到达那里时，我们将会更安全。

Alexandr Wang是Scale公司的首席执行官，该公司通过对智能数据的访问进行民主化来加速AI的发展。