《缺失法则的自动驾驶》 想写这个主题很久了，一直没开始的原因主要怕自己的能力不能完全阐述自动驾驶里应该包含的哲学，今天重新理解了一下Mobileye的RSS（Responsibility-Sensitive Safety）后，有了些佐证的资料，可以开始写，但未免有矛盾的地方，如果讨论不清楚请见谅。 Responsibility-Sensitive Safety是Mobileye提出的关于自动驾驶车辆的安全性模型，以人类驾驶规则为指导，提出了自动驾驶车辆应该遵循的五项安全规则。 1.Safe Distance:Don’t hit the car in front of you 2.Cutting In:Don’t cut in recklessly 3.Right of Way:Right of way is given, not taken 4.Limited Visibility:Be cautious in areas with limited visibility 5.Avoid Crashes:If you can avoid a crash without causing another one, you must 这五个安全规则是Mobileye认为自动驾驶的法则，指导、验证、治理自动驾驶产生的策略，引导自动驾驶的车辆处于一个有序的状态。 而当下的自动驾驶靠视觉等传感器融合识别万物、距离、速度等信息而产生策略，是没有法则制约下的一种被动处理策略，策略在各个厂家自有标准内形成，并不是基于某种安全共识，终将导致自动驾驶混乱无序。这个安全模型拥有治理无序的智慧，具有智慧的自动驾驶是真正的智能，但现在普遍现象是把软件算法当成智慧。 举个例子： 理想ONE高速辅助驾驶状态撞上大货车，如果满足第4条法则，在可见度受限的情况下未识别出别确物体时选择谨慎降速措施，碰撞或许不会发生或减小对人的伤害。 这只是单一的法则应用，如果存在多个法则间应该是互相约束的情形。 就像自动驾驶的车辆不能为了不追尾而突然并线到别的车道（法则2）或侵入忙碌的人行横道(法则3)。 目前厂商们都在集中力量释放算力和算法，比谁能识别雪糕桶、比谁识别道路标识更多，很少提及法则相关。我们需要有法则指导、限制、治理自动驾驶车辆的驾驶策略，把自动驾驶车辆看做是社会中具有机器智慧的责任体，负有权利、履行职责和义，在法则这个框架下，我们才可以坐下来讨论自动驾驶是否过于激进或过于敏感，遵守或者违背了哪条法则。 所以虽然只有5条法则，如何权衡已经是一个很需要智慧的哲学问题了。 就像《I,Robot》电影里描述的机器人的三大法则： 第一定律：机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管 第二定律：机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外 第三定律：机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存 威尔·史密斯曾说：“《我，机器人》的中心概念是机器人没有问题，科技本身也不是问题，人类逻辑的极限才是真正的问题。” 人类的逻辑极限也体现在了特斯拉的深度学习网络HydraNet中包含48个不同的神经网络，用于增强智能识别的能力，因为识别失误引起的车祸只是被定性为事故而不是破坏了安全法则。 马斯克也许更尊重丛林法则，用以实现他的其它理想，但现在国内的厂商们，应该走个条更尊重法则的道路。 法则是核心，算法是工具。只有遵守了安全法则，才有资格遵守丛林法则。 （完）