自动驾驶能违背驾驶员意愿接管汽车吗?

分享到:

数以万年来,人类+工具一直是一把双刃剑。他们可以同时进行协同创新,也可以实现协同破坏。两者的结果都依赖于“人”的动机和“人”的行动规范。人工智能时代,在人机协作过程中,我们对“人”的影响仍然相当有限,但也许可以控制“工具”。汽车就是一种被控制的工具。未来的乘用车,大规模地嵌入自动驾驶,尤其是辅助驾驶系统,这是必然的趋势。对未来的乘用智能汽车来说,自动驾驶是一种普遍的选择,但是它并没有带来不同的价值。也就是,用户会因为缺少自动驾驶功能而放弃购买某种型号的汽车,而不会因为自动驾驶功能而买这款车型。它既是个人需求,又是公共需求。

那么自动驾驶,在遇到人为犯罪的驾驶场景时,能否在紧急情况下实现规避和降低损害?

从工程实现上,欲避免这类事件,或最大化减轻后果,分两种途径:

一种是实现汽车完全自动驾驶化(L4/L5),相当于把开车这件事,完全交给了无人驾驶系统,甚至没有方向盘。从源头上避免驾驶员主观恶意操作的发生,但要达到这一条件,相对较为遥远。

一种是在辅助驾驶(L3以下)的前提下,在系统内写入极端情况的规则,一旦触发极端规则,系统便拥有最高操作权限,及时“违背”人类驾驶员的不当行为,通过汽车已有功能,阻止加速,或进行自动紧急刹车等操作。

自动驾驶

 

系统在违背驾驶员意愿下接管汽车,是好事吗?

有人指出,如果有驾驶者超速和闯红灯(会避开行人和车辆),是因为家人需要去医院急救,这个时候机器如果在人工驾驶期间,强行介入去控制车辆,影响到救急,是否有悖伦理? 

确实,类似的自动驾驶伦理问题,一直广泛存在。

人类驾驶员作出在机器看来可能不当的决策,有时候往往是基于不得已的特殊情况下,瞬间发生的本能反应,以及基于过往的经验和认知做出判断。但与此同时,人类驾驶员也将为其决策,承担社会和法律责任。而机器在紧急情况下的驾驶决策,均需要工程师们事先给定机器一个判断逻辑和决策规则,让其遵循。

但规则能全部制定正确吗? 

答案是否定的。 MIT曾发表了一篇论文,整理了2016年一个叫做“道德机器”的在线测试的数据。“道德机器”对 9 个不同的影响因素进行了测试,其中包括了:

车祸发生时撞男性,还是女性?

撞多数人,还是少数人?

年轻人,还是老年人?

守交通规则的行人,还是乱穿马路的人?

社会地位高的人,还是社会地位低的人?

……

当一个个扎心的问题摆在自动驾驶工作人员面前时,所有人陷入了沉默。上述情况属于开放性的道德问题,人类自己都没有标准答案,因此也无法把这些问题的最终决策,写入系统内。

伦理也分类别

但有些极端情况,是可定义、可规则化,有明确答案的。以近期的大连事件为例,刘某驾车在等候绿灯指示后,突然在7秒钟内将所驾车辆车速从0时速加速至108公里/小时(该路段限速60公里/小时),并冲闯红灯,以驾车冲撞路人的极端方式实施犯罪,造成5死5伤。

红灯期间、猛加速、冲向行人。

此行为基本满足了定性的全部条件,因此无论驾驶员遇到了何种情况,都是可以通过机器强行介入控制的。比如当车体上的摄像头或激光雷达检测到红灯和行人,以及距离时,可及时限制驾驶员的突然加速行为。目前常见的辅助驾驶功能,主要为自适应巡航、前碰撞预警、自动紧急刹车、车道保持辅助、换道辅助等。配备了自动刹车功能的汽车,当驾驶员在遇到危险没有做出有效反应的情况下,系统可以自动紧急刹车。但它并不能在特定情况下,拥有最高控制权限,完全强制接管车辆。也就是说,若人类驾驶员即便在危险场景下,依旧执意要加速行驶,以及其他恶意操作,哪怕拥有自动紧急刹车功能,系统也毫无办法。因此,技术人员需为辅助驾驶功能,赋予部分极端场景中,高于驾驶员的最高驾驶控制权限。目前已有部分厂商也正在这样做。 

当今常见的主动刹车系统

目前市场上已有的BAS与自动刹车系统,利用摄像头或雷达检测前方车辆,结合一定的行驶速度,分析出可能发生的碰撞时(如下图d3的距离),系统便警示驾驶员。当进入d2距离时,自动准备足够的制动力,只要驾驶员踩下刹车,就会立刻发挥最大的制动效能。但前提是需要驾驶员踩下刹车。当距离缩小到d1时,如果驾驶员并未踩刹车,自动紧急刹车系统则立即进行主动刹车。

自动驾驶

 

即便如此,它只是辅助,而不是取代。人们通常会犯一个错误,把“辅助”当做“取代”,因此形成惰性,放松警惕,以为机器能包办一切,最终酿成意外事故。

同样的问题,也存在于医疗AI领域。

人工智能在影像科的作用,是帮助医生读片。假如医生抱着 AI这个不成熟的助手可以承担一切的心态,从而降低自己的阅片标准,同样会带来医疗事故。所以要么就是全部交给高精度机器,要么就是人必须和还不成熟的机器紧密配合,放弃依赖。当前的 AI,显然都处于后者的阶段。自动驾驶,是一种技术与道德相结合的产物,更是一种富有生命力的组织形式。科技不能凌驾于伦理之上,但是它能在一定程度上阻止人们恶意破坏伦理。从伦理的角度来看,使工具变得可控制和智能,是所有科技工作者的社会使命。

 

继续阅读
自动驾驶能违背驾驶员意愿接管汽车吗?

数以万年来,人类+工具一直是一把双刃剑。他们可以同时进行协同创新,也可以实现协同破坏。两者的结果都依赖于“人”的动机和“人”的行动规范。人工智能时代,在人机协作过程中,我们对“人”的影响仍然相当有限,但也许可以控制“工具”。汽车就是一种被控制的工具。