保车主还是保路人?“道德表盘”有望解决无人驾驶的困境

2017-10-16    阅读次数:131    成都软件开发公司

如果一辆无人驾驶车被设定为倾向于杀死本车乘客,你还愿意坐这辆车吗?

近日,意大利博洛尼亚大学的团队开发了一个名为“道德表盘”的装置,可以让无人车的车主选择自己的汽车道德设置:你可以设定为牺牲自己保全他人,也可以设定为自己的生命优先。

无人车如何应对道德困境,这是无人驾驶面临的主要问题之一。当人类驾驶汽车时,本能就是对我们对危险的反应。当致命的事故发生时,通常不会有什么责任纠纷。

但如果汽车要自动驾驶,汽车就不能依赖司机的本能,而必须依靠代码。这时候就很糟糕了。是谁应该为事故负责呢?软件工程师、制造商还是车主?

人们对这个问题的态度也很复杂。2015年的一项研究发现,大多数人认为无人驾驶的汽车应该是功利主义的,应该尽量减少总体危害的数量,这可能意味着在某些情况下牺牲自己的乘客。但是,虽然人们原则上同意这一点,但他们也表示,他们决不会乘坐准备杀死他们的汽车。

“充分利他”

意大利博洛尼亚大学的Guiseppe Contissa博士说:“我们想探讨,如果将控制权和汽车行为的责任归咎于车主,会发生什么事情。他同时也提出了一个解决方案。

该团队设计了一个表盘,可以将汽车设置为从“完全利他主义”到“完全自我主义”中的任意道德维度,表盘的最中间则是“完全中立”。他们认为,这种的道德手段不仅适用于无人车,也适用于自动化程度越来越高的所有领域。

Contissa说:“这个旋钮可以让无人车拥有车主本人的道德判断。汽车将利用这些信息来计算它将执行的行动,充分考虑事故发生时乘客或他人受到伤害的可能性。”

公地悲剧

但这个想法有问题。麻省理工学院媒体实验室的首席研究员埃德蒙·阿瓦德(Edmond Awad)说:“如果人们对汽车所造成的相对风险进行过多的控制,我们可能会遇到公地悲剧(Tragedy of the commons),即每个人都选择极端的自我保护模式。

另一个担心是人们可能不愿承担道德责任,因此根本不会有人愿意动那个表盘。如果每个人都选择“完全中立”,道德表盘就不会对现有的困境有所帮助。

Awad说:“现在判定这个方案是好是坏还为时太早。”但他表示,新的想法总是好的。

期刊参考:Artificial Intelligence and Law

  028-8453-1500