近年来,随着科技与社会的发展,自动驾驶已逐渐落地成型。自动驾驶依托人工智能和车联网技术,将构建一个高效协调的车辆网络,通过卫星导航实时监测路况,实现车与路、车与车、车与人的数据共享与交互,解放驾驶员的双手并选择最优路线,从而有助于缓解交通压力、减少通勤时间;通过对巡航的最优化控制,能够有效提高燃油的利用效率,有利于节约资源;此外,自动驾驶还可以避免因酒驾、疲劳驾驶等原因造成的交通事故。基于上述诸多优势,自动驾驶越发受到人们的重视。然而,自动驾驶是一把“双刃剑”,在给人们带来诸多便利的同时,也存在一些不足之处。比如,当遇到突发情况时,自动驾驶是否优于人工驾驶?这尤其体现在“电车难题”上。
“电车难题”是伦理学领域的思想实验。其大致内容是:五个人被绑在电车轨道上,一辆失控的电车朝他们驶来,即将碾压到他们,这时可以拉动一个拉杆,使电车偏移到另一条轨道上,但另一条轨道上也绑了一个人。在这种状况下,应如何选择?功利主义者认为道德决策应遵循追求最大多数人的最大幸福,也就是利益最大化的原则,可能会选择拉下拉杆,拯救五个人而牺牲一个人,并认为那一个牺牲者是附带损失,在结果上是可以接受的。而功利主义的批判者认为,人的生命是不可以被比较和衡量的,如果认为“不杀人”是神圣不可侵犯的道德规则,那么只要谋害了一个人的生命,即使是为了挽救更多的人,那也是错误的。在这种情况下,如果拉下拉杆,那么就应该为那一个人的死负部分责任。这就陷入了道德的两难困境。
有研究者从神经心理学视角对道德难题展开了研究,并结合功能性核磁共振技术考察了个体在解决此类问题时的大脑激活模式。结果发现,个体在解决道德难题时腹内侧前额皮层会被激活,腹内侧前额皮层对调节个体在完成道德加工问题时产生的情绪体验具有重要作用,而眶额皮层也与道德判断紧密相关。个体在对一些道德难题做出判断时,大脑中负责情感加工的区域要比负责认知活动的区域更活跃,这表明,个体面临类似“电车难题”这种两难抉择时,会同时受到感性思维和理性思维的影响。格林(Joshua Greene)指出,当个体面临道德困境作出情绪驱动的道德决策时,眶额皮层和腹内侧前额皮层会被激活,而背外侧前额皮层则会削弱眶额皮层和腹内侧前额皮层的激活程度。与道德主义选择相比,作出功利主义选择时个体的皮肤电激活水平更高。总之,处理道德困境难题是一项复杂的高级认知活动,个体进行这种特殊的认知活动时多个脑区会被激活。
随着自动驾驶的快速发展,其普及率也将越来越高,与之相随的交通事故日益引起人们的重视。2018年,美国亚利桑那州发生了全球首例自动驾驶车辆致行人死亡的事故,这是因自动驾驶系统错误识别而没有采取任何避让措施所致。此次事件引发了人们对自动驾驶汽车的信任问题。在面临突发交通问题时,人类会尽量作出最优决策,并承担决策带来的后果。那么,自动驾驶系统在面临类似情况时,应基于什么原则作出怎样的决策?如何认定事故的责任主体?这就涉及自动驾驶面临的现实版“电车难题”。
横井(Ryosuke Yokoi)等人从交通心理学的角度,对自动驾驶中面临的“电车难题”进行了研究。他们采用2×2的实验设计,邀请128名志愿者来完成道德困境实验,探索了道德信念(相同/不同)和驾驶主体(自动驾驶/人工驾驶)对自动驾驶信任的影响。结果发现,104人作出了功利主义选择(即通过牺牲一人来拯救五人),只有24人作出了道德主义选择;无论是自动驾驶还是人工驾驶,只要驾驶主体与自身的道德选择相同,个体便会对其产生信任。这表明,共同的道德信念是影响人们信任自动驾驶的重要因素。由此,我们可以得到如下启示:政策制定者和人工智能技术开发人员可以通过训练自动驾驶系统学习人类的道德信念和道德规则,进而促进自动驾驶技术更好地取信于民、造福于民。
本韦纽(Giulia Benvegnù)等人通过虚拟现实技术,考察了个体在人工驾驶和自动驾驶两种条件下,面临道德两难问题时的情绪反应、感知到的责任感和道德行为可接受性之间的关系。结果发现,在面临道德困境时,与人工驾驶相比,自动驾驶会降低个体的消极情绪体验水平和道德责任感水平。换言之,此时人工驾驶会带来更高的消极情绪体验和更强的道德责任感。但没有面临道德困境时,与自动驾驶相比,人工驾驶条件下个体体验到的愉悦感更强。这也表明在研究应用于自动驾驶汽车的决策时需要考虑个体的情绪体验。
为化解自动驾驶领域的“电车难题”,可以从以下几个方面着手。第一,从技术层面讲,要不断促进自动驾驶系统的优化升级,加强对算法和系统道德决策的开发,让人工智能系统学习人类面临道德困境时伴随发生的情绪体验。第二,从社会层面讲,要制定与完善相关法律法规,明确各方责任,让自动驾驶在法律法规的约束下朝着健康的方向发展。最后,从个人角度讲,我们在享受自动驾驶带来的便利的同时,仍需树立牢固的安全意识,自觉遵守交通规则,摒弃“车辆一定会避让行人”等危险观念。
(本文系教育部人文社会科学研究青年基金项目“情绪体验影响估算策略使用的认知神经机制研究”(21YJC190027)阶段性成果)
(作者单位:扬州大学教育科学学院)
友情链接: 中国社会科学院官方网站 | 中国社会科学网
网站备案号:京公网安备11010502030146号 工信部:京ICP备11013869号
中国社会科学杂志社版权所有 未经允许不得转载使用
总编辑邮箱:zzszbj@126.com 本网联系方式:010-85886809 地址:北京市朝阳区光华路15号院1号楼11-12层 邮编:100026
>