关键词:
特斯拉,自动驾驶,工程伦理
一、 引言
2016年1月20日,河北省京港澳高速邯郸段发生一起追尾事故。一辆特斯拉汽车撞向前方扫路车,特斯拉汽车当场受损。车上的23岁男司机高不幸身亡。现场交警的调查也显示,事故发生时特斯拉没有刹车或减速的迹象,也没有采取任何规避措施。事故发生后,特斯拉在声明中表示,多次与高佳沟通无果。
二、 相关背景介绍
百度nomancar指的是百度打算与第三方汽车制造商合作制造的无人驾驶汽车。百度在2015年下半年推出无人驾驶汽车。百度无人驾驶汽车项目始于2013年,由百度研究院牵头,技术核心是“百度汽车大脑”,包括高精度地图、定位、感知、智能决策和控制四大模块。其中,百度自主采集制作的高精度地图记录完整的3D道路信息,可实现厘米级精度的车辆定位。同时,百度无人车依托全球领先的交通场景物体识别技术和环境感知技术,实现高精度的车辆检测识别、跟踪、距离和速度估计、道路分割和车道线检测,为自动驾驶的智能决策提供依据。
三、 故事情节描述
2016年1月20日,河北省京港澳高速邯郸段发生一起追尾事故。一辆特斯拉汽车撞向前方扫路车,特斯拉汽车当场受损。车上的23岁男司机高不幸身亡。现场交警的调查也显示,事故发生时特斯拉没有刹车或减速的迹象,也没有采取任何规避措施。事故发生后,特斯拉在声明中表示,多次与高佳沟通无果。随后,受害者家属高聚斌向北京市朝阳区人民法院起诉特斯拉中国销售公司,要求赔偿损失1万元。真正的目的不是特斯拉能赔偿多少,而是通过这个案例让大众知道这种“自动驾驶”技术存在缺陷,希望特斯拉在产品营销过程中不要以“自动驾驶”为卖点吸引年轻人。
审判于2016年9月开始。特斯拉在审判后发表声明称,“没有证据表明事故发生时自动驾驶仪正在运行。自动驾驶并不是造成这起事故的原因,因为这项技术只是一个驾驶辅助系统,用来辅助专注的驾驶员。”
经过一年多的审理,特斯拉终于承认案发时车辆处于自动驾驶状态。从这个角度来看,在自动驾驶汽车到来之前,还有很多我们无法预测的影响。即使自动驾驶汽车将事故概率降低到接近零,也无法100%避免。如果发生碰撞,是谁的错?汽车制造商还是车上的人?自动驾驶汽车的保险如何确定?等等。此外,随着我们迈向更加自动化的未来,自动驾驶对道路质量、地图精度、网络环境等也会有更高的要求。任何环节的任何问题都可能导致不可预测的风险。因此,人工智能下的自动驾驶技术仍然是面对安全问题的重大考验。
四、 案例分析
(1)案例分析无人驾驶最受称赞的优点之一是它将大大降低甚至消除交通事故率。人工智能完美处理操作,自动驾驶被认为比人类司机更可靠。在佛罗里达州的高速公路上,一辆特斯拉Model S在自动驾驶模式下,直接从侧面刺入一辆大货车的底部,挡风玻璃完全破碎,40岁的司机当场死亡。由于制造商宣传的各种安全性能的提高,驾驶员的警惕性下降,他们在驾驶中变得松懈。甚至操作更大胆,因为知道有更多的安全保障,不断提高速度,会增加事故率。无人驾驶模式下如何保证驾驶员的操作规范,如何帮助无人车拒绝车主不安全的指令,或者什么时候拒绝不合时宜的高速模式,实时数据与驾驶员指令有矛盾时如何处理电脑。
企业以公司利益为目标,无视法律和道德。特斯拉要做大做强,要以创新进取为目标。作为汽车行业未来的发展方向,特斯拉没有理由放弃这项技术的研发。然而,企业不应以公司利益为唯一目标,也不应忽视法律和道德。特斯拉对这起致命事件的回应是:“自动驾驶是一项辅助功能,需要驾驶员始终用双手握住方向盘。”可见自动驾驶技术还不成熟,无人驾驶
驶更无从谈起。既然自动驾驶汽车技术大部分尚处于实验阶段,尚未完全成熟,因此特斯拉更应该谨慎商业化应用。经过一年多的审判,特斯拉公司在大量的证据面前,终于承认车辆在案发时处于自动驾驶状态。企业的社会责任要求企业必须超越把利润作为唯一目标的传统理念,强调要在生产过程中对人的价值的关注,强调对环境、消费者、对社会的贡献。在此次案例中,特斯拉在事故发生后的责任追偿中,没有勇于承担责任和义务,对发生事故的家庭造成二次伤害。
2017年5月,德国修订了《道路交通法》,2018年7月,英国通过了《自动和电动汽车法案》,我国目前立法并没有规定自动驾驶汽车致人损害的问题。在此次案列中,存在监管制度漏洞、技术法规和标准不完善等问题。国家要为各地方政府的监管确定底线与准绳,并尽快开展事故后保险理赔与责任追偿。
(2)伦理困境
汽车生产商的伦理困境:出现“电车难题”时,无人驾驶汽车的首要任务是为了保护车主的安全,还是为了保护车外人的安全?举一个例子,你乘坐无人驾驶汽车行驶在山路上,发现面前有几个小孩堵在路中间,向左拐弯的话,你会有冲下悬崖的可能性,向右拐弯则是逆行道,违反了交通规则,有可能与前方驶来的汽车迎头相撞。这时,如果无人驾驶汽车的设计理念是优先保证车内人的安全,那么汽车完全不会做任何操作,径直轧过去就行了,但后果会造成这几个小孩的身亡。另一方面,如果无人驾驶汽车的设计理念是保护车外人的安全,那么很明显,这样的车卖不出去——无论车主还是汽车生产商,都不希望自己成为车祸的受害者。
法律制定者的伦理困境:如果无人驾驶汽车遵守规则就必须造成伤害,是否应该允许无人驾驶汽车破坏交通规则呢(比如转入逆行道)?如果可以的话,这是与“遵守交通规则,降低事故风险”的常识相矛盾的。当然,也有人指出,也许可以在设计无人驾驶汽车软件的时候不设定什么“指导原则”,就让汽车模拟人类司机的下意识操作,让它在随机状态下运行。但这种“碰运气”的做法同样不符合人类发明无人驾驶汽车的初衷。
普通大众的伦理困境:如果程序设计倾向于普通路人的话,如何保证司机不会自己修改程序,以确保自己永远不会被车主蓄意谋杀?毕竟计算机软件总有漏洞,总会有人能破解这些软件。
车主的伦理困境:在面对碰瓷、中国式过马路、偷井盖、公路塌陷等等问题上出现事故的话,谁应该为此事负责。
五、 结论和启示
目前来看,无人驾驶是历史发展的必然趋势。科技是第一生产力,无人驾驶技术极大提升了运输生产力。无人物流可成倍提高运输效率,且有效降低燃油成本。最重要的是,驾驶员被彻底解放了出来,这类似于工业革命,大量的重复性劳动被机器承担。
首先是技术层面。针对致死事件特斯拉回应:“自动驾驶是一项辅助功能,要求驾驶员双手始终握住方向盘。”由此可见自动驾驶技术尚不成熟,无人驾驶更无从谈起。控制汽车行为的相关智能程序还需积累更多的行驶经验,不断完善其“数据库”。更重要的是,一旦遇到“数据库”之外的突发情况,应及时启动紧急“保护模式”,这是最起码的安全保障。否则,面对难以判断的复杂路况,无人驾驶恐怕将成“无人生还”。
其次是法律层面。中国政法大学传播法研究中心副主任朱巍指出,国家要为各地方政府的监管确定底线与准绳,并尽快开展事故后保险理赔与责任追偿。在无人驾驶卡车立法的“瞻前”与“顾后” 中,不得不考虑到卡车车大、车重,车祸对第三方的伤害程度也更大,因此在法律层面“底线”与“准绳”应有更严苛的标准,理赔与追偿也应有更大力度。
最后是推行思路。在互联网+的大背景下,无人驾驶将创造大量市场机遇。Uber 创始人卡兰尼克说,他更希望Uber的司机大军换成无人驾驶的车队,这样成本会比买车还要低。京东CEO刘强东表示,两年之内将在北京建立全球第一个上线运营的无人物流中心。显而易见,刘强东的愿景离我们更近一些。相比更复杂、更无序的城市公路,卡车在高速公路上更容易实现无人驾驶。“无人物流”实现的第一步希望是城市之间的点对点运输,至于仓库到店铺的无人运输,恐怕就需要智能汽车另一个数量级的存储和运算了。
六、 思考题
1) 你觉得自动驾驶汽车,是应该完全依靠程序去判断,还是应该让自动驾驶技术起到辅助人的作用?
2) 你会买一俩驾驶程序偏向于路人的自动驾驶汽车?