查看原文
其他

不要尝试挑战人性,放弃自动驾驶幻想

不止十一人 财经十一人 2023-07-19

蔚来特斯拉均遭强烈质疑,是时候放弃挑战人性的自动驾驶辅助系统了


文 | 尹路


8月12日,一台蔚来ES8在沈海高速上发生事故,车主不幸身亡,据车主好友发布的讣告,事发当时,车辆正在使用地图领航辅助驾驶功能。


7月30日,一台蔚来EC6在上海浦东新区临港大道发生事故,起火燃烧,车内人员不幸身亡。据称,车辆当时也在使用地图领航辅助驾驶功能。


虽未得到蔚来官方证实,警方调查结果也尚待公布,但两起事故的疑似原因都指向了蔚来的地图领航功能NOP(Navigate on Polite),事故后的分析报道也均指向辅助驾驶功能,认为必须限制其应用场景,同时车企应尽到更多告知义务。


在中国掀起对自动驾驶诸多质疑的同时,据美联社8月16日报道,美国国家公路交通安全管理局(NHTSA)开始调查特斯拉(NASDAQ:TSLA)的自动辅助驾驶功能为何难以识别停放在路边的车辆。涉及车型涵盖2014年之后生产的Model 3、Y、S、X,总数超过76万辆。


NHTSA之前调查过特斯拉的刹车失灵问题,结论是调查的所有个案均无刹车失灵问题。但这次针对自动辅助驾驶的调查,特斯拉不会那么好过,因为自2018年以来,NHTSA已经确认了11起车祸与特斯拉自动辅助驾驶系统(Autopilot)或“交通感知巡航控制”(TACC)系统有关。


特斯拉股价在调查消息披露当日下跌超4%,市值蒸发超300亿美元。


《财经十一人》认为,只要启用智能辅助驾驶后还需要驾驶者时刻保持警惕,那就存在极高风险,放松身体与集中注意力的矛盾不可调和,辅助驾驶功能的最大挑战来自人性。



01 

敬畏之心,知易行难


企业和技术人员要有敬畏之心。这句话在科技领域被反复强调,但在强调这句话的每个领域,都在发生着技术进步逾越边界的情形,不论是推荐算法,大数据杀熟,亦或是本文中的智能辅助驾驶。


但敬畏之心知易行难。比如事发之后,不仅蔚来,多家智能汽车企业都在强调智能辅助驾驶不是自动驾驶,只能提供辅助功能。但是在官方网站的产品功能介绍上,依然可以见到“自动”字样。


图源:蔚来汽车官网


对于消费者来说,不断出现的自动辅助驾驶的描述很容易被理解为自动驾驶。而且很多销售人员在试乘试驾过程中也会着重介绍车辆这方面的功能亮点。今后,随着敬畏之心增强,相信在描述辅助驾驶系统时,商家会谨慎使用自动一词,同时销售人员也会更加强调辅助驾驶系统的应用边界。


另外在功能开发方面,敬畏之心同样知易行难。对于智能辅助驾驶的开发,所有开发者都明白安全是决不能逾越的红线。但在实际开发过程中,对用户使用体验的追求很多时候会不知不觉蚕食安全底线。


比如视觉识别灵敏度就是一个典型。灵敏度高了,自然能更好的识别各种障碍物,但随之而来的是误报也会增多。比如著名的特斯拉在墓地当中识别出了很多行人的事件,实际上是系统将墓碑识别成了静止的行人。过多的误报会大大影响用户的使用体验,因为车辆会执行更多的加速、制动、避让等动作,整个驾驶行为的流畅度大大降低。


为了保证驾驶流畅度,研发人员必须适当调低整个识别系统的灵敏度,这这又会导致对一些障碍物的识别能力不足。目前主要的识别短板是桩桶、隔离墩、低速或静止的厢式车辆,如货车和MPV。


最近几次重大事故中,恰巧桩桶、隔离墩、厢式车辆三个要素一个不少。8月12日事故,现场照片可以看到有被撞变形的桩桶和工程维修车。7月30日事故,撞击的是隔离墩。2021年1月25日,同样发生在沈海高速上的一次事故,被撞的是一辆五菱宏光。


8月12日事故现场,图片源于网络

7月30日事故现场,图片源于网络

1月25日事故现场,图片源于网络


除了桩桶这些识别准确率较低的目标之外,识别近距离并入的车辆,车道线模糊路段的处理,进出匝道的能力,都属于当前辅助驾驶还未能良好解决的长尾问题。随着高级别辅助驾驶的应用场景进入复杂的市区,长尾问题会不会爆炸式增加?这些都还尚待回答。在得到明确答案之前,保持敬畏之心,不光是对企业和技术人员的要求,更是对每个普通消费者的要求。



02 

辅助驾驶的最大隐患是人性


但是就算交通参与者都对辅助驾驶保持敬畏之心,安全隐患也无法消失,因为现阶段辅助驾驶功能最大的隐患不是技术,而是对人性的挑战。


据一位评测过市售大部分自动驾驶车型的评测人员介绍,作为专业人员,在评测之前,他本人对于辅助驾驶并不完全信任,但随着测试里程的增加,他开始产生对辅助驾驶系统的依赖。特别是在没有评测工作,不需要记录数据的时候,注意力很难一直集中在环境观察上。


这种反应其实是当前辅助驾驶最大的隐患。在消费者逐渐熟悉辅助驾驶系统的过程中,因为这类系统可以缓解疲劳,消费者会快速产生对系统的信赖。这是人性使然,没有人会不喜欢偷懒。即便消费者在使用辅助驾驶功能前进行过充分培训,也很难避免对辅助驾驶产生沉迷与信赖。


而在使用这一系统时,辅助驾驶一方面让驾驶者的身体获得放松,同时又要求精神上保持高度警惕,随时准备接管车辆。这种南辕北辙,挑战人性的要求,很少有驾驶员能做到。


当然,对于监测驾驶员是否保持专注,所有辅助驾驶开发者都开发了相应功能,包括最简单的方向盘扭力传感器,以及基于疲劳监测发展而来的注意力监测系统。但是不要低估人性对偷懒的渴望,网上展示的各种欺骗监测系统的工具层出不穷,在辅助驾驶状态下,吃喝、化妆、玩手机甚至睡觉的反面案例屡见不鲜。


谷歌在2018年彻底放弃辅助驾驶的开发,将资源全部集中在无人干预的全自动驾驶研发上,就是因为在开发过程中研发人员发现,长时间使用辅助驾驶功能的驾驶员很难保持注意力集中,这会大大增加发生恶性事故的概率。


谷歌曾经的担忧如今正频繁成为现实。不要指望有了车企的充分告知,消费者就能在使用辅助驾驶功能时持续保持注意力集中。随着身体的放松,精神的松懈是必然结果。永远不要尝试挑战人性,没人想知道结果如何。



03 

辅助驾驶应是保镖,而非保姆


8月12日,蔚来ES8在沈海高速上发生事故的同一天,工业和信息化部在网站上公布了《关于加强智能网联汽车生产企业及产品准入管理的意见》(下称意见),加强对汽车智能网联功能的监管已经成为必选项。


意见中的重要内容有以下三项:


1、未经审批,不得通过在线等软件升级方式新增或更新汽车自动驾驶功能。


2、严格履行告知义务。企业生产具有驾驶辅助和自动驾驶功能的汽车产品的,应当明确告知车辆功能及性能限制、驾驶员职责、人机交互设备指示信息、功能激活及退出方法和条件等信息。


3、加强辅助驾驶功能安全管理。企业应采取脱手检测等技术措施,保障驾驶员始终在执行驾驶任务。


除了政府监管之外,行业自律也在加强,理想汽车创始人、CEO李想8月16日在朋友圈中表示,应统一自动驾驶中文名词的标准。避免夸张的宣传造成用户使用的误解。在推广上克制,在技术上投入。


如何称呼各种水平的辅助驾驶并非关键问题,依然是治标不治本。想要让消费者对辅助驾驶系统有合理认知的话,宣传当中应杜绝使用“自动”一词,同时还要避免强调脱手脱脚的驾驶能力,让辅助驾驶回归本色,更多强调以紧急避让、紧急制动为代表的主动安全技术,让辅助驾驶成为保护驾驶员安全的保镖,而非事事代劳的保姆。



作者为《财经》记者,编辑:马克


尹路

微信:yinlu1797

加微信请注明姓名、公司、职务




推荐阅读

8.16

佳评红包


欢迎留言参与讨论,佳评有红包,获奖名单次日公布。

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存