[智能应用]智能驾驶“不能说的秘密”？五问安全测试员和算法工程师 [1P] [复制链接]

3月底，一辆小米SU7汽车在高速上碰撞后爆燃，导致3名花季少女殒命。这一新闻将当下发展得如火如荼的“智能驾驶”推向风口浪尖，上观新闻原点栏目曾发表《“我曾信任系统，直到它操控着车撞向石墩”》（点击跳转至原文）一文，阐述了目前智能驾驶系统在实际使用中存在的安全隐患和用户信任危机等问题。但公众对智能驾驶技术本身依然存在诸多疑问。
系统究竟是如何被设计出来的？它真的能识别所有危险吗？人类该如何与系统共处？
康林（化名）和谢春晓（化名）是两位智能驾驶系统的安全测试员。康林有着近10年的驾龄，测试过目前市面上所有的智能驾驶系统。谢春晓自2019年入行，经历过多次系统的升级迭代，也曾担任过智能驾驶系统车辆的维修工作。李衡（化名）是智能驾驶系统的算法工程师，曾在多家车企工作过，参与过多个系统的设计工作。
为了搞清楚这些问题，我们与他们三位聊了聊。
“我的工作，就是找系统的麻烦”
上观新闻：一套智能驾驶系统，从设计之初，到交付给用户使用，整个生产流程是什么样的？您在这样的流程中扮演什么角色？
李衡：一套智驾系统从设计到落地大致有以下几个环节：首先，产品部门根据对产品、竞品以及对用户实际需求的研究，明确系统需要实现哪些功能，进行功能细分后，工程师根据产品部门的需求来设计算法。比如，产品部门表示，系统需要实现“在高速公路上保持固定的行驶速度”，那工程师设计算法的目的，就是为了实现这一功能。
其次，算法设计完成后，进入系统测试环节。第一步，回灌测试，即不通过实车测试，而是通过数据的回灌来判定系统是否达到可用性。第二步，内部的实车测试，工程师会参考测试员提出的问题和缺陷，对系统进行改进。第三步，编写准出报告，判定系统的稳定性和相关指标是否达到了准出的要求。第四步，验收部门在内测的基础上，进行新一轮的测试。第五步，灰度测试，确保软件稳定性到达一定要求后，才能给用户使用。
对一个成熟的项目而言，整个流程至少花费要3到6个月。其中，测试员具有一定的话语权，他们在路测时发现了问题，有可能是因为产品需求的设计不合理，那就需要修改产品需求，工程师才会相应地去修改算法。
谢春晓：那些在内部测试中已经是“优秀毕业生”的系统，我们对它进行路测，而我的工作，就是找系统的麻烦。
如果它“开”得不好或者某些情况处理不当，我就会和工程师反馈，这样开车不合理，如果是我来开，我会怎么处理，就相当于系统的训练员，这样工程师才能不断优化和更新算法，然后再更新一个新的版本，测试员再去测试，直到符合要求，再推送给用户使用。
我不需要懂算法是如何运行的，我只知道这辆车只要开得比我这个老驾驶员好，它就过关了。所以测试员也是实车测试的最后一道防线，帮助智能驾驶系统落地“最后一公里”的训练师。
其实，有些设计算法的工程师自己都不会开车。他们的数据来源于车辆通过各种场景的测试不断采集而来，也就是说不断地模仿人类开车。
我接触过一些工程师，总觉得自己设计出来的系统很厉害。我也经常和工程师们聊天，半开玩笑地提醒，你们参与了智能驾驶系统的设计，你们就是公共交通的参与者和规划者。你设计出来的这辆车在路上跑，就相当于你在开这辆车。你们要为自己设计出来的东西负责。
康林：测试的系统多了以后，我能感受到，每一个系统都有它自己的“脾气”。有的很“激进”，有的比较“谨慎”。我以变道举例，有些系统会规定必须与前后方车辆相隔一定距离，才允许变道，但另一些系统就会“见缝插针”。“激进”的系统在提醒驾驶员注意接管的同时，车已经插缝变道了。在路测中遇到这样的情况，我基本能做到预判，并且提前准备好接管车辆，不太会出大问题。但对于开车不熟练的驾驶员来说，可能并不能马上反应过来。
上观新闻：是否所有的反馈都会被改正呢？
康林：并不是。一般工作一天下来，我大概能记录下20多处问题，其中如果有比较严重的问题，会立马得到反馈。但例如闯黄灯、不礼让行人、强行加塞、未及时减速等问题，有的工程师会说受到现阶段技术的限制，没办法改进。
此前，智能驾驶被吐槽经常会急刹车，我和多家车企的工程师都提过这个问题。
从车企的角度来说，如果车辆急刹造成追尾，也是后车全责，既没有撞到行人也没有违反交规，因此不太会被放在必须改进的问题中。
虽然这不涉及人身安全，但驾驶体验感不好，我们路测中也会有舒适性的考量。
李衡：有些问题的确没办法改，这与硬件的局限性有关。智能驾驶系统的硬件先天就注定了它达不到一定的层级。比如刹车，不管工程师写出什么样的程序，给出什么样的信号，硬件都没有办法精准地完成刹车动作。这和前期在硬件的选择上有关，没有办法通过软件层面优化的。这时，车企内部会有详细的技术评审会，将这些问题交给专家重新评估和讨论。
硬件是由供应商提供给车企，每个供应商的硬件的性能都是不一样的，硬件也有系统边界，是否能和软件适配，前期都需要磨合。而且，车企的考量的方面会更多，比如供应商A的硬件设计不太好，但供货稳定，供应商B的硬件性能更好但供货不稳定，那么车企会选择供应商A而不是供应商B。
“智能驾驶并没有比人聪明”
上观新闻：智能驾驶目前面临的普遍问题是什么？
康林：目前不同车企的系统遇到的问题都差不多，基本不会出乎我的意料。比如：有快速行驶的车辆从后方强行加塞时，系统并不会根据路况做出合适的操作，而是会提示车主接管。因为摄像头在车顶，只能看前方，别的车如果从左前方或右前方夹击，系统知道要刹停。如果别的车从左后方或者右后方夹击，系统只会提示驾驶员有车辆靠近。这是目前没有办法避免的。
目前智能驾驶使用的比较成熟的场景是没有太多临时施工路段的高速，因为路况不变，好控制。最不成熟的就是施工路段，系统在识别到前方是复杂的施工场景后，会主动提示驾驶员手动接管。因为高精地图上只会显示道路施工，但并不会告诉驾驶员，施工路段是左侧还是右侧，这时就只能靠摄像头。
也因此，系统对施工路段的应对，才是真正考验车企工程师团队的算力，也考验车企的投入实力，也能反映车企在智能驾驶方面的投入情况。换句话说，拼的是摄像头的精度，也拼工程师设计的算法逻辑。
李衡：首先我们要了解，智能驾驶系统有三大要素，即：感知、决策、控制。感知层好比人的五官、决策层好比人的大脑、控制层就像人的四肢。感知层是智能驾驶的基础，如果感知层出现了问题，再强大的算法和执行都毫无意义，而智能驾驶的感知层就来自摄像头、毫米波雷达和激光雷达等感知设备。
一般带有智能驾驶功能的车，都会装有摄像头。这是纯视觉的解决方案，即单纯依靠车身摄像头实现对周围事物的感知。系统通过摄像头拍到的画面以及通过算法，来判断周围的路况。传感器会把捕捉到的这些信息转成点云，你可以把它理解为一个一个像素点，像云一样。
高配版车型上一般都会配有激光雷达，感知效果更好。有没有激光雷达并不影响其他传感器点云的生成，没有激光雷达的车型可能在同样距离感知效果要弱一点。但这也并不是绝对的，也取决于算法。
激光雷达的成本比较高，它会把一个一个的点和视觉看到的一个一个点通过前融合、后融合和每个传感器反馈的情况结合在一起，然后输出给用户，这样就可以形成感知性更强的“五官”。
一辆车是否配有激光雷达，决定了它的定价。如果没有激光雷达，就会少两万元，但是只要系统的视觉感知可以达到一定程度，其实也就不需要花两万元买激光雷达了。
同时，激光雷达还有精确度的问题。举个例子，车前面有个锥桶，但是从激光雷达上看就是一个点。那系统该如何处理？是否应该把它当成障碍物来处理？
上观新闻：我们应该如何理解系统和人思维的差异？
康林：人和系统的思维本来就是不一样的，因为系统是靠设置的有限的场景和算法赋予它驾驶能力的，比较死板。而且现在车企们的测试场景也都大同小异。如果测试员在路测时遇到了实验室里没有的场景，工程师就再加进去，这样不断地学习。
但是目前，智能驾驶并没有比人聪明，做不到见机行事。
举个例子，有一次我在国道上路测，该国道属于盘山公路，是双向车道。车子前面有一辆电瓶车，行驶速度缓慢，可以超车。正常人会借一下逆向的车道，在超过电瓶车后，迅速返回原车道确保安全。但有些车企设计的系统不知是否是因为算力不够，超车后还会一直顺着逆向车道开，直到出现迎面而来的车辆且被系统检测到，才会换回原车道，这实际上是很危险的。
有时候，系统看似是提升通勤效率的操作，反而会降低通勤效率。我再举个例子，假设一共有三根车道，带有智能驾驶系统的车行驶在中间车道，前方还有300米到达下一个红绿灯路口，车需要进入最右边车道，准备右转。此时，有另一辆车以速度30千米/小时在前方缓慢行驶。假设算法设计的口令是“只需提前190米进入转向车道”，那么当时有300米没到190米，加上城市道路规定限速60千米/小时。为了超过前方车辆，带有智能驾驶系统的车会变道至最左边的车道，等到距离红绿灯路口还有190米时，再换回中间车道。但问题是，等换回中间车道时，最右侧车道上后方来车已占据了原先的位置。如果人看到右转车道已经排了这么多车，一定会好好排队，而不是为了超车去变道，反而降低效率。
李衡：目前在智能驾驶系统领域，有两个主流的解决方案：第一个是测试员接触到的也是最常见的，面对不同的场景，系统有着不同的操作。这个是基于规则的算法，而规则更多是靠高精地图提供的。
第二个是从端到端，也是目前比较热门的，你可以将之理解成AI大模型，即通过图像识别，直接将识别的内容转化为路径，提供给智能驾驶系统使用。这一方法可以一定程度上不完全依靠高清地图，只需要依靠一些局部的信息。
在基于规则的算法发展这么多年后，车企们发现它并不能覆盖所有的场景和突发情况，车企们认为端到端才是解决智能驾驶方案的最终办法，因此目前所有车企都在加码端到端的军备竞赛。
“智能驾驶是未来发展的必然趋势”
上观新闻：基于上述的讨论，我们应该如何看待智能驾驶？
谢春晓：首先需要明确，智能驾驶相比于几年前已经进步很多了，问题也在被一个个地解决。记得在2019年的时候，当时我测试一辆车，最开始工程师设定的车速是80千米/小时，这辆车就一直按照这个速度顶格跑。如果遇到了复杂路况，或者是下雨天，总归是要减速的吧。当时我就给工程师提出意见，能不能给系统识别上加一个限速，这样在特定路况，车就能减速了。工程师表示在当时要加这个指令其实挺难的。所以我们又想能不能在高精地图上加一个限速，比如前面有弯道，车进入这一段的时候，在地图上增加一个电子围栏，这一段就需要减速了。后来工程师就在地图上改了改数据，车识别到地图上有这种路段就会减速了。
同时我还想提到，现在汽车普及率很高，学出驾照的人也很多，很多人似乎忘记了，开车其实是一件既专业，危险系数又很大的事情。
就目前的技术来说，智能驾驶有它的优点，尤其是开长途的时候，人是会产生疲惫感的，系统能全方位地检测到周围的车况，帮驾驶员减负。但要是完全把控制权交给它，风险很大。
康林：很多同事刚入行的时候会很困惑。明明大部分时间系统比较可靠，为什么偶尔会莫名其妙地“犯蠢”？我现在也比较习惯了，我们首先要认清，智能驾驶技术还没有特别完善，系统会有“犯蠢”的时候，保持好心态，别和系统“发脾气”。
同时，用户们也要放心。即便你已经开始使用搭载了智驾系统的车，工程师们还是会对系统进行不断更新并推送新的版本的，现在基本上每一周或者半个月就要更新一次，频率很高。头部车企都没有偷懒的，我们测试员也是很繁忙，一直在测试新系统，有几次我就是在现场等待工程师同步更新，差不多半天，更新完了，我再上路测试。
最开始的系统的确在底层逻辑上有很多错误，但随着技术的发展，再加之一次又一次的路测，这些底层逻辑的错误都已经被慢慢修复了。
就目前的系统来说，还是比绝大部分连调头都看不懂的纯新手司机开得好，但和老司机相比的话，有一定差距。也因此，目前对于智能驾驶的安全培训非常有必要，车企会给用户推送安全培训的视频，但很多用户直接跳过不学习，车企也没有办法。
智能驾驶是未来发展的必然趋势，车企都会纷纷加码，等技术彻底成熟后，智能驾驶在未来很可能做到全面普及。到时候，无论是车企的成本还是用户的成本都会降下来。
李衡：很多网友表示，人一定比智能驾驶系统好，这个说法是不准确的。系统能关注到的范围比人更广，只要你不完全依赖它，善于利用它，那它就是一个非常好的产品。

智能驾驶系统的设计和实现是一个复杂的过程，涉及到多个环节和角色。从设计之初到最终交付给用户使用，大致包括以下几个步骤：

1. 需求分析和功能设计：产品部门根据市场调研和用户需求，明确系统需要实现的功能，并进行功能细分。

2. 算法设计：工程师根据产品部门的需求设计算法，以实现特定的功能，如在高速公路上保持固定速度行驶。

3. 系统测试：包括回灌测试（数据测试）、实车测试、编写准出报告、验收测试和灰度测试等，以确保系统的稳定性和性能。

4. 问题反馈和优化：测试员在路测中发现问题后反馈给工程师，工程师根据反馈优化算法，更新系统版本，直到系统符合要求。

5. 持续更新和迭代：即使系统交付给用户后，工程师也会持续对系统进行更新和优化，以修复问题和提升性能。

智能驾驶系统并不能识别所有危险，它依赖于感知设备（如摄像头、毫米波雷达、激光雷达等）来感知周围环境。系统的感知能力受限于硬件的性能和算法的设计。此外，智能驾驶系统在处理一些复杂或非标准化的场景时可能会遇到困难，如施工路段、紧急情况等。

人类与智能驾驶系统的共处需要认识到系统的局限性，并合理利用其优势。智能驾驶系统可以辅助驾驶员，特别是在长途驾驶中减轻疲劳，但不能完全依赖它。用户需要接受安全培训，了解如何正确使用智能驾驶系统，并在必要时及时接管控制权。

总的来说，智能驾驶技术仍在不断发展和完善中。随着技术的进步，智能驾驶系统的性能和安全性将逐步提升，但目前仍需用户保持警惕，并在必要时进行人工干预。

智能驾驶“不能说的秘密”解析
参与访谈的人员信息
康林和谢春晓是两位智能驾驶系统的安全测试员。康林有着近 10 年的驾龄，测试过目前市面上所有的智能驾驶系统；谢春晓自 2019 年入行，经历过多次系统的升级迭代，也曾担任过智能驾驶系统车辆的维修工作。李衡是智能驾驶系统的算法工程师，曾在多家车企工作过，参与过多个系统的设计工作。

智能驾驶系统的生产流程及角色
流程环节
一套智驾系统从设计到落地大致有以下几个环节：

需求明确与算法设计：产品部门根据对产品、竞品以及对用户实际需求的研究，明确系统需要实现哪些功能，进行功能细分后，工程师根据产品部门的需求来设计算法。例如产品部门提出系统要实现“在高速公路上保持固定的行驶速度”，工程师就围绕此设计算法。
系统测试环节
回灌测试：不通过实车测试，而是通过数据的回灌来判定系统是否达到可用性。
内部实车测试：工程师参考测试员提出的问题和缺陷，对系统进行改进。
编写准出报告：判定系统的稳定性和相关指标是否达到了准出的要求。
验收部门测试：验收部门在内测的基础上，进行新一轮的测试。
灰度测试：确保软件稳定性到达一定要求后，才能给用户使用。
各角色作用
测试员：具有一定的话语权，在路测时发现问题，若因产品需求设计不合理，可要求修改产品需求，促使工程师修改算法。测试员是实车测试的最后一道防线，也是帮助智能驾驶系统落地“最后一公里”的训练师。如谢春晓表示自己的工作是找系统的麻烦，发现问题后反馈给工程师，推动算法优化更新，直到系统符合要求再推送给用户使用。
工程师：负责根据产品部门需求设计算法，并根据测试员反馈的问题改进算法。
测试员工作情况
发现问题情况
以康林为例，一般工作一天下来，大概能记录下 20 多处问题，其中比较严重的问题会立马得到反馈。此前智能驾驶被吐槽经常急刹车，康林和多家车企的工程师都提过这个问题，但从车企角度，车辆急刹造成追尾是后车全责，既没撞到行人也没违反交规，所以不太会将其列为必须改进的问题。不过路测中也会考量驾驶的舒适性。

对不同系统的感受
康林测试过众多系统后，发现每个系统都有自己的“脾气”，有的很“激进”，有的比较“谨慎”。他在路测中基本能预判并提前准备好接管车辆，但对于开车不熟练的驾驶员来说，可能无法马上反应过来。

智能驾驶面临的普遍问题
应对加塞情况能力不足
当有快速行驶的车辆从后方强行加塞时，系统并不会根据路况做出合适的操作，而是会提示车主接管。因为摄像头在车顶，只能看前方，别的车从左后方或者右后方夹击，系统只会提示驾驶员有车辆靠近，目前这是无法避免的情况。

应对施工路段有局限
目前智能驾驶使用比较成熟的场景是没有太多临时施工路段的高速，因为路况相对稳定好控制。高精地图上只会显示道路施工，但不会告知驾驶员施工路段在左侧还是右侧，这时就只能靠摄像头。

硬件对智能驾驶系统的限制
有些问题无法通过软件层面优化，这与硬件的局限性有关。例如刹车，不管工程师写出什么样的程序，给出什么样的信号，硬件都没有办法精准地完成刹车动作。这种情况车企内部会有详细的技术评审会，将问题交给专家重新评估和讨论