欧盟人工智能法案对自动驾驶汽车的影响解读

欧盟《人工智能法案》虽不直接监管自动驾驶,但其问责要求将通过授权法案影响自动驾驶汽车的发展。

原文标题:独家|欧盟关于自动驾驶和自主驾驶汽车的《人工智能法案》提案的影响

原文作者:数据派THU

冷月清谈:

欧盟的《人工智能法案》提案虽然不会直接应用于自动驾驶汽车,但其中的一些问责要求将在未来通过授权法案引入。

人工智能在自动驾驶领域至关重要,它推动了从辅助驾驶到自主驾驶的各个级别发展。自动驾驶汽车集成了大量复杂的人工智能系统,不仅用于驾驶功能,还用于安全、舒适和信息娱乐等方面。

《人工智能法案》作为一项跨行业法律,原本涵盖了自动驾驶汽车中的人工智能系统。然而,由于《型式核准框架规范》的存在,自动驾驶汽车及其人工智能组件获得了豁免,但委员会需要在未来的授权法案中考虑《人工智能法案》中关于高风险人工智能系统的问责要求,例如风险管理、数据治理、透明度和人为监督等。

未来授权法案的关键问题在于其对自动驾驶汽车中人工智能系统的范围界定、数据治理、风险管理和人为监督的要求。 需要明确哪些人工智能系统属于安全元件,如何在确保数据代表性的同时避免阻碍创新,如何平衡不同类型的风险,以及如何在自动驾驶的背景下实现有效的人为监督。

对于汽车制造商和软件供应商来说,密切关注这些发展至关重要。 委员会在制定授权法案时需要与专家组协商,而行业也需要强调风险与创新之间的平衡,并推动制定明确的环境要求以确保法律的确定性。

怜星夜思:

1、如果自动驾驶汽车出现事故,责任应该如何划分?是驾驶员、制造商还是人工智能系统本身?
2、文章提到数据治理的重要性,那么如何确保用于训练自动驾驶汽车AI的数据集足够多样化和代表性,以避免偏见和歧视?
3、文章讨论了人为监督的难题,那么在高度自动化的驾驶场景下,如何设计有效的人机交互界面,让驾驶员在必要时能够及时介入?

原文内容

作者:Dr. Nils Lölfing
翻译:陈超
校对:赵茹萱
本文约5000字,建议阅读6分钟
本文将分析人工智能对自动驾驶的意义,欧盟《人工智能法案》对自动驾驶的影响及后续该领域需要持续关注的问题。


人工智能被认为是辅助、自动驾驶以及自主驾驶最主要的推动者。尽管采用了跨行业的方法,欧盟针对高风险系统的《人工智能法案》并不会直接应用于自动驾驶和自主驾驶汽车(AVs)以及他们的人工智能元件,但《人工智能法案》的一些问责要求也将适用于自动驾驶汽车,未来将通过委员会在《型式核准框架规范》下的授权法案引入。

下面我们将讨论这对于原始设备制造商(Original Equipment Manufacturers,OEMs)以及传统自动驾驶和汽车内置软件服务商的意义。本文将列出《人工智能法案》对自动驾驶汽车的要求对自动驾驶汽车及其基于人工智能的安全元件开发方式具有重大影响潜力的原因。

1 引言

欧盟的《人工智能法案》提案对于许多开发或使用所谓的“高风险”人工智能系统的企业都是游戏规则改变者,因为它将引入一系列针对这种人工智能系统的开发者、供应商以及用户的新要求。

许多企业因此关注《人工智能法案》,随着布鲁塞尔立法进程的推进,这一点似乎更加明显。普遍认为人工智能需要一些形式的规范来应对由不同程度的自主算法行为所带来的新风险,但也会担心《人工智能法案》带来的规范负担会显著阻碍创新。这也会阻碍人工智能在提供社会福利和经济增长以及增长全球竞争力方面的潜力。

至少乍看起来,这并不适用于汽车行业。作为人工智能技术在该领域的主要受益者,自动驾驶汽车并不会因《人工智能法案》而衰落,至少不会这么快。委员会(到目前为止,国会和议会在讨论中也作为共同立法者)响应了欧洲汽车制造商协会(ACEA)等行业协会的呼吁,在委员会发布《人工智能法案》之前就支持“行业内的、轻松的方法”来应对人工智能。

尽管如此,这并不意味着自动驾驶汽车行业的人工智能系统未从监管的角度受到影响。事实上,当前的《人工智能法案》要求委员会在根据特定行业的车辆型式立法批准授权行为时将《人工智能法案》中的指定要求纳入考虑。考虑到人工智能对自动驾驶汽车的重要性,这有可能对汽车行业以及自动驾驶汽车的发展产生巨大影响。

2 人工智能对自动驾驶汽车的重要性

目前,人工智能被认为是辅助驾驶、自动驾驶和自主驾驶的主要推动者。如果你看一下自动驾驶汽车, 你会发现它们是复杂的“车轮上的计算机”,他们在现代车辆当中配置了大量的相互连接的复杂人工智能系统。这不仅包括真正的驾驶功能,还包括广泛的其他车载人工智能应用,如车辆安全功能、舒适功能、高级驾驶员辅助系统、连接系统和信息娱乐系统。这些相互关联的人工智能系统在将自动驾驶和自动驾驶提升到新的水平方面发挥着至关重要的作用。这些互联的人工智能系统在带领自动驾驶和自主驾驶走上更高水平方面扮演着举足轻重的作用。

为了测量人工智能赋能的自动驾驶汽车的自动和自主水平,汽车工程师协会(SAE)的行业标准定义了自动驾驶和自主驾驶汽车这两个术语,从0(无自动化)到5(完全自动)。包括原始设备制造商在内的世界各地的开发者,传统的汽车供应商以及涉足该领域的软件公司(如谷歌子公司Waymo或者苹果),目前正致力于3和4等级(某些用例在过去已经被批准)。这些等级允许汽车在特定的限制条件(在等级2,人类驾驶员必须掌控驾驶)下接管驾驶任务。虽然真正的自主驾驶(在等级5上)是不可能实现的,但随着更先进的安全功能不断集成到车辆中,车辆自动化将迅速发展。

3 欧盟《人工智能法案》对自动驾驶汽车的间接影响

虽然欧盟的《人工智能法案》对自动驾驶汽车没有直接影响,未来具体的授权法案将与自动驾驶汽车相关。除了原始设备制造商还有传统的汽车供应商和提到的软件公司应该警惕这些即将到来的需求。这些软件公司越来越多地为原始设备制造商提供人工智能应用程序,以便将其集成到自动驾驶汽车中。

《人工智能法案》是作为跨行业法律起草的,适用于各种行业的人工智能系统。尽管如此,设立某些豁免是为了避免与现有的特定行业立法发生摩擦。同样适用于汽车行业和自动驾驶汽车。规范(欧盟)2018/858(以下《型式核准框架规范》)已经要求有一个全面的类型批准进程(包括批准机关的证明)证明车辆投放欧盟市场前,汽车及其元件符合有关的行政规定和技术要求。

因此,特定的汽车相关元件(即《人工智能法案》定义的人工智能相关安全元件)不受《人工智能法案》的约束,同样需要被《型式核准框架规范》列入特定行业立法,即使这些产品和系统符合高风险人工智能的资质(第2(2)(f)条)。然而,如果这些法案涉及作为《人工智能法案》意义上的安全元件的人工智能系统(参见《人工智能法案》第80条修订《型式批准框架条例》第5条),在采用《型式批准框架条例》下的授权法案时,委员会必须将《人工智能法案》下的某些问责要求纳入考量。

上述问责要求源于《人工智能法案》第2章第III部分,该法案规定了高风险人工智能系统的法律要求,包括但不限于风险管理、数据和数据治理、文件和记录保存、透明度、人为监督、稳健性、准确性和安全性。因此,这些要求必须在委员会根据汽车行业和自动驾驶汽车的技术和监管特点采用的未来授权法案中加以考虑。虽然授权行为具有非立法性,但仍具有法律约束力。

4 未来自动驾驶汽车授权法案下与车辆相关的人工智能系统的范围和核心要求

在未来的授权法案中,一些最具争议的话题可能与这些人工智能法案对自动驾驶汽车的要求范围,以及如何将数据治理、风险管理和人类监督的要求应用于自动驾驶汽车有关。为了避免阻碍自动驾驶汽车的发展,委员会必须提供明确的要求,允许原始设备制造商、汽车和软件供应商在自动驾驶汽车中合理地实施高风险的人工智能系统。我们的目标必须是在降低风险和允许自动驾驶汽车创新获得社会效益之间找到适当的平衡,例如减少交通流量和事故,或减少燃料消耗和排放。

范围

为了满足委员会授权法案下潜在的未来要求,为自动驾驶汽车提供或内置的人工智能系统必须符合《人工智能法案》意义上的安全元件。鉴于自动驾驶汽车固有的高风险性质(能够造成严重的人身伤害或死亡,以及财产损失),可以说,将自动驾驶汽车的人工智能系统也视为安全元件也是显而易见的。然而,考虑到一辆普通的载客车包含超过30,000个部件,其中包括各种不同功能的人工智能系统可供使用(并且有增加的趋势),应该明确定义在哪些特定情况下使用的人工智能系统可以作为安全元件。考虑到《人工智能法案》第3(14)条中“产品或系统的安全元件”一词的定义,这一点更加重要,该定义过于宽泛:

“‘产品或系统的安全元件’是指产品或系统的元件,该元件满足该产品或系统的安全功能,其失效或故障危及人身或财产的健康安全”。

特别是在车辆中,这个定义的第一部分意义深远。符合此定义的安全元件可以是支持自动驾驶系统的人工智能系统(例如分析街道标志、识别物体的人工智能系统等)。此外,分析车辆功能的人工智能系统(例如监测轮胎压力或油温或电池/油箱的值)可能属于授权法案的范围。人们甚至可以将允许进入车辆的面部识别软件列入高风险(尽管这是每个现代智能设备的标准)。

因此,某些与安全相关的汽车应用,如舒适功能、信息娱乐应用、车辆警告或其他较弱的驾驶自动化功能,不应该受到未来的授权法案的约束,这些法案应该只管理自动驾驶汽车中的高风险人工智能。该范围还应不断更新,以反映SAE行业标准下不断发展的自动化水平,保持风险对称并为创新保留空间。

数据治理

在任何部署人工智能的领域,对运行良好的人工智能系统的高质量数据的需求都是显而易见的。因此,《人工智能法案》要求训练、验证和测试数据集具有代表性。然而,对于自动驾驶汽车来说,这一点尤为重要,因为世界各地的驾驶环境千变万化,而且像自主驾驶汽车这样的安全关键系统,无论天气条件、能见度或路面质量如何,都需要完美运行。训练自动驾驶汽车的算法意味着在实践中需要千万亿字节的训练数据,并且可能需要很长时间。

因此,重要的是,一方面要求原始设备制造商以及传统的汽车和软件供应商为自动驾驶汽车提供具有真实世界数据进行适当训练,以避免过拟合(由于训练数据不够多样化导致偏差)和社会危害。但是,另一方面,如果由此带来的好处(例如,减少道路交通对环境的影响)超过了训练数据代表性方面的任何合理不足,则这不应阻碍自动驾驶汽车的发展。因此,代表性数据集的标准不应该是绝对的,而应该考虑到平衡。其他领域当然也是如此,但对于自动驾驶汽车来说尤其重要,因为它们的发展带来了巨大的利益。

风险管理

必须为高风险人工智能系统建立风险管理系统,其中包括识别、分析和减轻与高风险人工智能系统相关的可能风险。传统车辆所承担的风险与采用自动驾驶汽车所带来的风险不同。此外,与自动驾驶汽车相关的风险不仅不同,而且更为普遍,而且随着自动驾驶汽车自主水平的提高,风险也会发生变化(参见上文提到的SAE行业标准)。

因此,需要明确的是,对于原始设备制造商以及传统汽车和软件供应商来说并不明显的其他风险,在多大程度上必须纳入自动驾驶汽车的风险管理体系,以及如何平衡它们。例如,是否应该考虑与自动驾驶汽车对从事驾驶职业的工人、服务和维修中心以及保险行业的重大影响相关的社会风险,以及如何通过改进自动驾驶汽车的制动和加速方式来减少排放。

人为监管

根据《人工智能法案》提案,高风险人工智能系统的设计和开发应以这样的方式进行,包括使用适当的人机界面工具,以便在人工智能系统使用期间由自然人有效监督。对于自动驾驶汽车来说,有效地监督其使用者的整个使用情况几乎是不可行的,因为大多数决策都是实时做出的,需要即刻执行,没有机会推翻重来。此外,随着技术的进步越来越符合SAE标准,自动驾驶汽车也会让驾驶员把越来越多时间花在与驾驶无关的事情上,这将使有效的监督机制变得更加复杂。

为了有效地监督自动驾驶汽车的行为,向驾驶员提供车辆的运行状态是很重要的,这样他们就能知道在必要情况下如何干预驾驶。这不仅需要使驾驶员能够意识到当前的环境并允许他们进行干预的技术创新,还需要在自动驾驶汽车法规中实施这一合理要求的解决方案来指导驾驶员了解汽车真正的自主能力水平以及这在监督和干预机会方面意味着什么。

5 关注这个领域

对于原始设备制造商以及传统的汽车和软件供应商来说,关注这一领域非常重要,因为在《型式批准框架规范》下应用的《人工智能法案》要求有可能对未来自动驾驶汽车及其基于人工智能的安全组件的开发方式产生重大影响。事实上,委员会必须同由会员国代表组成的专家组协商,这些专家组定期或不定期开会,然后才能通过授权法案(其中将列出这些要求)。然而,从行业的角度来看,进一步强调风险与创新之间的平衡,以及汽车行业为实现法律确定性而制定特定环境要求的重要性,将是非常重要的。

感谢Bird & Bird培训生Timon-Johannes Engel对本文的贡献。

*除非另有说明,所有提及欧盟人工智能法案提案的内容均指欧盟委员会的链接版本。

原文标题:
Impact of the EU's AI Act proposal on automated and autonomous vehicles
原文链接:
https://www.twobirds.com/en/insights/2023/global/impact-of-the-eus-ai-act-proposal-on-automated-and-autonomous-vehicles


编辑:王菁




译者简介




陈超,北京大学应用心理硕士,数据分析爱好者。本科曾混迹于计算机专业,后又在心理学的道路上不懈求索。在学习过程中越来越发现数据分析的应用范围之广,希望通过所学输出一些有意义的工作,很开心加入数据派大家庭,保持谦逊,保持渴望。

翻译组招募信息

工作内容:需要一颗细致的心,将选取好的外文文章翻译成流畅的中文。如果你是数据科学/统计学/计算机类的留学生,或在海外从事相关工作,或对自己外语水平有信心的朋友欢迎加入翻译小组。

你能得到:定期的翻译培训提高志愿者的翻译水平,提高对于数据科学前沿的认知,海外的朋友可以和国内技术应用发展保持联系,THU数据派产学研的背景为志愿者带来好的发展机遇。

其他福利:来自于名企的数据科学工作者,北大清华以及海外等名校学生他们都将成为你在翻译小组的伙伴。


点击文末“阅读原文”加入数据派团队~



转载须知

如需转载,请在开篇显著位置注明作者和出处(转自:数据派ID:DatapiTHU),并在文章结尾放置数据派醒目二维码。有原创标识文章,请发送【文章名称-待授权公众号名称及ID】至联系邮箱,申请白名单授权并按要求编辑。

发布后请将链接反馈至联系邮箱(见下方)。未经许可的转载以及改编者,我们将依法追究其法律责任。






关于我们

数据派THU作为数据科学类公众号,背靠清华大学大数据研究中心,分享前沿数据科学与大数据技术创新研究动态、持续传播数据科学知识,努力建设数据人才聚集平台、打造中国大数据最强集团军。



新浪微博:@数据派THU

微信视频号:数据派THU

今日头条:数据派THU

点击“阅读原文”拥抱组织



针对“文章讨论了人为监督的难题,那么在高度自动化的驾驶场景下,如何设计有效的人机交互界面,让驾驶员在必要时能够及时介入?”这个问题,我认为除了技术手段,培训也很重要。得让驾驶员充分了解自动驾驶系统的功能和局限性,知道什么时候该介入,怎么介入。

可以设计一些简单的交互方式,比如语音控制、手势识别等等,让驾驶员不用分心就能跟车辆沟通。关键是要简洁直观,避免增加驾驶员的认知负担。

多样化数据采集很重要! 不同地区、不同天气、不同路况的数据都得有。可以考虑众包模式,让更多人参与数据采集,这样能覆盖更广的范围。

搞个公开的基准数据集也不错,就像ImageNet那样,大家都能用,也能互相比较算法的性能。这样可以促进整个领域的发展,也能避免一些公司闭门造车。

从法律角度来看,责任划分是个难题。现有的法律框架可能不足以应对自动驾驶带来的新挑战。我们需要新的法律来明确各方的责任,比如驾驶员在什么情况下需要接管车辆,制造商需要承担哪些安全保障义务等等。

我觉得AR技术或许能派上用场,可以在挡风玻璃上显示车辆的运行状态、周围环境信息等等,这样驾驶员对情况一目了然,需要接管的时候也能快速反应。

这就像个伦理问题。即使AI能完全模拟人类驾驶,它也没有人类的意识和道德判断。所以最终的责任可能还是得落在人身上,毕竟人是创造者和使用者。

除了采集,数据标注也很关键。我们需要一套标准化的标注流程,确保数据的准确性和一致性。这方面可以借鉴一些成熟的图像识别和自然语言处理的标注方法。

我觉得这得看具体情况吧。如果是系统故障导致的,那制造商肯定跑不掉。但如果是驾驶员没按规定操作,或者碰上一些不可抗力因素,那就另说了。而且,以后说不定会有针对AI的保险,这方面也得考虑进去。