Document ID: /fineweb-2-swissfilter-quality_10-filterrobots/filtered/05747.jsonl.gz/36

随着汽车的自动驾驶功能日趋完善，自动驾驶汽车解释驾驶行为的能力需要达到何种程度？一家联合国机构正在向公众提出一系列问题，希望能够找到这些问题的答案。
- Deutsch Auf dem Weg zur Regulierung selbstfahrender Autos
- Español Hacia la regulación de vehículos autónomos
- Português A estrada para a regulamentação de carros autônomos
- عربي نحو أطر تنظيمية للسيارات ذاتية القيادة
- Français En route pour réglementer les voitures autonomes
- Pусский Какими должны быть ПДД эпохи беспилотных автомобилей?
- English On the road to regulating self-driving cars (原版)
- 日本語 自動運転車が事故を起こしたら？ジュネーブで進む基準作り
- Italiano Verso la regolamentazione delle auto a guida autonoma
閱讀本文繁體字版本請 點擊此處
如果有一天，一辆无人驾驶汽车在没有目击者的偏远地区撞上了一位过马路的孩子，接下来会发生什么呢？汽车能否检测到发生了碰撞？是否会停下来并呼叫急救人员？能否解释刚才发生了什么？更确切地说，人工智能驾驶系统能否回忆起自身做出了哪些决定，最终导致汽车撞上行人？
这些都是在“莫莉问题”(Molly Problem)这项线上调查中向公众提出的问题。
总部位于日内瓦的国际电信联盟(ITU)成立了人工智能自动驾驶和辅助驾驶调研小组，组长布林·巴尔科姆(Bryn Balcombe)表示：“‘莫莉问题’是我们设计的一个思想实验，旨在让人们集中注意力分辨重要信息。在人工智能技术系统中，这项实验能用于了解人工智能系统的自我解释能力需要达到何种水平，才能证明自己的清白，同时记录发生的事情。”
不出所料，调研的初步结果显示，人们认为无人驾驶汽车不会发生肇事逃逸。受调者明确地认为，人工智能驾驶系统应该能记录足够的数据来解释所发生的事情。事实上，大多数人认为还应该收集未遂事故中的行车数据。
巴尔科姆领导的调研小组包括近350名国际参与者，分别来自汽车行业、电信机构、大学和监管机构。他们正在起草一项国际技术标准提案，由国际电信联盟编制成建议书，用于监测自动驾驶车辆的道路行为。“莫利问题”正是这项工作的一部分。
这个国际电信联盟调研小组探讨了当前自动驾驶车辆标准和法规的缺失问题。巴尔科姆说：“现实情况是，行业缺乏行人碰撞检测方面的标准。没有具体的法规来解决未遂事故的识别和数据记录问题。”巴尔科姆也是自动驾驶汽车锦标赛Roborace的首席战略官。
瑞士的最高行政机构联邦委员会去年进行了磋商，相关讨论应该能为道路交通法的修订提供指导。修订后的道路交通法将允许联邦委员会通过无需议会批准的条例，将此法的适用范围扩大至自动驾驶汽车。随着自动驾驶汽车变得越来越普及，此次修订将使道路交通法具有更加灵活的适用范围。
联合国欧洲经济委员会(UNECE)的下设机构负责更新自动驾驶汽车领域的国际法规和技术要求，该调研小组草拟的标准旨在支持这方面的工作。
巴尔科姆问道：“你如何才能把世界各国政府一致同意的原则转化人工智能和数字领域的标准呢？”
该小组将于明年初向国际电信联盟提交提案，届时国际电信联盟将决定是否将其编制为建议书，供监管机构参考。
人工智能造福人类
2019年，国际电信联盟召开“人工智能造福人类”(AI for Good)全球峰会。在听过会议内容后，该小组决定采取行动确保自动驾驶汽车的道路安全性。每年有一百多万人死于道路交通事故。十起道路死亡事故中有九起发生在中低收入国家。
国际电信联盟战略合作负责人、“人工智能造福人类”(AI for Good)峰会项目的推动者弗雷德·维尔纳(Fred Werner)表示：“峰会主题建立在如下前提上：2030年是实现可持续发展目标(SDG)的收关之年，留给我们的时间不多了，而人工智能在实现其中一些目标方面有着巨大的潜力。”
国际电信联盟希望利用其在联合国系统内独特的成员模式(包括193个成员国、900多家私营企业、大学和其他组织)，让各个利益攸关方齐聚一堂，讨论人工智能带来的机遇与挑战。
维尔纳说：“人工智能专家认为，人工智能实在太重要了，不能只有专家参与讨论。因此，峰会的目标是让不同背景的参与者尽可能发表多元化的观点。”
这些年来，“人工智能造福人类”峰会的后续成果包括成立了若干前期标准化工作调研小组，如巴尔科姆领导的自动驾驶汽车调研小组。此外，这些调研小组还在研究人工智能在医疗健康、能源效率和自然灾害管理等领域的应用。
治理
瑞士“算法观察”组织(Algorithm Watch)的高级政策和宣导经理安吉拉·穆勒(Angela Müller)对“人工智能造福人类”峰会传达的信息持怀疑态度，“算法观察”是一家监测人工智能系统及其对社会影响的非盈利组织。
她认为，峰会上的一些论调有转移人们视线的倾向，让人们不再关注人工智能治理框架的构建工作。“如果你选择相信这种论调，即人工智能最终会拯救世界，那么解决方案将是一味地投资于人工智能研究。”
就治理问题进行公开循证辩论的关键在于，提高人工智能自动驾驶系统运行方式的透明度。这就是为什么穆勒乐于见到对公众开放的研究，他希望这些研究能够解释人工智能系统的决策方式以及这些决策对人类的影响。
"现在正在开展的这些讨论和研究非常重要，可作为我们关于治理问题辩论的基础。”
欧盟委员会(EC)目前正在制定世界上第一部人工智能监管法律。目前正在讨论的提案旨在化解这项技术的风险，并就其具体用途定义了明确的义务。目前，瑞士还没有任何可与欧盟人工智能立法提案相比拟的东西。
穆勒表示，确保标准制定过程的包容性很重要，因为这些标准可以作为未来法规的蓝本。她说，有必要在国家和国际层面采取独立的监管行动，就比如欧盟的立法草案，用于确保供应商对其生产的人工智能驾驶系统的行为负责。
人工智能促进道路安全
本月早些时候，国际电信联盟、联合国秘书长道路安全特使和技术特使共同发起了“道路安全人工智能动议”。该动议旨在鼓励公共和私营部门使用人工智能技术，以改善所有道路使用者的安全。这些技术应在中低收入国家推广应用。
随着车辆、其他道路使用者和基础设施收集数据的能力不断增强，人工智能可以帮助分析处理这些数据。例如，更好的事故分析数据可以帮助改善道路基础设施并提高急救响应速度。
巴尔科姆解释说：“汽车彼此共享数据，汽车与行人共享数据，基础设施与汽车和行人同时共享数据，我们应该将这些数据与人工智能一起使用来提高道路的安全性。‘道路安全人工智能动议’覆盖面甚广，该调研小组的工作属于动议内容的一部分。”
到2030年，当联合国实现将道路交通死亡人数减半的目标时，全自动驾驶汽车的使用成本仍然过高，无法在低收入国家大规模应用。但巴尔科姆表示，很多能从自动驾驶汽车中收集到的数据，也可以从配备辅助驾驶系统的低价车辆中收集到。
“这就是为什么我们真心希望扩大调研小组的作用，研究这些技术的应用和推广方法，并在最有可能出成果的国家部署最重要和最有价值的技术，以便到2030年能够有所作为。”
(译自英语：瑞士资讯中文部)
符合JTI标准