无人驾驶道德

① 无人驾驶的困境

在什么情况下你的无人驾驶汽车会选择牺牲你？

设想一下，一辆无人驾驶汽车正冲向五个行人。它可以沿着原定的路线撞死这五个行人，或者，转弯撞向旁边的水泥墙而让它的乘客丧命。在本期刊物（指2016年6月24日出版的《科学》杂志第352卷第6293期，译者注）的1573页，Bonnefon和其他人通过一系列精巧的调查设计来研究这一社会困境。调查的结果是，人们通常都赞同通过程序设定让汽车对人的总体伤害降到最低，哪怕是要以牺牲乘客的生命为代价。但是，对于这种“效益主义（也称“功利主义”）汽车，即根据程序设定，在一定的紧急状况下会选择牺牲乘客生命而换取更大的社会利益的无人驾驶车辆，接受调查的人自己通常却也不太乐意乘坐。

这样的困境产生的可能性很小，但是一旦上百万的无人驾驶车辆行驶在路上，那么不太可能就变成了很有可能，甚至是必然发生。而且，哪怕这样的事情永远不会发生，无人驾驶车辆的程序中也必然要对此种状况作出应对设定。该如何设定？由谁来设定？

在实验中，Bonnefon等人假定无人驾驶汽车的紧急状态算法是公开的，而且其可预见结果也是透明的。但现实中并不需要这样。实际上，对于无人驾驶汽车的道德伦理我们面临的最迫切的问题就是透明性。生与死的抉择让人无奈，但是无论无人驾驶汽车采用哪一种道德准则，必然都会受到公众的公开质疑，这也就使得制造商们不情愿公布操作准则。如果无人驾驶汽车有可能会选择杀死它的乘客，那么其制造商必然会遭到批评。如果无人驾驶汽车以其乘客利益至上，那么其制造商必然会因为轻视他人的生命和蓄意选择更大的伤害而同样遭到批评。面对如何满足公众的这种道德上的相互矛盾，无人驾驶汽车的制造商和监管层将会陷入两难境地。

和政治家、哲学家和固执己见的大叔们不同，软件工程师们没有时间闲扯。他们不可能乞求他们的机器去尊重人们的权利，品德高尚，或者寻求公正，至少在我们的道德理论或者训练标准已经足够精确到可以确定人们可以享有什么样的权利、需要什么样的美德以及什么样的权衡是公正的之前，他们做不到。我们可以设定程序，让无人驾驶汽车将伤害减到最少，但是很显然，这不会让我们百分之百地感到满意。

Bonnefon等人从另外一个方面向我们展示了无人驾驶汽车要与我们的道德情感一致是多么困难。这是一个技术难题，但更是一个哲学难题。在把我们的价值观加诸于机器之前，我们需要首先弄清楚如何让我们的价值观明确而且一贯。对于21世纪的道德哲学家们来说，这或许是他们真正需要解决的问题。

作者：Joshua D. Greene

翻译：心止即岸

② 无人汽车如何应对道德困境

在未来很长时间里，无人驾驶技术汽车走出道德困境需要更长的时间。人们有时会遇到道德困境，从而不得不面对两难选择。在人工智能越来越发达的今天，机器也会遇到同样的问题。最近，Uber在美国宾夕法尼亚州匹兹堡推出无人驾驶汽车，这是一个令人兴奋的消息。但是，如果无人驾驶汽车面临一种道德困境，它会如何选择，设计者是否已经为它们设计好了应对方式？

例如，假使无人驾驶汽车快要撞上另一辆汽车，那辆车里坐着三个人。它可以转弯闪开，但这样它就会撞上人行道上的三个孩子。

它会如何选择？

巧合的是，谷歌的工程总监Ray Kurzweil本周在奇点大学演讲时为这个问题提供了一个答案：我们不知道。

Ray Kurzweil解释说，“不可杀人”的戒律过于简单。他说，如果有人将要炸毁一幢建筑物或一个城市，那么除掉这个人就是符合道德的。

就无人驾驶汽车来说，他认为有必要进行“道德设计”。他说，艾萨克阿西莫夫(Isaac Asimov)的机器人三法则（Three Rules of Robotics）是一个很好的示范。

这三条法则是：

1.机器人不得伤害人类，也不得因为不作为而使人类受到伤害。

2.机器人必须服从人类的命令，除非这样做违背一条法则。

3.在不违背一条和第二条法则的情况下，机器人必须保护自己。

Ray Kurzweil承认，在无人驾驶汽车的道德品性方面，他现在完全没有现成的答案。“我要考虑更长的时间。我还没有做过这种分析。”他说。

谷歌的首席工程师Andrew Chatham认为，当无人驾驶汽车面临两难选择时，“答案差不多总是‘踩刹车’。”他承认，这可能并不总是正确的答案。但他表示，如果连踩刹车都不是一种正确的应对，那就是面临极端情形了。

但是，这个世界上不是充满了极端情况吗？

美国麻省理工学院的研究人员最近创建了一个名为道德机器（Moral Machine）的调查平台。此举意在调查人们希望无人驾驶汽车在面临道德困境时如何选择。

“研究人员不仅想知道人类会做出怎样的选择。他们也希望‘清楚地了解人类如何看待在道德困境下作出了某种选择的机器智能’。”

这似乎是相当明智的。目前还不清楚该公司是怎样处理无人驾驶汽车的“道德设计”问题的。其实我们人类每时每刻都在做选择，人的一生甚至可以说是在不断的选择中度过的，人有时尚不能完全做出正确地选择，更何况是机器，无人驾驶技术未来要走的路还很长。

转自：网易科技

③ 无人驾驶汽车遇险应乘客优先还是行人优先

乘客优先。

受访者认为无人驾驶汽车车主应该选择最小化对他人的伤害，即使会致使自己受伤。但当问及会选择购买车主保护优先还是行人保护优先的无人驾驶汽车，受访者更倾向于购买车主保护优先的，也就是说人们在遇到道德拷问时内心也是矛盾的，一方面又希望行人能够安全，当涉及到自身利益的时候又会选择保全自己。

无人驾驶汽车注意事项

无人驾驶汽车从根本上改变了传统的"人—车—路"闭环控制方式，将不可控的驾驶员从该闭环系统中请出去，从而大大提高了交通系统的效率和安全性。

无人驾驶汽车集自动控制、体系结构、人工智能、视觉计算等众多技术于一体，是计算机科学、模式识别和智能控制技术高度发展的产物，也是衡量一个国家科研实力和工业水平的一个重要标志，在国防和国民经济领域具有广阔的应用前景。

④ 无人驾驶汽车的道德困境

“电车难题”是伦理学领域中一个著名的思想实验。在“电车难题”的场景中，五个无辜的人被绑在铁轨上，你正驾驶着一辆电车呼啸而来。如果你不拐弯，那么这五个人死定了，如果你拉下列车控制杆，使列车朝另一个方向驶去，问题又来了，在另一个方向的轨道上有一个同样无辜的人。自从1967年英国哲学家菲利帕·福特首次提出“电车难题”以来，哲学家们一直没有讨论出统一的答案。主流的观点渐渐变成两种，一种是道义论，另一种是结果论。按照道义论，所有生命皆平等，所以你不该转弯，但按照结果论，你应该转弯，毕竟只牺牲一个人才能获得最优的结果。这两种观点在某种程度上都是符合道德的，但行为却截然相反（详见《大科技·网络新说》2016年第2期《电车难题：转弯？不转弯？》一文）。

“电车难题”使哲学家们陷入了两难的境地，他们越是冥思苦想，就越来越陷入泥淖。然而现在，不仅哲学家要面对这个令人讨厌的难题，汽车产业的政策制定者和汽车生产商也开始受到它的折磨了。由于无人驾驶汽车已经上路，政策制定者和汽车生产商不得不考虑一下“电车难题”在现实中出现的可能性。

决策权和责任

对于前一个问题，也许通过技术的进步，汽车生产商们能够编写出无比复杂的程序，尽量让无人驾驶汽车在面对电车难题时做出合乎逻辑的选择。但是，想象一下，在未来的某一天里，乘坐在无人驾驶汽车中的你，生命处在出现“电车难题”的危急时刻，自己却无法做出决策，你会甘心么？

“电车难题”中的决策权至关重要，那么它应该属于谁？是汽车制造商、法律制定者，还是车主本人?谁来做决策，谁就有可能被推到道德的风口、伦理的浪尖上，而且，无人驾驶汽车在面临“电车难题”时决策权的归属会出现一些变数。比如，如果汽车生产商具有决策权，他们设计了一款无人驾驶汽车，让它在出现“电车难题”的情况下故意杀害车主，以降低事故中的人员伤亡。你如何保证司机不会自己修改程序，以确保自己永远不会被自己的汽车蓄意谋杀？计算机软件总有漏洞，总会有人能破解这些软件。

最后，如果无人驾驶汽车真的遭遇了“电车难题”，汽车软件在做出选择之后，谁需要站出来对后果负责呢?反正法律制定者不会让无人驾驶汽车本身来担责，“寻找明确的负责人”是我们需要思考的另外一个问题。

本文源自大科技*网络新说2016年第8期杂志文章、欢迎广大读者关注我们大科技的微信号：hdkj1997

⑤ 无人驾驶的首条道德准则是什么

无人驾驶在推动一个产业成长的同时，对于无人驾驶如何进入人类社会正在成为一个变得迫切的问题，日前无人驾驶的首条道德准则出炉。

准则规定无人驾驶汽车的系统必须要不惜一切代价的考虑把人的生命放在首位,自驾系统不得以任何年龄、性别、种族、是否残疾等条件，作为“牺牲”和“获救”的判断选择标准。也就是说当事故已经无法避免时,无人驾驶汽车可能就要选择撞向建筑等障碍物。

希望自动驾驶的相关问题早日被解决！

⑥ 无人驾驶汽车遇到交通事故时，会如何保护车内人员安全

关于这个问题，实际上非常的复杂，这个也无法给出准确的回答，所以，有这个问题的人，他们通常可能将强大的人工智能视为用于自动驾驶的人工智能，这其实也就意味着如何选择自动驾驶汽车，同时考虑到法律，道德，同情，忠诚和其他因素，但是在无人包围的狮子看来，情况并非如此，无人驾驶中的人工智能只是微弱的人工智能，他没有法律伦理这样的意识。

莫斯科首次发生交通事故，一辆类似奥迪的汽车，司机正忙着看手机，从后面撞上了莫斯科交通工程学院的无人驾驶汽车，目前，交警已经正在等待进一步调查，莫斯科交通项目信息办公室，告诉卫星新闻社，这其实也是科学研究所，无人驾驶汽车上的第一次交通事故，所以，规模必须确定，但后备箱的后侧已经凹陷。

关于无人驾驶汽车遇到交通事故时会如何保护车内人员安全的问题，今天就解释到这里。

⑦ 你认为是什么原因让一些人反对自动驾驶普及化

我觉得在一些问题没解决前，自动驾驶还是很难普及。
首先，遇到危险时保护行人还是车主

，当危险来临时，无人驾驶汽车是选择保护车主还是行人，这个问题一直争论不休。而无人驾驶系统的开发者，就是这个生死抉择的最终裁定者。 但到底让谁的伤害最小化，系统要做出判断当然要靠事先的设置来决定。

虽然判断的权利交给了无人驾驶系统，但道德和法律上的责任最后还是需要我们自己来承担。

所以无论是车企，还是政府，无人驾驶汽车想要上路，在技术上和法律上都要有更为明确清晰的标准才可以。

发生事故问责该找谁？

当我们谈到交通事故时，又一个问题难以避免，那就是问责。到底谁该为自动驾驶汽车负责呢？是车主？汽车制造商？还是GPS网络服务提供商？又或者是软件开发商？这一系列问题在实际操作中都会遇到。
系统安全以及社会问题

安全方面：无人驾驶汽车依靠的是大量的数据，系统需要获取到你的信息才可以更准确地为你服务，但你的这些信息也同样容易被黑客盗取，而且这个问题根本无法避免。
社会方面：一旦无人驾驶技术应用到出租车、卡车上，就会导致很多专职司机失业，而失业的人群数量会很庞大。继而会引发很多社会问题，甚至会影响经济的发展。

⑧ 发生车祸时应优先保护谁 无人驾驶遇伦理困境

无人驾驶汽车在今天似乎已经触手可及，但一系列伦理问题尚未解决。例如，当车祸无法避免时应如何取舍，是优先保护马路上的儿童、还是宁愿撞人也要保护车内人员呢？

德国梅赛德斯-奔驰公司澳大利亚分公司近期给出一个清晰回答：宁撞儿童，也要力保车内人员安全。

这一编程思路引发争议，就连不少自动驾驶技术的拥趸也表示不安。

【优先保护谁？】

眼下，谷歌、特斯拉、奔驰等多家企业正花费巨资开发无人驾驶汽车，而伴随这项技术的伦理选择一直受到热议。

英国《每日邮报》14日援引德国梅赛德斯-奔驰公司澳大利亚分公司高管戴维·麦卡锡的话报道，按照无人驾驶汽车的编程思路，如果在行驶途中面临一个道德困境，要么撞到马路上的一名儿童，要么急打方向盘以避免撞到儿童、但可能撞到其他车道的汽车以致本车人员伤亡，那么无人驾驶汽车会“果断”选择优先保护车内人员、宁愿撞到儿童。

麦卡锡说，一般人遇到这种情况，会立即作出踩刹车、打方向盘以避免撞人的反应，“我们的系统也是如此，但还会考虑更多因素，例如其他车道是否有汽车行驶？如果本车采取避让举动，有可能会撞上其他车道的汽车，结果导致本车偏离方向、反而冲向路人”。

按照麦卡锡的说法，无人驾驶汽车能在危急关头瞬间判断出“最佳选择”，从而将损伤降至最低。

上周，德国梅赛德斯-奔驰公司驾驶辅助系统和主动安全性部门经理克里斯托弗·冯胡戈在法国巴黎车展上谈及类似理念，也引发争议。

“如果你有把握保护至少一个人，那么至少保护好那个人。(也就是说，)保护车里的那个人，”冯胡戈说，“你也可以牺牲本车(以避免撞上路人)。你可以这样做，但你就算最初选择保护路人，也并无把握在复杂情形下他们最终能够安然无恙。因此，你应该保护那些有把握保护的人。”

【外界质疑多】

麦卡锡表示，眼下无人驾驶汽车仍在研发阶段，还有充分的时间加以测试和完善，“还有很长的一段路要走，我们说的是5至10年”。

澳大利亚《悉尼先驱晨报》报道，大约90%的车祸归咎于人为失误，而麦卡锡认为，无人驾驶汽车有助于大幅降低车祸数量。冯胡戈强调，该公司研发团队“99%的努力都在于避免卷入车祸情形”。

即便在车祸无法避免的情形下，自动驾驶技术也能作出最佳判断。“在最坏的情形下，无人驾驶汽车也能够降低相撞速度。它的头号关注是避免相撞，”麦卡锡说。

麦卡锡介绍，梅赛德斯-奔驰公司眼下正在测试半自动驾驶技术，在公司内部被称为“二代技术”，同时也在研发四代、五代的全自动驾驶技术。

就二代技术而言，“汽车拥有360度视角，综合利用雷达和摄像头以获取周边环境图像”。此外，司机仍可随时掌控汽车，否决无人驾驶系统作出的判断。

今年早些时候，美国一项调查显示，受访者普遍认为无人驾驶汽车不应为拯救一名路人而牺牲车内人员。但当问卷中被拯救的路人数量增多，愿意牺牲车内人员以拯救路人的受访者比例随之升高。

当被拯救的路人数量增至10人，受访者普遍赞同应优先拯救路人；但与此同时，这些受访者表示自己更加不愿意购买无人驾驶汽车。

今年5月7日，美国一辆特斯拉Model S电动汽车车主乔舒亚·D·布朗使用无人驾驶系统行驶时与卡车相撞，造成布朗身亡。特斯拉公司随后发表声明，由于阳光耀眼，无人驾驶系统当时未能识别出白色卡车。

⑨ 无人驾驶汽车上路道阻且长 行则将至

2016年5月23-25日，2016中国国际智能交通展览会在北京举办。说到智能交通，大家关注的焦点之一就是“无人驾驶”，尤其是近两年，不断听到无人驾驶汽车路测的消息，也不断有朋友问我，路上是不是很快要出现无人驾驶汽车的身影了？今天我们就一起聊聊这个问题。

1、无人驾驶汽车上路?有希望,也有困难

无人驾驶汽车以前只出现在007等科幻电影中，但现在,它已经不只存在于幻想。未来的几年内，你可能就会买得起一辆能载着你自动穿梭在城市道路上的智能汽车。但是，要想让一辆无人驾驶汽车能够安全、舒适、高效、智能地混入到现有交通中跑起来，这中间还有一段艰难的道路要走。

2、无人驾驶汽车技术现状

“科普中国”是中国科协携同社会各方利用信息化手段开展科学传播的科学权威品牌。

本文由科普中国融合创作出品，转载请注明出处。

⑩ 自动驾驶真的安全吗

无人驾驶系统要按照人类的道德伦理

来进行控制汽车

但这个道德伦理到底该如何来定性

还有待一说