無人駕駛道德

① 無人駕駛的困境

在什麼情況下你的無人駕駛汽車會選擇犧牲你？

設想一下，一輛無人駕駛汽車正沖向五個行人。它可以沿著原定的路線撞死這五個行人，或者，轉彎撞向旁邊的水泥牆而讓它的乘客喪命。在本期刊物（指2016年6月24日出版的《科學》雜志第352卷第6293期，譯者注）的1573頁，Bonnefon和其他人通過一系列精巧的調查設計來研究這一社會困境。調查的結果是，人們通常都贊同通過程序設定讓汽車對人的總體傷害降到最低，哪怕是要以犧牲乘客的生命為代價。但是，對於這種「效益主義（也稱「功利主義」）汽車，即根據程序設定，在一定的緊急狀況下會選擇犧牲乘客生命而換取更大的社會利益的無人駕駛車輛，接受調查的人自己通常卻也不太樂意乘坐。

這樣的困境產生的可能性很小，但是一旦上百萬的無人駕駛車輛行駛在路上，那麼不太可能就變成了很有可能，甚至是必然發生。而且，哪怕這樣的事情永遠不會發生，無人駕駛車輛的程序中也必然要對此種狀況作出應對設定。該如何設定？由誰來設定？

在實驗中，Bonnefon等人假定無人駕駛汽車的緊急狀態演算法是公開的，而且其可預見結果也是透明的。但現實中並不需要這樣。實際上，對於無人駕駛汽車的道德倫理我們面臨的最迫切的問題就是透明性。生與死的抉擇讓人無奈，但是無論無人駕駛汽車採用哪一種道德准則，必然都會受到公眾的公開質疑，這也就使得製造商們不情願公布操作準則。如果無人駕駛汽車有可能會選擇殺死它的乘客，那麼其製造商必然會遭到批評。如果無人駕駛汽車以其乘客利益至上，那麼其製造商必然會因為輕視他人的生命和蓄意選擇更大的傷害而同樣遭到批評。面對如何滿足公眾的這種道德上的相互矛盾，無人駕駛汽車的製造商和監管層將會陷入兩難境地。

和政治家、哲學家和固執己見的大叔們不同，軟體工程師們沒有時間閑扯。他們不可能乞求他們的機器去尊重人們的權利，品德高尚，或者尋求公正，至少在我們的道德理論或者訓練標准已經足夠精確到可以確定人們可以享有什麼樣的權利、需要什麼樣的美德以及什麼樣的權衡是公正的之前，他們做不到。我們可以設定程序，讓無人駕駛汽車將傷害減到最少，但是很顯然，這不會讓我們百分之百地感到滿意。

Bonnefon等人從另外一個方面向我們展示了無人駕駛汽車要與我們的道德情感一致是多麼困難。這是一個技術難題，但更是一個哲學難題。在把我們的價值觀加諸於機器之前，我們需要首先弄清楚如何讓我們的價值觀明確而且一貫。對於21世紀的道德哲學家們來說，這或許是他們真正需要解決的問題。

作者：Joshua D. Greene

翻譯：心止即岸

② 無人汽車如何應對道德困境

在未來很長時間里，無人駕駛技術汽車走出道德困境需要更長的時間。人們有時會遇到道德困境，從而不得不面對兩難選擇。在人工智慧越來越發達的今天，機器也會遇到同樣的問題。最近，Uber在美國賓夕法尼亞州匹茲堡推出無人駕駛汽車，這是一個令人興奮的消息。但是，如果無人駕駛汽車面臨一種道德困境，它會如何選擇，設計者是否已經為它們設計好了應對方式？

例如，假使無人駕駛汽車快要撞上另一輛汽車，那輛車里坐著三個人。它可以轉彎閃開，但這樣它就會撞上人行道上的三個孩子。

它會如何選擇？

巧合的是，谷歌的工程總監Ray Kurzweil本周在奇點大學演講時為這個問題提供了一個答案：我們不知道。

Ray Kurzweil解釋說，「不可殺人」的戒律過於簡單。他說，如果有人將要炸毀一幢建築物或一個城市，那麼除掉這個人就是符合道德的。

就無人駕駛汽車來說，他認為有必要進行「道德設計」。他說，艾薩克阿西莫夫(Isaac Asimov)的機器人三法則（Three Rules of Robotics）是一個很好的示範。

這三條法則是：

1.機器人不得傷害人類，也不得因為不作為而使人類受到傷害。

2.機器人必須服從人類的命令，除非這樣做違背一條法則。

3.在不違背一條和第二條法則的情況下，機器人必須保護自己。

Ray Kurzweil承認，在無人駕駛汽車的道德品性方面，他現在完全沒有現成的答案。「我要考慮更長的時間。我還沒有做過這種分析。」他說。

谷歌的首席工程師Andrew Chatham認為，當無人駕駛汽車面臨兩難選擇時，「答案差不多總是『踩剎車』。」他承認，這可能並不總是正確的答案。但他表示，如果連踩剎車都不是一種正確的應對，那就是面臨極端情形了。

但是，這個世界上不是充滿了極端情況嗎？

美國麻省理工學院的研究人員最近創建了一個名為道德機器（Moral Machine）的調查平台。此舉意在調查人們希望無人駕駛汽車在面臨道德困境時如何選擇。

「研究人員不僅想知道人類會做出怎樣的選擇。他們也希望『清楚地了解人類如何看待在道德困境下作出了某種選擇的機器智能』。」

這似乎是相當明智的。目前還不清楚該公司是怎樣處理無人駕駛汽車的「道德設計」問題的。其實我們人類每時每刻都在做選擇，人的一生甚至可以說是在不斷的選擇中度過的，人有時尚不能完全做出正確地選擇，更何況是機器，無人駕駛技術未來要走的路還很長。

轉自：網易科技

③ 無人駕駛汽車遇險應乘客優先還是行人優先

乘客優先。

受訪者認為無人駕駛汽車車主應該選擇最小化對他人的傷害，即使會致使自己受傷。但當問及會選擇購買車主保護優先還是行人保護優先的無人駕駛汽車，受訪者更傾向於購買車主保護優先的，也就是說人們在遇到道德拷問時內心也是矛盾的，一方面又希望行人能夠安全，當涉及到自身利益的時候又會選擇保全自己。

無人駕駛汽車注意事項

無人駕駛汽車從根本上改變了傳統的"人—車—路"閉環控制方式，將不可控的駕駛員從該閉環系統中請出去，從而大大提高了交通系統的效率和安全性。

無人駕駛汽車集自動控制、體系結構、人工智慧、視覺計算等眾多技術於一體，是計算機科學、模式識別和智能控制技術高度發展的產物，也是衡量一個國家科研實力和工業水平的一個重要標志，在國防和國民經濟領域具有廣闊的應用前景。

④ 無人駕駛汽車的道德困境

「電車難題」是倫理學領域中一個著名的思想實驗。在「電車難題」的場景中，五個無辜的人被綁在鐵軌上，你正駕駛著一輛電車呼嘯而來。如果你不拐彎，那麼這五個人死定了，如果你拉下列車控制桿，使列車朝另一個方向駛去，問題又來了，在另一個方向的軌道上有一個同樣無辜的人。自從1967年英國哲學家菲利帕·福特首次提出「電車難題」以來，哲學家們一直沒有討論出統一的答案。主流的觀點漸漸變成兩種，一種是道義論，另一種是結果論。按照道義論，所有生命皆平等，所以你不該轉彎，但按照結果論，你應該轉彎，畢竟只犧牲一個人才能獲得最優的結果。這兩種觀點在某種程度上都是符合道德的，但行為卻截然相反（詳見《大科技·網路新說》2016年第2期《電車難題：轉彎？不轉彎？》一文）。

「電車難題」使哲學家們陷入了兩難的境地，他們越是冥思苦想，就越來越陷入泥淖。然而現在，不僅哲學家要面對這個令人討厭的難題，汽車產業的政策制定者和汽車生產商也開始受到它的折磨了。由於無人駕駛汽車已經上路，政策制定者和汽車生產商不得不考慮一下「電車難題」在現實中出現的可能性。

決策權和責任

對於前一個問題，也許通過技術的進步，汽車生產商們能夠編寫出無比復雜的程序，盡量讓無人駕駛汽車在面對電車難題時做出合乎邏輯的選擇。但是，想像一下，在未來的某一天里，乘坐在無人駕駛汽車中的你，生命處在出現「電車難題」的危急時刻，自己卻無法做出決策，你會甘心么？

「電車難題」中的決策權至關重要，那麼它應該屬於誰？是汽車製造商、法律制定者，還是車主本人?誰來做決策，誰就有可能被推到道德的風口、倫理的浪尖上，而且，無人駕駛汽車在面臨「電車難題」時決策權的歸屬會出現一些變數。比如，如果汽車生產商具有決策權，他們設計了一款無人駕駛汽車，讓它在出現「電車難題」的情況下故意殺害車主，以降低事故中的人員傷亡。你如何保證司機不會自己修改程序，以確保自己永遠不會被自己的汽車蓄意謀殺？計算機軟體總有漏洞，總會有人能破解這些軟體。

最後，如果無人駕駛汽車真的遭遇了「電車難題」，汽車軟體在做出選擇之後，誰需要站出來對後果負責呢?反正法律制定者不會讓無人駕駛汽車本身來擔責，「尋找明確的負責人」是我們需要思考的另外一個問題。

本文源自大科技*網路新說2016年第8期雜志文章、歡迎廣大讀者關注我們大科技的微信號：hdkj1997

⑤ 無人駕駛的首條道德准則是什麼

無人駕駛在推動一個產業成長的同時，對於無人駕駛如何進入人類社會正在成為一個變得迫切的問題，日前無人駕駛的首條道德准則出爐。

准則規定無人駕駛汽車的系統必須要不惜一切代價的考慮把人的生命放在首位,自駕系統不得以任何年齡、性別、種族、是否殘疾等條件，作為「犧牲」和「獲救」的判斷選擇標准。也就是說當事故已經無法避免時,無人駕駛汽車可能就要選擇撞向建築等障礙物。

希望自動駕駛的相關問題早日被解決！

⑥ 無人駕駛汽車遇到交通事故時，會如何保護車內人員安全

關於這個問題，實際上非常的復雜，這個也無法給出准確的回答，所以，有這個問題的人，他們通常可能將強大的人工智慧視為用於自動駕駛的人工智慧，這其實也就意味著如何選擇自動駕駛汽車，同時考慮到法律，道德，同情，忠誠和其他因素，但是在無人包圍的獅子看來，情況並非如此，無人駕駛中的人工智慧只是微弱的人工智慧，他沒有法律倫理這樣的意識。

莫斯科首次發生交通事故，一輛類似奧迪的汽車，司機正忙著看手機，從後面撞上了莫斯科交通工程學院的無人駕駛汽車，目前，交警已經正在等待進一步調查，莫斯科交通項目信息辦公室，告訴衛星新聞社，這其實也是科學研究所，無人駕駛汽車上的第一次交通事故，所以，規模必須確定，但後備箱的後側已經凹陷。

關於無人駕駛汽車遇到交通事故時會如何保護車內人員安全的問題，今天就解釋到這里。

⑦ 你認為是什麼原因讓一些人反對自動駕駛普及化

我覺得在一些問題沒解決前，自動駕駛還是很難普及。
首先，遇到危險時保護行人還是車主

，當危險來臨時，無人駕駛汽車是選擇保護車主還是行人，這個問題一直爭論不休。而無人駕駛系統的開發者，就是這個生死抉擇的最終裁定者。 但到底讓誰的傷害最小化，系統要做出判斷當然要靠事先的設置來決定。

雖然判斷的權利交給了無人駕駛系統，但道德和法律上的責任最後還是需要我們自己來承擔。

所以無論是車企，還是政府，無人駕駛汽車想要上路，在技術上和法律上都要有更為明確清晰的標准才可以。

發生事故問責該找誰？

當我們談到交通事故時，又一個問題難以避免，那就是問責。到底誰該為自動駕駛汽車負責呢？是車主？汽車製造商？還是GPS網路服務提供商？又或者是軟體開發商？這一系列問題在實際操作中都會遇到。
系統安全以及社會問題

安全方面：無人駕駛汽車依靠的是大量的數據，系統需要獲取到你的信息才可以更准確地為你服務，但你的這些信息也同樣容易被黑客盜取，而且這個問題根本無法避免。
社會方面：一旦無人駕駛技術應用到計程車、卡車上，就會導致很多專職司機失業，而失業的人群數量會很龐大。繼而會引發很多社會問題，甚至會影響經濟的發展。

⑧ 發生車禍時應優先保護誰 無人駕駛遇倫理困境

無人駕駛汽車在今天似乎已經觸手可及，但一系列倫理問題尚未解決。例如，當車禍無法避免時應如何取捨，是優先保護馬路上的兒童、還是寧願撞人也要保護車內人員呢？

德國梅賽德斯-賓士公司澳大利亞分公司近期給出一個清晰回答：寧撞兒童，也要力保車內人員安全。

這一編程思路引發爭議，就連不少自動駕駛技術的擁躉也表示不安。

【優先保護誰？】

眼下，谷歌、特斯拉、賓士等多家企業正花費巨資開發無人駕駛汽車，而伴隨這項技術的倫理選擇一直受到熱議。

英國《每日郵報》14日援引德國梅賽德斯-賓士公司澳大利亞分公司高管戴維·麥卡錫的話報道，按照無人駕駛汽車的編程思路，如果在行駛途中面臨一個道德困境，要麼撞到馬路上的一名兒童，要麼急打方向盤以避免撞到兒童、但可能撞到其他車道的汽車以致本車人員傷亡，那麼無人駕駛汽車會「果斷」選擇優先保護車內人員、寧願撞到兒童。

麥卡錫說，一般人遇到這種情況，會立即作出踩剎車、打方向盤以避免撞人的反應，「我們的系統也是如此，但還會考慮更多因素，例如其他車道是否有汽車行駛？如果本車採取避讓舉動，有可能會撞上其他車道的汽車，結果導致本車偏離方向、反而沖向路人」。

按照麥卡錫的說法，無人駕駛汽車能在危急關頭瞬間判斷出「最佳選擇」，從而將損傷降至最低。

上周，德國梅賽德斯-賓士公司駕駛輔助系統和主動安全性部門經理克里斯托弗·馮胡戈在法國巴黎車展上談及類似理念，也引發爭議。

「如果你有把握保護至少一個人，那麼至少保護好那個人。(也就是說，)保護車里的那個人，」馮胡戈說，「你也可以犧牲本車(以避免撞上路人)。你可以這樣做，但你就算最初選擇保護路人，也並無把握在復雜情形下他們最終能夠安然無恙。因此，你應該保護那些有把握保護的人。」

【外界質疑多】

麥卡錫表示，眼下無人駕駛汽車仍在研發階段，還有充分的時間加以測試和完善，「還有很長的一段路要走，我們說的是5至10年」。

澳大利亞《悉尼先驅晨報》報道，大約90%的車禍歸咎於人為失誤，而麥卡錫認為，無人駕駛汽車有助於大幅降低車禍數量。馮胡戈強調，該公司研發團隊「99%的努力都在於避免捲入車禍情形」。

即便在車禍無法避免的情形下，自動駕駛技術也能作出最佳判斷。「在最壞的情形下，無人駕駛汽車也能夠降低相撞速度。它的頭號關注是避免相撞，」麥卡錫說。

麥卡錫介紹，梅賽德斯-賓士公司眼下正在測試半自動駕駛技術，在公司內部被稱為「二代技術」，同時也在研發四代、五代的全自動駕駛技術。

就二代技術而言，「汽車擁有360度視角，綜合利用雷達和攝像頭以獲取周邊環境圖像」。此外，司機仍可隨時掌控汽車，否決無人駕駛系統作出的判斷。

今年早些時候，美國一項調查顯示，受訪者普遍認為無人駕駛汽車不應為拯救一名路人而犧牲車內人員。但當問卷中被拯救的路人數量增多，願意犧牲車內人員以拯救路人的受訪者比例隨之升高。

當被拯救的路人數量增至10人，受訪者普遍贊同應優先拯救路人；但與此同時，這些受訪者表示自己更加不願意購買無人駕駛汽車。

今年5月7日，美國一輛特斯拉Model S電動汽車車主喬舒亞·D·布朗使用無人駕駛系統行駛時與卡車相撞，造成布朗身亡。特斯拉公司隨後發表聲明，由於陽光耀眼，無人駕駛系統當時未能識別出白色卡車。

⑨ 無人駕駛汽車上路道阻且長 行則將至

2016年5月23-25日，2016中國國際智能交通展覽會在北京舉辦。說到智能交通，大家關注的焦點之一就是「無人駕駛」，尤其是近兩年，不斷聽到無人駕駛汽車路測的消息，也不斷有朋友問我，路上是不是很快要出現無人駕駛汽車的身影了？今天我們就一起聊聊這個問題。

1、無人駕駛汽車上路?有希望,也有困難

無人駕駛汽車以前只出現在007等科幻電影中，但現在,它已經不只存在於幻想。未來的幾年內，你可能就會買得起一輛能載著你自動穿梭在城市道路上的智能汽車。但是，要想讓一輛無人駕駛汽車能夠安全、舒適、高效、智能地混入到現有交通中跑起來，這中間還有一段艱難的道路要走。

2、無人駕駛汽車技術現狀

「科普中國」是中國科協攜同社會各方利用信息化手段開展科學傳播的科學權威品牌。

本文由科普中國融合創作出品，轉載請註明出處。

⑩ 自動駕駛真的安全嗎

無人駕駛系統要按照人類的道德倫理

來進行控制汽車

但這個道德倫理到底該如何來定性

還有待一說