道德智能

❶ 為什麼要建立人工智慧開發道德標准

因為人工智慧所存在的威脅太大，如果隨意開發，可能製造出對人類有很多傷害的人工智慧。

❷ 人工智慧時代的倫理道德面臨哪些挑戰

數字信息技術使幾乎任何人、任何時間、任何地點都能輕易獲得信息。這對我們社會的各個方面，從工業生產到分配、到商品和服務的消費，都產生了深遠的影響。就像之前的技術革命一樣，數字信息技術的影響如此廣泛，我們不再只是簡單地利用它——做我們以前做過的事情——而是通過改變我們的行為方式來適應它。

今天，數字信息技術已經重新定義了人們如何與他人進行社交互動，甚至如何找到伴侶。消費者、生產者和供應商、實業家和勞動者、服務提供者和客戶、朋友和合作夥伴之間重新定義的關系，已經在社會上造成一場劇變，正在改變後工業時代對道德理性的定義。

我們正站在下一波科技革命的風口浪尖：人工智慧。20世紀晚期的數字革命將信息帶到了我們的指尖，讓我們能夠快速做出決定，而機構做出決定，從根本上說，取決於我們。人工智慧正在通過自動化決策過程來改變這一狀況，它有望帶來更好的定性結果和更高的效率。人工智慧游戲系統在擊敗國際象棋世界冠軍卡斯帕羅夫（Gary Kasparov）和圍棋世界冠軍柯潔（Ke Jie）方面取得的成功，突顯出人工智慧在計算當前決策對潛在未來棋步的影響方面，在質量方面優於人類專家。

然而，在這個決策過程中，人工智慧也帶走了人類行為的透明性、可解釋性、可預測性、可教性和可審核性，取而代之的是不透明性。這一舉動的邏輯不僅不為參與者所知，也不為程序的創造者所知。隨著人工智慧為我們做出決策，決策的透明度和可預測性可能會成為過去。

想像一下這樣的情景：你的孩子回家找你，要求你給她零花錢，讓她和朋友一起去看電影。你允許了。一周後，你的另一個孩子帶著同樣的要求來找你，但這次，你拒絕了。這將立即引起不公平和偏袒的問題。為了避免受到偏袒的指責，你要向孩子解釋，她必須完成家庭作業，才有資格獲得零花錢。

沒有任何解釋，家裡一定會有緊張的氣氛。現在想像一下用一個人工智慧系統取代你的角色，這個系統已經收集了成千上萬個處於類似情況的家庭的數據。通過研究其他家庭的零花錢決定的後果，得出結論，一個兄弟姐妹應該得到零用錢，而另一個兄弟姐妹不應該。

但人工智慧系統無法真正解釋其中的原因，只能說它衡量了你孩子的頭發顏色、身高、體重以及其他所有它能獲得的屬性，以便做出對其他家庭似乎最有效的決定。那又怎麼會有效呢？

在法庭上，過去的判決約束法官遵循先例，即使情況不完全相同，但大致相似。一致性在司法、政府、關系和道德規范中都很重要。AI沒有遵守先例的法律要求。人類往往只有有限的直接或間接經驗，而機器可能可以訪問大量數據。

人類無法在一個長期的時間尺度內篩選他們的經歷，而機器可以很容易地做到這一點。人類會排除那些被認為對決策無關緊要的因素，而機器不會排除任何因素。這可能導致不尊重先例的決定，其規模之大是人類可以理解的。隨著企業和社會迅速轉向人工智慧，人工智慧實際上可能比人類在更長的時間范圍內做出更好的決策，而人類在更短的時間范圍內就會感到困惑和沮喪，並侵蝕一個正常運轉的社會的唯一貨幣，信任。

要理解基於人工智慧的決策可能有多人工，研究人類如何做出決策是很重要的。人類的決策可能由一組明確的規則，或者僅僅基於結果論的關聯，或者由組合來指導。人類對於與決策相關的信息也是有選擇性的。由於缺乏選擇性，機器在做決定時可能會考慮人類認為不恰當的因素。

有無數這樣的例子，從微軟（Microsoft）在其聊天機器人Tay開始在Twitter上發表煽動性反猶太言論後關閉它，到波士頓大學（Boston University）的一項研究，該研究發現「老闆」（boss）、「建築師」（architect）和「金融家」（financier）等詞與男性、「護士」（nurse）和「接待員」（接待員）等詞與女性之間存在性別關聯。這可能是數據造成的，但它與我們的顯式值形成了對比。如果數據驅動的過程依賴於這些人工智慧演算法生成的輸出，它們將產生有偏見的決策，往往違背我們的道德價值觀。

ProPublica在2016年提供了明顯的證據。美國法院使用的一種電腦程序錯誤地將兩年之內沒有再犯的黑人被告標記為「慣犯」，其再次犯案的可能性幾乎是白人被告的兩倍——前者為45%，後者為23%。如果一個人也這么做，就會被譴責為種族主義者。人工智慧揭示了我們明確的價值觀和集體經驗之間的分裂。我們的集體經驗不是一成不變的。它們是由重要的社會決定所決定的，而這些決定又由我們的道德價值觀所指導。我們真的想把決策過程留給那些只從過去學習、因而受制於過去的機器，而不是塑造未來的機器嗎?

鑒於人工智慧在醫療診斷、金融服務和就業篩查等領域的應用規模之大，任何一個偶然事件的後果都是巨大的。隨著演算法越來越依賴於提高可預測性的特性，控制這類決策的邏輯變得越來越不可思議。因此，我們失去了決策的全局性，拋棄了所有的原則來支持過去的觀察。在某些情況下，這可能是不道德的，在某些情況下是非法的，在某些情況下是短視的。「慣犯演算法」公然藐視無罪推定、機會均等等原則。

一致性是道德和正直不可或缺的。我們的決定必須遵循一個高於統計准確性的標准；幾個世紀以來，相互信任、減少危害、公平和平等的共同美德已被證明是任何推理系統生存的基本基石。沒有內部邏輯的一致性，人工智慧系統缺乏健壯性和可問責性——這是在社會中建立信任的兩個關鍵措施。通過在道德情感和邏輯推理之間製造裂痕，數據驅動決策的不可知性阻礙了批判性地參與決策過程的能力。

這是我們生活的新世界，復雜的決定被削減成反射性的選擇，並被觀察到的結果所強化；把復雜的東西簡化成簡單的東西，把道德簡化成實用的東西。今天，我們的道德感為我們的決策提供了一個框架。也許不久之後，我們的決定就會讓人們對我們的道德產生懷疑

❸ 從道德的角度看人類是否應該發展人工智慧

科技和倫理道德抄在很多方襲面都是相悖的，如果撇開科技發展，單從道德角度看人工智慧，態度應該很明確，那就是應該限制人工智慧。因為人工智慧涉及到了太多了的倫理問題，比如對人類工作機會的擠壓甚至搶奪，比如人工智慧機器人是否具有人格，甚至人工智慧的終極發展是否會威脅到人類自身的生存等等，這些問題都是技術本身無法解決的。

❹ 智能機器人應不應該具備人類的基本「道德」

應該具備，這樣他們才能更好的生存下去，不然他們逐漸的發展下去的話，只能被銷毀掉。

❺ 為什麼人工智慧面臨的最大挑戰是道德問題

該問題與一個歷史事件很相象：
哥白尼的「日心說」，導致了建立在版「地心說」上的一切觀念隨權之崩塌。包括科學與宗教。
人工智慧將導致建立在「只有人才會思考」這一觀念上的所有概念崩塌。包括以此為基礎的道德、宗教。
對於一個與自己相同的異類，為了方便思考，假設「人工智慧」是會思考的「猴子」，而且是人類創造出來的，並且會很快超過人類，視人類為草芥的生物。
人們應該對「它」示好，還是對「它」打壓？
「它」會不會為了生存，害怕被人打壓，而採取先手打壓人類？
假如，它的智能完全復制於一個自然人，二者同時存在，那麼，我是誰？誰是我？
假如，人工智慧通過精確的計算，判斷某個人A，在未來某個時間點，99.9999999%的可能，會做出殺死某人B。那麼，在A殺死B之前，他到底有沒有違法？？我們有沒有資格抓他？
以現有的道德理論來說，我們無權抓他，那麼，對於B來說，一個接近於100%會殺死自己的人，在無時無刻想著殺自己，而法律與道德卻無動於衷。法律何在？人心道德何在？
若我們決定抓他，那麼對於A來說，我仍然是有0.0000001%的可能是無辜的，你們憑什麼以我未來可能會做某事而抓我？

❻ 為什麼人工智慧需要某種道德准則

人工智慧本身沒有道德觀念
但是創造人工智慧的人應該有道德觀念，讓其用在正途
望採納

❼ 假如人類愛上人工智慧，這是否違反基本道德

盡管科幻電影對人工智慧的描述偏向負面，但它也在一定程度上表達了人類的焦慮和擔憂。現實中，人工智慧會擁有自主意識，和人類會產生情感嗎？

人工智慧越來越像人，人類對機器有了感情怎麼辦？

「人類是否會與人工智慧產生感情，將取決於這種過程是否給人類帶來愉悅。正如互聯網發展早期的一句常用語所說——在互聯網上，沒人知道你是一條狗。這表明，當人類在不知道溝通者的身份時，只要對方能夠給自己帶來愉悅，感情就可能產生。」趙聯飛認為，這可能會對人類的交往模式帶來影響。比如說，未來，知識型的人工智慧可以回答人們能夠想到的很多問題，從而導致個體學習方式、生活方式乃至社會化模式的變革。

在技術上加強對人工智慧的控制是完全可行的。「人工智慧盡管日益高級，但究其根本，仍然是在智能程序對大量數據處理基礎上得到的結果。進行編程時，開發者可以通過程序對其進行安全設置。比如，如果識別出來是人類，要自動保持距離；不能做出攻擊性動作，從力學幅度上予以約束。」中科院自動化所研究員孫哲南說，還可以把人類的法律規范和道德要求用代碼的形式寫入機器，全部數字語言化，使其遵守人類的行為准則。

❽ 品味，道德以及智能，是文化的積累和總和。哪個標點符號錯了

品位後的逗號，改成頓號、

❾ 人本位原則是人工智慧應遵循的道德准則之一對嗎

對。

以人為本：在概念化AI解決方案時，只有AI系統在整個生命周期中對個人、回企業和整個人類都有答利的情況下，開發人員才應該繼續開發。開發AI解決方案，應該以主要造福和改善人類生活，而不是達到破壞性的目的。

人工智慧系統應與人類價值觀保持一致，促進人權，尊重個人意見，提高生活水平，挽救生命，甚至保護環境。教育和醫療保健部門是兩個最重要的部門，可以從以人為本的AI技術中受益。人工智慧解決方案可以幫助提高教育質量，這將幫助學生找到更好的工作機會，進而幫助改善此類人的生活質量。

(9)道德智能擴展閱讀：

注意事項：

全語言翻譯機圖片翻譯全語言開發平台可以提供智能終端的長連接，提供終端訪問，實現多語言行為分析服務，安全圍欄管理功能，多語言熱點消息和內容推送服務。

一鍵式SOS為用戶提供方便的服務，通過多語言NLP語義處理形成意圖分析數據，為用戶提供熱圖數據，並通過多語言NLP語義處理為用戶提供熱圖數據。提供多語言景區數據服務，用戶可以上傳自定義景區數據，實現基於LBS等語言的景區自動解譯。