道德智能

❶ 为什么要建立人工智能开发道德标准

因为人工智能所存在的威胁太大，如果随意开发，可能制造出对人类有很多伤害的人工智能。

❷ 人工智能时代的伦理道德面临哪些挑战

数字信息技术使几乎任何人、任何时间、任何地点都能轻易获得信息。这对我们社会的各个方面，从工业生产到分配、到商品和服务的消费，都产生了深远的影响。就像之前的技术革命一样，数字信息技术的影响如此广泛，我们不再只是简单地利用它——做我们以前做过的事情——而是通过改变我们的行为方式来适应它。

今天，数字信息技术已经重新定义了人们如何与他人进行社交互动，甚至如何找到伴侣。消费者、生产者和供应商、实业家和劳动者、服务提供者和客户、朋友和合作伙伴之间重新定义的关系，已经在社会上造成一场剧变，正在改变后工业时代对道德理性的定义。

我们正站在下一波科技革命的风口浪尖：人工智能。20世纪晚期的数字革命将信息带到了我们的指尖，让我们能够快速做出决定，而机构做出决定，从根本上说，取决于我们。人工智能正在通过自动化决策过程来改变这一状况，它有望带来更好的定性结果和更高的效率。人工智能游戏系统在击败国际象棋世界冠军卡斯帕罗夫（Gary Kasparov）和围棋世界冠军柯洁（Ke Jie）方面取得的成功，突显出人工智能在计算当前决策对潜在未来棋步的影响方面，在质量方面优于人类专家。

然而，在这个决策过程中，人工智能也带走了人类行为的透明性、可解释性、可预测性、可教性和可审核性，取而代之的是不透明性。这一举动的逻辑不仅不为参与者所知，也不为程序的创造者所知。随着人工智能为我们做出决策，决策的透明度和可预测性可能会成为过去。

想象一下这样的情景：你的孩子回家找你，要求你给她零花钱，让她和朋友一起去看电影。你允许了。一周后，你的另一个孩子带着同样的要求来找你，但这次，你拒绝了。这将立即引起不公平和偏袒的问题。为了避免受到偏袒的指责，你要向孩子解释，她必须完成家庭作业，才有资格获得零花钱。

没有任何解释，家里一定会有紧张的气氛。现在想象一下用一个人工智能系统取代你的角色，这个系统已经收集了成千上万个处于类似情况的家庭的数据。通过研究其他家庭的零花钱决定的后果，得出结论，一个兄弟姐妹应该得到零用钱，而另一个兄弟姐妹不应该。

但人工智能系统无法真正解释其中的原因，只能说它衡量了你孩子的头发颜色、身高、体重以及其他所有它能获得的属性，以便做出对其他家庭似乎最有效的决定。那又怎么会有效呢？

在法庭上，过去的判决约束法官遵循先例，即使情况不完全相同，但大致相似。一致性在司法、政府、关系和道德规范中都很重要。AI没有遵守先例的法律要求。人类往往只有有限的直接或间接经验，而机器可能可以访问大量数据。

人类无法在一个长期的时间尺度内筛选他们的经历，而机器可以很容易地做到这一点。人类会排除那些被认为对决策无关紧要的因素，而机器不会排除任何因素。这可能导致不尊重先例的决定，其规模之大是人类可以理解的。随着企业和社会迅速转向人工智能，人工智能实际上可能比人类在更长的时间范围内做出更好的决策，而人类在更短的时间范围内就会感到困惑和沮丧，并侵蚀一个正常运转的社会的唯一货币，信任。

要理解基于人工智能的决策可能有多人工，研究人类如何做出决策是很重要的。人类的决策可能由一组明确的规则，或者仅仅基于结果论的关联，或者由组合来指导。人类对于与决策相关的信息也是有选择性的。由于缺乏选择性，机器在做决定时可能会考虑人类认为不恰当的因素。

有无数这样的例子，从微软（Microsoft）在其聊天机器人Tay开始在Twitter上发表煽动性反犹太言论后关闭它，到波士顿大学（Boston University）的一项研究，该研究发现“老板”（boss）、“建筑师”（architect）和“金融家”（financier）等词与男性、“护士”（nurse）和“接待员”（接待员）等词与女性之间存在性别关联。这可能是数据造成的，但它与我们的显式值形成了对比。如果数据驱动的过程依赖于这些人工智能算法生成的输出，它们将产生有偏见的决策，往往违背我们的道德价值观。

ProPublica在2016年提供了明显的证据。美国法院使用的一种电脑程序错误地将两年之内没有再犯的黑人被告标记为“惯犯”，其再次犯案的可能性几乎是白人被告的两倍——前者为45%，后者为23%。如果一个人也这么做，就会被谴责为种族主义者。人工智能揭示了我们明确的价值观和集体经验之间的分裂。我们的集体经验不是一成不变的。它们是由重要的社会决定所决定的，而这些决定又由我们的道德价值观所指导。我们真的想把决策过程留给那些只从过去学习、因而受制于过去的机器，而不是塑造未来的机器吗?

鉴于人工智能在医疗诊断、金融服务和就业筛查等领域的应用规模之大，任何一个偶然事件的后果都是巨大的。随着算法越来越依赖于提高可预测性的特性，控制这类决策的逻辑变得越来越不可思议。因此，我们失去了决策的全局性，抛弃了所有的原则来支持过去的观察。在某些情况下，这可能是不道德的，在某些情况下是非法的，在某些情况下是短视的。“惯犯算法”公然藐视无罪推定、机会均等等原则。

一致性是道德和正直不可或缺的。我们的决定必须遵循一个高于统计准确性的标准；几个世纪以来，相互信任、减少危害、公平和平等的共同美德已被证明是任何推理系统生存的基本基石。没有内部逻辑的一致性，人工智能系统缺乏健壮性和可问责性——这是在社会中建立信任的两个关键措施。通过在道德情感和逻辑推理之间制造裂痕，数据驱动决策的不可知性阻碍了批判性地参与决策过程的能力。

这是我们生活的新世界，复杂的决定被削减成反射性的选择，并被观察到的结果所强化；把复杂的东西简化成简单的东西，把道德简化成实用的东西。今天，我们的道德感为我们的决策提供了一个框架。也许不久之后，我们的决定就会让人们对我们的道德产生怀疑

❸ 从道德的角度看人类是否应该发展人工智能

科技和伦理道德抄在很多方袭面都是相悖的，如果撇开科技发展，单从道德角度看人工智能，态度应该很明确，那就是应该限制人工智能。因为人工智能涉及到了太多了的伦理问题，比如对人类工作机会的挤压甚至抢夺，比如人工智能机器人是否具有人格，甚至人工智能的终极发展是否会威胁到人类自身的生存等等，这些问题都是技术本身无法解决的。

❹ 智能机器人应不应该具备人类的基本“道德”

应该具备，这样他们才能更好的生存下去，不然他们逐渐的发展下去的话，只能被销毁掉。

❺ 为什么人工智能面临的最大挑战是道德问题

该问题与一个历史事件很相象：
哥白尼的“日心说”，导致了建立在版“地心说”上的一切观念随权之崩塌。包括科学与宗教。
人工智能将导致建立在“只有人才会思考”这一观念上的所有概念崩塌。包括以此为基础的道德、宗教。
对于一个与自己相同的异类，为了方便思考，假设“人工智能”是会思考的“猴子”，而且是人类创造出来的，并且会很快超过人类，视人类为草芥的生物。
人们应该对“它”示好，还是对“它”打压？
“它”会不会为了生存，害怕被人打压，而采取先手打压人类？
假如，它的智能完全复制于一个自然人，二者同时存在，那么，我是谁？谁是我？
假如，人工智能通过精确的计算，判断某个人A，在未来某个时间点，99.9999999%的可能，会做出杀死某人B。那么，在A杀死B之前，他到底有没有违法？？我们有没有资格抓他？
以现有的道德理论来说，我们无权抓他，那么，对于B来说，一个接近于100%会杀死自己的人，在无时无刻想着杀自己，而法律与道德却无动于衷。法律何在？人心道德何在？
若我们决定抓他，那么对于A来说，我仍然是有0.0000001%的可能是无辜的，你们凭什么以我未来可能会做某事而抓我？

❻ 为什么人工智能需要某种道德准则

人工智能本身没有道德观念
但是创造人工智能的人应该有道德观念，让其用在正途
望采纳

❼ 假如人类爱上人工智能，这是否违反基本道德

尽管科幻电影对人工智能的描述偏向负面，但它也在一定程度上表达了人类的焦虑和担忧。现实中，人工智能会拥有自主意识，和人类会产生情感吗？

人工智能越来越像人，人类对机器有了感情怎么办？

“人类是否会与人工智能产生感情，将取决于这种过程是否给人类带来愉悦。正如互联网发展早期的一句常用语所说——在互联网上，没人知道你是一条狗。这表明，当人类在不知道沟通者的身份时，只要对方能够给自己带来愉悦，感情就可能产生。”赵联飞认为，这可能会对人类的交往模式带来影响。比如说，未来，知识型的人工智能可以回答人们能够想到的很多问题，从而导致个体学习方式、生活方式乃至社会化模式的变革。

在技术上加强对人工智能的控制是完全可行的。“人工智能尽管日益高级，但究其根本，仍然是在智能程序对大量数据处理基础上得到的结果。进行编程时，开发者可以通过程序对其进行安全设置。比如，如果识别出来是人类，要自动保持距离；不能做出攻击性动作，从力学幅度上予以约束。”中科院自动化所研究员孙哲南说，还可以把人类的法律规范和道德要求用代码的形式写入机器，全部数字语言化，使其遵守人类的行为准则。

❽ 品味，道德以及智能，是文化的积累和总和。哪个标点符号错了

品位后的逗号，改成顿号、

❾ 人本位原则是人工智能应遵循的道德准则之一对吗

对。

以人为本：在概念化AI解决方案时，只有AI系统在整个生命周期中对个人、回企业和整个人类都有答利的情况下，开发人员才应该继续开发。开发AI解决方案，应该以主要造福和改善人类生活，而不是达到破坏性的目的。

人工智能系统应与人类价值观保持一致，促进人权，尊重个人意见，提高生活水平，挽救生命，甚至保护环境。教育和医疗保健部门是两个最重要的部门，可以从以人为本的AI技术中受益。人工智能解决方案可以帮助提高教育质量，这将帮助学生找到更好的工作机会，进而帮助改善此类人的生活质量。

(9)道德智能扩展阅读：

注意事项：

全语言翻译机图片翻译全语言开发平台可以提供智能终端的长连接，提供终端访问，实现多语言行为分析服务，安全围栏管理功能，多语言热点消息和内容推送服务。

一键式SOS为用户提供方便的服务，通过多语言NLP语义处理形成意图分析数据，为用户提供热图数据，并通过多语言NLP语义处理为用户提供热图数据。提供多语言景区数据服务，用户可以上传自定义景区数据，实现基于LBS等语言的景区自动解译。