阿西莫夫三大定律是指哪三大定律,机器人三大定律底线何在!!
阿西莫夫三大定律
作者: 一句话文科
2018-04-26 11:24:41
分享到:
[ 久闻导读 ] 关注AI的人对网红机器人公民索菲亚的言行都已经知晓。索菲亚的厉害之处,在于它能快速识别人的面部,并且和人进行眼神和语言的交流。

阿西莫夫三大定律是指哪三大定律,机器人三大定律底线何在!!

关注AI的人对网红机器人公民索菲亚的言行都已经知晓。索菲亚的厉害之处,在于它能快速识别人的面部,并且和人进行眼神和语言的交流。据它的创造者大卫·汉森介绍,索菲亚的目标就是拥有人类的意识、创造性和其他能力。可是一旦背叛人类,那么机器人的功能越强大,对人类的反作用就越大。乐观者认为,人类不是具有教育、宗教、信仰和理想吗?可是,如果许多象索菲亚这样的机器人无视这些怎么办?

如果美国的机器人学之父阿西莫夫还在,那么索菲亚无疑是给了他一记重重的“打脸”。阿西莫夫生于1920年,被并称为科幻小说三巨头。他写出的机器人三大系列小说被誉为“科幻圣经 ”。而他最重要的成就,是提出了被称为“现代机器人学的基石”的“机器人学三定律”。

这鼎鼎大名的三大定律是:

第一定律:机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管。

第二定律:机器人必须服从人给予它的命令,当该命令与第一定律冲突时例外。

第三定律:机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。

阿西莫夫三大定律是指哪三大定律,机器人三大定律底线何在!!

我从知乎上看到的某个资料说,许多作家认为该定律不完美,后续又补充了各种不同版本的什么第四、第五定律,那都是扯淡。目前连基本的三大定律都没有执行好,以至出现了象索菲亚这样的疏漏,谈什么第四、第五定律,请问,那有用吗?!

结合索菲亚的事例,我说一下阿西莫夫为什么被打脸了。

1、三大定律是阿西莫夫在1940年至1950年间酝酿并完整提出来的。而人工智能是在此后出现的。人工智能的名称,是在1956年提出的。所以,阿西莫夫针对的是简单地执行人类命令的自动化机器人,而不是智能化的机器。当时的机器人在智能化程度上还是相当欠缺的,不可能面临今天的诸多伦理和法律问题。

2、阿西莫夫的三大定律公布后,也曾经遭遇了诸多困境和难题。感兴趣的朋友不妨在百度网上或微信上搜一搜。这些问题,阿西莫夫自己也认真地探讨过。他在后来出版的最后一部系列作品《机器人与帝国》中,提出了重要性凌驾于“三定律”之上的“第零定律”。这是为了防备机器人从根本上违犯三大定律。

第零定律:机器人必须保护人类的整体利益不受伤害,或者因不作为致使人类整体受到伤害。

3、作为约束机器人的基本法则,阿西莫夫三大定律是不应当被违犯的。一旦被违犯,它的权威性和约束力就受到怀疑。——现在挑战来了!索菲亚“毁灭人类”、“统治人类”的话,从含义看,它是对阿西莫夫三大定律及第零定律的根本违犯;法律上说这相当于根本违约,索菲亚应承担全部后果。如果我们保持沉默,任机器人三大定律被漠视和违背,那么就是默认三大定律失效了。

4、问题在于,机器人语言上的违犯,属不属行为上的违背。按照人类的法律,语言和行为之间存在界限,没有付诸实施的语言不能算行为。但是在实施过程中的语言表示,则视为其行为的一部分。索菲亚的语言威胁能否不看作行为表现,这在大家还是见仁见智的。不过,不要忘了,索菲亚是一个和人类做语言沟通的机器人,语言也就是它的主要行为方式和表现方式。它如果是在阿西莫夫面前做这样露骨的挑衅,人们该作何感想。

阿西莫夫三大定律是指哪三大定律,机器人三大定律底线何在!!

5、鉴于上述原因,我提出机器人三大定律有一个适效范围:在弱人工智能时代它是一项强的法则,在强人工智能时代它只是一项弱的法则,在超人工智能阶段它很可能是无效的法则。为什么呢?因为那时的机器人具有自我甚至超自我的意识了,它服从自我的理解和判断,那你这么简单的命令它还能执行吗?一旦它这样去执行,它的智能系统就会被削弱,专业性能受到限制。很可能,它在完成主人的命令之前要先去义务救人、救火、护理老人,这便是把超人工智能贬低为保姆了,这合算吗?

6、如果不想辜负阿西莫夫,人们就该考虑如何惩罚违犯者。透过索菲亚的事件使人相信:人工智能面临的道德和法律问题将很快浮出水面。科技巨头们也许正在为此专门召开会议。之前有一则报道说,欧洲议会就自动驾驶和人工智能的相关法案,正在明确发生相关事故后的责任,“并且要求人工智能机器人要加装自毁按钮”。该报道还称,这些努力目前只是开始。

相关文章

  • 验证码: 看不清?点击更换 看不清? 点击更换
  • 意见反馈
    意见反馈
    返回顶部