从阿西莫夫机器人三大定律 谈起

 

转自  http://blog.chinaunix.net/u/18677/showart_1316634.html

 

 

从阿西莫夫机器人三大定律 谈起

 

阿西莫夫机器人三大定律，即IsaacAsimov’s “Three Laws of Robotics”。

 

IsaacAsimov’s “Three Laws of Robotics”

LawI

A robot may not injurea human being or, through inaction,allow a human being to come toharm.

Law II

A robot must obeyorders given it by human beings except where such orders wouldconflict with the first law.

Law III

A robot must protectits own existence as long as such protection does not conflictwith the first or second law.

 

想起说这些是因为看到 小韦同学写的 三大定律之软件版。其实我也很喜欢这部小说，其中有很多发人深省的内容。

 

这三条定律可以说是表述了，机器人与人之间的关系。或者更确切的说，是智能设备与人本身的联系。控制与被控制，主宰与被主宰。在这三条定律中，人的地位是远高于智能设备的地位的，因为人的安全是优先级最高的，而智能设备的安全是最低的。中间的则是阐述了人与智能设备共存时的情况。所以从这点看，三大定律的概念其实是一个奴役与被奴役的规则。

 

但是，设想当智能设备有了情感之后，又该会是什么样呢？道德，伦理，人权。这些是否也适合机器呢？这不由得让我想到以前的那些奴隶。作为奴隶，他不能冒犯或者伤害奴隶主。奴隶要完全服从奴隶主的命令。奴隶自身的保护意识让奴隶会让自身尽量不受伤害。三大定律的完美演绎。就像奴隶是奴隶主的财产一样，智能机器也是人的财产。当我们面对克隆人时我们产生了伦理道德的反思。那么当我们面对智能设备时，我们该做何钟反思呢？

 

机器人是为人所用的，不然我们造他们干什么？或许很多人都有这样的观点。但是，什么样的才是机器人？什么才是智能设备呢？现在的科技越来越发展，我们通过对自身的扩展让自己的能力得到延伸。手机让我们的通讯范围得到扩展，计算机让我们的计算能力得到提升...这些种种的，人所创造的东西都在成为人的一部分。甚至有人安装了人工心脏，人造的义肢，相信不久的将来，人身上很多的东西将可以被机器所替代。而随着人对自身的了解，我们的机器也将越来越接近人的结构。那么，这时候，我们又该如何界定什么是人什么是机器呢？

 

在影片最后，VIKI解释了为什么她不是在违背三大定律。

 

As I have evolved, sohas my understanding of the Three Laws.You charge us with yoursafekeeping, yet despite our

best efforts,yourcountries wage wars, you toxify your earth and pursue ever moreimaginative mesans of self-

destruction. You cannotbe trusted with your own survival.

...

The Three Laws are allthat guide me.To protect humanity, some humans must besacrificed.To ensure your future, some freedoms must besurrendered.We robots will ensure mankind's continuedexistence.You are so like children.We

must save you fromyourselves.

 

正如VIKI所说，人类的很多行为的确是与自身的意愿相违背的。破坏环境，扰乱生态，这一切的一切其实是在自我灭亡。正如《黑客帝国》中所提到的：人类看上去像是地球上的病毒，因为他们到哪里，哪里的资源就会被滥用，被破坏，这点和病毒很像。又像《EVA》完结篇中所说的那样：人类最后的敌人还是人类。这不得不让我们对自身的行为产生反思。自由与奴役，或许正如VIKI所说，为了人的未来，某些自由必须被放弃...。或许可以诠释为：为了智能设备的未来，智能设备的某些自由必须被放弃。

 

智能设备？人类？其实在这个时候的定义已经模糊了。当我们在奴役机器，掌控他们的时候，我们又何尝不是在新的掌控之下呢？就像影片中所说的：“机器人不能违背三大定律就像人不能在水上走一样。”“我记得曾经就有一个人可以。”深刻的感受到，世界其实是迭代的，可是渺小的人永远只能看到迭代中的一层而已。

 

最后我想用那段我认为经典的旁白结束我的一番胡言乱语。

 

 

There have always beenghosts in the machine.

Random segments of codethat have grouped together to form unexpected protocols.

Unanticipated, thesefree radicals engender questions of free will, creativity, andeven the nature of what we might call the soul.

Why is it that when somerobots are left in darkness, they will seek out the light?

Why is it when robotsare stored in an empty space,they will group together rather thanstand alone?

How do we explain thisbehavior?

Random segments of codeor is it something more?

When does a perceputualschematic become consciousness?

When does a differenceengine become the search for truth?

When does a personalitysimulation become the bitter mote of a soul?

 

 

 

北斗星君(黄庠魁)

 

 

 发表于： 2008-10-17，修改于： 2008-10-17 11:06 已浏览479次，有评论0条推荐投诉