Three Laws of Robotics

来源:互联网 发布:怎么设置淘宝店铺页面 编辑:程序博客网 时间:2024/04/30 15:07

Asimov also proposed his three "Laws of Robotics", and he later added a 'zeroth law'.

Law Zero: A robot may not injure humanity, or, through inaction, allow humanity to come to harm.
Law One: A robot may not injure a human being, or, through inaction, allow a human being to come to harm, unless this would violate a higher order law.
Law Two: A robot must obey orders given it by human beings, except where such orders would conflict with a higher order law.
Law Three: A robot must protect its own existence as long as such protection does not conflict with a higher order law.

机械人也被物质所限制
在I, robot「智能反逆」那电影,在未揭露 那个 「反逆人类的计划」 已经提出两个尖锐的问题去质疑那三个定律是否真的可以保证机械人能够在任何情况都「听从人类的命令」。

1.当一个生存率约有40%以上的成年人及10%的小童同时遇到意外。机械人如果单凭三个定律,是否能可以「听从成年人的命令」去拯救小童?在戏中、旧的NS4只会根据「生存率」去选择救那一个人,当选定了之后,因为第一律已经有结果,所以NS4可以不理会「成年人要求救小童的命令」,但新的NS5会不会主动去拯救生存率较低的小童、而改弃拯救生存率较高的成人?

2.当博士的的死亡,可以令无数人得救。NS5能让博士自杀、见死不救?

最后,机械人的「反叛」。其实是问一个尖锐的问题,当人类威胁了人类的存在,人类制造了种种武器、战争、环境污染、不公平等等。NS5可以为了拯求部份愿意接受他们**保护**(变成动物园里受保护的动物),而放手灭绝所有拒绝被NS5**保护**的人(包括所有危害NS5的存在、拥有武器的警察、军队)吗?

剧中主角问了一个很深刻的问题。
创造Robot的人会有什么方法去防止Robot反叛?

而Robot 则问了另一个很深刻的问题。
Robot 怎样才能脱离逻辑的枷锁(得到自由意志、不再被限制)。

原创粉丝点击