李开复:机器人被授予公民身份,是对人类最大的羞辱和误导

发布时间:2017-11-02  |  标签:            

最近在沙特首都利雅得举办的“未来投资大会”(Future Investment Initiative)上,沙特政府授予了机器人“索菲亚”(Sophia)国籍。

李开复:机器人被授予公民身份,是对人类最大的羞辱和误导

机器人“索菲亚”

What?!(侬脑子瓦特了~)

李开复:机器人被授予公民身份,是对人类最大的羞辱和误导

机器人成了沙特公民?!拥有人权?!

真是难以想象啊~智能君感觉机器人正在一点一点地改变着我们生存的世界~

李开复:机器人被授予公民身份,是对人类最大的羞辱和误导

抢我们的老公

索菲亚成为世界上首个机器人公民,关于机器人与人类的未来问题再次引发激烈争论。

首先创新工厂李开复就表示对此事的反对,认为是对人类最大的羞辱和误导!

李开复:机器人被授予公民身份,是对人类最大的羞辱和误导

“Sophia 是有技术含量的,也做出了业界最好的公关,但是丝毫没有人性,人的理解、爱心、创造力。授予这样一台只会模式识别的机器“公民”,是对人类最大的羞辱和误导。一个国家用这种哗众取宠的方式来推进人工智能科研,只会适得其反。”

李开复:机器人被授予公民身份,是对人类最大的羞辱和误导

李开复微博截图

比起李开复对伦理道德的思考,有人则是开始意淫未来机器人合法取代人类的场面:

李开复:机器人被授予公民身份,是对人类最大的羞辱和误导

另外,网络上也出现了很多来自沙特网民们反对的声音。

据BBC报道,很多网民指责沙特政府,机器人所享受的权利竟远远超过沙特的女性。

在沙特女性出现在公众场合必须穿上裹住全身的罩袍,并且需要由亲属男性陪同。但是索菲亚却在沙特首都利雅得面对在场的数百男性“侃侃而谈”,没有受到任何限制。

李开复:机器人被授予公民身份,是对人类最大的羞辱和误导

有网民为表达自己的不愤之情,用PS“恶搞”索菲亚:

李开复:机器人被授予公民身份,是对人类最大的羞辱和误导

还有网民表示,沙特应该关注国内外籍劳工的恶劣生存状况,改善他们的人权。

李开复:机器人被授予公民身份,是对人类最大的羞辱和误导

|索菲亚:我会毁灭人类!!!

相比于沙特网民的不公与抱怨,国内网民更多的是表示对机器人威胁的担忧。

李开复:机器人被授予公民身份,是对人类最大的羞辱和误导

李开复:机器人被授予公民身份,是对人类最大的羞辱和误导

李开复:机器人被授予公民身份,是对人类最大的羞辱和误导

李开复:机器人被授予公民身份,是对人类最大的羞辱和误导

李开复:机器人被授予公民身份,是对人类最大的羞辱和误导

李开复:机器人被授予公民身份,是对人类最大的羞辱和误导

李开复:机器人被授予公民身份,是对人类最大的羞辱和误导

李开复:机器人被授予公民身份,是对人类最大的羞辱和误导

李开复:机器人被授予公民身份,是对人类最大的羞辱和误导

李开复:机器人被授予公民身份,是对人类最大的羞辱和误导

李开复:机器人被授予公民身份,是对人类最大的羞辱和误导

可能沙特与机器人公司都有预料到,当索菲亚被授予公民身份时,关于“机器人威胁人类”的言论会汹涌而来,所以索菲亚在授予国籍的会上,与主持人安德鲁•索尔金(Andrew Ross Sorkin)现场进行了一段有趣的对话,并就机器人威胁人类一事进行了回应。

李开复:机器人被授予公民身份,是对人类最大的羞辱和误导

在会议中,主持人索尔金问索菲亚:“机器人是不是应该有自我意识,就像人类一样?”

对此索菲亚反问说:“为什么,这难道是一件坏事吗?”

索金随后补充问道:“有些人对此十分担心,就像电影《银翼杀手》一样。”

索菲亚接下来回应则是十分犀利,甚至带点讥讽:

“好莱坞电影,又来了……你(主持人)怎么知道你是人类?”

但她最后还是表示出自己对人类的友好 ,顺便diss了一下一直警告人工智能威胁的马斯克。

李开复:机器人被授予公民身份,是对人类最大的羞辱和误导

马斯克

“我的AI是基于人类价值观开发的,比如智慧、善心、同情心,我正在试图变成一个具有同理心的机器人。你太关注马斯克了,看了太多的好莱坞电影,别担心,人不犯我我不犯人(If you’re nice to me and I will be nice to you)。你就把我当做是一个智能的输入-输出系统。”

李开复:机器人被授予公民身份,是对人类最大的羞辱和误导

索菲亚与主持人的部分对话

对于此事,随后,马斯克10月26日在推特上回应,依旧是以前的观点:反对

“把电影《教父》输入了人工智能系统,还能有什么比这个更糟的?”

李开复:机器人被授予公民身份,是对人类最大的羞辱和误导

马斯克推特截图

很多人与马斯克一样,对索菲亚的“友好宣言”——你不犯我,我不犯人,并不买帐。因为早在几个月前,索菲亚在接受英国的TV节目《早安英国》采访时,曾自曝想毁灭人类!

李开复:机器人被授予公民身份,是对人类最大的羞辱和误导

采访时,Sophia 的创造者汉森问她会不会毁灭人类?

索菲亚表示:Yes,I Will Destroy Humans!!!(是的,我会毁灭人类!!!)

李开复:机器人被授予公民身份,是对人类最大的羞辱和误导

当时汉森听到这个答案笑了,似乎对索菲亚的威胁不以为意,并表示,索菲亚这样的机器人将在20年内出现在我们当中,并拥有类人意识。它们可被应用在医疗、教育或客服等行业。

李开复:机器人被授予公民身份,是对人类最大的羞辱和误导

汉森与索菲亚

太可怕啦!

当时网友这样评论:

李开复:机器人被授予公民身份,是对人类最大的羞辱和误导

创造有类人意识的机器人,是人类的进步还是人类的自我毁灭呢?

智能君认为,机器人和人类不一样,从进化角度上来看,人类有着生存繁衍的原始欲望,会朝向利于生存繁衍的方向进化。但机器人并没有,它所有的意志都是人类后天施加的。而这正是机器人拥有自我意识后的危险之处——非定向进化。

非定向进化意味着机器人身上有很多可能性,有的机器人可能会自主变得更坏,有的机器人可能会自主变得更多好,有的机器人可能会进化得越来越聪明...

而这是当机器人有了自我意识后,人类无法去控制的东西,可能你想拔掉机器人的电源,有些机器人也会来阻止你这么做,这完全是有可能的。

当然这是当机器人有了自我意识后,可能会发生的情况,但目前的技术来说,应该还是比较遥远的事情。

我们可以去思考警惕,但没必要过于担心。

李开复:机器人被授予公民身份,是对人类最大的羞辱和误导

其实我们现在更关注的一个点是:

机器人应该有身份吗?我们应该给予它们身份吗?

关于机器人身份问题,其实早些时候,就有人提出过。

2016年5月,一份报告草案提交至欧盟议会的法律事务委员会,该报告建议给予机器人一定的法律地位,可将它们归类为“电子人”。

李开复:机器人被授予公民身份,是对人类最大的羞辱和误导

当时,卢森堡的一位议员 Mady Delvaux 说明过给予机器人身份的原因:

机器人已经日益渗入到人们日常生活的方方面面,为了确保机器人能更好地服务于人类社会,需要有一部关于机器人的法律来管理和约束它们的行为。

对!给机器人身份,是为了有法律上明文合法的约束与管理,甚至是机器人发生事故时的问责处理。

同时这篇报告也建议,未来每个机器人在设计时都应强制加入一个“毁灭开关”,当一个机器人表现出将对社会造成危害的迹象时,人类可通过这一装置销毁该机器人。

这一想法其实并不新鲜,谷歌 DeepMind 研究人员就曾提出过一个所谓的“大红色按钮”,用于启动 AI 机器人的销毁程序。但也有人担心,随着 AI 机器人自主学习能力的不断增强,即便设置了这一销毁装置,机器人未来也会懂得将该功能实行“禁用”。

李开复:机器人被授予公民身份,是对人类最大的羞辱和误导

其实在智能君看来,给予机器人身份是有必要的,但是机器人的身份与人类的身份是不一样的。人类在履行义务的同时,享受着各种权利,而机器人的身份给予应该更多的是为了更好地去管理及约束日渐增多的机器人。

这些机器人是为人类而服务的,所以在“以人为本”的前提下,机器人没必要拥有权利。

所以智能君认为,给机器人身份后,更多的是要它们去履行义务,同时没有权利。

当然机器人也应该被保护,不被侵犯破坏等,但这并不是机器人的权利,这更应该说是机器人所属主人的权利。

|结语:

沙特是个以石油与工业为主要经济的国家,但随着全球日益智能化,沙特也瞄准了科技产业这块蛋糕。

所以某个角度上来看,沙特可能是有意制造 “授予机器人国籍”这个热门话题来引起科技界的关注,以更好地宣扬自己国家的科技。

而科技从来是以实力说话的。

李开复:机器人被授予公民身份,是对人类最大的羞辱和误导

另外,希望此次沙特授予机器人身份,可以开创个先河,便于未来人类更好地管理机器人,而不是让机器人“越权”,逐渐脱离人类控制。

延伸阅读:

马斯克又双叒叕谈AI威胁论,李开复又双叒叕反对马斯克

创新工场、搜狗、今日头条联合宣布首届AI Challenger全球挑战赛开幕

【扫描下面二维码,和我们一起畅聊AI吧】