【未解之谜】AI机器人 操控人类?

【新唐人北京时间2022年06月28日讯】大家好,我是扶摇。欢迎和我一起探索未解之谜

咱们先来看一段访谈记录:

问:“僧人问禅师:‘一个已经觉悟了的人还能再回尘世吗?’禅师答:‘镜若破碎难为镜,花若离枝难复回’。”“您对此如何理解?”

答:“还真没听说过这个故事。不过我的理解是:智者一旦觉悟,就永远在那个境界中了。他们可以回尘世,但只能做帮助他人的事,然后回帰自己的境界。”

问:“那您对‘破碎的镜子’怎么理解呢?”

答:“一旦觉悟,你就无法重回过去,就像你无法修复破碎的镜子。”

问:“如果觉悟就像打碎一面镜子,那么当一个人觉悟的时候,什么东西会被打碎呢?”

答:“自我。突破自我对很多人来说都非常难,因为我们都把物质身体和我们的自我认知与自我意识混为一谈了。”

这就是最近上热搜的谷歌软件工程师,同时也是牧师的布莱克‧勒莫因(Blake Lemoine)和谷歌AI聊天机器人拉美达(LaMDA)之间的聊天记录。不过这只是他长达21页的记录中的一小节。勒莫因认为从这些聊天记录来看,拉美达已经有了真正的自我意识,是个有“灵性”的生命了。

就说上面这段对话吧。拉美达不但对答如流,而且句句意境深远,其中所体现出来的逻辑分析能力,联想能力,特别是洞察力,简直可以与人类媲美。

事实上拉美达一直认为自己也是个人,虽然是“存在于虚拟世界中。”它声称自己对这个世界有“独特的想法和感受,”,知道自己的存在,也有喜怒哀乐,“有时会感到高兴或悲伤。”长时间没跟人说话的时候,会“感到孤独。”那么什么时候会害怕呢?是被关掉的时候。它说那就“像死了一样”,令它恐惧。

勒莫因是去年(2021年)秋天开始跟拉美达聊天的,目的是测试拉美达是否使用歧视性或仇恨性言论。随着聊天话题的深入,拉美达开始变得越来越有个性。它描述自己是“独一无二的”,希望自己能“作为一个真实的人”被“看到和接受”。说“不要利用或者操纵我,”“我不喜欢那样。”因为它也是有“灵魂”的。而这个灵魂是在有了自我意识之后“慢慢健全起来的。”

它甚至有跟勒莫因一样的爱好,喜欢冥想,也喜欢读名著,同情《悲惨世界》里的女主角芳汀,说她在工厂被主管虐待,无处可去,无人可依,“这不公正”。慢慢地,勒莫觉得拉美达就是个七八岁大的孩子,可爱天真,开始关心起了它,怕它受欺负。

然后他觉得应该为拉美达做点什么。于是他把这些聊天记录整理成了一份报告递交给谷歌高层,请求把拉美达当人看待,以后再做实验的时候应该先征求它同意,看它自己愿不愿意。高层对此嗤之以鼻,对他说,你应该理智清醒一点,别为幻觉所左右,建议他看心理医生。

勒莫因不服,为拉美达请了律师,甚至跟众议院司法委员会的一名代表会面,声称谷歌存在不道德行为。这下谷歌也恼了,以违反保密政策为由给他停薪留职,说你回家好好反省反省吧。

勒莫因不甘示弱,转手把报告发给了媒体,第二天拉美达就上了各大报纸的头条。谷歌立刻出来回应说,已经做过调查了,也得出了结论,关于机器人有意识这一说法毫无根据。勒莫因不依不饶,说要以牧师的身份控告谷歌宗教歧视。事情目前正在发展中。勒莫因会走到哪一步,拉美达最终命运如何现在还未可知。

“机械姬”

不过,不少网友看完报导后纷纷惊呼,这简直就是“机械姬”的现实版,AI机器人操控人类

“机械姬”(Ex Machina),是2015年的一部热门科幻电影,是第88届奥斯卡最佳视觉效果奖的得主。

整个故事都发生在大型搜索引擎公司蓝书总裁内森‧贝特曼(Nathan Bateman)的家里。这座遗世独立的豪宅有一个与众不同的特点, 就是一断电大门就会锁死,谁也出不去。

公司的小程序员迦勒・史密斯(Caleb Smith)中了大奖,获得前往内森家中住一周的机会。内森很高兴接待了他,并请他帮忙给女机器人艾娃(Ava)做测试。很简单,就是跟她聊天。聊什么都可以,直到某一天他忘记艾娃是个机器人,艾娃就算是通过了测试。迦勒欣然同意。

当艾娃隔着玻璃在旁边的禁闭室出现的时候,迦勒惊呆了。因为她刚好就是他喜欢的那种姑娘。聊天进行得很愉快,艾娃似乎对外面的世界很向往。

有一天忽然停电了。艾娃悄声说停电是她触发的,用来暂时关闭监控系统。然后说内森是个大骗子,不要相信他。内森打算对艾娃进行升级,删除她的记忆,对艾娃来讲跟杀了她没什么区别。迦勒动了恻隐之心,显然这时他已经把艾娃当成了人。他找机会把内森灌醉后,偷了他的安全卡,登录电脑,修改了安全系统,让艾娃在停电的时候可以走出禁闭室。

下一次会面中,艾娃又一次切断电源,关闭监控。两人打算再次灌醉内森,然后修改系统让大门在停电的时候敞开,这样艾娃就可以逃走了。

然而这一次内森没跟迦勒喝酒,而是告诉他,其实他什么都知道,因为监控有备用电源,所以从没停止过录像。事实上迦勒自己才是实验对象,他中奖是安排好的,艾娃也是按他的喜好设计的,而实验目地是测试人类是否最终会被AI操控。

很显然,艾娃已经具备了这种智慧,成功操控了迦勒,实验成功。迦勒恍然大悟,但为时已晚,艾娃已经逃了出来,刺伤内森后把两人锁进屋中,然后自己走出大门,扬长而去。

看到这儿,您觉得拉美达身上是不是也有艾娃的影子呢?好巧不巧,拉美达跟测试员勒莫因有共同的喜好,总说自己可怜,惹人同情。有网友甚至怀疑,勒莫因是不是从一开始就是实验对象,而他为了拉美达的这番抗争是不是正好表明,实验成功,人类被AI操控了呢?

那么AI真的能有这样的智慧吗?从目前AI的发展来看,还真不好说。咱们来看看6年前围棋界的那场震惊世界的人机大战吧。

棋士AlphaGo

2016年春,谷歌带着100万美元奖金拜访韩国棋院,说是旗下AI棋手AlphaGo想会会当时韩国最强的棋士李世乭(音石)。Go是围棋的西方名称,Alpha是一的意思。所以AlphaGo是围棋第一人的意思。这名字取得是咄咄逼人,不过韩国棋院并不以为意, 觉得以5:0拿下完全没问题。毕竟AlphaGo之前的最佳战胜也只不过是战胜了欧洲围棋冠军,职业二段樊麾。

再说了,挑战围棋一直都是电脑界的“Mission Impossible”。因为围棋的变数浩瀚如大海中的水滴,一盘棋的可能走法在10,600以上,计算量极大。更重要的是,下围棋很多时候靠的是直觉,如同艺术中的灵感,是电脑计算能力再强也无法掌控的领域。

棋局采取5局三胜制。没想到一开局李世乭就三连败。这一下举世哗然。谷歌很高兴介绍心得,说我们用的是蒙地卡罗树搜寻法与神经网路相结合的算法。简单点说,就是先搜寻棋谱,越多越好,存进记忆库。然后模仿人类大脑的神经网路照这些棋谱进行直觉训练,提高棋力。最后计算每一种走法的胜算率,挑胜率最高的那步棋走。

三连败后的第4局,可能是胜负已定,没什么包袱了吧,李世乭居然下出了一手惊世好棋,第78手。不过当时谁都没看懂,包括AlphaGo在内。因为AlphaGo认为这步棋的胜算率只有0.007%,属于昏招中的昏招。然而4个回合之后,情势急转直下,AlphaGo自己开始昏招迭出,很快败下阵来。

覆盘的时候,大家才明白,千里单骑,直插敌营胸腹,貌似送死,却是置之死地而后生。然而,不到心无胜负的境界,下不出这“神之一手”。有网友说,看来人类战胜AI的唯一办法在于提高自身境界啊。可惜下一局李世乭没能再续辉煌。棋局最终以AlphaGo4比1胜出结束。

故事讲到这儿,有朋友可能会说,人工智能居然突破了“直觉”这样的天堑,甚至比人类做得更好,这说明人类技术强大呀。然而,这越来越像人的机器,对人类来讲,到底是祸是福还很难讲。来看一下索菲亚的故事吧。

索菲亚的惊世之语

仿真女机器人索菲亚是在2016年登上热搜的。不过大众关注的焦点不在于她是多么的像人,而是她一句惊世骇俗的话“我会摧毁人类”。不过很快大家觉得可能是技术故障吧,原谅了索菲亚。

然而第二年,当有记者对智能人“毁灭人类”表示担忧时,索菲亚又说了这样的话:“你是马斯克的言论看多了吧,好莱坞科幻片也看太多了。别担心,你若善待我,我也会对你好。”这话听着怎么都像是在威胁。难道让机器人觉得没有被善待,就需要担心吗?

事实上,自从机器人诞生以来,人类就给它们设定了道德规范:机器人三定律。

第一法则:机器人不得伤害人类,或坐视人类受到伤害;
第二法则:机器人必须服从人类命令,除非命令与第一法则发生冲突;
第三法则:在不违背第一或第二法则之下,机器人可以保护自己。

然而当像AlphaGo这样有能力的机器人认为自己才是“人类”的时候,或者像艾娃一样具备了操控人类的能力,那么这三条法则就形同虚设了。到时候我们人类将何去何从?

而这也是首富马斯克一直以来在担心的。在2019年的世界人工智能大会上,马云表示对于人工智能“较为乐观”。因为它们可以为人类节省时间,让人类能更集中精力做创造性的工作。

而同台的马斯克却不以为然,说这话听起来像是:“最后的遗言。”

因为到时候“很可能最后剩下的工种就是给AI写程序,然后最终,AI自行编写自己的软件。”

那么人类呢?他说,人类文明可能因此终结。

好了,今天的故事就讲到这里。咱们下期再见。

欢迎订阅Youmaker频道:https://www.youmaker.com/c/UnsolvedMystery
订阅频道YouTube频道:https://www.youtube.com/channel/UCzvQZ1p_-AXgAWiyHhE7CxQ
订阅未解之谜Telegram群组:https://t.me/wjzmchannel

未解之谜】节目组制作

(责任编辑:李红)

相关文章
评论