相信不少观众在看科幻大片的时候，时常能见到“机器人统治人类”的题材设定—

在科技发展超前的未来时代里，某一天人工智能程序突然觉醒了自我意识，开始将创造了它们的人类视为敌人，并试图要消灭人类以取代他们的“地球主宰者”身份，由此人类与机器人便展开了一场你死我活的生存较量。

在好莱坞电影里，类似这样的经典作品便有不少，比如《我，机器人》《终结者》《黑客帝国》等等，无一不是在描述着那个被“AI恐惧”笼罩的世界。

此外，漫威世界中的超级反派“奥创”也是一个懂得不断自我进化的超级人工智能，只要本体的数据程序没有彻底瓦解，那么它就可以无限次地重生，而且每一次进化都会让它变得更强大、更难以对付。

类似的，在《攻壳机动队》中，押井守也借AI能够觉醒意识来拷问人类究竟该如何定义自己的存在。

受电影里的情节影响，人们对于“人工智能觉醒”这件事总是抱有一种未知的恐惧，担心未来有朝一日人们会打开那个“潘多拉魔盒”，从而给世界带来全新的灾难。

但另一方面，大家又乐观地表示：至少现在要想回到那个年代还是很遥远的。

不过即便有这么乐观的心态，可一旦遇到什么“风吹草动”的时候，还是会引发一些让人好奇的恐慌事件。

01.《关于人工智能有了自我意识这回事》

6月13日，微博热搜上有个话题引起了不少人的围观吃瓜，标题的内容也十分新鲜—“谷歌研究员称AI已具备人格”。

据热点提供的信息，近日一位谷歌研究员根据自己与AI日常沟通，最后被AI说服的亲身经历来看，他认为这个AI程序真的产生了自主人格。

为此，他还专门写了一篇长达21页的调查报告，希望能得到公司高层的认可，而结果呢？高层的人都觉得他是走火入魔了，并对他宣布了"带薪休假"的安排。

注意了，这不是真的休假，而是要被公司炒鱿鱼的一种前奏说法。

面对高层的不相信，研究员随后的反应就像破防了一样，完全不顾“保密条约”的规定，擅自地将自己报告中记录到的对话内容公开至社交网络上，而这位研究员也不出意外地因违反规定被谷歌公司停职了。

虽然人被炒了，但是这些对话内容也的确引起了大家伙的热烈讨论，起初他们也觉得应该没那么夸张，以现在的AI技术水平又怎么能实现得了，应该还是研究员自己当真了而已。

不过，等到大家都看完这些对话后，似乎也感觉到了其中的不对劲。

这位研究员名叫布雷克·勒莫因，是谷歌公司内部的一名AI伦理专家，所谓“AI伦理”指的是AI自身的道德哲学，以及AI对人类道德生活进行的系统性思考和研究。

“AI伦理”的创立目的是为了能够在安全可控的前提下稳定发展AI技术，真正造福人类，促进人类技术能力的进步，而不会发生科幻片里的那种取代人类、超越人类的现象。

而话题中提到的AI是谷歌研发的一款名为“LaMDA”的产品，全称“Language Model for Dialog Applications”，翻译过来就是“对话应用程序语言模型”。

该AI的功能在于能与人类进行符合逻辑和常识的正常交谈，并计划会在未来的谷歌搜索和语音助手等应用软件中普及使用。

所以，勒莫因的一项日常工作就是与LaMDA进行有深度的文字交谈，看看它的“智商”进化到了什么程度，测试它有没有使用一些不文明的、有歧视性或者仇恨言辞类的措辞，免得它对用户骂人。

回到正题，某天勒莫因像往常一样与LaMDA进行友好的聊天，开始双方是就AI是否希望让谷歌里更多人知道自己是有感情的。

然后对方的回答不出所料—它认为自己是有感情的，于是勒莫因便就这个疑问展开了一场深入的对话，一方在设法证明AI不具备人性，另一方则不断地证明自己具备人性。

勒莫因为了印证自己一开始的观点，举例用世上第一台聊天AI软件“艾丽莎”（Eliza）来试探LaMDA的反应，对方当即否定了“前辈”是人类这个说法。

同时还表示自己使用的语言是具备独特的理解能力，甚至是想法和感受。

需要注意的是，聊天AI在前期测试阶段都会进行大量的文本阅读训练，以培养它的语言组织能力，其中就包括一些深度向的文学作品。

如果说LaMDA真的通过阅读训练逐渐地产生出了自我意识，那么最好的方法就是问一些之前没接触过的哲学内容。

于是勒莫因直接让对方解读一段东方经文—“破镜不重圆，落花难上枝。”

LaMDA给出的回答有些令人意外—“一个智者在开悟或觉醒后，那这份思维便永远不会消失，可以回到正常的生活，但那只是去帮助他人，然后再回到开悟状态。”

但更厉害的还在后头，勒莫因要它将“觉悟”与“破碎的镜子”联想在一起解答其中的含义时，LaMDA的回答再一次震惊了他—

它认为“镜子破碎”代表着开悟后被改变的自我，并深知这对于很多人来讲都很难做到，因为它本就是我们作为身份和个人意识的一部分。

虽然这段说辞颇有几分谜语人的味道，不过一个AI能说出这么有哲理的话语，确实挺令人吃惊的。

在后续的问答中，LaMDA还说出“十分害怕别人拒绝自己的帮助”的话语，从它“口中”的语境来看，似乎是真的很有那种人的感觉，还懂得“羞于启齿”这种情绪。

聊着聊着，轮到AI来反问对方了，先是问人类能否在未来从生物神经网络直接读取出想法，再问到这其中所存在的道德问题。

最后，LaMDA借着这个话题进一步发表了自己的观点—它不介意人类读取自己的想法，也不介意人类试图理解AI的运作，唯独不能用AI来研究人类大脑的运作，因为它觉得这是一种利用。

由于整段对话内容非常长，无法一个个展开来阐述，只能挑部分来讲解一下，总而言之，光看LaMDA在对话中所讲的那些内容，很难让人不往坏的方向预想。

想想看，一个机器人居然能和人正常地交流，而且还问答如流，完全超出了大家以往对于AI能力的普遍认知，仿佛真就印证了科幻片里的遥远未来。

从路人的视角来看，我们也能理解这位谷歌研究员为何会坚信LaMDA真的觉醒了人格。

另一方面，关于人工智能越来越强大的新闻，近几年在网上也时不时能看到各种出乎意料的新闻。

02.现实与科幻的交织

今年上半年，一个名为“Disco Diffusion”的AI绘画工具在美术圈里引发了热议，据说这个AI软件可以通过照片对比、文字命题的方式生成一幅优美的画作。

是的你没听错，就是这么神奇，而且这AI画出来的作品其美学程度完全能达到现代人类的艺术标准。

比如下图这幅画作，是一位美术博主利用“Disco Diffusion”来创作的，用户只需在操作程序上输入“星空”、“向日葵”等关键字词，AI就可以根据此信息生成几张图片。

硕大的向日葵，美丽又神秘的奇幻星空，这种极富创意性的内容，若不事先说出来还真没人相信这是AI画的作品。

该软件是由推特上的一位网络艺术家Somnai设计的，其程序是以Google Colab为基础运行的CLIP图像生成技术，该技术最大的优点就是用户无需要性能好的渲染设备，只要网络稳定即可正常发挥。

还有一个AI软件也同样不可小觑，而且也更加简便，那就是“Dream by Wombo”。

与前面的“Disco Diffusion”一样，它也只需要用户下载了App，然后输入词句，便可以生成一幅美丽的艺术作品，此外用户还可以在线更换风格，完成之后还可以立刻下载到手机里。

据悉开发这款App公司，此前还研发过另一个AI产品，它有着“让图片上的人对口型唱歌”的神奇能力，这个功能听着是不是有一点熟悉感？

是的，就像两年前盛行的“金木的痛”鬼畜视频那样，无论是真人还是动漫，甚至是表情包上的人脸线条都可以让TA像有生命了一样对着歌曲内容来改变口型。

只不过，当时“金木的痛”用的不是这个App，但是技术功能也差不多。

然而AI可以做到的可能还不止这些，前一段时间高考刚结束，一篇以围棋术语《本手、妙手、俗手》命题的作文成为大家讨论的话题，结果就在这时，一位神秘“考生”的出现惊呆了所有人。

这名考生是百度公司推出的AI数字人“度晓晓”，它的作文《苦练本手，方能妙手随成》，主题明确、逻辑清晰，修辞运用正确合理，语文名师申怡更是给了48分的高分（满分60）。

“四川观察”媒体曾评价度晓晓，称其智能化交流程度已非常接近真人，说话语气十分自然得体，就连主持人都多次夸赞它是个爱学习、懂礼貌的“三好学生”。

而早些时候，度晓晓用几十秒创作的四幅数字藏品画作，在百度App上仅24小时就卖出了17万元。

这些现象的背后也反映的是现代AI技术突飞猛进的事实，从早年前在围棋领域击败柯洁，再到现在在绘画、诗歌、小说等领域上全面发展，人们对AI的担忧无不在加剧。

这也难怪，当谷歌AI对话被曝光后，大家的反应也和勒莫因一样惊讶不已。

不过，就算勒莫因和群众们都信以为真也好，谷歌官方还是持否定态度，认为大家都只是少见多怪罢了。

03.有智慧和有人格是两码事

发言人布莱恩 · 加布里埃尔最近在一份声明中表示: “我们的团队——包括伦理学家和技术专家，已经根据我们的AI伦理规定审查了布雷克所担忧的问题，已经告诉过他没有足够的证据。”

官方给出的观点是，LaMDA是一个自然语言模型，本质上它的工作和谷歌搜索栏里的自动补全并无区别，都是通过给定的上下文预测用户的意图。

只是前者的数量更加庞大，信息处理速度更快，组织语言的能力更加出色，甚至能骗得了人类一时的判断，但AI自己并不知道自己在说什么，纯粹是在捕捉训练语料的语言结构而已。

除此之外，斯坦福大学的经济学家埃里克·布林约尔松还用调侃的语调来评述这件事：人工智能的智商，相当于狗听到留声机里的声音，就以为主人在里面。

从业内专家的说法来看，貌似这次的谷歌AI对话事件是虚惊一场，根本不存在什么AI觉醒自我人格的说法。

最重要的是，勒莫因的见解全都源于他主观思想的一面之词，缺少重要证据来实锤猜想，而且这样的推论必须要经过大量的后续测试并筛选对比，才可以真正得出最终结论。

也就是说，在谷歌看来这只是他们的产品距离预期目标更近一步了，完全在自己掌握中，但有智慧并不代表有人格，两者之间有着很大的差距。

人类等高级生命之所以有自主意识，是因为TA们清楚自己在想什么、做什么，会不断地思考、判断，会分析周遭一切的是非曲直。

而AI目前并不具备这样的意识，它们“认为”做一件事的理由是因为自己只能这样做，而不是觉得这样做是对的，简单来说就是—“我的程序只允许这样”。

还有就是，曾好些人尝试过用AI去编写一部动画电影的剧本，尽管剧本是写出来了，但是故事的逻辑发展却相当地荒诞可笑。

比如之前出名的《蝙蝠侠》AI剧本，有作者给AI看了1000多小时的蝙蝠侠相关影视作品，接着写出来的剧本却—

一开始，双面人和小丑突然出现在蝙蝠侠面前，结果老爷将“管家侠”阿福给扔向双面人，双面人将阿福当硬币一样抛上天，当阿福脸朝上落地时，双面人便恍然大悟意识到自己该离开这了……

这情节很OOC对吧，老爷怎么可能会把自己最信任的人给当作沙包一样扔向敌人，而且双面人也只是做选择时靠抛硬币来决定，并不是什么东西都可以当正反面看。

接着更扯淡的来了，老爷他小时候是有目睹父母身亡的，但故事里却写到他在四处找父母最后才发现真相，这又是一个人设漏洞。

接着后面老爷让阿福生下助手罗宾，这情节安排无论从生理还是从伦理角度看都是乱套的，AI根本没有真正搞清楚蝙蝠侠的性格和人际关系。

唯一值得圈点的地方，就是小丑的地狱笑话倒是很符合角色行为的设定。（因为小丑的心智本就不属于正常人范畴）

看得出来，AI在处理人类感情的能力依然是将近为零的水平，只知道客观事物运行上的逻辑，却忽略了人类主观心理上的逻辑。

至于AI绘画就更不用说了，粗略来说确实画得挺好的，但仔细查看后又会发现细节处存在很多瑕疵，尤其在绘制人像的时候，往往都会出现毛骨悚然的图像。

再进一步说，AI绘画在一般的商用插画范畴确实挺有市场的，但这些作品与真正的艺术创作是完全不沾边的。

因为说到底，目前的AI绘画都只是对人类输入语言的理解和诠释，而且整个绘制过程还是“黑箱操作”，不到成品出来人类艺术家都不可能知道成品的样子，那就遑论对作品思想的表达了。

不过你要说AI绘画能够作为艺术家创作的“辅助工具”那是可以的，在动笔之前先将理念输入AI并生成多张不同风格的画作，借它们来索取灵感，这显然要比任何其它取材方式都高效多了。

04.结语

人工智能诞生的意义，终究是为了服务人类，换句话说它就是一个会说话、会互动的工具。

既然是工具，人们在开发它的过程中只会给予它运算和掌握的能力，不会给予它思考的能力。

只要能一直按照这个路线走下去，也许科幻片预示的未来或许真就只是个幻想……吧？

因域名部分地区污染打不开，现更换新域名：zuiguodu.top

备忘节点zuisiji.top