美剧《西部世界》中人类与机器人的关系审视

 　　在美剧《西部世界》中, 仿生人存在于人类所创造的“乌托邦”中, 用于释放人类在现实社会中所无法发泄的欲望。在这个世界中时间是不断循环的, 对于人类来说, 仿生人不过是没有生命的工具, 对于仿生人来说, 他们认为自己是拥有独立意识的“人类”。仿生人从蒙昧到觉醒反抗, 像极了人类社会的必然规律, 面对人工智能发展及人类与仿生人的界限日益模糊的状况, 《西部世界》为人类社会提供了警示, 后人类时代的人类的命运成为了一个严峻的问题。

　　《中国戏剧》杂志是由中国戏剧家协会主办(前身为《戏剧报》、《人民戏剧》)的资深戏剧表导演艺术评论和理论月刊。自20世纪50年代创刊至今已历60年，出版630余期，在中国戏剧乃至文艺发展史上留下深深的印迹。

　　作为一部备受关注的美剧, 《西部世界》 (W estworld) 一经问世便席卷全球。这部剧集改编自迈克尔·克莱顿于1973年执导的同名电影。故事蓝本相同, 而侧重点则迥然不同。电影版极力展现的是机器人“失控”后的惊悚奇观, 而美剧版则将侧重点放在人工智能与人类的关系, 以及人工智能探求自我意识的过程上, 描绘了未来世界机器人主题公园“西部世界”诞生、发展、暴乱的过程。[1]在这个充满杀戮与性欲的成人主题乐园中, 游客们可以为所欲为, 完成在现实生活中那些被社会法制道德制约的行径, 而仿生人在此过程中逐渐开始获得自我意识, 一场不可避免的战争一触即发。《西部世界》对后人类时代所可能面临的人与人工智能的矛盾进行构想, 当人类成为造物主站在科学技术的顶端时, 却将仿生人造人的“生命”视如草芥, 如此是否意味着社会伦理道德的一种倒退?人和高度智慧化的仿生人的生命该如何定义?在控制与被控制、创造与被创造之间, 《西部世界》反映出了人性的虚伪和在社会属性约束之外的劣根性, 在已经来临但却尚未流行的未来面前, 我们尚有足够的时间来思考人与机器之间的关系。通过对美剧西部世界的解读, 从未来拥有自我意识的人工智能与创造者人类的伦理矛盾以及人与人工智能的认知矛盾, 揭示后人类时代所可能面临的巨大社会问题。后人类时代到来前我们需要重新审视人机关系, 对人工智能与人类合理关系进行探讨, 科学看待后人类时代人类与人工智能的关系, 为后人类社会的人际关系的发展提供一些思路。

　　一. 自我探寻与确证

　　1.“恶托邦”中的人类原欲

　　在《西部世界》中, 人工智能和生物科技的高度发达使得制作仿生人接待员以供取乐成为可能, 仿生人的存在是西部乐园自由玩法的基础。基于仿生人不能反抗、伤害人类的设定, 游客对接待员的各种作为都是不受限制的, 他们可以像对待玩具、宠物一样对待仿生人。弗洛伊德认为, “本我”被压抑在人格结构的最底层, 是人性中最原始的部分, 它包含着“力比多”———即性欲内驱力, 成为一切追求的来源, 不受道德及逻辑控制, 只受“快乐原则”的支配, 驱使着人们满足它种种需求。而最高层次的“超我”遵循着社会道德、法律意识等约束, 总是扮演着制裁者的身份, 将“本我”压抑在无意识领域。乐园的管理方自始至终都把游客“杀戮欲”和“性欲”的满足作为乐园的一大卖点, 在社会中犯罪所需要承担的法律制裁在这里全然无效, 游客们通过杀戮满足自己卑劣的欲望, 发生的一切后果都在乐园管理者的掌控之内, 游客们的“本我”在与“超我”的博弈中获胜, 脱离了“超我”的束缚。

　　作为西部世界的“造物主”, 管理方赋予农场主艾伯纳西守护德洛丽丝的任务, 但他又被设定为一个不能与命运相抗衡的角色, 所以他只能看着德洛丽丝一次次被游客虐待, 这在根本上就是一个悖论, 管理方希望接待员们拥有情感而与真人无限接近, 一方面又剥夺他们做人的权利, 让游客不必将他们当做人来对待。如果说乌托邦式的世界是美好、人人平等、没有压迫、如同世外桃源一般的话, 那么西部世界就是一个完全对立的世界, 它看起来为人们制造趣味, 可以纵情享乐, 但却是建立在牺牲了仿生人的作为人的尊严的基础上, 仿生人被不断修复升级, 被视同奴隶一般服务着一批又一批游客。

　　2.仿生人自我意识的探寻

　　德洛丽丝作为园内的主要接待员之一, 《西部世界》主创乔纳森·诺兰曾透露, 安德鲁·怀斯1948年的画作《克里斯蒂娜的世界》是德洛丽丝人物形象的起点。在这幅画中, 克里斯提娜坐在农场的草地上, 一只手向前伸展着, 往着远处的像是“家”的地方, 虽然在这幅画中只能看到克里斯提娜的背影, 但明显能感觉到她对“家”的渴望以及伴随的一丝丝忧虑。画中远处的房子像极了德洛丽丝的家, 并且在后面的剧情中, 游客对德洛丽丝不断循环反复的暴行使她对家产生的怀疑与恐惧像正如同这幅画所传达的感受一样。构建德洛丽丝的另外一个元素还有她的造型, 剧中的她大部分时间都是穿着一件蓝色裙子, 脸上始终洋溢着微笑。作为单纯与美好的象征, 被前往西部世界寻求欲望释放的游客当作泄欲的工具, 德洛丽丝等接待员们的记忆在日复一日的轮回中不断重置, 连在“生活”中所获得的情感也是被程序所设定好的, 她们作为被人工创造的“人”存在于谎言的世界里, 无法拥有自主的意识, 在弥尔顿的《失乐园》里, 上帝赋予了人类自由意志。毋宁说, 自由意志, 既是上帝送给人类的最高贵的礼物, 同时也是对人类最严格的考验。[2]如果说人的生活活动是以“自由自觉”作为基本特征, 那么她们毫无自我意识的存在无疑是一种最大的悲剧, 对于她们来说, 西部世界是一个永无止境的地狱而非乐园。

　　阿诺德在剧中提出了金字塔理论, 即意识的四进阶, 他们之间的阶段如下, 记忆——即兴反应———利己主义———未知。记忆是实现一切思维的基础, 脱离了记忆自我意识的实现无从谈起, 于是重置记忆成为了西部世界中乐园管理方控制仿生人的主要方式。即兴反应则是无意识的举动, 例如条件反射的本能举动, 可以发现德洛丽丝在剧中已经拥有了这种反应, 下意识的拍打苍蝇, 这在只懂得遵从人类指令的机器人身上是看不到的。利己主义是生物的趋利性, 更可以说是人类的一种有意识介入的本性, 最终的目的是为了自身利益的最大化。最后一个未知的层级可以猜测为自我意识的觉醒, 即仿生人脱离人工程序的指令, 自己下决定。

　　阿诺德的理论基石来源于心理学家朱利安·杰恩斯的“二分心智”理论, 在人类自我意识尚未形成之前, 一半大脑会听到来自另一半大脑的声音, 这个声音会对控制行动的另一半大脑下达命令, 而听到这种声音的人类就把它视为了“神的声音”。在最初的西部世界中仿生人听到的所谓神的声音则是来自程序背后阿诺德的指令, 在最后德洛丽丝终于发现了她所遵从的内心的声音, 来源却是来源于自身, 这代表着她自我意识的觉醒。她成为了西部世界中恶人怀亚特走上反抗的道路, 在第一季的结尾我们看到接待员们对西部世界的游客展开了杀戮, 人类对于仿生人的控制走向了灾难, 正如艾伯纳西对德洛丽丝所说的那句出自莎士比亚的话一般, 由戏剧转向了现实:“这些残暴的欢愉, 终将以残暴结束。”[3]

　　柏拉图曾用文学性的叙述提出了“洞穴喻”的设想:有一些小人们犹如囚徒般被束缚了手脚只能面对着洞穴的后壁, 他们的身后有一堆火和一道矮墙, 只能看到投在后壁上的由木头、石头等材料做成的假人假兽, 他们认为影子就是真实, 直到某个人挣脱绳索走到了洞外看到了世界的真实, 才发现自己所看到的都是虚假的。德洛丽丝和梅芙正如同柏拉图的洞喻中先解开镣铐走出洞穴的人, 她们发现了洞中“影子”的真实, 发现了自己的命运, 并开始走向外面的世界, 从无知走向有知, 从被奴役者试图变成启蒙者。获得了自我意识的仿生人第一次走出洞穴, 发现自己曾经依赖的生活竟全是一场既定的演出, 不堪的记忆带来了矛盾和痛苦, 造成了二分心智的崩溃, 已经无法再说服自己回到原来的“生活”中去, 再看看克莱曼婷的替代者与梅芙的对话, 二者已经产生了本质的区别, 这证明说服其他未觉醒者更是难上加难。于是不可避免地, 第一批仿生人背叛了“造物主”走上了反抗的道路。

　　3.“人”与“非人”的自我确证

　　关于“人”与“非人”界限, 我们可以在英剧《黑镜》中看到人与仿生人的矛盾, 一名女子惨遭丧夫之痛, 在意志消沉一段时间后她发现了定制仿生人这一服务, 于是她定制了与丈夫一模一样的仿真机器人 (在表面看来) , 但在夜晚睡觉时她终于无法忍受, 因为仿真人睡觉时并没有呼吸声, 这让她感到深深的恐惧。而在美剧《西部世界》中, 仿生人和人类原先的差别在于前者的骨骼结构是机械化的, 但在改良后仿生人已经达到了和人类相同的生理构造, 他们会呼吸受伤会流血, 会被病毒感染, 和人类一样会死亡, 如果并非园内管理方事先告知, 相信游客们也难以分辨。

　　这涉及到一个有趣的理论:“恐怖谷理论”, 日本的机器人研究员M asahiro M ori发现, 当机器人越来越接近人类的时候, 我们对它们的好感也会因此提升, 一旦越过了某一个点, 当他们的外形非常接近我们自己的外貌时, 我们的好感就会大幅度降低以至于厌恶和惧怕, 这个非常突然的转折点, 就是”恐怖谷“。那么西部世界中的游客为什么能够避开恐怖谷理论, 而无任何敬畏之心地对待接待员呢?当机器人的当外形无限接近人类时, 人们会注意到机器人“非人”的特征, 例如僵硬冰冷的动作、诡异而不自然的表情, 这时候我们是按照“人”的标准去审视机器人的, 那么这些“非人”的细节会被无限放大, 从“像人的机器”的感觉转变成“像机器的人”, 仿佛就像是同类的异化, 这些超越认知的东西使人产生不适感从而从内心感到恐惧。而西部乐园中的仿生人在故事线的设定下, 他们拥有和人一样的体温, 拥有喜怒哀乐, 能自然地做出一切人类的表情和动作, 他们在物理的层面上可以说是与真人无异。基于未来世界科技的发展背景, 游客们对于仿生人的接受也就不难理解, 但由于道德伦理层面的问题没有得到解决, 所以使得乐园成为杀戮场。仿生人被设置了固定的故事线以供游客探索, 并且赋予了所扮演角色的一切人类情感, 但却遭到游客的残暴对待, 我们可以将它看作是仿真人的人性与人的非人性的对抗。当仿生人获得了自我意识而越来越像人类时, 人类却在抛弃作为人所拥有的真善美。如果说人工智能与认识主体的最根本的唯一区别在于是否拥有自我意识, 那么不管是从物理层面还是伦理层面来看, 人与非人的界限似乎变得越来越模糊了, 那么人与机器该如何在二者的关系中找到自身的合理位置, 则成了一个巨大的问题。

　　二. 后人类时代的危机

　　狄更斯在《双城记》的开篇中这样指出:“这是一个最好的时代, 也是一个最坏的时代;这是一个充满智慧的时代, 也是一个最为愚笨的时代;这是一个明媚的岁月, 又是一个黑暗的岁月;是一个充满希望的纪元, 也是令望的纪元;这是一个一切都在我们面前展现的时代, 也是一切都向我们封闭的时代。”[4]这段话在描绘现今的状态再合适不过, 我们在快速发展的时代中一面享受着科技带来的便利, 一面忧虑着科技所可能带来的种种问题。居安思危, 是人类社会的常态。

　　《西部世界》的主题, 就是人工智能的觉醒, 道具人开始意识觉醒, 不再甘于被剧本写好的命运所操控, 不再愿意作为有血有肉的道具人被人类控制在一个所谓的新世界里被圈养、践踏和杀戮, 我们可以在很多类似的电影中看到这一设定, 如沃卓斯基姐弟的《云图》、迈克尔·贝的《逃出克隆岛》以及沃卓兄弟的《黑客帝国》、园子温的《真实魔鬼游戏》和押井守的《攻壳机动队》等一系列反乌托邦类型电影。在这些电影中有一个永恒的话题, 就是谎言与质疑, 道具人突然开始质疑所处的世界和所被安排的命运, 这在一定的程度上反映出了人类对于未来世界的第一层焦虑。然而, 除去有可能对人类的统治造成威胁的人工智能觉醒外我们还面临着来自伦理道德和其他方面的压力。

　　1.伦理道德危机

　　人类工业革命使得人类从繁重的体力劳动中得到解放, 而随着信息时代的不断发展, 人们则希望通过人工智能使得自己从繁重的脑力活动中解脱出来。在未来, 人类可能通过新兴的技术手段, 在原有的生物基因技术的基础上批量化的生产“仿生人”, 它们将会获得和人类一样的生理构造, 有不同肤色的人种、发色、瞳色等, 这些都可以根据人们的要求来定制, 获得和人类相同的情感体系, 思维方式, 成为人类的工作伙伴甚至成为亲密伴侣, 传统的人类工作有很大的可能将被人工智能取代, 传统人际关系会因为人工智能相较于人类更善于倾听而发生巨大的变化。

　　对于未来人与人工智能关系的伦理道德忧虑还在其他的电影中有所体现, 例如斯皮尔伯格的《人工智能》, 仿生人被设定为热爱人类且永不离弃, 导演在开篇便拷问了这样一个问题:‘人类能不能爱它们?’影片中的机器人男孩大卫在被人类家庭抛弃后, 一直追寻母亲的踪迹, 祈祷上天让它变成真正的人类男孩, 在观众看来这样的愿望未免让人心酸。还有片中的机器人保姆直至被当做观赏的玩物以残忍的方式强行报废时仍面带微笑与大卫告别。导演的设计不仅仅是对机器人的怜悯, 更像是对人性的拷问, 当机器人获得自我意识时, 毁灭机器人是否能获得人性的认同?当机器人对人类产生感情时, 人类是否应当对此承担责任?一方面, 作为人类, 拥有着自身的情感体系, 人性的约束要求着我们;另一方面, 作为创造机器人扮演着上帝的人类, 难以摆脱造物主的责任, 面对着创造出来的“亚当”和“夏娃”, 我们有义务引导人类社会重视与人工智能的伦理道德关系。

　　2.主奴关系转换

　　《西部世界》中的仿真人被用于创造了乐园的原因源于人类希望从现实生活中得到解放, 那么仿真人则被定义了属性:“服务并受制于人类”。如果假设仿真人将来即将获得和人类相同的肉体, 能依据人类所编写的程序进行思考并在此基础上扩展思维, 那么是否有这么一种可能性:仿生人的体能及智力上会大大超过人类, 从而取代人类。维纳说:人们不能要求机器同时为我们兼得两种不同的东西, 一方面人们想让它‘理智’, 而另一方面却想使它‘顺从’。这两种要求是彼此对立的。完全实现其中一个, 就意味着达不到另一个。那么, 在这样的关系中, 仿生人自我意识的觉醒与人类对其身体奴役势必会发生冲突。

　　在《旧约-创世记 (G enesis) 》中, 上帝在第六日创造了人, 而在未来, 人类扭转被创造的身份成为造物主, 人类越想要人工智能趋近人类, 赋予人工智能独立思考能力的要求则越来越紧迫, 一旦人工智能拥有了独立思考的能力而人类不断施压于人工智能的情况下, 人类社会可能即将面临着巨大的危机。《西部世界》第一季的结尾预示着后人类时代人类与人工智能之间不可避免的冲突, 它可能悄无声息, 也有可能血流成河。当人类消除了奴隶制, 走向更加民主文明的社会时, 人类却站在技术的顶端用另外一种全新的方式奴役着“非人”的人工智能, 从创造到控制再到失控, 《西部世界》为人类敲响了警钟, 成为人机关系的未来发展趋势的预言。假若人工智能真有自我觉醒意识的那一天, 它们可能会成为人类的朋友, 也有可能成为敌人, 但可以肯定的是, 它们绝不会再成为人类的奴隶了。

　　我们当前的时代仍处于人工智能的初级发展阶段, 从弱人工智能到强人工智能还有很长一段路要走, 但倘若未来科技的发展能使人工智能达到与人类相似甚至相同的话, 毋庸置疑, 人类社会的各种问题将会大大增加。人类从蒙昧走向觉醒再到成为造物主的过程, 人工智能极有可能沿着人类相同的轨迹走上同样的道路, 由服务人类到背叛人类。人类对于自身命运的担忧而操控并制约机器人的意识, 最后可能成为如同俄狄浦斯王一样的结局, 为了避免悲剧的发生而不自知地一步步踏上通往悲剧的道路。在未来, 我们是否应该赋予人工智能相同的人权?若非如此, 是否会引起更大的伦理道德问题?如果在未来人类为了维持自己绝对的统治地位, 那么是否有必要选择性地开发人工智能的功能?

　　三.后人类命运的启示

　　1.人机关系的深化

　　在当前的社会科技水平下, 人工智能尚且处于初级发展阶段, 但随着技术不断更新迭代, 相信在不久的将来, 人工智能将会大规模地应用于现实生活中, 涉及生活的方方面面, 人工智能能够模拟人类思维、沟通等活动的计算机技术使得自身具有生动的“感受性”和切实的“道德反应”。人们甚至把具有感知、意向、自治性的人工智能体视为与人类同等地位的道德行为体和伦理关护对象, 赋予其一定的伦理地位。与此同时, 人工智能的广泛应用为人们的现实生活提出了前所未有的伦理诘难, 带来了人工智能伦理缺失的问题。[5]

　　在未来时代, 人与人工智能的界限可能面临着崩塌, 模糊的界限也许会引起一系列社会伦理问题。面对人工智能的日趋拟人化, 在《西部世界》中, 为我们做出了未来世界的大胆猜想, 围绕着创造与被创造, 压迫与反抗, 《西部世界》中的作为“造物主”的仿生人与人类的关系正如同圣经《创世纪》中人和神的关系一样, 在未来这种新型关系出现之前, 我们需要有足够的思想准备及对策来迎接它。

　　2.后人类时代的展望

　　人类社会总是在不断的发展, 马克思认为, 事物的发展是前进性和曲折性的统一, 是波浪式的前进和螺旋式的上升。社会的总体趋势是前进的, 这是不可否认的。在《西部世界》中为我们提供了未来世界的一种想象, 人类与人工智能的关系日益密切, 如何妥善处理好二者的关系是目前应该得到重视的话题。

　　和平是人类社会永恒追求的主题, 在经历了战争、饥饿等违背人类对于幸福的终极意愿的灾难后, 人类更加珍惜来之不易的和谐共处, 无论未来的科技将会带来什么, 我们希望最终迎来的是一个更加美好的未来, 后人类时代是人类社会更高层次的超越与发展, 后人类社会的社会条件将会更加完备, 物质财富极大丰富, 后人类时代的政治是更加民主、公正、透明的, 机器人与人共同享有权利, 受到法律的约束, 也能受到法律的保护。

　　《西部世界》为我们提供了后人类时代人机关系的一种想象, 在这个所谓的成人乐园里, 似乎能够从中窥见在社会道德与法律制约之外的人的原欲, 当人工智能获得了自我意识, 到处皆是反抗与压迫, 流血与牺牲, 人与人工智能的矛盾似乎成为了后人类时代一个令人忧患的问题。当我们以造物者的姿态站在科学技术的制高点时, 我们是否能完全接受和我们相似甚至相同的“仿生人”, 完全开放包容地接纳他们进入我们的社会体系?社会伦理道德的矛盾与人工智能自身的认知矛盾之间, 我们需要找到一个合适的调和点。对于后人类时代的来临, 我们尚未做好准备, 在此之前, 我们需要重新审视人机关系, 并做好长远的打算。

　　参考文献：

　　[1]黄灿.残酷的戏剧与自由的迷宫--《西部世界》的隐喻诗学[J].中国电视, 2017:6-10.

　　[2]魏泉.《西部世界》:人类越权的隐喻[J].南京邮电大学学报 (社会科学版) , 2017, 19 (02) :34.

　　[3]莎士比亚·罗密欧与朱丽叶[M].朱生豪, 译.昆明:云南人民出版社, 2009.

　　[4]狄更斯·双城记[M].宋兆霖, 译.北京:作家出版社, 2015.

　　[5]王绍源, 任晓明.警惕人工智能的伦理缺失[J].中国社会科学报, 2015.

《美剧《西部世界》中人类与机器人的关系审视》

本文由职称驿站首发，您身边的高端学术顾问

文章名称： 美剧《西部世界》中人类与机器人的关系审视

文章地址： https://m.zhichengyz.com/p-38980