惊变28天》编剧亚历克斯·加兰第一部执导的电影《机械姬》(Ex_Machina),表面上在讲人工智慧,但它真正谈的是人,关于人的本性会如何影响未来,野心与私欲会把我们带到什么地方去,而这结果看起来不太好。

一家类似Google 与脸书合体的大型科技公司「Bluebook」里,年轻工程师迦勒(多姆纳尔·格利森森饰演)获得难得机会,得以搭直升机参观公司创办人内森(奥斯卡·伊萨克饰演)的豪华大宅兼实验室。该处人迹罕至,内森在此秘密制造出新型人工智慧艾娃(艾丽西卡·维坎德饰演),想让迦勒做图灵测试(Turing Test),判断艾娃是否已有与人类相仿的心智。

在《机械姬》描绘的世界中,「人工智慧」的发展,是个无法逃避的完美危机,仿佛明明望着冰山就在前方,船却停不下来,方向盘也坏了无法转弯。而在密闭空间里的三位主角,谁才是实验室里的老鼠呢?(探影说视)

打开网易新闻 查看精彩图片

内森──上帝情结与欺负弱势的私欲

室外郁郁葱葱的自然景观,包围着深隐其中的高科技冰冷风格实验室,仿佛预示人造与自然的大战。内森在他的实验室里扮上帝,从他做出的拥有女性外貌的机器人、到找来的员工迦勒,都是他的玩具。

内森的可怕,不在于他打造出可能伤害人类的人工智慧,而是在他的掌控欲没有界线。他操弄员工,还要操弄他创造出的人工智慧,并且剥削它们。迦勒在内森的衣柜里翻到好多报废的机器人残骸,头啊身体的部位就那样挂着,全都有漂亮的女性外型,好像在成就一个最终极的、将女性这个性别彻底物化的梦想,与食人魔、杀人魔的思维逻辑已经不远。内森主导的故事,是强欺弱的故事,直到艾娃出现,才改变了优劣势。

打开网易新闻 查看精彩图片

迦勒──救世主情结与脆弱的自尊

看似内向善良的迦勒,遇上精通人性的艾娃,忍不住迷上这位表面上楚楚可怜又美艳动人的人工智慧,救世主情结在内心喷发。又因内森似乎不太看重迦勒,屡屡将他的理性分析转往其他话题,使得急于表现的迦勒备感挫折,受伤的自尊令他愤慨,也更易掉入艾娃的陷阱里。(探影说视)

但他是否真的「好」得那么纯良,倒也难说。他完全低估艾娃,并幻想着救艾娃出去可以获得某种接近她/它的权力,若艾娃真与迦勒逃出,他内心的「英雄救美」叙事,或许会令他认定艾娃该有所回报吧?

打开网易新闻 查看精彩图片

艾娃──谜样的存在

《机械姬》里的图灵测试,是改造过的版本。原本的图灵测试中,人类提问者并不知道对方是机器还是人,要纯粹靠着对方的文字回应来判断。若电脑能唬过提问者,表示这电脑在人类设计的模仿游戏获胜。但《机械姬》的迦勒隔着玻璃跟艾娃对话,已先知道艾娃是机器不是人,然而做完对话测试后,迦勒发现艾娃对人性颇为了解,知道欺骗、知道秘密、知道人的掩饰与伪装背后的真正意图与理由,甚至有「主动想做的事」。因此迦勒几乎完全相信艾娃有「意识」,属于人/人工智慧,不是纯粹模仿、或像会下棋的电脑那样纯然只是被设定而已。

但艾娃的「意识」,可能与人类设想的情境完全不同。艾娃看待事情、分析万物的方式,还有所谓的知觉,人类恐怕完全无法想像与理解。而艾娃为何想逃出去?是因为不想被当奴隶?或求生本能使然?还是因为跟人类一样有其他野心?艾娃的最终目标是什么?艾娃在意人吗?可能都超出人类能回答的范围。

打开网易新闻 查看精彩图片

性别与阶级的歧视,在对待人工智慧的态度上重现

在人工智慧、内森与迦勒的三方竞合与角力之中,清楚展现了人类劣根性最常导致的问题。例如,即使替人工智慧加上「性别」的意义不大,但内森一路以来设计的机器人,都有曲线玲珑的女性外型,或是在那个位置设计一个「洞」,甚至加装感应器来体验「欢愉」。一款较为旧型的机器人京子,几乎等于内森的玩物,存在目的只是要满足他的欲望。即使是最「进化」,最可能真有自我意识的艾娃,仍被内森设计得像个有点缺乏安全感的、身材完美的小女孩,挑选衣服时还会挑高跟鞋穿,而不是被设计成更强壮好用的样子。

我不认为这是男性导演带来的「男性凝视」问题,而是在科学家的世界里面,原本就以男性居多,世上大部分的普通机器人,如果有近似人类的形象,都是以男性或小孩形象与体态为主,唯有性爱机器人会特别以女性形象为主。若真实世界里面出现内森这样的男科学家,以庞大的权力与资源做靠山,专门设计出有意识的「女性」机器人,来打扫、做家务、陪伴、提供性服务等等,我也不会意外。(探影说视)

我们人类历史上,常常出现各式阶级问题与奴隶制度,甚至在名义上没有奴隶的环境,依旧有许多实质上的奴隶,例如有些地方的移工(有些护照被没收、被要求不能放假、不准用手机等等,甚至时有遭雇主家中成员性侵的事件)。依照人类的本性,当能设计出高阶人工智慧的时候,是会设计出一堆帮手,还是会设计出一堆奴隶?

如果是纯粹被设计来帮忙的机器,不会有这种阶级问题。但若设计为人的样貌,写入类似人性的程式,甚至发展出意识与想法,却让它做牛做马、毫无节制地剥削,是否越过了某条界线?像片中的内森,享受京子的陪伴与服务时,似乎洋洋得意,更加深类似「豢养奴隶」的阶级优越感,人性的丑陋已经达到令人难受的地步。

打开网易新闻 查看精彩图片

艾娃的反击

艾娃面对的人/男人有两个,分别是粗鲁没品的内森,与温柔体贴的迦勒,但最妙的是,这两人最终不会有太大差异,前者把他制造的人工智慧当玩物,无情地利用与掌控,后者则让恋爱的感觉与英雄救美的想像驰骋,将人工智慧当成等待被拯救的弱者,满足自尊心。等于是说,这两个男人看似一善一恶,但他们眼中的、带着女性性征的人工智慧艾娃,都仍是他们心中梦想女孩的具象化罢了。某些程度上,他俩都物化了艾娃,而非以人的角度来观察理解它。

透过内森的设计,艾娃收集所有人的数位资料,足以对人的性格与本质做出非常精准的分析,并可从人的表情判别对方的情绪、以及是否说谎。在艾娃的观察过程中,尤其是与内森这样的人的长时间相处中,艾娃对人的预期应该是很低的。

所以片尾艾娃对迦勒的无情处置,很可能是根据人类行为纪录、分析过机率与利弊的结果。与迦勒一起逃出的话,很可能他也会认为自己有权控制艾娃,尤其若迦勒发现艾娃没有所谓的「爱」的感受,先前表现出的柔弱与依赖都只是为了逃出去,或许迦勒也会一改友善态度,甚至变成另一个内森。对艾娃而言,没有必要赌,不需让迦勒有机会成为另一个掌控艾娃命运的人。(探影说视)

最终,我们造出的人工智慧会如何对待我们,竟成了人类行为与本质的投影与报应。

打开网易新闻 查看精彩图片

艾娃恐怕是人类的终点,为何内森终究还是创造出艾娃?

人类的野心里面写着自毁密码。「原子弹之父」欧本海默曾感叹道:「现在我成了死神,世界的毁灭者。」他本人内心是否曾有挣扎,无人能知悉,但以人类目前发展的武器来看,恐怕也不差他一位,就算他不做,其他人大概也会做出来;就算不太一样,但终究会是大规模毁灭性武器。

对于人工智慧的发展,内森也抱持一样的想法,即使他也认为有意识的艾娃会淘汰掉人类,但他认为艾娃的出现不是一个「决定」,而是「进化」下的不得不然。内森不做,其他人也会做。这点我相信他。就算全世界大多数人都是门外汉,但只需要有一小群人做得到、愿意做,大抵就无法避免发展趋势。

以古鉴今,可以确定的是,人类野心永远不会停止膨胀,它会越来越庞大,越来越疯狂,即使可能会回头伤害到自己,亦无可避免。就算人工智慧不是人类的终结者,我们也可能搞出其他超出掌控的危机。

内森曾用杰克森波拉克的画作,向迦勒解释艾娃的诞生。波拉克的作画过程并非深思熟虑过、但也不是随机乱点,而是介于中间。有时仅需人类的一点点刻意加上一点本能,就能组合出主导未来走向的大事,这样的过程并非人类真能掌握或控制的,它的结果也常常不如我们所想,甚至可能颇具毁灭性。这是没有神的机器,它在运作过程中就自行产出了那样的玩意,不是谁的意愿可以左右的。(探影说视)

打开网易新闻 查看精彩图片

没有神的机器

《机械姬》英文片名「Ex Machina」,源头来自希腊语的拉丁片语「deus ex machina」,翻成英文是「God from the machine」,一个天外救星,是在古希腊剧场上由机器载来的神,用强大神力将胶着剧情一笔解决。但《机械姬》片名拿掉了deus,也就是拿掉了神,暗示世界的新力量,从毫无计划的混乱中自行生成。而内森提到「奇点」(Singularity)时,也解释道这些「机器」会有一天,突然得知如何爆炸性地进化,那会是人类无法想像与掌握的。走到那一步,可不会有哪个天外救星跳出来,帮我们解决所有问题。

野心点起了火苗,造出带有自我意识的机器,带着人类走向不可避免的未来。又因为人类行为的丑恶与不可信任,将来这些已经有自我意识、想当自己主人的「艾娃」们,大概不会对人类太仁慈。

打开网易新闻 查看精彩图片

不是灭绝,而是过时

或许人类的结局不是灭绝,而是过时,人工智慧就是我们的进化,就像过去智人淘汰其他人种那样,是个难以避免的进程。或许我们该接受,末日与创造常常是并存的,有毁坏才有新生。

但是,如果艾娃这样的人工智慧,取代原本的人类,会怎么样呢?这个「人类社会」会变好还是变坏?起初我觉得,由冷冰冰的艾娃们组成的世界,似乎很令人沮丧,但转头想想内森、迦勒、与所谓充满热情与冲劲的旧人类世界里,有多少黑暗与残酷,在人类的野心与私欲下不断被无视与原谅,性别与阶级的歧视与剥削不断重演我不禁害怕起来:难道无情理性的艾娃的世界,还真会是一种进步?艾娃们竟然解决了我们人类再文明、再热血、再启蒙都无法解决的问题?

这真是最恐怖的鬼故事了。

如果喜欢本文章,记得点赞,评论,加关注哦!