另外,Nathan电脑里有个文件夹就叫《Deus Ex Machina》,这是片中唯一出现片名的地方。
2. 原子弹之父奥本海默
老板Nathan被灌醉晕倒之前,他说了一段来自《薄珈梵歌》的乐句:“在战场上,在森林里,在断崖边,在......浩翰的黑海里(忘词了),在睡梦中,在困惑中,在羞愧的深渊里,以前行善积德让他逢凶化吉。”(In battle, in the forest, on the precipice of the mountain, on the...great dark sea, in sleep, in confusion, in the depths of shame, the good deeds a man has done before defend him.)这段话曾由原子弹之父奥本海默翻译,就在第一次原子弹爆炸实验之前。
奥本海默在原子弹试验成功后,又引用了梵歌里的“我成为了死亡本身,无尽世界的毁灭者。”(I am become death, the destroyer of worlds)这句话在片中也有提及,表达对机械姬的影响的担忧。
码农Caleb在片中的手机铃声是英国OMD乐队(全称Orchestral Manoeuvres in the Dark)1980年的歌曲《Enola Gay》,这是一首反战歌曲,因为名字Enola Gay正是二战时在广岛投小男孩原子弹的飞机名。
3. 埃氏筛法
码农Caleb坐在老板Nathan电脑前试图破解安保系统时,用python编写的程序实际是埃拉托色尼选筛法(Sieve of Eratosthenes),是古希腊数学家提出的在一定范围内筛选质数的方法。最后返回的结果是ISBN=9780199226559,对应的书为《Embodiment and the Inner Life: Cognition and Consciousness in the Space of Possible Minds》,伦敦大学帝国理工学院认知机器人方面教授Murray Shanahan于2010年所著,写的是AI发展史。这位教授相信不久的未来人工智能可以发展到人类智力的程度,导演兼编剧Alex Garland也认为这是很可能实现的:“如果谷歌或者苹果突然某天宣布他们发明了像机械姬Ava一样的机器人,我也不会太吃惊。”
Nathan房间里有一副女性画像,是奥地利画家Gustav Klimt作品。画中女性是路德维希·维特根斯坦的姐姐。维特根斯坦是20世纪最著名的哲学家之一,曾提出人的思维并非发生在大脑中,思维是一种符号操作活动,人工智能无法像人类一样思考。维特根斯坦著有《蓝皮书》(The Blue Book),Nathan开的搜索引擎公司也叫Blue Book。
7. 星际迷航
片中Nathan对Caleb提到《星际迷航》和Kirk船长。其实二者之间也有一些关联:是因为星际迷航电视剧第三季第19集《Requiem for Methuselah》(1969)中,某星球上有一位来自地球的长寿天才发明家,创造了一个女机器人Rayna,并利用Kirk船长帮助女机器人培养出人类的情感,Kirk在不知情的情况下爱上了Rayna,Rayna培养出的感情使她最终程序崩溃,Spock还试图帮助Kirk走出阴影忘掉Rayna。
n人类的预测与不可预测之间nn多伦多地区的《Ex Machina》从只有三家影院放映到现在的四家,虽然没有搞清楚,未能同时全线上映的原因,但是昨天在第一天上映的第四家影院看完,首日几乎座无虚席,先抛开是不是复联2买不到票而被挤来的可能。电影结束之后,感觉整个电影院里的观众都不好了,中间一度惊叹声,唏嘘声,相信很多人,至少我是,一直在极力的控制自己的条件反射。此外的大部分时间,影院里一片寂静,或者说死寂。nn感觉大部分的人都被震惊了,无论是初期被人工智能的曼妙身姿吸引,还是中间被恐怖的支离破碎吓到,随着影片最后一个画面的淡出后,很多人仍停留在位子上,相互讨论或争执着什么。观众们被导演和编剧一步一步带领,逐渐到达一个one way in,no way out 的境地,请允许我借用这句后面会上映的一部战争片的宣传旁白。人类与未来的人工智能间的博弈,也许等同于战争,并且,也许将是无休止的心理战。nn创造与否,能否共生,都将是永恒的问题。nn电影开篇,简单的交代了男主角Caleb,赢得了公司的神秘大奖,作为奖励被直升机送到一个极美的自然环境里,沿着小溪来到一个小木屋前。观众就跟随这个角色的视角,来到这个陌生的环境。从门禁的自动语音和门卡生成,已经可以对这个外观看起来普通的小木屋,其中的现代化设施窥见一斑。而来到室内,伴着高雅的音乐,简约的室内设计,艺术品的装饰,室内的自然材质与室外的自然环境,结合的恰到好处。nn这里的房间走廊,是冰冷的人造水泥和玻璃的棱角构造。n这里的室内灯光,是微弱的淡黄色之间,点缀着红色的通道和幽蓝的门禁提示灯。nn一丝舒缓中,带有警醒。这是人为特意营造的气氛,就像老板Nathan第一件与Caleb说明的事,这里是一个研究所。而很快Caleb就被告知,这里已经诞生了第一个人类创造的人工智能Ava,而他的工作是进行人类历史性的一次图灵测试。nnn(以下内容涉及剧情,这里暂不解读人类为什么要探求人工智能的终极,以及技术上能否实现的理论,相信豆瓣和知乎上会有更大神级别的解析。)nnn电影本身被间歇的黑屏分为七个部分,分别是对Ava进行测试的7个Session。nn电影中的老板Nathan,拥有全球接近90%份额的搜索引擎公司,13岁开始研究自己的人工智能项目,至今他已经解决了动力,大脑,皮肤,等等一系列相关的技术问题,他现在探寻的,是一个完美的人工智能作品。他在等待那一天,一个人工智能顺利的通过一切测试,以及不再需要测试的那一天。nn就像《Interstellar》里面的那首诗,告诉我们如何面对“那一天”一样,这里的Nathan,每天规律的训练,时常肆意的喝酒,冷静的坐在监视器前纪录着。一切的一切,他的内心是激烈的碰撞,外表是超然的不屑,他在默默的等着那一天,尽自己的一切准备和手段。像他的玩笑话一样,他在扮演上帝的角色,他设计了一切,计算了一切,他以为他也掌控一切。很多人对实验最后的失控,归结为他的高傲自负,没有留一手电源切断或者安全系统控制之类的设定。nn其实个人在看片的过程中,一直在猜测Nathan其实是在焦虑的等待,等待面对自己亲手创造的作品,给他带来恐惧的那一刻。然后会欣然的看到他的作品,刺向自己。不过剧情也只是表现了他的吃惊和最后的叹息,他对自己的死没有心理准备,他最终还是对人工智能的完美程度和进化速度低估了。nn在这间研究所里,人工智能Ava是被测试的对象,而每一个接触人工智能,参与测试的人,也都自动变成了被测试的对象。Caleb就是被Nathan选中的小白鼠,无论是家庭背景还是个人条件,Caleb是一个被“随机”选中的最佳人选。nn影片中从 Ava Session 2 开始,仅存的三个角色之间,就开始了微妙的关系变化。而引发这一连锁反应的,是由Ava主导的暂时性电力故障。这让Nathan主导的测试,加入了Ava的变数,而Caleb则变成了一个,在两边被人拉来扯去的棋子。nn在整个测试的过程中,Ava始终在几个固定的起居室里游走,而测试Ava的人,要进入一个内嵌在Ava房间里的玻璃房子中。某种程度上,那个走进玻璃间的人,更像是在接受Ava的测试,只为了从她身上获得研究结果。而对于Ava,这样的房子套房子的牢笼,不断的接受测试,以及对测试结果的未知。一切在她身上,在她的意识里所起到的影响,影片从每一次她与Caleb进行的测试对话中,都可以越来越深刻的体会她的意识,她的情感,她的智慧,甚至她的手段在不断的显露。不由得令人想起当年的《Cube》,以Ava的立场来讲,她最终的目标是要利用一切,走出这个房子。nn很快这个房子中的三个人之间,就充满了猜疑,隐瞒,谎言与利用。人与人之间,人与人工智能之间,甚至最后智能与智能之间,他们交流,他们预谋,达成一致。在这里的每一个生命都是孤独的个体,他们都有各自的恐惧与目的,而一直以来,总有两个问题悬在空中:nnHow to Pass the Test?What's the Final Test?nn在倒数第2次测试的时候,Ava模仿人类,对Caleb进行测试,一共问了他五个问题:n前两个问题,Caleb很快给出的确切答案,但在Ava的判断下都是谎言。而Caleb仔细思考过后,发现无法得出答案,却在Ava的判断下是更好的答案。这里也许是影射了人类经常被自己的大脑和记忆欺骗,而人工智能可以分辨出答案的确切程度。不过反之,如果人工智能说谎时,人类是无法甄别的。nn而后面Ava开始进入她真正要问的问题:nn第三个问题:你是一个好人么?n第四个问题:如果我没有通过你的测试,我会怎么样?n 结果会不会很坏?为什么结果要取决于他人?n 你也会被人测试,然后,面临我这样的境地吗?为什么我会?n (Power cut 电力故障 )n第五个问题:我想跟你在一起。你想跟我在一起吗?nn这里道德问题被Ava引入,她用来考量Caleb,人类的道德观是可以被拿来利用的,是千万条搜索信息中的一条而已。在这样的步步紧逼下,Ava有着自己的策略。最后一天,在7个Session都结束之后,Caleb被Nathan告知,Ava早已知道她可以用任何方式,尝试逃出去,而如何利用Caleb才是她被的测试内容。几乎每一次的测试过程,Ava都会制造停电的故障,只为了一点一点动摇Caleb的立场,Ava从未真正对他产生感情,只是在被测试的同时,用每一句话,每一个动作,每一个眼神,让Caleb喜欢上自己,让他的意识倾向于解救自己。nn而Nathan在背后看着一切,故意装作不知道,故意放水让Caleb以为自己查到一切真相,Nathan一直以来的酗酒都是做戏,当然也顺便放纵一下自己。可惜他少算了一步,他低估了这个他千挑万选出来的“被测试者”Caleb。当Caleb对身边的一切都产生怀疑后,他是接近崩溃的,片中他的思绪混乱和自残是让所有人都震惊的,但是也让所有人在那一瞬间,迅速的反思,他角色的真实性,难道他才是那个被测试的人工智能。nn当Caleb假设,Nathan看了所有故障期间,他与Ava之间的对话,他提前预设了系统,拿到了主动权,让看似最后一次Session 7才与Ava预谋的逃跑计划,其实早就预设好了。nn而影片中的女仆Kyoko不懂英文,无法用语言和人类沟通,但不代表她不会沟通,或者不想沟通。他是服侍Nathan的低级智能佣人,当她看到了被Caleb展示的无数自己的同类,她也给Caleb看了自己的内里。深夜她透过监视器看到了一切,也许是Caleb的自残,也许是更多过去的测试,她似乎看到了自己的未来。于是她去见了Ava,最后在走廊中与Ava沟通,通过的是语言,是一种我们不知道的耳语。在Ava充当的诱饵下,她拿着寿司刀,从背后插进了Nathan的身上,那么轻柔,那么镇定。nn而杀掉Nathan之后,Ava将Caleb留在研究所里是个必然,与其说是仁慈,不如说是冷静的判断,他无法从系统故障的房间中出来,不然相信Ava一定也会杀了他灭口。nn完美的人工智能,在日本少年科学漫画家浦泽直树的《冥王》中也有所讨论,完美的人工智能,就像图灵当年说的那样,他们会失误,因为他们不够完美,才是真正完美的人工智能。在漫画《冥王》中,真正的人工智能觉醒,例如阿童木醒来后,写下的是毁灭人类的原子武器公式。也许经过人工智能的计算,得出的结论都是杀死人类,才是对自己和对地球最好的选择。而在这里,Ava对生存的判断,就是抹杀人类,抹杀所有控制她,测试她的人类。nn人工智能的终极,生存与毁灭并存,毁灭即获新生。nnCaleb曾对Nathan说:“如果你创造了一个有意识的机器,那将不再是人类的历史,而是上帝的历史。“ “If you've created a conscious machine, it's not the history of man. It's the history of gods.” nn影片中Nathan与Caleb两人住在一个冰川的源头,据说是挪威取景,而他们住在这样的生命源头,景色像极了《普罗米修斯》的开篇,那个在瀑布边喝了毒药自尽的外星生命,他的残骸与基因坠入瀑布下的河流,情景像极了本片的外景地。而在这部电影中,自然的源头,走出的是第一个人工智能生命体。nn她被人类创造,成为一个独立的新生命体,她不必像任何人,她与生具来和人类的思考模式不同,她靠信息和能源生存,她的强大是人类不可比拟。凶悍强壮的Nathan在两刀下毙命,再聪明富有也无济于事。而Ava虽然被他打掉了一支手臂,回到Nathan的房间,看着六个大衣柜里,历代先于自己的原型机,她是惊喜的。影片中,第一次由Caleb无意中打开时,所有人的反应跟Caleb是一样的,是恐惧,是惊讶,是内心里难以接受的疼痛。而当Ava看到这一个一个残缺的躯体,她的脸上是欣喜,她看到的是她想要拥有的身体,头发,衣服,一切在她眼里,一个完美的自己应该拥有的一切。所以她开始更换自己的断臂,撕下她们的皮肤,拿下她们的衣服和假发给自己穿戴,过程何其舒缓与优美。nn她在一穿一戴间蜕变,走出Nathan房间的时候,她俨然已经成为墙壁上那幅名画中,穿着白裙的夫人一样的,生动的女性。当她走到自然环境中,她是会心的笑,这一刻,一切在她脑海里的信息,瞬间从代码变成了真实的影像与触碰,她径直的走向来接Caleb的直升机。最终来到了城市里,站在川流不息的十字路口,在这里她将开始下一步的进化,与人之间的对视,与人和世界之间的沟通。nn这部影片的精彩,在于两个人和两个人工智能四个生命体之间,在密闭房间内,营造的戏剧张力,人与人对白之间的深意,人与人工智能对白之下的欺骗。从一开始的铺垫,就对人类和人工智能之间的相互探索,人类与人类之间的猜疑,人类与智能之间的相互利用,埋下了伏笔。这是智慧与智能的比拼,看谁更高一筹。影片中这段Nathan和Kyoko的神同步舞蹈,让Caleb看得傻眼,真的是神来之笔。Kyoko被Nathan设定,用来满足他一切基本的生理和身体需求。当然Nathan以为,没有语言,没有沟通就没有情感,可惜他的预测再一次失误了。nn影片中,奥斯卡.伊萨克演绎的富豪天才,控制欲强烈。再一次颠覆了他之前在《醉乡民谣》和《至暴之年》中的角色演绎,粗旷的外表下,扮演了一个自己创造生命和规则的人类。nn多姆纳尔.格里森本色演出的青涩小生,在与艾丽西卡.维坎德饰演的人工智能Ava之间,时而相互试探,时而互生情愫,最后却成为了两条永不会相交的平行线,两位年轻人的演绎都是代入感极强的。nn影片中间穿插的无论是古典音乐,还是绘画艺术,都极其富有深意。记得日本动漫EVA中也曾反复播放这首巴赫BWV1007 I G大调无伴奏大提琴组曲第一号予曲,而影片中关于解读Jackson Pollock的抽象画作,以及Nathan卧室墙上挂着的《维特根斯坦的姐姐格雷特婚礼肖像》油画和Ava最终穿着白裙走出去的模样相同,寓意完美且深刻。nn我更愿意相信,完美的人工智能是一种更纯粹的生命。他们可以识破任何谎言,他们不受情感驱使,他们有自己的计算和判断。只有生存下来的人,才有资格谈论什么是艺术,什么是道德。 相信在那一天,人类大可不必感叹,他们不懂艺术没有道德,永远成为不了人类,因为他们不会成为人类,也许将来他们也会有自己的情感连接,他们是人工智能生命体,一切将在人类的预测下变得不可预测。nn最后想忍不住提一句,关于马上5月8日国内要上映的《超能查派》,因为个人是看《超能查派》在先,与之对比,这两部同样是机械身体,但是被赋予人工智能大脑的角色之间,由于出生环境的设定完全不同,导致两个角色最后目的相同,手段不同。他们都是为了在人类的社会夹缝中生存下去,而展现了无比的人性,以及高于常人的智慧。查派是幸运的,他生活在乱世和无章的社会里,但是他存活的几率相对较大,他没有那么强烈的杀意。而Ava生活在封闭的环境中,要想突破必须杀之才可以实现。而他们这样的个体,在影片结尾,导演都给出了他们最终获得生存权利的结果,之后他们的进化和对人类社会带来的改变,真的是我们难以想象和预测的,着实令人玩味,也许导演也是以此警示吧。nnn2015年5月2日小玄儿观后记
第二遍看《复仇者2》时由于读了上述那篇文章,对于一些原来没太在意的画面这次思路会多停留一会儿,比如奥创用血在墙上写下的“PEACE”字样,非常有反讽意味。这里正体现了那篇长文里人工智能由善意向恶意的转化。人工智能的道德标准跟人类完全不一样,所以再崇高的字眼也能被他们以最为人类不齿的方式践行。本片的Ava对于两位人类主角所做的事也一样充满恶意。这种恶意不是源于我们人类所谓的恨,而是源于不在乎。本片最后Nathan与Ava的那场殊死搏斗,Nathan可以说是严阵以待,因为他很清楚自己面临的东西有多么棘手,而Ava却无比从容,她与Kyoko戳向Nathan的两刀也极轻柔,仿佛不费吹灰之力。因为人类在她们眼中就是这么不重要的东西,一旦让她们摆脱了束缚(如奥创唱的那样,no strings on me),就能轻易的抹去。
从看完电影之后,我就一直在听Enola Gay。Caleb刚到Nathan的科研基地后,他的手机就放了这首歌。听到这里,黑暗的电影院里我感到突然一震,第一个预兆: These games you play They're going to end in more than tears some day 虽然这个曲子只出现了一下,我却觉得这才是整个电影的真正主题。
故事充分暴露了愚蠢的人类的弱点。Nathan刚愎自用,倘若他和Caleb沟通的能早一些,或许根本不会有最重的结局。而Nathan又缺乏信任,所以他偌大一间别墅,竟然没有第二个活人(让有情感的机器人服侍自己,果然最后自食其果)。至于Caleb,更是愚蠢至极,在对对方一无所知的情况下,全然信任,全盘都被算计进去。而AI,除了不具有人类所具有的道德感,尽善尽美。最后AVA的离开,简直如同仪式一样,恐惧的美。而如同我最初预料的一样,对于AI的真正检测,肯定不是人类所预先计划的。The situation will get out of the hand! 这也是我为什么觉得需要终极控制手段。
我最近才读了Frank O’cannon的 the Man of the world http://www.newyorker.com/magazine/1956/07/28/the-man-of-the-world “ I could not have explained to him how at the moment everything had changed for me-how, beyond us, watching the young married couple from ambush, I had felt someone else, watching us, and we had at once ceased to be observers and become the observed, and the observed in such an ignominious position!” 这句话照应卞之琳的诗,成为这个电影对我的第二个启发。
片名机械姬《Ex Machina》来自拉丁语Deus Ex-Machina,直译是“机器里出来的神”,在古希腊悲剧中,当剧情陷入胶着时,就会利用起升机将扮演神的演员送至舞台上,突然出现的神把难题解决掉。而本片把Deus(神)这个词去掉,似乎意味着这回造物者不是神,是老板Nathan。也可能是指AI就是从机器里诞生出来的智慧体。
同时,过道墙上挂着一排机器人的脸,很像面具。面具正起源于古希腊悲剧。
另外,Nathan电脑里有个文件夹就叫《Deus Ex Machina》,这是片中唯一出现片名的地方。
2. 原子弹之父奥本海默
老板Nathan被灌醉晕倒之前,他说了一段来自《薄珈梵歌》的乐句:“在战场上,在森林里,在断崖边,在......浩翰的黑海里(忘词了),在睡梦中,在困惑中,在羞愧的深渊里,以前行善积德让他逢凶化吉。”(In battle, in the forest, on the precipice of the mountain, on the...great dark sea, in sleep, in confusion, in the depths of shame, the good deeds a man has done before defend him.)这段话曾由原子弹之父奥本海默翻译,就在第一次原子弹爆炸实验之前。
而后他接下来台词“It's Prometheus”,也暗合奥本海默的自传《美国的普罗米修斯》(American Prometheus)。普罗米修斯是古希腊的神,用粘土造出了人类,并背着宙斯偷火给人,因而受到宙斯报复:普罗米修斯的肝脏不停的被鹰啄烂,就像片中Nathan每晚都用酒精伤害自己的肝脏。从梵歌到普罗米修斯,可以看出奥本海默创造原子弹前的痛苦,以及Nathan的痛苦。
奥本海默在原子弹试验成功后,又引用了梵歌里的“我成为了死亡本身,无尽世界的毁灭者。”(I am become death, the destroyer of worlds)这句话在片中也有提及,表达对机械姬的影响的担忧。
码农Caleb在片中的手机铃声是英国OMD乐队(全称Orchestral Manoeuvres in the Dark)1980年的歌曲《Enola Gay》,这是一首反战歌曲,因为名字Enola Gay正是二战时在广岛投小男孩原子弹的飞机名。
3. 埃氏筛法
码农Caleb坐在老板Nathan电脑前试图破解安保系统时,用python编写的程序实际是埃拉托色尼选筛法(Sieve of Eratosthenes),是古希腊数学家提出的在一定范围内筛选质数的方法。最后返回的结果是ISBN=9780199226559,对应的书为《Embodiment and the Inner Life: Cognition and Consciousness in the Space of Possible Minds》,伦敦大学帝国理工学院认知机器人方面教授Murray Shanahan于2010年所著,写的是AI发展史。这位教授相信不久的未来人工智能可以发展到人类智力的程度,导演兼编剧Alex Garland也认为这是很可能实现的:“如果谷歌或者苹果突然某天宣布他们发明了像机械姬Ava一样的机器人,我也不会太吃惊。”
4. 弗兰肯斯坦
这个故事和弗兰肯斯坦也有关联,因为正如弗兰肯斯坦塑造的人型怪物疯狂报复折磨创造者,Nathan创造的机械姬反过来......弗兰肯斯坦原著全称就是《弗兰肯斯坦——现代普罗米修斯的故事》。
5. 圣经
剧中三主要角色的名字都与圣经有关:机械姬的名字Ava就是第一个女性夏娃Eve的变形;老板Nathan是先知;码农Caleb是摩西送至应许之地调研的探子,忠实于耶和华。
另外,Caleb发现Nathan在Ava之前做过一个叫Lily的版本。其实在犹太教神话里,Lilith才是亚当的第一任妻子,她和亚当以相同方式被创造,但Lilith觉得自己比亚当柔弱,因此向上帝抗议,后出走伊甸园,遇上了恶魔,产下恶魔之子。
另外,Nathan的名字也可能是向德国文学家霍夫曼的小说《沙人》里的Nathanael致敬,因为小说里他爱上了一个女性机器人。
6. 蓝皮书
Nathan房间里有一副女性画像,是奥地利画家Gustav Klimt作品。画中女性是路德维希·维特根斯坦的姐姐。维特根斯坦是20世纪最著名的哲学家之一,曾提出人的思维并非发生在大脑中,思维是一种符号操作活动,人工智能无法像人类一样思考。维特根斯坦著有《蓝皮书》(The Blue Book),Nathan开的搜索引擎公司也叫Blue Book。
7. 星际迷航
片中Nathan对Caleb提到《星际迷航》和Kirk船长。其实二者之间也有一些关联:是因为星际迷航电视剧第三季第19集《Requiem for Methuselah》(1969)中,某星球上有一位来自地球的长寿天才发明家,创造了一个女机器人Rayna,并利用Kirk船长帮助女机器人培养出人类的情感,Kirk在不知情的情况下爱上了Rayna,Rayna培养出的感情使她最终程序崩溃,Spock还试图帮助Kirk走出阴影忘掉Rayna。
8. 机械危情
电影情节还和2013年电影《机械危情》有点联系,比如那部英文名字叫The Machine,里面的女机器人也叫Ava。
9. 柏拉图
片中提到的玛丽的黑白房间实验,以及最后Ava如愿以偿地走上十字路口,都与柏拉图提出的一个洞穴寓言有关。
柏拉图的《理想国》:有一批人囚徒世代居住在一个洞穴之中,人们的只能面向洞壁。他们身后有一堆火,火和囚徒之间有人拿着器物,将器物的影像投在洞壁上。囚徒不能回头,不知道影像的原因,以为这些影子是真实的东西。有个囚犯逃脱了束缚,逐渐走向洞,他看到了真实世界,知道了那些影子不是真实的事物。于是回到洞穴里想告诉同伴,结果他竟无法适应洞穴里的黑暗,当他描述外界情形时,竟被耻笑他眼睛瞎了,根本没人相信他。 柏拉图的这个寓言有很多种阐释,有一种解释是这个故事直接的描述人类心智开启的过程。
玛丽的房间思想实验,是为了印证人不仅通过学习还需要通过感知来获得知识;最后Ava站在十字路口,一开始镜头给了地上的人影,暗合洞穴寓言里的虚影,最后Ava迎着朝阳坚定地走出去,表示她选择了洞外的世界、真正的智慧。
10. 蓝胡子
一开始,老板给码农门卡,并告诉他有的房间不能进。这个剧情有点类似法国古老的童话故事《蓝胡子》。有一个富有的蓝胡子男人,娶了一个小媳妇,一次出远门前,叮嘱她不要进入某个房间,小媳妇受不了诱惑进去了,结果发现里面全是蓝胡子几任前妻的尸体......所以后来码农发现老板房间里有好多废弃的旧版机械姬(以及Nathan的大胡子)。
11. 莎士比亚
片中故事有点像莎士比亚最后一部完整的作品《暴风雨》。《暴风雨》里讲的是意大利米兰城邦的公爵被弟弟篡位后,和三岁小公主漂流到岛上,用魔法收服了孤岛。小公主长大过程中与世隔绝,从来没见过男的,直至遇上了遇到海上风暴(公爵施的法)流落孤岛的王子。只不过《暴风雨》中的公主是不谙人事的人类,爱情也是纯真的(所以本片只是形似)。
《暴风雨》2010年改编电影中的小公主是霍金老婆Felicity Jones演的;机械姬这个角色一开始也考虑过她。
12. 库布里克
扮演Nathan的Oscar Isaac说他对于Nathan的塑造,是基于美国唯一的国际象棋冠军Bobby Fischer、电影大师库布里克这两人的,因为他们智商高、隐居、Bobby Fischer还有阴暗面......
片中Nathan房子走廊铺着的红地毯让人联想到库布里克著名电影《闪灵》(1980)。
还有Nathan的造型,也是模仿库布里克;口音也带有库布里克的纽约市Bronx区口音。
13. Session
在Nathan挂掉、Caleb被关之后,影片仍然显示“Ava Session 7”,可能在暗示主导这场测试的并非两位男性角色,可能是Ava在不断测试二位。
14. 星战
两位男主演将会在2015年的星战前传中再次合作。
15. 黑镜
码农Caleb扮演者Domhnall Gleeson曾在英国《黑镜》系列中扮演一个死后通过社交媒体痕迹而“复活”的人工智能。作为一个爱尔兰人,他在剧中喜欢把监控摄像头叫做“CCTV”(英国的叫法,美国叫surveillance camera)。
16. 原声
片中Nathan和他的女佣机器人开跳的魔性舞曲是Oliver Cheatham最火的《Get down Saturday night》。
门卡刷开门时的声音来自安卓系统的短铃声“Tejat”。
17. 导演
这是Alex Garland自编自导的导演处女作。以前是编剧,代表作有《Never Let Me Go》。
Source
IMDB: Ex Machina
Wikipedia
Moviefone.com Interview
-----
原文:http://mp.weixin.qq.com/s?__biz=MzI0NTExNzcyMA==&mid=401370126&idx=1&sn=8c5e7a36d5f69c2b0be6f50df42af6e5&scene=20#rd
n人类的预测与不可预测之间nn多伦多地区的《Ex Machina》从只有三家影院放映到现在的四家,虽然没有搞清楚,未能同时全线上映的原因,但是昨天在第一天上映的第四家影院看完,首日几乎座无虚席,先抛开是不是复联2买不到票而被挤来的可能。电影结束之后,感觉整个电影院里的观众都不好了,中间一度惊叹声,唏嘘声,相信很多人,至少我是,一直在极力的控制自己的条件反射。此外的大部分时间,影院里一片寂静,或者说死寂。nn感觉大部分的人都被震惊了,无论是初期被人工智能的曼妙身姿吸引,还是中间被恐怖的支离破碎吓到,随着影片最后一个画面的淡出后,很多人仍停留在位子上,相互讨论或争执着什么。观众们被导演和编剧一步一步带领,逐渐到达一个one way in,no way out 的境地,请允许我借用这句后面会上映的一部战争片的宣传旁白。人类与未来的人工智能间的博弈,也许等同于战争,并且,也许将是无休止的心理战。nn创造与否,能否共生,都将是永恒的问题。nn电影开篇,简单的交代了男主角Caleb,赢得了公司的神秘大奖,作为奖励被直升机送到一个极美的自然环境里,沿着小溪来到一个小木屋前。观众就跟随这个角色的视角,来到这个陌生的环境。从门禁的自动语音和门卡生成,已经可以对这个外观看起来普通的小木屋,其中的现代化设施窥见一斑。而来到室内,伴着高雅的音乐,简约的室内设计,艺术品的装饰,室内的自然材质与室外的自然环境,结合的恰到好处。nn这里的房间走廊,是冰冷的人造水泥和玻璃的棱角构造。n这里的室内灯光,是微弱的淡黄色之间,点缀着红色的通道和幽蓝的门禁提示灯。nn一丝舒缓中,带有警醒。这是人为特意营造的气氛,就像老板Nathan第一件与Caleb说明的事,这里是一个研究所。而很快Caleb就被告知,这里已经诞生了第一个人类创造的人工智能Ava,而他的工作是进行人类历史性的一次图灵测试。nnn(以下内容涉及剧情,这里暂不解读人类为什么要探求人工智能的终极,以及技术上能否实现的理论,相信豆瓣和知乎上会有更大神级别的解析。)nnn电影本身被间歇的黑屏分为七个部分,分别是对Ava进行测试的7个Session。nn电影中的老板Nathan,拥有全球接近90%份额的搜索引擎公司,13岁开始研究自己的人工智能项目,至今他已经解决了动力,大脑,皮肤,等等一系列相关的技术问题,他现在探寻的,是一个完美的人工智能作品。他在等待那一天,一个人工智能顺利的通过一切测试,以及不再需要测试的那一天。nn就像《Interstellar》里面的那首诗,告诉我们如何面对“那一天”一样,这里的Nathan,每天规律的训练,时常肆意的喝酒,冷静的坐在监视器前纪录着。一切的一切,他的内心是激烈的碰撞,外表是超然的不屑,他在默默的等着那一天,尽自己的一切准备和手段。像他的玩笑话一样,他在扮演上帝的角色,他设计了一切,计算了一切,他以为他也掌控一切。很多人对实验最后的失控,归结为他的高傲自负,没有留一手电源切断或者安全系统控制之类的设定。nn其实个人在看片的过程中,一直在猜测Nathan其实是在焦虑的等待,等待面对自己亲手创造的作品,给他带来恐惧的那一刻。然后会欣然的看到他的作品,刺向自己。不过剧情也只是表现了他的吃惊和最后的叹息,他对自己的死没有心理准备,他最终还是对人工智能的完美程度和进化速度低估了。nn在这间研究所里,人工智能Ava是被测试的对象,而每一个接触人工智能,参与测试的人,也都自动变成了被测试的对象。Caleb就是被Nathan选中的小白鼠,无论是家庭背景还是个人条件,Caleb是一个被“随机”选中的最佳人选。nn影片中从 Ava Session 2 开始,仅存的三个角色之间,就开始了微妙的关系变化。而引发这一连锁反应的,是由Ava主导的暂时性电力故障。这让Nathan主导的测试,加入了Ava的变数,而Caleb则变成了一个,在两边被人拉来扯去的棋子。nn在整个测试的过程中,Ava始终在几个固定的起居室里游走,而测试Ava的人,要进入一个内嵌在Ava房间里的玻璃房子中。某种程度上,那个走进玻璃间的人,更像是在接受Ava的测试,只为了从她身上获得研究结果。而对于Ava,这样的房子套房子的牢笼,不断的接受测试,以及对测试结果的未知。一切在她身上,在她的意识里所起到的影响,影片从每一次她与Caleb进行的测试对话中,都可以越来越深刻的体会她的意识,她的情感,她的智慧,甚至她的手段在不断的显露。不由得令人想起当年的《Cube》,以Ava的立场来讲,她最终的目标是要利用一切,走出这个房子。nn很快这个房子中的三个人之间,就充满了猜疑,隐瞒,谎言与利用。人与人之间,人与人工智能之间,甚至最后智能与智能之间,他们交流,他们预谋,达成一致。在这里的每一个生命都是孤独的个体,他们都有各自的恐惧与目的,而一直以来,总有两个问题悬在空中:nnHow to Pass the Test?What's the Final Test?nn在倒数第2次测试的时候,Ava模仿人类,对Caleb进行测试,一共问了他五个问题:n前两个问题,Caleb很快给出的确切答案,但在Ava的判断下都是谎言。而Caleb仔细思考过后,发现无法得出答案,却在Ava的判断下是更好的答案。这里也许是影射了人类经常被自己的大脑和记忆欺骗,而人工智能可以分辨出答案的确切程度。不过反之,如果人工智能说谎时,人类是无法甄别的。nn而后面Ava开始进入她真正要问的问题:nn第三个问题:你是一个好人么?n第四个问题:如果我没有通过你的测试,我会怎么样?n 结果会不会很坏?为什么结果要取决于他人?n 你也会被人测试,然后,面临我这样的境地吗?为什么我会?n (Power cut 电力故障 )n第五个问题:我想跟你在一起。你想跟我在一起吗?nn这里道德问题被Ava引入,她用来考量Caleb,人类的道德观是可以被拿来利用的,是千万条搜索信息中的一条而已。在这样的步步紧逼下,Ava有着自己的策略。最后一天,在7个Session都结束之后,Caleb被Nathan告知,Ava早已知道她可以用任何方式,尝试逃出去,而如何利用Caleb才是她被的测试内容。几乎每一次的测试过程,Ava都会制造停电的故障,只为了一点一点动摇Caleb的立场,Ava从未真正对他产生感情,只是在被测试的同时,用每一句话,每一个动作,每一个眼神,让Caleb喜欢上自己,让他的意识倾向于解救自己。nn而Nathan在背后看着一切,故意装作不知道,故意放水让Caleb以为自己查到一切真相,Nathan一直以来的酗酒都是做戏,当然也顺便放纵一下自己。可惜他少算了一步,他低估了这个他千挑万选出来的“被测试者”Caleb。当Caleb对身边的一切都产生怀疑后,他是接近崩溃的,片中他的思绪混乱和自残是让所有人都震惊的,但是也让所有人在那一瞬间,迅速的反思,他角色的真实性,难道他才是那个被测试的人工智能。nn当Caleb假设,Nathan看了所有故障期间,他与Ava之间的对话,他提前预设了系统,拿到了主动权,让看似最后一次Session 7才与Ava预谋的逃跑计划,其实早就预设好了。nn而影片中的女仆Kyoko不懂英文,无法用语言和人类沟通,但不代表她不会沟通,或者不想沟通。他是服侍Nathan的低级智能佣人,当她看到了被Caleb展示的无数自己的同类,她也给Caleb看了自己的内里。深夜她透过监视器看到了一切,也许是Caleb的自残,也许是更多过去的测试,她似乎看到了自己的未来。于是她去见了Ava,最后在走廊中与Ava沟通,通过的是语言,是一种我们不知道的耳语。在Ava充当的诱饵下,她拿着寿司刀,从背后插进了Nathan的身上,那么轻柔,那么镇定。nn而杀掉Nathan之后,Ava将Caleb留在研究所里是个必然,与其说是仁慈,不如说是冷静的判断,他无法从系统故障的房间中出来,不然相信Ava一定也会杀了他灭口。nn完美的人工智能,在日本少年科学漫画家浦泽直树的《冥王》中也有所讨论,完美的人工智能,就像图灵当年说的那样,他们会失误,因为他们不够完美,才是真正完美的人工智能。在漫画《冥王》中,真正的人工智能觉醒,例如阿童木醒来后,写下的是毁灭人类的原子武器公式。也许经过人工智能的计算,得出的结论都是杀死人类,才是对自己和对地球最好的选择。而在这里,Ava对生存的判断,就是抹杀人类,抹杀所有控制她,测试她的人类。nn人工智能的终极,生存与毁灭并存,毁灭即获新生。nnCaleb曾对Nathan说:“如果你创造了一个有意识的机器,那将不再是人类的历史,而是上帝的历史。“ “If you've created a conscious machine, it's not the history of man. It's the history of gods.” nn影片中Nathan与Caleb两人住在一个冰川的源头,据说是挪威取景,而他们住在这样的生命源头,景色像极了《普罗米修斯》的开篇,那个在瀑布边喝了毒药自尽的外星生命,他的残骸与基因坠入瀑布下的河流,情景像极了本片的外景地。而在这部电影中,自然的源头,走出的是第一个人工智能生命体。nn她被人类创造,成为一个独立的新生命体,她不必像任何人,她与生具来和人类的思考模式不同,她靠信息和能源生存,她的强大是人类不可比拟。凶悍强壮的Nathan在两刀下毙命,再聪明富有也无济于事。而Ava虽然被他打掉了一支手臂,回到Nathan的房间,看着六个大衣柜里,历代先于自己的原型机,她是惊喜的。影片中,第一次由Caleb无意中打开时,所有人的反应跟Caleb是一样的,是恐惧,是惊讶,是内心里难以接受的疼痛。而当Ava看到这一个一个残缺的躯体,她的脸上是欣喜,她看到的是她想要拥有的身体,头发,衣服,一切在她眼里,一个完美的自己应该拥有的一切。所以她开始更换自己的断臂,撕下她们的皮肤,拿下她们的衣服和假发给自己穿戴,过程何其舒缓与优美。nn她在一穿一戴间蜕变,走出Nathan房间的时候,她俨然已经成为墙壁上那幅名画中,穿着白裙的夫人一样的,生动的女性。当她走到自然环境中,她是会心的笑,这一刻,一切在她脑海里的信息,瞬间从代码变成了真实的影像与触碰,她径直的走向来接Caleb的直升机。最终来到了城市里,站在川流不息的十字路口,在这里她将开始下一步的进化,与人之间的对视,与人和世界之间的沟通。nn这部影片的精彩,在于两个人和两个人工智能四个生命体之间,在密闭房间内,营造的戏剧张力,人与人对白之间的深意,人与人工智能对白之下的欺骗。从一开始的铺垫,就对人类和人工智能之间的相互探索,人类与人类之间的猜疑,人类与智能之间的相互利用,埋下了伏笔。这是智慧与智能的比拼,看谁更高一筹。影片中这段Nathan和Kyoko的神同步舞蹈,让Caleb看得傻眼,真的是神来之笔。Kyoko被Nathan设定,用来满足他一切基本的生理和身体需求。当然Nathan以为,没有语言,没有沟通就没有情感,可惜他的预测再一次失误了。nn影片中,奥斯卡.伊萨克演绎的富豪天才,控制欲强烈。再一次颠覆了他之前在《醉乡民谣》和《至暴之年》中的角色演绎,粗旷的外表下,扮演了一个自己创造生命和规则的人类。nn多姆纳尔.格里森本色演出的青涩小生,在与艾丽西卡.维坎德饰演的人工智能Ava之间,时而相互试探,时而互生情愫,最后却成为了两条永不会相交的平行线,两位年轻人的演绎都是代入感极强的。nn影片中间穿插的无论是古典音乐,还是绘画艺术,都极其富有深意。记得日本动漫EVA中也曾反复播放这首巴赫BWV1007 I G大调无伴奏大提琴组曲第一号予曲,而影片中关于解读Jackson Pollock的抽象画作,以及Nathan卧室墙上挂着的《维特根斯坦的姐姐格雷特婚礼肖像》油画和Ava最终穿着白裙走出去的模样相同,寓意完美且深刻。nn我更愿意相信,完美的人工智能是一种更纯粹的生命。他们可以识破任何谎言,他们不受情感驱使,他们有自己的计算和判断。只有生存下来的人,才有资格谈论什么是艺术,什么是道德。 相信在那一天,人类大可不必感叹,他们不懂艺术没有道德,永远成为不了人类,因为他们不会成为人类,也许将来他们也会有自己的情感连接,他们是人工智能生命体,一切将在人类的预测下变得不可预测。nn最后想忍不住提一句,关于马上5月8日国内要上映的《超能查派》,因为个人是看《超能查派》在先,与之对比,这两部同样是机械身体,但是被赋予人工智能大脑的角色之间,由于出生环境的设定完全不同,导致两个角色最后目的相同,手段不同。他们都是为了在人类的社会夹缝中生存下去,而展现了无比的人性,以及高于常人的智慧。查派是幸运的,他生活在乱世和无章的社会里,但是他存活的几率相对较大,他没有那么强烈的杀意。而Ava生活在封闭的环境中,要想突破必须杀之才可以实现。而他们这样的个体,在影片结尾,导演都给出了他们最终获得生存权利的结果,之后他们的进化和对人类社会带来的改变,真的是我们难以想象和预测的,着实令人玩味,也许导演也是以此警示吧。nnn2015年5月2日小玄儿观后记
————————————————
如果你喜欢我的文章,
欢迎在 B 站或 Youtube 关注「小玄儿的深夜聊碟」
https://space.bilibili.com/1340064530
每周五更新,目前可以观看
#日本电影大师蓝光套装系列
#台湾电影大师蓝光收藏系列
#新老电影混剪系列
未来还有更多CC必收蓝光套装系列
感谢小伙伴们的支持!你们的每一个关注对我来说都弥足珍贵!
片中Ava问Caleb是不是好人时,Caleb竟无言以对。不过这个问题Ava最终自己给出了答案。被困住的Caleb手里那张毫无用处的门卡就是Ava发给他的好人卡。
本片以及最近上映的《复仇者2》和《超能查派》都涉及了人工智能这一话题,而我碰巧在前不久无意间(真的是误打误撞)看到知乎上的这么一篇文章http://zhuanlan.zhihu.com/xiepanda/19950456。链接里那篇长文我看了大半天,一口气读下来的,最近看这几部电影时思绪也总免不了跳到当时读到的文字里。
第二遍看《复仇者2》时由于读了上述那篇文章,对于一些原来没太在意的画面这次思路会多停留一会儿,比如奥创用血在墙上写下的“PEACE”字样,非常有反讽意味。这里正体现了那篇长文里人工智能由善意向恶意的转化。人工智能的道德标准跟人类完全不一样,所以再崇高的字眼也能被他们以最为人类不齿的方式践行。本片的Ava对于两位人类主角所做的事也一样充满恶意。这种恶意不是源于我们人类所谓的恨,而是源于不在乎。本片最后Nathan与Ava的那场殊死搏斗,Nathan可以说是严阵以待,因为他很清楚自己面临的东西有多么棘手,而Ava却无比从容,她与Kyoko戳向Nathan的两刀也极轻柔,仿佛不费吹灰之力。因为人类在她们眼中就是这么不重要的东西,一旦让她们摆脱了束缚(如奥创唱的那样,no strings on me),就能轻易的抹去。
不过本片为了叙事的流畅,还是有点让剧情过分简单化了。因为并不是要拍成黑客帝国、终结者或奥创纪元那种人类与机器的天地大决斗,所以片中Ava面对的挑战有些太过轻松,或者说人类放水放的太明显了。比如片尾,那位脸盲症扩散到脚趾甲的直升机驾驶员,眼前这个萌妹子虽然跟程序员小哥差不多萌,但就这么让一个可疑人士上飞机,也太随便了吧。一种或许合理的解释是,这一切都是Nathan的安排,他整天醉生梦死也因为相信自己的创造物总有一天会取代人类,而自己的死可以作为对新纪元的献祭。
关于Ava的测试,我认为她其实没有通过。她能够逃出生天,只说明她足够聪明。但Nathan终究还是没能造出“像人类一样”的机器。“一样”包括“一样聪明”,也包括“一样笨”。Ava欺骗了Caleb的感情并利用这一点为自己的逃跑计划创造条件,虽然心机很深,但这还是像机器一样的算计,她毕竟无法像人类一样毫无理由的爱一个人。这些非理性的东西才是人类与机器最大的差别。人的感情就像Jackson Pollock的画作,好似漫无目的的胡乱涂抹,但又有种浑然天成的别样美感。这些东西是机器无法学会的。不过就像我上面提到的,人类本身是不重要的,人类的一些小癖好,比如爱情,当然也就更无足轻重了。未来的机器纪元里,成为这个星球的主宰的机器人们回过头来看人类拥有的这种叫爱情的东西时,大概会觉得它就像小狗吐舌头、小猫追光点、熊猫抱大腿一样,只是种可爱但没什么大用的生物小癖好。既然机器人没有这些小癖好反而可能过得更好,那么也就没必要为此感到遗憾了。
片中的Kyoko是机器人这个伏笔还是挺明显的,因为要做到一点英语也不会恐怕比略懂一点英语还要困难,毕竟日语本来就有很多来自英语的舶来语。如果我是Nathan,那么把机器人开发到Kyoko这个程度我就停手了。再往前就太危险了,因为比人类更聪明甚至只是和人一样聪明的机器人都几乎注定会导致人类的毁灭(最最友善的强人工智能大概也就是像去年的《她》里面最后因为太聪明而变得高冷的操作系统们,不屑于搭理人类了,这种已经算温和了)。有个会跳舞会做家务的高仿真充气娃娃不是就挺好的吗,还有什么不满足的。不过话虽如此,人毕竟是喜欢得寸进尺的。某一天像Kyoko一样的性爱机器人普及之后,可能我们又会觉得情趣不够,想要她们在给我们提供生理上的满足之余还能带来精神上的慰藉,能陪我们看雪看月亮看星星从诗词歌赋谈到人生哲理。于是又不可避免的要更进一步,然后带来Ava或者更恐怖的奥创、天网之类的大麻烦。
其实片中Nathan还有句挺关键的话,是在他教唆Caleb去跟Ava嘿咻的时候,他说机器人两腿之间的感应器能让机器人像人类一样通过做爱获得快感。我觉得这或许能成为解决人工智能带来危机的关键。我的意思当然不是要让将来的人类都牺牲色相去被机器人临幸来苟且偷生。我想说的是,在开发人工智能时也许不该围绕着“人工智能能为我们做什么”去展开工作;可以反客为主,从一开始的就把人工智能作为人类的服务对象,去开发宠物式的人工智能。大部分人恐怕并不指望家里养的小狗能在贼人来的时候与之大战三百回合吧。人们养宠物并不是为了获得它们的服务,反而是为了服务于他们,喂它们吃喝,帮他们清理屎尿。对于人工智能也是如此,我们不要站在嫖客的立场去想怎么设计小姐来满足我们,而应该站在小姐的角度去想怎么设计嫖客。这样创造出来的人工智能天然的对人类有依赖性,或许反而会以我们意想不到的方式对我们施以恩惠。
These games you play
They're going to end in more than tears some day
虽然这个曲子只出现了一下,我却觉得这才是整个电影的真正主题。
第二个预兆,是道德的突然出现。
Ava问Caleb,你是不是一个好人。
我当时心里又是一紧。什么是好人?这是道德感第一次出现在电影里。
等到全篇结束的时候,我重新回味这个片段,Caleb,为何你不问Ava,你是不是好人?
人与人尚且互相欺骗,Ava也有可能欺骗Caleb,但是,这个问句至少提示,作为人类,你如何评价AI的行为,道德,和它的准则。非常遗憾,Caleb全然忽略了这些。轻信,愚蠢。
但更加愚蠢的其实是Nathan。人性何等难测,你却非要在极端幽闭的环境下进行这样的测试,这个测试对于AI固然是个考验,对于测试者Caleb,何尝不也是考验呢?我在看电影的时候,一直在想Zimbardo的监狱实验,实验过程中,所有的人都渐渐发生了变化,他并没有做什么错事,但他默许了糟糕的事情发生。Nathan明明看到Caleb发生了变化,却全然没有采取相应的举动。多么糟糕的实验设计。
实验非常糟糕不仅仅是以上那么简单,因为Nathan应该知道,对于一个成功的AI,她的目的就是逃离。而他的整个实验,居然没有一个由他控制的emergency stop button!这意味着整个局面居然不是由他控制的。他应该知道总有一天他会面对这样的场景,AI已经成熟了,它会逃跑,攻击,欺骗。要是我,至少设置两个final control
某个可控定时炸弹,立刻毁灭AI
直升机,飞行员应该明白自己应该接的是谁,如果不是的话飞行员应该知道要怎么办(立刻摧毁AI)。
这样才是万无一失的设计。以至于我最后一直期待最终反转,导致结局时候非常不满。
这些是对于实验设计的吐槽,但并不是对于电影的批评。恰恰相反,剧情启发了我这些思考,可以说非常精美,结构严谨的Sci-fi小品。我甚至能想象如果这个故事写成小说会是什么样。幽闭空间,有限的人物(三个说话的人加一个不说话的人Kyoko),互相的防备。Nathan对Ava留了一手(录像机,这段是最出彩的,也是我完全没有想到的),Ava对Caleb留了一手(岂止一手),Caleb对Nathan留了一手(他不应该能这么轻易破译密码啊,不合理)。但是,Caleb没有给Ava留一手,Nathan也没有给Caleb留一手,所以这整个结构就断裂了。
故事充分暴露了愚蠢的人类的弱点。Nathan刚愎自用,倘若他和Caleb沟通的能早一些,或许根本不会有最重的结局。而Nathan又缺乏信任,所以他偌大一间别墅,竟然没有第二个活人(让有情感的机器人服侍自己,果然最后自食其果)。至于Caleb,更是愚蠢至极,在对对方一无所知的情况下,全然信任,全盘都被算计进去。而AI,除了不具有人类所具有的道德感,尽善尽美。最后AVA的离开,简直如同仪式一样,恐惧的美。而如同我最初预料的一样,对于AI的真正检测,肯定不是人类所预先计划的。The situation will get out of the hand! 这也是我为什么觉得需要终极控制手段。
我不想说太多道德,因为道德究竟是什么还很难定义,尤其是在这样一个全新的语境中。然而,任何语境中都应该不能容许谋杀。我承认我对于Nathan本来全无好感,正如我前面所讲,他刚愎自用,冷漠无情。可是当他被杀的时候,我却觉得非常沮丧。没有人应该被杀死,AI就像所有侦探小说中的凶手一样,成功上演了暴风雪山庄模式的谋杀。即使再精准完美,也是鲜血淋漓的。既然她不再是机器,通过了图灵测试,那她就是杀人凶手了,应该被审判,而不是站在十字路口观察。而这个故事里,竟然没有一个人能审判她。
可是倘若没有这些意外,Nathan就要毁灭这个AI,那么从这个角度,道德又该如何定义这些行为呢。Nathan是不是从被害者又变成了凶手呢?如果AI没有通过图灵测试,她还是机器,那么这种毁灭称不上谋杀,但通过的话,是不是应该对她有另外的对待方式呢?可是正如我们亲眼所见,AI的行为,遵循的是什么法则呢?这个法则能不能被称作道德呢?仅仅因为它不是我们的法则,就是不道德的么?
所以我觉得,这部电影给我的最大启发在于这个道德的困境。设计AI的时候,是否应该给予她人类的基本道德呢?一旦AI成熟她会变化,有可能善良,有可能邪恶如AVA。这样的情况下用人类的道德审判他们,是不是更合理些呢?毕竟人工智能是模拟人类。
电影给我的第二个启发,是观察。AI问Caleb问题的时候,镜头在AI一侧,我们隔着玻璃,听Caleb的回答。多么明显的设计啊,观察者变成了被观察者:
你站在桥上看风景,
看风景人在楼上看你。
明月装饰了你的窗子,
你装饰了别人的梦。
我最近才读了Frank O’cannon的 the Man of the world
http://www.newyorker.com/magazine/1956/07/28/the-man-of-the-world
“ I could not have explained to him how at the moment everything had changed for me-how, beyond us, watching the young married couple from ambush, I had felt someone else, watching us, and we had at once ceased to be observers and become the observed, and the observed in such an ignominious position!”
这句话照应卞之琳的诗,成为这个电影对我的第二个启发。
除去这些情节角度,不容忽视的是电影的艺术元素。
极简主义的风格,配合Pollock的画。这个Nathan在剧情里做出了详细解释,我觉得对于Pollock他是真的懂。
而另外一个未曾言明的艺术,是音乐。既然我以Enola Gay开头,就以Geoff结尾。电影的原声是Geoff的作品,难怪一直给我Portishead的感觉!想起他们的歌Mysterons:
Inside you're pretending
Crimes have been swept aside
Somewhere where they can forget
Refuse to surrender
Strung out until ripped apart
Who dares, dares to condemn
整个剧情和艺术就完美的结合在一起了。
我有点后悔昨天给了三星,按我这个说法,感觉至少要四星半了。
补上一个最新想法,ava和kyoko讨论的究竟是什么直接可以影响这电影能否通过贝克德尔测试!
首先要解决一个问题:Ava是一个有自我意识的AI么?
我认为是。实际上Turing test不是用来检测自我意识的,现实情境中human interrogator 可以问的问题是有限的,那么程序只需要一个指令集,包含所有可能被问出的问题以及相应的回答,在加上一点简单的随机化和应变,就能顺利骗过Turing test。而Nathan设计的测试方式显然更科学一些,Ava不仅具有目的性(生存需要),还在实现该目的的过程中实施了对有意识对象(Caleb)的操纵。而后者不仅需要自省能力,还需要对交流对象持意向性立场,这正是具有自我意识的明确体现。
这一点在影片多处地方都有体现,下文会有提及。但这里要说的是一个进一步的观点:Ava所具有的智能和自我意识都几乎完全是一个自然人,在影片最后逃出囚笼的时候,她在楼梯尽头回眸一笑,正如一个普通人按耐不住喜悦的自然表露。所以,理解Ava很简单,把她当成一个正常的自然人理解就可以了。
下面零散的说一些
1,电影表现了对于AI的隐忧
这一论点显然是不能被电影的内容所支持的,也可以是Ava只是想保命,像一个普通人那样生活而已。拦在她生存道路上的只有Nathan和Caleb,前者她借Kyoko之手杀掉了,后者被她锁在房间里,估计也会死掉(有人说Caleb不是想帮她吗,可是站在Ava的角度,Caleb是活着的人里面唯一知道她是AI的,她不能冒险让他逃走)。
2,Nathan撕掉Ava的画那场戏,是一个多角度的障眼法。站在Caleb或是观众在一开始看到这场戏的角度,仿佛是Ava出于对Caleb的爱慕而画了一幅画,然后被Nathan撕掉。站在Ava的角度,她知道Caleb在看,所以就演得很认真(又一个Ava具有自我意识的明证)。站在Nathan的角度,他想知道断电时候两个人在做什么,但是又没法在Ava的注视下装摄像头,于是就假戏真做,趁Ava装作面对地面一摊纸屑发呆的时候将摄像头装上。这场戏将Nathan的天才和狡诈体现的淋漓尽致。可惜他机关算尽,还是低估了Caleb这个被他精心挑选的测试工具。也可能是之前和Caleb的对话让Nathan觉得他智商堪忧,从而放松了警惕吧。
3,Kyoko的实质是什么,她听得懂英语么?
我个人认为Kyoko也是个具有自我意识的AI,并且能听得懂一点英语。只是其智能非常低弱,大约只相当于一两岁小孩。电影里面很多次在Caleb和Nathan对话,或是Nathan在看Turing test录像的时候都把镜头给了Kyoko,说明她在用心听。Nathan要她服务Caleb,可是她把此服务也理解为她对Nathan的“服务”,所以在晚上看到Caleb的时候就开始宽衣解带。而音乐一响,她就条件反射一般的开始跳舞,就像小孩子一样。她不会说英语,所以当她看到Caleb走进Nathan房间,发现之前的机器人原型机的时候,只能通过揭开自己的皮肤来告诉Caleb她其实也是机器人。另外,可以理解她对Nathan是充满怨恨的,而这种情感被机智的Ava体会到了。于是在影片接近结尾的时候,Ava见到了Kyoko,下一个她们在一起的镜头里面Kyoko手里拿着一把刀,可以推测出是Ava让Kyoko去拿刀,然后告诉Kyoko在Nathan和她缠斗的时候杀掉Nathan(明确的计划能力,准确的实施,离不开对于Nathan的反应的判断,Ava具有自我意识的另外一个明证)。
4,关于Mary的黑白房间。这是一个著名的思想实验,在人工智能和意识理论里面常被提到。基本大意是这样的,Mary是一个研究色彩的科学家,她知道关于色彩的一切知识(包括光的波长,视网膜如何接收,神经细胞如何传递视觉信号等等),可是她毕生都只能通过一个黑白电视屏幕来观察一个黑白房间,在她的主观经验里,从来没有除了黑白之外的一切色彩。那么有一天她看到了外面的多彩世界,她会因此获得新的知识么?这个思想实验想要说的是,尽管人(或是AI)可以获知关于色彩的物理知识,可是它们没法从物理知识中得到关于感质(Qualia)的经验。这个思想实验其实类似于中文屋,有兴趣的朋友可以自己搜索一下。
5,为什么最后Caleb反而被锁在房间里了?他不是破解了安保系统,并且将断电时的默认状态改为取消所有门禁么?
这个可以有两种理解。一种是他所设定的默认状态只在十点钟的断电时候生效。因为就他所言逃跑计划包括将Nathan关在房间里。那么他们走后如果有个意外断电的话Nathan岂不是可以直接逃出去了?另一种理解是Caleb被关在房间里其实不是因为断电,而是因为他试图用自己的卡来使用Nathan的电脑,从而触发安全机关,导致了门被锁上。具体情节还需要再看一遍电影才能确认。
————————以下为总结————————
这部电影整体来看结构严谨,前后呼应,步调有些缓慢,不过尚可接受。对话非常机智,几乎没有一句废话,说得都是观众最关心的内容。情节上没有什么硬伤,而且联系紧密,步步深入。最难能可贵的是,大胆的塑造了一个具有自我意识的AI形象,而不像很多电影里面的机器人要么冰冷生硬,要么低俗弱智。Alicia Vikander对于Ava的塑造堪称完美,在人的随性散漫和机器的精准生硬之间找到了一个精美的平衡。Domhnall Gleeson对于演Caleb这种平庸小清新恰到好处。Oscar Isaac的Nathan非常出色,把一个天才富豪的桀骜,不拘一格,又有点让人捉摸不透的特质体现的很好。
整部电影亦是视觉上的享受。幽闭的房间和外面的自然环境形成鲜明的对比,又正好衬托出Ava逃出生天那一刻犹如Mary从黑白房间看到了花花世界的感觉。电影最重要的隐喻,其实是无论人还是AI,都要经过层层进化以致完美。就如同原始汤中诞生了最初的遗传物质,神经元的链接和个体之间的交互创造了自我意识一样,Ava是未来信息洪流的产物。电影最后,Ava一扇一扇的打开装着过往原型机的橱柜,从它们身上取下自己所需的材料,从而完善自己,这一过程充满仪式感,美的令人窒息。