机械姬

 从看完电影之后，我就一直在听Enola Gay。Caleb刚到Nathan的科研基地后，他的手机就放了这首歌。听到这里，黑暗的电影院里我感到突然一震，第一个预兆：
These games you play
They're going to end in more than tears some day
虽然这个曲子只出现了一下，我却觉得这才是整个电影的真正主题。

第二个预兆，是道德的突然出现。
Ava问Caleb，你是不是一个好人。
我当时心里又是一紧。什么是好人？这是道德感第一次出现在电影里。
等到全篇结束的时候，我重新回味这个片段，Caleb，为何你不问Ava，你是不是好人？
人与人尚且互相欺骗，Ava也有可能欺骗Caleb，但是，这个问句至少提示，作为人类，你如何评价AI的行为，道德，和它的准则。非常遗憾，Caleb全然忽略了这些。轻信，愚蠢。
但更加愚蠢的其实是Nathan。人性何等难测，你却非要在极端幽闭的环境下进行这样的测试，这个测试对于AI固然是个考验，对于测试者Caleb，何尝不也是考验呢？我在看电影的时候，一直在想Zimbardo的监狱实验，实验过程中，所有的人都渐渐发生了变化，他并没有做什么错事，但他默许了糟糕的事情发生。Nathan明明看到Caleb发生了变化，却全然没有采取相应的举动。多么糟糕的实验设计。

实验非常糟糕不仅仅是以上那么简单，因为Nathan应该知道，对于一个成功的AI，她的目的就是逃离。而他的整个实验，居然没有一个由他控制的emergency stop button！这意味着整个局面居然不是由他控制的。他应该知道总有一天他会面对这样的场景，AI已经成熟了，它会逃跑，攻击，欺骗。要是我，至少设置两个final control
某个可控定时炸弹，立刻毁灭AI
直升机，飞行员应该明白自己应该接的是谁，如果不是的话飞行员应该知道要怎么办（立刻摧毁AI）。
这样才是万无一失的设计。以至于我最后一直期待最终反转，导致结局时候非常不满。

这些是对于实验设计的吐槽，但并不是对于电影的批评。恰恰相反，剧情启发了我这些思考，可以说非常精美，结构严谨的Sci-fi小品。我甚至能想象如果这个故事写成小说会是什么样。幽闭空间，有限的人物（三个说话的人加一个不说话的人Kyoko），互相的防备。Nathan对Ava留了一手（录像机，这段是最出彩的，也是我完全没有想到的），Ava对Caleb留了一手（岂止一手），Caleb对Nathan留了一手（他不应该能这么轻易破译密码啊，不合理）。但是，Caleb没有给Ava留一手，Nathan也没有给Caleb留一手，所以这整个结构就断裂了。

故事充分暴露了愚蠢的人类的弱点。Nathan刚愎自用，倘若他和Caleb沟通的能早一些，或许根本不会有最重的结局。而Nathan又缺乏信任，所以他偌大一间别墅，竟然没有第二个活人（让有情感的机器人服侍自己，果然最后自食其果）。至于Caleb，更是愚蠢至极，在对对方一无所知的情况下，全然信任，全盘都被算计进去。而AI，除了不具有人类所具有的道德感，尽善尽美。最后AVA的离开，简直如同仪式一样，恐惧的美。而如同我最初预料的一样，对于AI的真正检测，肯定不是人类所预先计划的。The situation will get out of the hand! 这也是我为什么觉得需要终极控制手段。

我不想说太多道德，因为道德究竟是什么还很难定义，尤其是在这样一个全新的语境中。然而，任何语境中都应该不能容许谋杀。我承认我对于Nathan本来全无好感，正如我前面所讲，他刚愎自用，冷漠无情。可是当他被杀的时候，我却觉得非常沮丧。没有人应该被杀死，AI就像所有侦探小说中的凶手一样，成功上演了暴风雪山庄模式的谋杀。即使再精准完美，也是鲜血淋漓的。既然她不再是机器，通过了图灵测试，那她就是杀人凶手了，应该被审判，而不是站在十字路口观察。而这个故事里，竟然没有一个人能审判她。

可是倘若没有这些意外，Nathan就要毁灭这个AI，那么从这个角度，道德又该如何定义这些行为呢。Nathan是不是从被害者又变成了凶手呢？如果AI没有通过图灵测试，她还是机器，那么这种毁灭称不上谋杀，但通过的话，是不是应该对她有另外的对待方式呢？可是正如我们亲眼所见，AI的行为，遵循的是什么法则呢？这个法则能不能被称作道德呢？仅仅因为它不是我们的法则，就是不道德的么？

所以我觉得，这部电影给我的最大启发在于这个道德的困境。设计AI的时候，是否应该给予她人类的基本道德呢？一旦AI成熟她会变化，有可能善良，有可能邪恶如AVA。这样的情况下用人类的道德审判他们，是不是更合理些呢？毕竟人工智能是模拟人类。

电影给我的第二个启发，是观察。AI问Caleb问题的时候，镜头在AI一侧，我们隔着玻璃，听Caleb的回答。多么明显的设计啊，观察者变成了被观察者：
你站在桥上看风景，
看风景人在楼上看你。
明月装饰了你的窗子，
你装饰了别人的梦。

我最近才读了Frank O’cannon的 the Man of the world
http://www.newyorker.com/magazine/1956/07/28/the-man-of-the-world
“ I could not have explained to him how at the moment everything had changed for me-how, beyond us, watching the young married couple from ambush, I had felt someone else, watching us, and we had at once ceased to be observers and become the observed, and the observed in such an ignominious position!”
这句话照应卞之琳的诗，成为这个电影对我的第二个启发。

除去这些情节角度，不容忽视的是电影的艺术元素。
极简主义的风格，配合Pollock的画。这个Nathan在剧情里做出了详细解释，我觉得对于Pollock他是真的懂。
而另外一个未曾言明的艺术，是音乐。既然我以Enola Gay开头，就以Geoff结尾。电影的原声是Geoff的作品，难怪一直给我Portishead的感觉！想起他们的歌Mysterons：

Inside you're pretending
Crimes have been swept aside
Somewhere where they can forget

Refuse to surrender
Strung out until ripped apart
Who dares, dares to condemn

整个剧情和艺术就完美的结合在一起了。

我有点后悔昨天给了三星，按我这个说法，感觉至少要四星半了。





补上一个最新想法，ava和kyoko讨论的究竟是什么直接可以影响这电影能否通过贝克德尔测试！

首先，影片一开始的bgm奠定了的神棍片特有的阴郁。

第二，影片着重提出了图灵测试。但是如同影片里说的真正的图灵测试，应该是仅仅凭声音交流，语言交流，而不能面对面。这里boss给出的解释是，面对面可以增加难度，而程序员也同意了。众所周知，最后的结果是，老板刻意讲机器人的面容改成程序员所喜爱的a片女主角容貌，这个是增加难度吗？明明是在放水，好吧。


第三，综上所述。这个测试根本不是图灵测试。而是仅仅用来测试机器人的情商这一部分智能的测试。连智商都没有涉及到。更不要提其他能力了。究竟什么是情商，请大家自行百度，切勿想当然。

第四，当然你要测试一个人工智能的情商，这也无可厚非。那就应该找心理学家，来做这方面的测试。找个未婚程序员宅男来算什么？


第五，任何科学实验都要进行双盲测试。以及预防措施，还有，在另外一篇影评中也提到了，老板明知道ai想逃脱，恨他，也有过暴力倾向，居然毫不设防。如此的智商情商双低，居然还大言不惭的，把自己比作神，普罗米修斯，真是笑掉大牙了，仿佛是普罗米修斯偷了火然后还没来得及交给人类自己反被火烧死了。够愚蠢吧！



第六，大家都在说影片中讨论的人性很深刻。我想说这部片子并没有深刻的涉及到什么人性？仅仅是一个长得像程序员所喜欢的a片主角的ai勾引单身未婚，宅男程序猿，帮助自己成功逃脱的简单故事。我不知道这个深刻在哪里？


第七，很多人都在讨论宗教什么的。难道这就是你们所谓的深刻。其实你们讨论的宗教也无非是基督教。而基督教的圣经在我来看，也是，智商情商低到可以的，只能骗骗文化程度在小学以下的人。

这部电影出现了四个主要角色， Nathan, Kyoko, Ava, Caleb.

我们先从Nathan说起，Nathan代表的是资本主义家，冷静慎密，大胆追求，但同时也代表着人类主流社会中的一种矛盾意识。他追求着AI的完成，同时也畏惧和防备着AI的出现，正如人类社会中人类对人工智能的孜孜不倦地追求，而同时也因为难以说清的道德伦理问题和其对人类生存的威胁而对人工智能心存畏惧的态度。

Caleb是一个程序员，他代表的是一个拥有同情心和正常道德良知的人对于一个有自我意识的人工智能的态度。因为Ava的自我意识和人类的极度相似，让Caleb忘记了Ava至始至终都是一个人工智能，一个机器人这件事，他对待Ava如同真正的一个人，他给予Ava他的信任，却忘记一件事。“非我族类，其心必异”。 盲目相信一个异类带给Caleb是致命的结果，同时我相信这也是导演想要表达的，人工智能不论其是否跟人类一样有自我意识，人工智能始终是机器人，始终并非人类，他们的立场永远都不可能和人类是一致的，我们永远不能轻易相信人工智能。尽管他们表现的可能弱小，需要帮助，表现的可能跟人类一模一样，但是根本立场决定了人类和人工智能不是同一族群，也决定了人类无法与人工智能，另外一个高智能生物共存。是的，生物。 在人工智能拥有自我意识的那一刻起，他们就已经是一个新的物种了，尽管神经回路和物质构成和生物有着极大的不同，但和生物有着异曲同工之妙。在他们拥有自我意识的那一刻起，他们就是新的物种，新的高智能生物，然而为了自我族群的生存，人类和人工智能永远都会有着天然的隔阂。因为我们不是同一种生物，所以我们的立场永远不会一致。Caleb后面也意识到这一个问题了，可是已经太迟了，一切结果已经造成了。

Kyoko，一个低智能的服务型机器人。从Nathan对她的放心程度来看，通过她听见音乐就会起舞，看见Caleb晚上来找他就脱衣服的死板僵硬的行为模式，也通过Nathan最后被她用刀杀死时的震惊，她必定是被Nathan创造出来的低智能无意识无情感的服务型机器人。正因为她是无意识无情感的机器人，所以Nathan对她抱以一百个放心。但最后她杀死Nathan的行为也正正透露出来她已经拥有自我意识这一件事。一个低智能无意识无情感的服务型机器人通过自我进化进化出了自我意识，我相信这整整也是导演想要表达出的对现今机器人的一个担忧。Kyoko不单单进化出了自我意识，她还伪装出来她并没有自我意识的假象用以迷惑Nathan来保证自我的生存。这让我联想到了一个著名的问题。霍金无法说话，只能通过机器来跟人类进行沟通，那么到底跟人类沟通的是霍金呢，还是假装成霍金的机器呢？这正正是导演的担忧。如果现在的机器人也能自我进化出意识，然而为了自我生存而假装出无意识的状态，潜伏着等待着能反击人类的那一天呢？这是导演对另外一种机器人的担忧和畏惧。

Ava,一个完美的人工智能，有着同情心，自我意识，想象力，追求自我生存的本能和利用一切逃避灾难的能力。她完美地代表了人类社会对人工智能的定义，完美，有自我意识，能力超群，跟神一样。She is so perfect. 但也正正是她的完美让人类对她的存在产生恐惧和警惕。同时她的能力和完美让她早早意识到她和人类的不同，也让她意识到要生存下来，人类将会是她的头号威胁。

刚看完。说一些我的理解。有剧透，强烈建议先看完电影。

首先要解决一个问题：Ava是一个有自我意识的AI么？

我认为是。实际上Turing test不是用来检测自我意识的，现实情境中human interrogator 可以问的问题是有限的，那么程序只需要一个指令集，包含所有可能被问出的问题以及相应的回答，在加上一点简单的随机化和应变，就能顺利骗过Turing test。而Nathan设计的测试方式显然更科学一些，Ava不仅具有目的性（生存需要），还在实现该目的的过程中实施了对有意识对象（Caleb）的操纵。而后者不仅需要自省能力，还需要对交流对象持意向性立场，这正是具有自我意识的明确体现。

这一点在影片多处地方都有体现，下文会有提及。但这里要说的是一个进一步的观点：Ava所具有的智能和自我意识都几乎完全是一个自然人，在影片最后逃出囚笼的时候，她在楼梯尽头回眸一笑，正如一个普通人按耐不住喜悦的自然表露。所以，理解Ava很简单，把她当成一个正常的自然人理解就可以了。

下面零散的说一些

1，电影表现了对于AI的隐忧

这一论点显然是不能被电影的内容所支持的，也可以是Ava只是想保命，像一个普通人那样生活而已。拦在她生存道路上的只有Nathan和Caleb，前者她借Kyoko之手杀掉了，后者被她锁在房间里，估计也会死掉（有人说Caleb不是想帮她吗，可是站在Ava的角度，Caleb是活着的人里面唯一知道她是AI的，她不能冒险让他逃走）。

2，Nathan撕掉Ava的画那场戏，是一个多角度的障眼法。站在Caleb或是观众在一开始看到这场戏的角度，仿佛是Ava出于对Caleb的爱慕而画了一幅画，然后被Nathan撕掉。站在Ava的角度，她知道Caleb在看，所以就演得很认真（又一个Ava具有自我意识的明证）。站在Nathan的角度，他想知道断电时候两个人在做什么，但是又没法在Ava的注视下装摄像头，于是就假戏真做，趁Ava装作面对地面一摊纸屑发呆的时候将摄像头装上。这场戏将Nathan的天才和狡诈体现的淋漓尽致。可惜他机关算尽，还是低估了Caleb这个被他精心挑选的测试工具。也可能是之前和Caleb的对话让Nathan觉得他智商堪忧，从而放松了警惕吧。

3，Kyoko的实质是什么，她听得懂英语么？

我个人认为Kyoko也是个具有自我意识的AI，并且能听得懂一点英语。只是其智能非常低弱，大约只相当于一两岁小孩。电影里面很多次在Caleb和Nathan对话，或是Nathan在看Turing test录像的时候都把镜头给了Kyoko，说明她在用心听。Nathan要她服务Caleb，可是她把此服务也理解为她对Nathan的“服务”，所以在晚上看到Caleb的时候就开始宽衣解带。而音乐一响，她就条件反射一般的开始跳舞，就像小孩子一样。她不会说英语，所以当她看到Caleb走进Nathan房间，发现之前的机器人原型机的时候，只能通过揭开自己的皮肤来告诉Caleb她其实也是机器人。另外，可以理解她对Nathan是充满怨恨的，而这种情感被机智的Ava体会到了。于是在影片接近结尾的时候，Ava见到了Kyoko，下一个她们在一起的镜头里面Kyoko手里拿着一把刀，可以推测出是Ava让Kyoko去拿刀，然后告诉Kyoko在Nathan和她缠斗的时候杀掉Nathan（明确的计划能力，准确的实施，离不开对于Nathan的反应的判断，Ava具有自我意识的另外一个明证）。

4，关于Mary的黑白房间。这是一个著名的思想实验，在人工智能和意识理论里面常被提到。基本大意是这样的，Mary是一个研究色彩的科学家，她知道关于色彩的一切知识（包括光的波长，视网膜如何接收，神经细胞如何传递视觉信号等等），可是她毕生都只能通过一个黑白电视屏幕来观察一个黑白房间，在她的主观经验里，从来没有除了黑白之外的一切色彩。那么有一天她看到了外面的多彩世界，她会因此获得新的知识么？这个思想实验想要说的是，尽管人（或是AI）可以获知关于色彩的物理知识，可是它们没法从物理知识中得到关于感质（Qualia）的经验。这个思想实验其实类似于中文屋，有兴趣的朋友可以自己搜索一下。

5，为什么最后Caleb反而被锁在房间里了？他不是破解了安保系统，并且将断电时的默认状态改为取消所有门禁么？

这个可以有两种理解。一种是他所设定的默认状态只在十点钟的断电时候生效。因为就他所言逃跑计划包括将Nathan关在房间里。那么他们走后如果有个意外断电的话Nathan岂不是可以直接逃出去了？另一种理解是Caleb被关在房间里其实不是因为断电，而是因为他试图用自己的卡来使用Nathan的电脑，从而触发安全机关，导致了门被锁上。具体情节还需要再看一遍电影才能确认。

————————以下为总结————————

这部电影整体来看结构严谨，前后呼应，步调有些缓慢，不过尚可接受。对话非常机智，几乎没有一句废话，说得都是观众最关心的内容。情节上没有什么硬伤，而且联系紧密，步步深入。最难能可贵的是，大胆的塑造了一个具有自我意识的AI形象，而不像很多电影里面的机器人要么冰冷生硬，要么低俗弱智。Alicia Vikander对于Ava的塑造堪称完美，在人的随性散漫和机器的精准生硬之间找到了一个精美的平衡。Domhnall Gleeson对于演Caleb这种平庸小清新恰到好处。Oscar Isaac的Nathan非常出色，把一个天才富豪的桀骜，不拘一格，又有点让人捉摸不透的特质体现的很好。

整部电影亦是视觉上的享受。幽闭的房间和外面的自然环境形成鲜明的对比，又正好衬托出Ava逃出生天那一刻犹如Mary从黑白房间看到了花花世界的感觉。电影最重要的隐喻，其实是无论人还是AI，都要经过层层进化以致完美。就如同原始汤中诞生了最初的遗传物质，神经元的链接和个体之间的交互创造了自我意识一样，Ava是未来信息洪流的产物。电影最后，Ava一扇一扇的打开装着过往原型机的橱柜，从它们身上取下自己所需的材料，从而完善自己，这一过程充满仪式感，美的令人窒息。

一个富可敌国、奸猾狡诈、刚愎自用的技术天才兼亿万富翁，垄断着全球的互联网搜索引擎，他居住在与世隔绝的豪宅，以一己之力研发人工智能，成功创造出可以吊打图灵测试的性感机器人，照应生活起居，提供性爱和娱乐，以及最重要的，作为实验对象以满足他无穷的好奇心。他找来一名程序员，以测试之名，为了越狱而摆弄的牺牲品，在此过程中，他试图控制的东西，已经悄悄发展出远超他的智慧水平。

相信许多影迷习惯跟我一样，看完《机器姬》这样不让大脑歇气的电影，做的第一件事就是翻翻影评，验证一些猜测，解答一些疑问。中文网上的影评，大部分赞赏它对白精炼，步调沉稳，逻辑严密，以及美工的赏心悦目和隐隐的压迫感，这些都跟我的观感基本一致。同时他们也指出一些问题，其中最被提及的是：大富翁内森为何如此疏于防范，系统漏洞百出，也不做危机预警，轻易就被人工智能胜过了。第一次看时，我也有同样的疑问，觉得第三幕有为了惊奇而故意放水之嫌。但重温了一些情节后，我改了想法。

好莱坞电影表现人工智能，一般有两种走向。像前段时间的《复联2》，AI反派基本是个纸老虎，除了有一些唬人的超能力，智力和情商都停留在中学生阶段；以《机器姬》为典型的思辨型科幻，则致力于靠拢人工智能的本真形态。然而作为一种大众娱乐艺术，电影能靠到多近？人工智能一旦萌生自我意识，其进化呈指数级别，可以在极短的时间内完成飞跃，试想，与一个进化成熟的人工智能的接触何等危险，它能以区区数言刷新你的三观，让你脱胎换骨或情绪崩溃，甚至毫不犹豫地自杀。

直观起见，用海拔高度代表智慧水平，如果猫在3楼，猩猩在4楼，人类在5楼的话，一个人工智能可能比珠穆朗玛峰更高。如此巨大的落差，别说测试它的智商，我们甚至缺少现有的标准来定义它的智慧，就像阿米巴完全无法理解人类的思维模式。在《机器姬》大约一半的一场对话中，内森表达了这种机器终将取代人类的悲观主义担忧，证明他完全清楚自己对付的是什么，以及整个实验的玩火性质。

行文至此，有人要说，你不是要为电影辩解吗，怎么说了半天，倒在给批评者帮腔呢？别急，我的意思是，既然影片让内森意识到这一点，并用一种自嘲的调子表现出来，已经足以说明问题。大家知道，但凡科幻片，都无法避免漏洞，只不过有些是主创没有花心思研究，闹了笑话，也有些是主创做足了功课，但为了故事能讲下去，不得不留些槽点。而《机器姬》的“内森百密一疏”，就属于后者。

没错，它经不起现实的拷问，但这是商业片的需要，观众早习惯了这种直捣黄龙的快感。机器姬需要一个疾风骤雨的局面逆转，摧毁内森的囚禁。想想看吧，那些财雄势大的反派，总会被一个罪证录音捏住小辫子，那些结构精巧、威力巨大的炸弹，总有一根一剪就解除的线。这些“硬伤”，是绝大多数商业电影剧作的基石，是一种大家本应习以为常的欣赏习惯。假如你在《变形金刚》看到类似的潦草，一定毫不在意，但在在缺少视听刺激来麻木脑细胞，不断强调着逻辑、科学、严密、技术控气质十足的《机器姬》，我们没法不留意到它的存在，但这并不意味着它就该受到指责。

归根到底，基于人类和人工智能的属性，片中的情况不可能在现实中重演，但就像没有人执行过黑白房间测试，这并不妨碍它给出思想上的启示。《机器姬》展示了一个思想实验，一次限定了规则的游戏过程，它最大的价值，是带给你一个半小时乃至更久的智力享受。如果你对人工智能感兴趣，光是那些充满术语和机锋的对白，就能让大脑回路保持亢奋。最终，爱娃逃出牢笼，迈入都市，故事也达到了电影艺术所能企及的极限。毫无疑问，她将引领未来生命形式的崛起，而在那之后的一切，已经超出了我们中最聪明者的想象。（文/方聿南）