人工智能的危险在于我们给它以人的待遇——对电影《机械姬》的一点认识
本片明显具有警示意义，警示我们人类不要聪明反被聪明误，不要被自己创造的工具所奴役和伤害。人工智能发展的终极目标是怎样的，恐怕专家也说不清楚，发展到像本片中的机械姬那样，有了人类的自我意识，应当是一个不成问题的阶段性目标，但赋予了机械以人的意识是否一定要给予它以人的待遇，却是个问题。电影在这个问题上是有启示的。作为人工智能实验的主持者纳森（Nathan）并不想给予它们以“人”的待遇，结果招致怨恨被杀；而作为实验参与者的嘉立（Caleb）明显把机械姬当作一个自然人来看待，甚至被该姬所吸引，结果导致自己被锁实验室。当然，前者的危险是由后者所引起的。然而，电影故事虽讲完了，但我们仍不知道到底是前者的危险大还是后者的危险大，是要给机械姬以人的待遇还是不给，无论是给还是不给，理由是什么？
这涉及一个重要伦理问题，机械应不应该享受和人一样的待遇？有人可能会说，一般情况下，机械是人的工具，不可能享受人一样的待遇，但作为人工智能的产物机械姬具有了和人一样的自我意识，就应该给予人一样的待遇，因为有自我意识就意味着（1）她具有和人一样的灵魂；（2）她具有了人性。“灵魂说”其实并不适用于人工智能，因为任何人工智能产品不可能具有和人一样的肉体，而灵魂是歇息于肉体的；如果我们承认人性即人的需要，那么，有了人的意识的机械姬的确可以具有和人一样的需要，比如本片中的机械姬艾娃（Ava）需要的生存权和自由。但人首先是动物，动物性的需要是一种基本的人性需要，比如吃喝拉撒睡，而人性的其他需要在一定程度上都是以此为基础或为此而服务的，人工智能产品显然并无这种需求，如果因为自我意识导致它们的平权要求，即要求和人类享有同样的权利，那也是一种伪权利，因为它不是以基本的人性需要作基础。
无论是灵魂说还是人性说，关键还在于我们如何看待“人”，即使人工智能产品具备了人的意识，也不意味着它们的人性需求是合理的，或者说要求人类给予它们人的待遇就具有正当性。坚持这个原则，人工智能无论如何发展，它都只能处于工具的地位，这样，危险也就不会产生。事实上，危险的产生或者说伤害的产生均来自人的自作多情。以前有一部电影《她》(Her 2013)也可作为例证。就本片而言，嘉立是一个不理性，有道德良知但易于被诱惑的人。纳森实验只想测试艾娃的自我意识，但没想让嘉立太过沉浸其中，所以对艾娃没有包裹皮囊。然而，嘉立还是被她所吸引，完全把她当作一个人，甚至不惜篡改程序命令让她逃脱，嘉立对她付出的是真情，而得到的却是假意。艾娃成功地利用了她的自我意识、想象力、手段、女性魅力和同情心，她的目的就是逃脱人类的控制；而嘉立的目的可是不仅如此。当人机交往，人和机器的付出和得到不能处于对等地位时，危险就会产生，而受伤的肯定是人。因为人受各种各样规则的约束，而机械不受；人永远都有局限性和弱点，而机械可以没有，它可以被设计得比人更强大。如果机械姬的自我意识完全以自我为中心，那么人机交往的过程中，输的永远是人。这也是我们不能给予机械以人的待遇的重要原因。
正如人类的成长一样，自我意识的形成仅仅是一个人成长的第一步。走出的机械姬能否和人类和平共处，能否与人类正常交往，故事还可以接着写下。但纳森如果真死了，这个实验效果其实无人能评价了，人工智能的实验也就无法继续了。如果纳森也只是一个更像人一样的机器人，它完全受到幕后真人纳森的操作，那么，接下来的故事应当很精彩。另外，从纳森角度而言，似乎《机械姬》还可以写前传，因为从本片中的纳森的表现看，他天天喝得醉生梦死，是不是可以推测他有过感情创伤？他和另一版本的机械姬交往过，他也把机械当人看待了，结果受伤了，不敢再让自己来测试了。这种推测是因为我们不理解，在本片中，为什么要让纳森这样地表现，如果为了迷惑嘉立，没必要天天喝醉呀；如果仅为了迷惑，他就不会让嘉立篡改程序命令导致最后危险产生呀，说明他是真喝醉了，原因何在？另外，在纳森和机械姬曾单独相处一室时，艾娃告诉纳森：“创造一个恨你的东西，是不是很奇怪。”纳森创造了“恨”，为什么不创造“爱”呢？这也让人纳闷，必须有前传才能完整交待。如果前传是关于“爱”的，本片是“恨”版，那么接下来就应当是“情”和“仇”了，呵呵，好像还挺有道理吧！