假如医学家成为上帝（6）

观众一定会问，人类对机器人有什么责任？影片中电子公司的老板并不满足于已经开发出来的智慧型机器人，而要进一步开发出一个会爱的机器人，一个有心智和情感的机器人，这种机器人拥有前所未有的潜意识，充满暗喻、直觉和自发性推理力的内心世界。当这个提议被提出的时候就遭到质疑。为什么？那就是”斯皮尔伯格问题“：如果一个机器人能真的去爱一个人，那么这个人对机器人又有什么责任呢？

我们面临着一个双重的纠结，一是我们如何去面对一个自立的机器人世界？包括如何去爱机器人？（解放机器人，走出robot歧视的魔咒），二是我们应该如何去阻止机器人的僭越？（解放自己，走出robot依赖和功能退废），在今天的现实境遇中，似乎后者更为迫切。

玛丽-雪莱的忠告是人类别太自信，别一不小心就去充当上帝，而思想家芒福德给了我们另一个忠告。人类要在“人-机委托”的游戏中保持主体性，别太相信机器人，更不能过度委托。因为“计算机控制的自动化所带来的最严重的威胁还不仅仅是在诊疗过程中挤走了人，而是他替代了人的心灵，并破坏了人类对自己做出独立判断能力的信心——即任何判断都不敢与这个系统相左，也不敢超越这个系统之外。”“使用机器以扩展人类的能力和使用机器来收缩、取消或代替人类的功能，期间有着很大的差异，在第一种情形中*，人们能够行使本身的权威，而在第二种情形中，机器接管了控制权，人类成为一个超级傀儡，所以，问题并不是毁灭一切机器，而是要重新恢复和认定人类的控制权。”