三　影视界对于人工智能的误读的外溢

由于影视剧在现代传媒体系中的优势地位，以AI为主题的主流科幻电影，在相当程度上塑造了公众对AI的印象，并使得相关影视主创者对于AI的错误阐释外溢后导致全社会的误读。这些误读包括：

第一，与科幻电影创作者对于人形机器人的青睐相对应，关于人形机器人的出镜新闻亦更容易得到公众的高度关注。以“汉森机器人公司”（Hanson Robotics）设计的名噪一时的人形机器人“索菲亚”（Sophia）为例：这是一台以好莱坞大明星奥黛丽·赫本的外貌为基准进行外貌设计的机器人。“她”能够与人类进行对话，并与此同时展现出相对自然的人类表情。借助其可人的外表所激发的公众的“人格化心理效应”，“她”在2016年第一次于公众前露面之后，迅速获得了主流媒体的大量报道。“她”还在2017年获得了沙特阿拉伯的公民权，由此成为世界上第一台获得主权国家授予正式公民权的机器人（参见图0-3）。

图0-3 人形机器人索菲亚

尽管如此，索菲亚的技术实质，无非就是人形机器人与下述技术的结合：（甲）针对人类语音输入的语音识别技术——此项技术的实质，便是将人类带有各种口音的话语都处理成机器能够处理的标准格式。（乙）针对已经被标准化的文本信息的“聊天机器人”（chatterbot）技术——该项技术的实质，就是一个通过文字信息的交换而与人类进行聊天的AI程序。（丙）语音综合技术——此项技术的本质，便是将在上述环节中被处理过的文本信息重新变成带有抑扬顿挫的语音信息，并将这些信息从机器人的扬声器中发出。

需要注意的是，大多数对于索菲亚的新闻报道，都没有如实呈现如下事实：如上三项技术都未达到真正人类智能的水平。譬如，（甲）技术与（丙）技术的主要实现方式乃是深度学习——换言之，系统必须通过对于大量关于标准文本与相关语音之间关系的样本学习，才能自行对相关数据进行合理的标注。与之相较，人类则可以通过简单的学习迅速把握某种标准语的方言（譬如，一个北京人不需要太多的训练就能听懂四川话；一个东京人不需要太多的训练就能听懂大阪方言；一个纽约人不需要太多的训练就能听懂英式英语；等等）。至于技术（乙），其实在AI发展中有着漫长的历史，至少可以上溯到20世纪60年代出现的程序“伊莱莎”。而此项技术的传统实现方式所自带的缺陷也是很明显的：相关系统只能对特定范围内的话题进行应对，而无法应对“超纲”的话题（例如系统只准备好了与用户谈天气的程序，用户就不要指望它能与你讨论哲学）——而在这个问题上，人类的表现显然要好于“聊天机器人”（因为人类可以通过某种更一般性的推理方式来获得新领域的知识）。

按照上述的分析，沙特政府授予索菲亚公民权的做法显然只有“博噱头”的意义，因为索菲亚完全不具备一个合格的公民所需要的理解力、推理力、感知力与行动力。但是，媒体对于此类事件的大量报道，却掩盖了索菲亚的真正技术实质，由此促使公众低估了仿人机器人技术与真正的通用人工智能技术之间的技术差距。而这种误导机制，与以仿人机器人为主角的科幻电影所体现的对于公众的误导机制，其实是如出一辙的。

第二，与科幻电影对于AI全局思维力的夸张相对应，现在的新闻界都会倾向将AI在某些方面对于人类的胜利描述为机器对于人类整体的胜利。以“深度思维”（Deep Mind）公司的产品“AlphaGo”

（阿尔法围棋）程序为例：AlphaGo是第一个击败人类的职业围棋选手、第一个战胜围棋世界冠军的AI程序，由谷歌（Google）公司旗下“深度思维”公司开发。2016年3月，通过自我对弈数以万计盘进行练习强化，AlphaGo在一场五番棋比赛中以4︰1的成绩击败顶尖职业棋手李世石，成为第一个不借助让子而击败围棋职业九段棋手的电脑围棋程序，引发了媒体广泛报道。五局赛后韩国棋院授予AlphaGo有史以来第一个“名誉九段”的称号。2017年5月23—27日在中国乌镇围棋峰会上，最新的强化版AlphaGo在和世界第一棋手柯洁比试、配合八段棋手协同作战、与五位顶尖九段棋手对决等五场比赛中，均获取3︰0全胜的战绩。在与柯洁的比赛结束后，中国棋院为AlphaGo颁发职业九段的证书。

媒体对于AlphaGo的高度关注，显然与人类对于AI的某种期待有关——既然AI被认为是对人类智慧的模仿，那么，最先进的AI就应当有能力模仿人类智慧中最具代表性的一些部分——而下围棋的能力便是一种在东方文化中被高度推崇的理智能力。需要注意的是，虽然与前面提到的索菲亚不同，AlphaGo并不具备人形的身体（并因此并不与主流科幻电影的AI主题的演绎方式直接相关），但是“深度思维”公司对于此项技术的呈现方式依然带有很强的“影院效果”。譬如，该公司安排全网直播柯洁在2017年与AlphaGo于浙江乌镇对决场面的做法，本身就具有很强的戏剧效果：虽然观众不可能看到AlphaGo的表情，但是，通过观察柯洁的表情，观众的“人格赋予倾向”会自然被激活，好像柯洁与之斗争的乃是一个真正的人，或至少是人类智能体。

然而，从技术实质上看，AlphaGo在本质上无非就是深度学习技术与“蒙特·卡洛树形搜索”（Monte Carlo tree search）技术的结合。“蒙特·卡洛树形搜索”技术本身乃是一种相对传统的逻辑空间搜索技术，而深度学习在这里扮演的角色是：系统能够通过它来模拟人类棋手对于大棋局的宏观感知能力，由此指导上述搜索机制在特定的逻辑空间中更仔细地进行棋局搜索，最终节省系统的运作资源。不过，尽管如此，与一般的深度学习技术一样，AlphaGo所使用的深度学习技术也很难在不被重新编程的情况下自动拓展到与围棋无关的新的数据领域——与之相比较，人类大脑却能在非常不同的领域之间做到举一反三。因此，作为棋类专用系统的AlphaGo是很难被升级为真正的通用人工智能系统的。此外，由于棋类活动本身是一种被高度定义化的活动（譬如，关于何为输赢，各种棋类游戏规则都有清楚的规定），我们也很难说这种技术一定能够被运用到那些缺乏清晰定义的人类活动之中。然而，正如主流科幻电影没有清楚地向公众展示现有AI技术的种种不足之处一样，主流媒体对于AlphaGo技术的上述缺陷的报道也是相对不足的。

第三，与科幻电影对于“AI压迫人类”的戏剧化场面的刻画平行，现在有不少人都对全自动开火的AI武器抱有过分的担心——对于此类担心最典型的建制化产物，便是在国际上小有名气的“禁止杀人机器人研发运动”（Campaign to Stop Killer Robots）5。不过，从观影体验丰富的科幻电影观众的视角视之，此类运动的支持者对于“杀人机器人”的一般理解方式，无非就是依据电影《遗落战境》（Oblivion）中全自动化无人机的展示形态来进行的：与现有的遥控无人机不同，这些无人机可以在人类操控员不介入的情况下完成对于目标的侦察、识别与攻击，而这些特征自然使得那些被其追杀的目标人类很难逃脱噩运（耐人寻味的是，在这部电影中，此类无人机是为邪恶一方服务的，而代表正义的人类反抗军则缺乏与之匹配的装备。由此可以看出电影主创者对于自动开火无人机的消极态度）。无独有偶，在禁止杀人机器人研发运动支持者的标准叙事中，此类将AI技术与军事技术对标的企图也被打上了负面的道德标签。在他们看来，此类结合所导致的技术产物已然完全排除人类的自由意志在“扣动扳机”这一最后环节中所起到的作用，而这一点就必然会导致机器对于“人性”的压迫——因为用纯然的机器杀死人类这一做法本身，就是纯然泯灭人性的。

然而，依笔者之见，这样的推断，其实已经是片面地高估具备自动化开火能力的AI系统的“自动化”程度，并在这种高估的基础上片面夸张了人类与机器的对立。实际上，即使未来的无人机达到了能够自动开火的技术高度，其飞行范围与候选攻击目标依然是由人类拟定的，因此，我们切不能说人类指挥官的意志因素已经在此类兵器的开火因果路线中完全缺失了。而且，在现代战争中，无人机首先要摧毁的目标毕竟是敌军的装备（如坦克、装甲车、火炮、雷达站，等等），而之所以这种打击会带来人员的伤亡，也仅仅是因为这些装备本身往往是有人操控的。因此，“杀人机器人”这个名号本身也是多少有点误导人的，“装备毁伤机器人”这个名号恐怕会更名副其实一点。从这个角度看，即使未来能够自动开火的AI军事装备真的得以问世，这些装备也会被整合到特定人类武装组织的整体架构中去，而不会另成一类，与人类整体进行对抗。当然，上述的分析无法在逻辑上排除下面这种担忧：某些装备了此类先进武器的国家会在国际军事竞争中获得过大的优势，由此导致国际军力的失衡——但这种担忧所涉及的，毕竟还是人类群体之间的关系，而非人与机器的关系。此外，即使是这种担忧，也不能被过于放大，因为除了能够自动开火的武器之外，能够拉大军事强国与弱国之间技术差距的武器种类何止上百种（如高性能卫星、高超音速导弹、电子作战干扰设备，等等），因此，将批判的注意力过多集中在能够自动开火的武器之上，也缺乏基于军事学的充分理由。

另外，需要注意的是，那种类似电影《生化危机》中“红皇后”的能够通过全局推理而自动开启各种武器的超级AI系统，完全超越了目前的AI发展现状，因此，当前我们根本不用担心它们的出现所可能导致的伦理问题。而且，在可以预见的未来，我们也很难设想有任何组织会有动力去研究一种完全不在人类控制范围之内的自动开火系统。