【本文为台湾大学政治系教授、台湾“中央研究院”院士朱云汉，在台湾“中技社基金会”今年2月会议上的演讲。小标题为编者所加。】

主持人、陈校长、各位嘉宾各位先进，今天我站在这个台上，事实上是完全被逼上梁山，陈院士非常恳切地要我来做这样一个演讲，我只能说他大概觉得我春节没有更好的事情可以做，就丢一个很大的家庭作业给我。

当然，我过去也思考过AI相关的问题，不过从来没有准备要做这样一个比较系统性的论述，我可能也要感谢他逼着我有机会去整理一下这方面的文献，以及自己过去在这个问题上的一些思考。可能还不成熟，我今天也很高兴有机会来就教于各位。

今天的演讲，因为只有40分钟，我会尽量精简一点，前面会讲一些关于AI以及跟AI非常密切相关领域的科技的、未来的、巨大的、潜在的爆发力。先谈一些它已经在政治领域里面产生的、我们看得到的影响，这是一个具体的线索，一方面是对于民主政治运作的影响，而更广义来讲，对国家职能、政府机器，它的运作，整个影响绝不下于它对所谓商业模式或是企业组织的影响，应该说有一些地方是非常雷同的。

作者供图，下同

AI革命包括哪些方面？

但是我认为AI科技创新，带来了巨大的难题。我把它称为革命，因为我觉得它带来一种前所未有的颠覆性的、爆炸性的影响，改变我们人类将来整个社会运行的方式跟社会的价值观念。

人类社会将来怎么样能够有智慧地因应这几个大的难题，我觉得会对人类的历史，不仅是对台湾，对我们70亿人都会带来非常不同的结果。甚至我有一个比喻，我们可能正站在历史的十字路口，是通往更接近理想的乌托邦还是通往奴役之路，可能就在这个未来的几十年里面，可能我们就在这样的历史关头，这是严肃的挑战。

我先讲几个简单的例子。今天为止，当我谈这个问题要有一个范畴，并不能把所有科技发展纳入，或是仅限于所谓狭义的AI，这两个都不是很好的切入点。

我认为其实它具体表现在：生产、制造各方面来说，智慧机器人是未来的趋势；大数据我想也是，因为大数据将来随着下面会讲的万物联网（Internet of everything）所能创造的浩瀚，用天文数字都不足以描绘。它的数据复杂跟它的巨大已经超过我们所谓人的智慧跟分析能力，无法消化、整理，所以必然是要依赖AI，它的巨大的算法能够非常有效率地去处理大量数据。

另外，AI最值得关注的就是它的深度学习，说不定不久之后它就真的能去模仿人的很多一些重要的基本能力。到今天为止，机器还没完全替代，特别包括语言，它不仅是一种辨识，也包含沟通。

将来它的算法跟它计算的速度要求越来越高，所以量子运算（quantum computing）将来也是一个重要的突破，因为它会让AI的潜力可以发挥到更极致。

所以这几个我认为都是相关领域，就是说跟AI革命是不可分割的。

AI对“民主政治”的影响

在这个范畴里面，很清楚，对于所谓民主政治运作，它已经出现各种正面的，但也带来很多负面的作用。

首先呢，就技术上来讲，运用AI的技术在选举预测方面，相比传统的民意调查已经展现出其优越性。在很多次关键选举中，包括英国的脱欧公投，AI的预测都比专家和民意机构更加准确，也包括川普的当选。

Sanjiv Rai他就是一位在AI领域里面非常有创意的工程师，也是一位企业家。他从2004就开发MogIA，这也是会自我学习的一套算法（algorithm）。自从他架设以后，就让它自己去修正，根据事前跟事后的资料修正，用大数据，用facebook还有其他social media里面百万笔、百万笔的数据，去采集里面各种讯号，然后来看每个候选人在每一个选区得票的吻合程度，所以它成功预测了川普的当选，令所有专家跌破眼镜。

也可以说川普的当选里面也运用了AI的技术，事实上，在竞选上来说是一个巨大突破。他可以跟很多拥有个人信息的公司买信息，所以他对每一个家庭里的基本政治倾向，平常看什么杂志、听什么收音机，大概都可以掌握。然后就考虑他有这种心理特征、有这种心理倾向，我怎么刺激他？怕移民的就散播一些移民，有可能小偷、有可能强暴，让你很恐惧的信息，让你更反移民。这里面的操弄其实已经达到前所未有的高度，而且完全是量身订做。

他派出志愿工作者去挨家挨户拜访时，电脑上已经知道这一户从来都是投民主党，放弃，不要浪费时间，下一户是可以争取的，再下一户是你要跟他稍微随便谈什么问题，应该从什么问题切入，每一个挨家挨户拜访的都有这样一个personality profile（个性侧写）或psychological profile（心理侧写）。

拥有这种技术的公司，如Cambridge Analytica也发了大财，现在很多国家的竞选团队都找他们去运用这样的大数据跟AI所提供的技术，从某种程度来讲完全是操弄选民，选择性地给选民特定的刺激，而且通常是运作他们的情绪、恐惧或者说一种仇恨。

所以也有学者针对这样的趋势非常忧虑，像Harvard毕业的Cathy O'Neil就写了一本书叫《Weapon of math destruction》，用数学，也就是算法对民主政治带来极大的摧残，因为民主它原本是希望每一个选民，或多数选民，或中间选民能够做独立判断。今天很难做独立判断，因为你的信息来源太混淆了，而且真假莫辨，网络上的一段影片，让你看得义愤填膺，但后来发现是经过加工处理的。

所以虚拟跟事实间的界线在网络上可以说是非常模糊，而且大量的假新闻恶意中伤谣言，可以很快在社交媒体和网络上传播，等到已经传播出去了，传了千里之后你再来消毒是非常困难的。

很多一般人使用网络的习惯或是阅读习惯也改变了，主流媒体的重要性不断下降，以前主流媒体都会扮演gatekeeper（看门人），就是可以过滤，太偏激的、太离谱的不报导，但现在这样的功能已经被社交媒体取代了，结果很多人就变成跟自己属性、观念或偏见类似的人相互取暖，整个社会里面变成对立性更强，我们称之为社会的“数位部落主义”，也就是说，每一个对其他群体有偏见的人，彼此之间相互增强，而且跟他仇视的、疑惧的其他团体，基本上完全没有交集，也不往来，也没有共同分享的信息平台，这些问题都很严重。