2021年02月20日 | AI窥人（二）：彻底“AI化”会变成什么样？

我们知道，美剧《西部世界》主要讲了一个“作为人工智能的接待员如何从被人类奴役的状态中觉醒，并最终反抗人类”的故事。

这一主题其实是有些老套的。不过随着剧情展开，这些觉醒后的接待员闯入了人类世界。而从AI的视角来审视人类，我们惊讶发现绝大多数人在被人工智能系统所掌控，成为幕后大数据公司的产品而已。

剧中有一个关于“人类意识”的隐喻，那就是复制出一个人类意识的代码只需要一万多行，可以说人类大多数行为和决策都是可以被算法预测的；但同时，这些代码一旦输入到仿真人体后，就会很快崩溃，可以想见人工智能的处理能力仍然无法执行人类充满矛盾的行为逻辑。

看来人类真是一个足够复杂的矛盾体呀。

随着智能时代的到来，越来越多的数字智能技术在我们的生活中得到应用，相应的我们人类的意图、喜好、和行为也正在全面的数据化。其结果就是我们的行为越来越容易被AI预测，同时能够帮助我们人类更好决策的AI算法也日渐成熟。从我们的消费偏好、兴趣习惯、再到社交择偶、职业规划，再到投资决策、政治观念等……

两者相互作用的结果就是个体人的全面AI算法化和AI对个人决策的全面接管化。面对这种正在潜移默化的趋势，我们不禁要问：我们究竟是否要将自己彻底AI化？

通向“美丽新世界”，

人类AI化的“快乐终点”？

人工智能对于我们人类而言，其实是充满了巨大的诱惑。

从哲学角度来说，我们人类文明的进化史，就是一场从完全的不确定性的世界当中寻求确定性的过程。

在遥远的旧石器时代，位于今天法国西南部的拉斯考克斯洞穴的狩猎者在墙壁下画下一群的牛羊，仿佛可以夺取和禁锢这些猎物的力量，以期待在捕猎当中可以一举收获它们。

直到现在，我们依然在用同样一套思维方式处理我们和世界的关系，只不过随着我们对现实世界规律的掌握以及技术工具的娴熟运用，我们对世界的掌控力是远古人类的数百万倍。与此同时，我们也越来越依赖这些知识和工具，来维持如今安逸、舒适的现代化生活。

从整体上，现代社会大分工下的人类群体能够战胜地球任何一种生物，然而一个赤手空拳的现代人在野外可能连基本的生存能力都没有。

这正是庄子所谓的“有机械者必有机事，有机事者必有机心”。而“机巧之事”带来的“机变之心”的趋势在即将到来的人工智能时代将更加显著。

首先，在信息数据大爆炸和社会化大分工越来越加剧的条件下，个体人受限于学习能力、知识经验的限制以及必然存在的信息茧房效应，将会越来越难以应对复杂、快节奏和大信息量的各类生活决策。

其次，随着AI算法，特别是深度学习的深度神经网络复杂程度日益提高，一方面AI的预测准确度在大幅提高，一方面AI的可解释性也在变差。但由于AI算法所表现出的高效和准确，我们在越来越多的领域开始日益依赖AI的参与。

现在，我们正在将出行的路线规划的决策权交给AI，将新闻资讯、个人兴趣的偏好交给AI，将外文翻译、断章断句的能力交给AI；再接下来，我们要把日常的时间安排、工作进度、运动健康交给AI；更进一步，职业选择、交友择偶也会由AI进行预测和推荐；未来，事关我们个人的投资理财、公共事务参与、价值观选择等也可能交由AI来决策……

AI技术正在越来越多地参与到社会治理和个人的行为决策当中，似乎让我们迎来一个更加高效、公平的“美丽新世界”。

可以预见，在这个被AI技术高度掌控的“美丽新世界”当中，每个人都可能享受最大程度的舒适和便利的生活，快乐会被第一时间满足，就像我们在每个美好故事最后看到的“Happy Ending”一样。

不过，正如现代人和远古人的“隐喻”来看，个体人的AI化是一件完全有益无害的事情吗？

活在“监视塔”：AI化的代价

我们如何来看待“人的全面AI化”的过程呢？

从学过的《政治经济学》当中可以看到，人的异化主要发生在劳动的异化中，我们把确证人的主体性价值的劳动以“时间出租”的方式让渡给资本家，创造出滔天的社会财富，但自己却只得到可以维持生存和劳动力循环的所得，最终这些财富转化为一种牢不可破的社会制度去维持这一异化关系，最终愈演愈烈。

现在，这一种历史观叙事依然闪耀着智慧的光芒，而且还更新了一种全新的面目出现在我们面前，那就是以数据和算法的方式来重新定义人这一主体。

科技巨头们似乎以免费的、以用户为中心的方式为我们提供服务，但同时我们却要将自己的所有偏好、兴趣点、社交关系乃至身体（绝不会造假的表情、脉搏、心跳）等多维度数据让度给这些企业的大数据平台。这样，我们的数字分身的所有权基本上已经让度出去，从而无时无刻不成为这些企业的AI系统的研究对象和利用对象，从而成为他们获取商业利润的不竭源泉。

人的全面AI化，会造成这样两层显著的后果。

一种是人的主体性的再次丧失。经由启蒙运动所开启的现代性社会，最主要的贡献就是对于人的主体性的高扬，也就是像德国哲学家康德所谓的“个体人能够勇敢滴运用自己的理性来决定个人的事务”的能力。近几百年来，我们一直在为获得人的主体性的而努力，现在又随着AI技术手段的空前进步，面临再次丧失的风险。

在一个是更为隐秘但更严格的社会监管体系的出现。正如福柯在对现代性的批评当中，认为现代性只是更为高级有效的权力体系和控制形式。在他的《训规与惩戒》一书中，借用了边沁的“全景敞视监狱”的意象来阐释现代权力的运行形式，即一种尽可能全方位的社会监督。

原本这一构想实现起来并不容易，必须通过一遍遍的统计、登记、报到等方式确认，现在通过高效的数字化平台，不仅可以轻而易举知道每个个体的过往数据，同时也能预测未来的动向。与个人ID紧密连接的数字分身将会被镶嵌在AI系统营造的“信息茧房”当中，成为AI“监视塔”面前毫无遮拦的被监控者。

主体化的丧失会带来呆板和无趣的“单向度的人”，正如“困在算法里的外卖骑手”变成只为时间和效率负责的运输工具一样，大多数人会卷入到AI系统的“驯化”和“监管”当中。

这是我们为了享受AI带给我们的无尽好处的必要代价。但我们是否有办法能让这一代价变小一些吗？

找到“平衡点”：

为“冗余”人性保留栖息地

我们相信，绝大多数人都对未来的人工智能世界保持着一份积极乐观的期待，正如我们对当前科技进步所带来的经济社会的繁荣发展的信念一样。

从进步主义的线性发展观来看，这一信念是毫无问题的。但往往由于我们只能身处社会历史的一个狭窄片段当中，使得我们难以观察全貌。

如果溯源成就如今现代社会的思想基石的理性主义，其最大特点就是从笛卡尔开启的主客二分的视角，即我们既把自己当作一个主体看待，也把自己当作一个客体看待，其好处是我们在将世界客体化的过程中建立起蔚为壮观的现代科技体系，其坏处就在于，当我们在客体化人类自身的过程中，越来越将自己视为一个物，也就是一个需要时刻被还原、被改造的对象。

可以说，从哲学到自然科学，再到心理学，神经科学，再到如今的人工智能，正是人的客体化逐渐加深的过程。

本着从易到难的研究思路，人的生物性的、生理性的特征优先成为感知AI的研究对象，随即人的普遍的社会性心理、理性观念的部分被纳入AI分析的范畴，而现在人的更为细腻的情感、创意才华，乃至偏执、癫狂等非理性特征则仍然基本束手无策，或只是在按照生理学特征去研究。以至于人的神性特征或者我们称之为“自由意志”的那个层面，正在变成像神话一样要“祛除”的东西。

但是，正如我们已经洞察到要想长久地在这颗蓝色星球生存，就必须尽可能保持生态多样性一样，我们想要长久地延续人类社会，就必须尽可能保存着人类的复杂性和丰富特征。

因此，我们需要为那些尚未被纳入AI系统或者无法被纳入AI系统的人类特性，保留足够的“多样性空间”。尽管个体人的众多决策会存在缺陷，会出现大量的错误和浪费，但这很可能意味着人类的新可能性。

同样，对于AI系统的拥有者，我们始终要提出严苛的要求，确保AI算法的可解释性和数据的合规性，避免系统性的AI偏见或者对人类致命的威胁的预判，比如对于某些少数族裔的信贷申请进行惯例式的歧视，从而使整个族群陷入无力改善当前处境的恶性循环当中；或者是对于某国试图进行军事报复的过高预判，而建议进行提前的军事打击等。

无论如何，人类AI化的进程将一直持续下去，未来我们努力的重点在AI带来的便利、舒适享受和保持自身人性的复杂深度之间寻找一个平衡点。

那么，寻找这一平衡点并没有现成的答案。不过我们可以从两种进化论学说中得到一点启示。

达尔文的进化论讲“自然选择，适者生存”，这个需要在非常长的自然演化的尺度中体现出来，比如智人和尼安德特人的变化。而拉马克的进化论讲“用进废退”，则描述了一种“脑子越用越灵光”的朴素智慧，用在人类这种可塑性很强的物种上面解释性就非常强。

在AI试图掌控我们绝大多数决策之际，我们仍然要记得自己的这一能力，不断“进化”。不管怎样，我们应该在与AI的共生中，从AI的算法里一次次突围，探索更为多样的存在模式。

正如《三体》所说：失去人性，失去很多，失去兽性，失去一切。

这是一场注定艰难的选择。