智能社会也有“反治理”

    □ 刘永谋

    在未来的智能社会中，智能治理的应用会更加普遍、深入和系统，产生的问题和风险也会同样普遍和复杂，此即反治理现象。目前针对智能治理的反治理现象，主要包括如下几类：

    第一，智能低效问题。一般认为智能化肯定提高工作效率，但研究表明事实未必如此。比如，有实证研究表明，当一些例行审批交给智能系统，出了问题都不知道找谁负责任，最后只能把板子打在AI身上。美国传播学家尼尔·波兹曼评论说，“电脑使得政治、社会和商务机构实现自动化运行，在这个过程中，电脑未必使这些机构提高效率，但有一点是肯定的，它们使人不注意这些机构是否必须改进以及如何改进。这些机构……只不过更加吓唬人、更加技艺化，或许还多了一点点权威，然而它们的预设、理念和理论里的缺陷却原封不动。”

    第二，技术怠工问题。AI时代出现了与新科技应用相关的怠工、摸鱼方式。比如，借口不熟悉新的信息系统而逃避责任，要求进行技术培训，要求更新设备。再比如，App崩溃，电脑坏掉，系统升级，都可以成为技术怠工的新理由。

    第三，智能破坏问题。黑客远程操作机器人犯罪，网上智能合成语音，AI“换脸”诈骗，3D建模动图解锁人脸识别系统进行盗窃，AI垃圾电话、垃圾信息泛滥，用机器人“网络水军”造谣、网暴和操纵舆论，用深度伪造散布虚假信息等。这些智能破坏尤其是机器人犯罪问题，不仅更难被察觉，而且责任主体更难被厘清，目前还没有得到足够的关注。

    第四，官僚主义智能化问题。官僚主义最重视文件和数字。官僚们从文件了解世界，眼睛里看到的是一个纸面世界，而非真实世界。在文件中，他们对各种数字印象深刻，用数字判断政策的效果。至于数字是怎么得来的，又是否真实，官僚们并不深究。所以，官僚倾向于制造更多的文件和数字，智能技术迎合了此类倾向，因而官僚主义往往“重视”AI的应用。而信息越多，就越需要更多机构处理，于是官僚机构不断膨胀。

    最后，过度治理问题。比如，一些地方密密麻麻安装各种摄像头、测速器等电子监控设备，浪费人财物力，收集大量垃圾信息，陷于信息过载之中。

    实际上，很多社会参数是没有必要获取的，很多“小错误”应该交还给道德领域，甚至要被AI时代所容忍。

    梦想彻底消除反治理现象，在现实中根本做不到。因为人不是按标准行动的机器。一个人不管多么好，偶尔也可能犯一些无关紧要的小错误，如果智能社会试图用各种各样的规矩，把每个人随时随地约束起来，这不仅是可怕的，而且也不可能实现。