解析社会：一切都将被记录，一切都将被分析
作者：段伟文（中国社会科学院哲学所研究员，中国社会科学院科学技术和社会研究中心主任）
从科幻和未来图景回到现实，人工智能当下发展的主要特征是数据智能兴起与解析社会的来临。当前的人工智能热主要得益于数据智能即数据驱动的智能发展，各种人工智能应用方兴未艾的基础是对数据的认知计算和机器学习。所谓数据就是一切可以以电子化形式对人和世界的记录。
随着移动智能终端、监控与传感技术、普适计算、身体与生物信息采集、大型科学装置与数据密集型科学等方面的发展，各种类型的数据呈指数级增长，数据对人的状态和行为的记录无处不在，不管是主动还是被动，每个人和各种事物都是数据的贡献者。由此，数据与存在如影随形，甚至可以说“数据就是存在”“世界等同于数据”。
数据智能的实质就是透过对数据的自动化、智能化认知分析人的行为，建立在数据智能分析之上的人类社会可以称之为解析社会。就像17世纪，笛卡尔提出解析几何这一精确地分析运动轨迹的方法一样，数据智能可以对人的行为轨迹加以记录和解析并实施相应的引导和调控。一切都将被记录，一切都将被分析，建立在数据智能之上的社会正在走向解析社会。
数据智能对人类社会的洞察如同透镜对自然界的透视，可以称之为数据透镜。13世纪时，人们发明了透镜，后来又用它制造出了望远镜和显微镜，从微观到宇观天体系统，整个世界的自然图景得以呈现和改变。
17世纪时，统计学的早期倡导者威廉•配蒂（William Petty） 写了本名为《政治算术》（Political Arithmetic）的小册子，将数据的价值提升到了统治基础的高度。如今，人们开始运用数据智能这一数据透镜从各种可量化的层面，对个体和群体进行社会计算，在记录、解析、引导和调控人的行为的基础上，对个人和社会进行管理和治理。
基于数据智能的计算社会学和新社会物理学认为，通过数据智能的解析，甚至可以站在“上帝的视角”来看整个社会和组织是怎样来发展的。在城市管理中，数据智能的发展使网格化管理向“城市大脑”的方向发展。在组织管理中，对包括微表情在内的人的行为数据的记录，可以监测并建议人们在讲堂或会议中如何更加集中注意力，如何互动，而这种调控对人的控制力应该是很强的。换句话说，借助数据透镜可以对人的行为进行智能化的调节。
在数据智能的应用中，数据成为计算、分析、评价、预测人的行为的素材与资源。虽然各种数据在采集时本来只有单一的目的，而一旦记录下来以后，根据需要就可以有多重目的与各种各样的用途。不同的数据整合后会带来意想不到的效果。比如，把一个人的医疗数据和他的犯罪数据结合在一起，可以判断这个人可能是真的因为有某种精神疾患才去犯罪。有人在一些网站点击了某些商品，马上就会有推销的电话打过来，对方知道某人的电话可能是因为某人在注册时登记的，也可能由网络服务商或第三方的不当个人数据泄露所致。
通过对不同的数据整合与分析，就使得它们成为反映和折射事实的素材，用于评价人的状况和行为。因此，数据智能所带来的解析社会首先表现为每个人的行为都会得到量化的评价。
在基于数据智能的评价型社会中，人类所产生的各种数据被当作事件和过程加以分析和调控，即数据智能通过对人的行为的评价来调节人类自身的行为。在网络购物和网约车的使用中，各种应用软件会对使用者进行评分，如果频繁取消“滴滴”的叫车服务，软件会“记仇”———因为评分下降，在特别需要叫车时，可能会得不到派车。软件还可以根据某人是否愿意在着急的情况下加价支付以及每次加多少，评价某人的性格特征，甚至难免用于对某人的算计。
由于各种数据都可以从不同侧面反映人的人格与行为特征，信贷、保险等行业已经开始使用行业之外的大数据评价客户。假如一个人有不当的路怒行为或在某些场所与他人发生过冲突，保险公司有可能获得这些事件的记录数据并对其加以分析，某人很可能就要交数额较高的保费。其实，这种评分体系一直就有，只不过是在数据智能出现以后，使用的大数据资源更广，分析与评价的自动化和智能化程度更高，其应用越来越朝着规模化的方向发展。
美国的一些法院已经在使用一些特定的算法预测犯人再次犯罪的概率，并据此决定是否假释。随着各种大数据集的建构以及数据智能的普遍应用，这种预测犯罪概率的算法将更为智能化和普及，甚至用于对潜在的嫌疑对象没有实施的犯罪的预测、控制和打击，而这种治未罪的做法显然不同于一般对嫌疑犯无罪推定的做法。
但问题是，实行这些评价的数据模型和智能算法一般被当作行业和部门的机密，被评价者往往不知道它们的存在，对于非专业人员来说它们如同黑盒，对其一无所知。评价一旦出现偏差，不仅很难加以纠正，而且会被视为一种合理的结论，使偏差持续强化而造成恶性循环，甚至会通过数据的跨领域运用导致附加伤害。
近年来，基于数据智能的智能化生活已经初现端倪。其一是量化自我，在可穿戴技术的推动下，量化自我运动的实践者运用运动手环等各种可穿戴设备，对人们的健康状态和运动情况进行量化评价和管理，并在微信等社交软件上展示。但这在一定程度上也是人屈从于机器的一种表现，而实际上有很多东西是不可量化的。
其二是智能陪伴，随着人工智能和机器人技术的发展，各种陪伴机器人、智能音箱、记忆管家将得到普遍应用。由于这些技术还在发展之中，难免出现体验不佳、言行误导和成瘾等负面后果。尤其值得关注的是，智能陪伴将使个人的所有活动数据得到全面的采集，这些数据的采集与使用无疑将在法律和伦理层面带来巨大的挑战。
从信息化向智能化发展的维度来看，正在兴起的智能化社会可以视为控制革命的2.0版。20世纪80年代，信息社会的研究者、美国传播学学者詹姆斯•贝尼格（James Beniger）写过一本《控制革命：信息社会的技术与经济起源》（ The Control Revolution：Technological and Economic Origins of the Information Society）的书。该书指出，19世纪以来，城市化带来的陌生人社会和现代工业化大生产导致了一系列的控制的危机，信息技术的发展就是对它们的回应，由此从电报、无线电到计算机和互联网等信息技术的发展，导致了一系列控制革命。智能化的解析社会中，通过数据智能可以对社会和人进行最大限度的解析，形成观测、监视、预测、评价、诱导等全新的智能化控制手段。一个典型的反面案例是智能化赌场，通过对人的表情和行为精细的数据洞察设计，完全可以设计出一种智能化的上瘾机制使赌徒无法自拔。
透过对数据智能和解析社会的描述，已经可以清晰地看到巨大的力量。这种力量的实质不仅仅意味着工具理性或某种自主性的技术力量，与掌控这种力量主体和被这种力量所掌控的主体休戚相关，更多地关涉尼采意味的权力意志与葛兰西式（Gramscian）霸权，故而应从主体能动性的维度，对作为数据智能和解析社会基础的智能算法展开必要的价值追问与伦理审度。
- 本文节选自作者刊于《当代美国评论》2019年第1期的论文“面向人工智能时代的伦理策略”。
- 作者段伟文系中国社会科学院哲学所研究员，中国社会科学院科学技术和社会研究中心主任。
