徐贲：人工智能时代的公民社会与民主，面临怎样的机遇与挑战？

国家公民身份，就其核心而言，代表了一个由地理边界、法律框架和共同治理结构所界定的政治实体的成员身份。从历史上看，对国家的忠诚根植于对特定民族国家的忠诚，其特点是共同的语言、文化和历史。国家公民通过公民参与、纳税和遵守国家法律为社会作出贡献。虽然这种形式的公民身份仍然是基础，但全球化的出现对其排他性提出了挑战，促使个人认识到他们与超越国界的更广阔世界的相互联系。

从国家公民身份到世界公民身份的转变标志着视角从狭隘的民族主义向世界主义的转变，强调人权、尊严和团结的普遍性。在一个日益相互依存的世界里，个人面临着气候变化、流行病和经济不平等等超越国界的全球性挑战。因此，作为世界公民的概念包含了共同的人性和集体责任感，以解决这些紧迫的全球性问题。

国家公民身份与世界公民身份之间的关系不是对立的，而是互补和相互关联的。个人在与各自民族国家保持联系的同时，也认识到自己作为世界公民的角色，对更广泛的人类社会负有责任。国家公民意识为地方和国家层面的公民参与奠定了基础，在特定的文化和政治背景下培养了归属感和认同感。与此同时，世界公民意识将这种归属感扩展到整个人类大家庭，超越了国籍、种族和宗教的界限。

在这一转变过程中，公民社会作为地方与全球之间的桥梁发挥着至关重要的作用，促进了基层运动和跨境合作。公民社会组织，如非政府组织（NGO）、基层运动和社区团体，是个人在地方和全球层面表达关切、调动资源和倡导社会变革的平台。通过促进对话、合作和团结，公民社会弥合了国家公民身份与世界公民身份之间的差距，促进了人类社会的归属感和相互联系。

此外，技术和通信的进步促进了全球公共领域的出现，个人可以在这一领域开展讨论、分享信息并动员跨国界的支持。社交媒体平台、在线论坛和数字网络实现了思想交流的民主化，使个人能够与世界各地志同道合的人建立联系，超越地理障碍，培养全球团结意识。在这个互联互通的数字时代，世界公民的身份不受物理边界的限制，而是延伸到超越国界的虚拟社区。

人类公民社会的核心是共同价值观、规范和愿望的集体表达，这些价值观、规范和愿望指导着社会互动和治理。在人工智能方面，公民社会在塑造人工智能技术的道德发展和负责任的部署方面发挥着至关重要的作用。通过参与对话、宣传和公共讨论，民间社会组织和基层运动可以提高人们对人工智能伦理影响的认识，并倡导优先考虑人权、隐私和问责制的政策。此外，民间社会还能发挥监督作用，要求政府和企业对以合乎道德和透明的方式使用人工智能负责，从而防止为邪恶目的误用或滥用技术。

此外，人类公民社会还是在人工智能时代促进包容性、多样性和公平的行动者。随着人工智能系统对招聘、借贷和刑事司法等领域的决策过程产生越来越大的影响，如果不积极应对，现有的偏见和不平等就有可能长期存在。民间社会组织和倡导团体在倡导人工智能算法的公平性和透明度、促进人工智能劳动力的多样性、确保人工智能技术不分种族、性别或社会经济地位，使社会所有成员都能使用并从中受益等方面发挥着至关重要的作用。

民间社会是民主参与和公民参与制定人工智能政策和治理的论坛。在民主社会中，影响人工智能技术发展和部署的决策必须听取公民的声音。民间组织、智库和社区团体为公民提供了与政策制定者接触、参与公共辩论以及倡导反映整个社会价值观和利益的政策的途径。通过促进透明度、问责制和公民参与，公民社会加强了民主治理，并确保人工智能服务于公众利益。

而且，人类公民社会在应对人工智能驱动的自动化和工作岗位转移所带来的社会经济影响方面发挥着至关重要的作用。随着人工智能技术颠覆传统行业并重塑劳动力市场，公民社会组织可以倡导通过再培训计划、社会福利网和收入再分配机制来支持工人的政策。此外，全民基本收入实验和工人合作社等民间社会倡议为减轻人工智能对就业的负面影响、促进所有社会成员的经济安全和尊严提供了创新解决方案。

民间社会还是促进伦理创新和负责任的人工智能发展的催化剂。通过促进跨学科合作、道德准则和最佳实践，民间社会组织和研究机构为开发优先考虑人类福祉、环境可持续性和社会效益的人工智能技术做出了贡献。此外，诸如人工智能伦理委员会、技术评估委员会和参与式设计流程等民间社会倡议，可确保在塑造人工智能研发方向的过程中倾听不同利益相关者的声音。人类公民社会在人工智能时代发挥着多方面不可或缺的作用，是道德价值观的守护者、社会正义的捍卫者，也是民主治理和负责任创新的催化剂。

人文启蒙和教育不是简单地将民主当作一种政治理论或是特定政体，而是将民主视为一种多层面的现象。这为我们提供了一个更广阔的视角，让我们了解人工智能在哪些领域可能在民主的表现和质量方面影响社会。在这方面已经有了许多研究成果，了解这些成果本身就可以成为一种非常必要的启蒙和教育。

人工智能在社会、经济和政治领域的广泛应用催生了重大变革。有关人工智能对数字通信环境、政治话语、错误信息传播、政治冲突刺激、国际人权法、未来工作以及民主与非民主之间竞争态势的影响的讨论比比皆是。这些发展凸显了人工智能与民主结构日益密切的关系。

从历史上看，技术变革有利于某些行为者或群体，从而塑造了政治格局。不同的技术对社会进程施加影响，其设计、机制和结果都会产生政治影响。从古代工具到现代数字媒体工具，技术进步影响着政治竞争和社会组织。随着人工智能系统的兴起，有必要对其对民主的影响进行类似的研究。

围绕人工智能的讨论往往围绕着人工通用智能（AGI）带来的假想威胁。然而，当前的人工智能领域主要由针对特定任务定制的狭义人工智能系统组成。要了解人工智能对民主的影响，关键是要关注现有的狭义人工智能应用、其部署条件和实际效果，而不是臆想的AGI场景。

人工智能与民主的交叉既是机遇，也是挑战。虽然人工智能在各个领域都大有可为，但其在政治和民主领域的应用却受到社会规范的动态性质以及系统性不平等长期存在的风险的制约。随着人工智能的不断发展，必须批判性地评估其对民主进程的影响，并确保技术进步符合平等、公平和包容的民主价值观。

人工智能能够影响民主的关键方面，包括自治、平等、选举观念和制度竞争，揭示了技术与治理之间错综复杂的关系。

人工智能与自治：民主取决于自治原则，即政府由被统治者选择。人工智能对自治的影响延伸到决策过程，以及对分布式治理与专家统治的看法。然而，人工智能的作用引发了人们对政治信息的可获取性和可靠性的担忧，因为算法对数字环境的塑造可能会影响个人接触不同观点的机会以及做出明智决策的能力。

塑造信息环境：人工智能对数字信息环境的算法操控会对政治话语和信息质量产生影响。虽然对回音室和操纵的担忧依然存在，但经验证据表明，结果好坏参半。尽管如此，围绕人工智能驱动的信息塑造的不透明性凸显了透明度和外部审计的必要性，以保障民主原则。

新闻经济学：人工智能在自动生成内容和重塑新闻消费模式方面的潜力给传统媒体带来了挑战。新闻机构可能会面临适应人工智能驱动的变化的压力，这可能会加剧经济差距，巩固老牌媒体品牌的权力。此外，人工智能驱动的新闻消费变化可能会加深信息鸿沟，使社会经济条件优越的个人享有特权，并强化现有的权力结构。

在人工智能时代，民主社会中自治与专家统治之间的平衡面临着新的挑战。虽然人工智能提供了预测能力，可以为复杂社会的决策提供依据，但它也增强了专家和科技公司的权力，有可能破坏民主原则。此外，人工智能对历史数据的依赖有可能使不平等和歧视永久化，对民主制度对平等和代表性的承诺构成威胁。

人工智能模拟社会趋势和预测人类行为的能力赋予了专家指导治理决策的权力。因此，对人工智能驱动的预测的依赖可能会缩小民主决策的空间，将权力从公民手中转移到专家手中。此外，技术公司在人工智能开发中的主导地位也引发了人们对问责制和民主监督的担忧，因为公共机构可能会将控制权拱手让给商业行为者。

科技公司在人工智能发展中的优势使其对公共话语和国家职能拥有前所未有的影响力。随着政府越来越依赖基于人工智能的服务，它们对私营公司的依赖性也越来越强，这有可能削弱民主控制和透明度。此外，由这些公司控制的人工智能驱动的信息流可能会影响政治言论，加剧民主国家内部的权力失衡。

人工智能依赖历史数据，这可能对民主国家内部的平等构成威胁。通过延续过去数据中存在的偏见，人工智能算法可能会使已经被剥夺权利的群体边缘化，从而加剧结构性不平等。此外，人工智能对劳动力市场的影响，即用自动化取代人类任务，可能会进一步巩固经济差距，削弱工人的谈判能力，从而破坏民主对平等代表权和机会的承诺。

人工智能的发展和应用对民主与专制之间的关系有着重大影响。虽然民主政体历来被认为在信息汇总和处理方面具有优势，但人工智能有可能为非民主政体提供新的优势。由于对数据收集和治理的集中控制，这类政体在开发和利用人工智能方面可能反而更具优势。民主政体对人工智能的部署和隐私条例有限制，而非民主政体则可以自由地收集有关个人行为的大量数据，促进人工智能模型的完善。国家与人工智能开发者之间的密切合作，再加上中央分配的资源，使非民主政体在人工智能开发方面具有竞争优势，可能导致对它有利于的不对称进展。

从历史上看，民主政体因其作为信息聚合者和处理者的卓越表现而被认为优于非民主政体。自由表达、新闻自由以及由选举引导的派别间竞争为民主政体提供了结构性机制，使有关社会、官僚机构的行动以及政策影响的信息得以浮出水面。与此相反，有的政体通过控制言论、媒体和政治竞争来限制信息流动，使政府对当地局势、公众偏好、官僚机构的行为或腐败现象一无所知，并最终对其所推行政策的后果一无所知。但是，人工智能有可能会让后一种国家克服这一劣势。它们利用大规模数据收集和人工智能支持社会规划和控制，如通过其社会信用体系。利用人工智能的潜力还可以帮助这些国家提高国家机器的运作能力。

此外，人工智能在武器化、军事和安全领域的讨论也越来越多。虽然人工智能在这些领域的规范作用和功能潜力已经引起了普遍的警觉，但现实的发展并不尽如人意，这些领域日益增长的担忧表明，人们普遍认为人工智能可能会促使民主政体落后于非民主政体。随着时间的推移，民主政体和非民主政体在发展和部署人工智能方面可能会出现不同的轨迹。如果后者比前者与人工智能有更大的亲和力，并能从中获得更多利益，那么人工智能可能会导致制度之间的权力转移，使民主遭到致命的削弱。如何应对这样的前景，将成为对未来人类的重大挑战。

本文选编自徐贲着《人类还有希望吗：人工智能时代的人文启蒙和教育》

《人类还有希望吗：人工智能时代的人文启蒙和教育》

徐贲 着

上海三联书店

2025年5月