科技伦理 | 成素梅：智能革命引发的伦理挑战与风险

文章作者

成素梅：上海社会科学院研究员，《哲学分析》杂志主编，国际“逻辑学、方法论和科学技术哲学”协会（CLMPST）理事（2019—2023 年），中国自然辩证法研究会常务理事。研究方向为科学哲学、量子力学哲学、休闲哲学和人工智能哲学。

文章概览

摘  要：社会的数字化转型发展所塑造的共享意识颠覆了建立在所有权意识基础上的经济伦理假设。智能机器和人造能动者的广泛应用对劳动伦理提出了挑战。算法等技术对人的无形劝导与操纵、人的身体技术化和精神技术化，对公平公正、自主自愿等原则的适应性提出了挑战。这些发展也蕴含了新的伦理风险：使得像私人空间和公共空间等有效的区分变得模糊起来，使得认知实践成为伦理实践，使得问责成为将认识论、伦理学和本体论关联起来考虑的新话题。我们的行动、感知、意图、道德等已经与当代信息技术内在地交织在一起，新的伦理框架的构建需要建立在关系自我、共享意识、休闲式劳动、颠覆各种二分观念的基础之上，这也同时开启了“人之为人”的第二个过程。

关键词：数字世界，双向赋智，人造的能动者，认知的责任，人之为人

智能革命泛指以人工智能技术为标志的当代技术（如量子信息技术、芯片技术、神经工程技术、基因编辑技术、纳米技术、网络技术、大数据技术、深度学习技术、区块链技术等） 所带来的革命，通常也被称为第四次技术革命。它在总体上以信息化、网络化、数据化和智能化为特征，正在使人类文明的发展从工业化文明转向智能文明，对建立在人与工具、劳动与休闲、主体与客体、私人空间与公共空间等二分观念以及实体自我和所有权意识基础上的伦理假设提出了挑战。同时，它又蕴含着一系列新的伦理风险。就方法论、路径而言，用关于人类文明未来的思考制定当代科技发展战略、从一体化的视域来建立适合智能文明的伦理框架，不仅是一个建设性的目标，更是应对智能革命引发的伦理挑战及其风险的有效方式之一。

一、数字化转型的伦理挑战与风险

随着社会数字化转型的快速发展，人类文明已经进入数据－信息流变的时代。或者说，数据－信息流变替代工业化时代的物质－能量流变成指数式增长的新资源。与物质－能量的消费的不可持续性相比，在社会的数字化转型过程中，数据－信息的消费则具有超时空性、共享性、相互性、永久性、跨域性以及迭代利用等特点。这些特点决定了建立在数据－信息流基础上的智能革命潜藏着无限的可能性，最终成为使用者、视域、对象、环境等要素相互作用过程的产物。

从经济活动方式来看，当基于数据－信息流的知识生产者之间的合作关系越密切，合作共赢就越会成为智能文明时代的发展观，共同的创造性成果也越会成为共有财产。知识生产者之间共同享有数据与信息的行为方式和行动准则，最终会颠覆工业时代盛行的占有的价值理念，从而使人们越来越淡化竞争意识，确立共享意识，即从追求占有转向追求共享。共享性思维或意识不是追求垄断式的单一发展或独自发展，而是追求多元化的共同发展，重视交互过程中新价值的涌现。

从个人的数据－信息安全性来看，当搜索引擎成为我们在日常生活中获取信息的必要工具或公共用品时，与此相关的科技公司的盈利模式就不再取决于用户的直接消费，而是取决于用户在免费使用或浏览过程中自然而然地留下的数据－信息。或者说，它们将用户的数字行为踪迹变成可供利用的、具有商业价值的信息资源，来变相地获取利润。用户在数字世界里的所作所为已经使其成为透明者或全景开放者，因而潜在地丧失了隐私权，无意识地放弃了对会留下永久性数据痕迹的个人信息之所有权，由此也带来了身份盗用、网络欺诈、病毒攻击、数字技术滥用，以及违背程序正义、侵犯个人权利等不同等级的伦理风险乃至违法风险。

人类社会的数字化转型，首先会改变经济领域内的游戏规则，成为变革社会和更新观念的巨型加速器；其次还会深刻地影响人的思想本质。这进一步揭示，当代社会与科学技术发展的联系高度紧密，且已经形成了科学－技术－社会交织互动的复杂系统。在这种情况下，如何为借助当代科技的深入发展来促进社会的数字化转型提供行动纲领，如何重建更具有可操作性的问责机制等，就成为当代伦理学研究的时代命题。这一点在智能化发展过程中显得尤其重要。

二、智能化发展的伦理挑战与风险

智能化发展最终将会把人类从单调的、重复性的、机械性的、程序化的体力劳动和脑力劳动中解放出来，为人类能够专注于从事具有个性化的、创造性的、富有乐趣的和受内在兴趣所驱动的休闲式劳动或活动提供了现实的可能性。然而，问题在于，当人类从被迫劳动中解放出来时，并非必然意味着每个人都有能力选择由兴趣引导的健康且有意义的休闲式劳动或活动，来安顿自己的心灵或追求负责任的自我成长。因此，我们必须在文明转型初期前瞻性地开启新的征程：从劳动伦理拓展到休闲伦理，转而重新塑造劳动和重新理解“休闲”。

在科学－技术－社会高度联系的系统中，当人类希望通过智能革命来获得普遍的劳动解放时，就已经在人与工具之间预设了一类新型实体的存在：有形和无形的智能机器。智能机器具有二重性：工具性和类人性。这意味着，人类首次拉开了人与机器双向或彼此赋智的帷幕，即人通过算法等技术以及人与机器的交互作用赋智于机器，而有形和无形的智能机器则以其独特的数据挖掘与信息处理能力赋智于人类。

从理论上来讲，这种趋势将会把人机关系从工业化时代的对立和排斥关系转向合作关系乃至融合关系，并且重新把人的主导作用贯穿于智能机器的功能设计、任务训练及其与环境实时互动等各个环节，从而更加全面地彰显人的创造力与想象力，使人更像人，使机器更像机器，而不是相反。但在具体的实践过程中，这类人工或人造的能动者（agent）具有的环境感知力和认知能力，使得我们的在线生活在很大程度上由算法来塑造或主导。一个显著的例子是，在电子游戏、社交媒体、通信等领域内得到广泛应用的以改变人的行为与态度为宗旨的劝导式技术，其与算法、数字技术、心理学等学科的会聚和融合发展所带来的伦理挑战和潜藏着的伦理风险，无疑是迫切需要深入研讨的伦理学主题。

智能革命在使人类从强迫性劳动中解放出来并拥有充足的自由时间的过程，是伴随着人类文明一体化转型的过程，也是伴随着人类自我认识、自我管控和自我成长的过程。人们只有全面提高自身的伦理素养，才能摆脱虚假自由，才能使自由时间成为自身追求美好生活、发挥创新能力和丰富生命意义的条件，而不是成为使自己更有可能以成瘾和沉沦的方式消磨意志的前提，更不是成为不良经济活动和无责任技术创新的牺牲品。

三、技术会聚的伦理挑战与风险

当智能革命的深化发展使技术的改造作用从改造外部自然拓展到改造人的内部自然时，就使得人的身体技术化和精神技术化成为摆在我们面前的伦理问题。在人类文明的演化史上，人与自然的关系已经发生了两次转型：第一次转型是人从自然界中分离出来，形成了人与自然的对象性关系，这种分离不是信念的改变，而是范畴的改变，开启了“人之为人”的第一个过程。这一过程主要是以追求物质文明为主，技术的主要目标是探索与改造人类生存于其中的自然界。第二次转型是人类凭借科学技术的力量逐步成为自然界的统治者，人类逐步远离天然自然，出现了人化自然和人工自然，使人与自然的关系从人附属于自然界的最初形态发展到自然界越来越附属于人类的形态。这种发展所带来的生态恶化等全球问题已然有目共睹。

当代技术的会聚发展所导致的一系列伦理之争，进一步将上述困境从人类外部的生存环境拓展到人的身体与心灵层面。基因编辑、再生医学、脑机接口、神经工程等技术的使用带来一系列伦理问题。然而与人的身体从自然进化到技术设计所带来的伦理问题相比，人的精神从文化塑造到技术诱导所带来的伦理问题似乎更加抽象。由网络技术、数字技术、虚拟技术、图像处理技术以及劝导式技术的汇聚打造而成的“元宇宙”，不仅是一个具有人工文化的数字世界，而且是一个以使用户精神快乐为目标且充满了环境智能的人工世界，因而也是一个更加无形的监控世界。

可见，人与自然关系的逆转，人的身体技术化和精神技术化，迫使我们不得不开启“人之为人”的第二个过程。在这一过程中，我们需要将发展理念从重视物质文明建设的视域拓展到重视精神文明建设的视域，需要在人与自然的关系中进行第三次转型：人类在掌握了自然规律之后，重新回归到尊重自然的发展理念，重塑人与自然和谐共生关系，重塑新的发展伦理，把对人的“自然性”与“技术性”的关系以及对“人是什么”等哲学问题的思考，与对未来技术与文明的发展趋向联系起来，打破传统的二分观念，从人文主义的视域出发，重塑新的概念框架，这是科学－技术－社会高度联系发展所提出的对人性的第二次启蒙，也是最深刻的启蒙。

四、结语

社会的数字化转型、智能化发展和技术会聚不仅对人的在场、友谊、责任心、能动性、义务与权利等概念提出挑战，而且对诸如自由、平等、道德以及目的等与人的生存境况相关的概念提出了挑战。面对科学－技术－社会高度联系的现状，我们需要站在人类命运共同体的立场上，来系统地回答：在智能化时代，“人之为人”的内在本质是什么？人的自由或平等意味着什么？除非我们能够提出新的伦理概念和伦理框架，否则，我们的世界将没有未来。我们如何通过真正维护人性和保卫人的自然权利等方式来引导技术发展和制定管理政策，可能是我们在未来社会中要面对的最大挑战。

若需查考全文，可扫描下方二维码：

来源：当代伦理前沿

链接：https://mp.weixin.qq.com/s/XNxZsXZv6TmUD_RxhYRAsg

编辑：杨泓艳