21世纪经济报道记者雷晨
工业和信息化部原副部长王江平近日在深圳香蜜湖国际金融科技研究院与数字金融合作论坛联合组织的“智能向善：AI治理的挑战与路径”专题研讨会上，以《上善AI：一次伟大的旅程》为题发表主旨演讲。
他提出，AI如水，创造性巨大，破坏性亦巨大；治理人工智能要像治理水一样，贵在善治。这一判断，也与他今年出版的新书《上善AI：有温度的人工智能治理》一脉相承。
AI风险的三重类型：从内生缺陷到系统性挑战王江平将人工智能风险分为三类：一是内生风险，即AI自身缺陷带来的风险，如模型幻觉、数据偏见、价值观跑偏。二是应用风险，更多来自对人工智能的不当使用，从内容生态中的深度伪造，到物理世界中的自动驾驶安全等等。三是系统性风险，即AI对整个社会带来的风险，如人机交互中的沉迷、就业冲击，风险正向宏观层面传导。此外，当AI系统能力不断增强，可能引发国家主权博弈、生物技术扩散、AI武器化等问题，加剧国际智能鸿沟，乃至带来由技术领先者单方面定义人类价值观的全球性挑战。
他指出，技术迭代是指数级的，而治理体系是渐进式更新的。当技术在狂奔、规则还在慢跑时，就容易形成巨大的“治理真空”。王江平提到，近期美国曾发生多起AI越狱逃逸、自主网络入侵事件。此后，白宫对前沿模型建立常态化前置审查机制，标志着特朗普政府AI政策一定程度转向：既强调创新优先，也强调安全兜底、可控约束。
以治水智慧治AI：中华文明经验的现代转化王江平指出，中华文明之所以源远流长、经久不衰，与治水理念和实践密切相关。从大禹治水传说，到战国都江堰、郑国渠，再到汉唐关中水利、江南圩田，治水使“靠天吃饭”逐渐变为“引水灌田”，支撑了人口增长和农耕经济。治水深刻塑造了中华文明的农业基础、国家形态、经济网络、文化心理和生态理念。今天我们强化长江大保护、推进黄河治理，也与这种理念和实践一脉相承。他认为，今天治理人工智能，最好的借鉴就是治水。
老子“上善若水”中的“七善”思想，可提炼出AI治理的七条原则：
“居善地”要求AI治理扎根现实，立足中国国情与社会需求；“心善渊”倡导治理视野包容而深邃；“予善天”要求AI的赋能应像天道一样，损有余而补不足，不分对象；“言善信”强调建立透明可信的规则，以应对“算法黑箱”引发的信任危机；“正善治”意味着构建协同高效的治理格局；“事善能”要求引导技术发挥正向价值，成为解决社会问题的“利器”；“动善时”提醒AI治理需把握技术发展节奏，采取“与时俱进、顺势而为”的治理策略。
“简而言之，这七个原则就是：利他、包容、普惠、可信、公平、公正、敏捷。AI产品能达到这七条，就可以称为上善AI。”王江平说。
碳基与硅基共处的新文明课题王江平谈到写作《上善AI》的初衷时表示，面对AI加速演进，他有三点强烈认识：首先，AI完全不同于以往的技术，是不同于人类的智能体，人类从未经历过两种智能体相处的历史。他提到，上海复兴岛近期推出碳基、硅基相处的“双基公约”，在社区层面探索两种智能体共存，这样的探索很有意义。第二，AI正在改变人类文明走向，未来的人类文明是什么景象？需要大家探索思考。第三，国际上已有两次关于人工智能的警告风潮：2023年5月，大批AI科学家提出把人工智能与大流行病、原子能技术放在同等优先位置；2025年12月，又有科学家和企业家呼吁，在超级智能被普遍认定为安全可控之前暂停其发展。由此可见，探索人工智能安全治理问题十分紧迫。
王江平介绍，《上善AI》图书分上中下三篇。上篇“智界之问”提出十问AI，从隐私防线、算法歧视、情感商品化，到AI责任归属、就业替代、深度伪造、黑箱决策、AI控制权、环境危机乃至战争风险，覆盖人工智能带来的个人问题、社会性问题和国际性问题。中篇“智能之心”系统分析人工智能治理的技术逻辑，从人机对齐出发，上升到文化对齐。对齐不是机械的服从，而是动态的调适；不是单向的规制，而是双向的对话。正如水能随器而形，AI的发展也应既能适应不同文化环境，又能坚守基本的伦理底线。下篇“智权之争”讨论算力、算法、数据等AI主权问题，剖析全球博弈格局。
文化对齐：价值、制度、哲学三层递进王江平提出“文化对齐”概念，认为价值对齐解决不了人工智能带来的所有问题。文化对齐包括三个层次，层层递进。
价值对齐是基础，以“共通底线优先原则+多元包容适配原则+动态追踪更新原则”为根本依据，确保AI既不突破文明共识，又能包容差异、适应变化。
制度对齐使用法律、法规、标准、伦理准则等制度工具，将AI的发展与应用约束在符合人类社会共识的框架内。“制度既是AI大规模落地的前提，也是避免技术无序扩张、维持技术长期活力的必要缓冲。”
哲学对齐是人机对齐的顶层思考，它跳出技术、价值与制度的实操层面，直面“人与AI如何共存”的根本命题，围绕意识情感、权利责任、人机关系及AI对人类价值观的影响四大维度展开，试图为智能时代的人机共生确立底层哲学框架。
人机双向对齐：从“主从控制”到“伙伴式协同进化”王江平阐述了人机双向对齐的概念。他指出，人机双向对齐超越了传统意义上“让AI听话”的单向思维，强调在AI与人类之间建立一种动态、互惠的理解与适应关系。这一理念的核心在于，人机关系的和谐与安全，不仅要求AI对齐人类，也要求人类对齐AI。
双向对齐的双重内涵相辅相成：第一，AI对齐人类，这是双向对齐的基础工程，旨在将复杂、多元的人类价值观“编码”进AI；第二，人类对齐AI，这是确保双向关系健康、可持续的关键，核心在于提升人类的“AI素养”，其实现路径包含四个方面：一是保持理解与批判能力，发展对AI输出的批判性思维；二是培养有效交互与协作技能，学习与AI有效沟通，将其作为思考伙伴而非完全依赖的决策替代品；三是保持价值自觉与维护自主权，警惕情感依赖和自主权被“劫持”的风险；四是严格遵守AI伦理规范与管理规则。
“实现双向对齐，是建立人机信任的基石，是应对AI风险和价值冲突的缓冲器，更关乎在技术变革中守护人类主体性。”王江平表示，双向对齐强调“人文作为AI的灵魂”，旨在确保科技进步服务于人类的全面发展和长期福祉。他特别指出，人机双向对齐标志着我们对待AI的范式转变，从“主从式”的控制转向“伙伴式”的协同进化。这要求我们不仅要致力于打造更“善解人意”的机器，也要致力于成为更“理解机器”的、清醒而自主的人类。
动态对齐：对齐不是一蹴而就，而是持续演进的过程王江平强调，人机对齐绝非一蹴而就、一劳永逸，而应将其视为一个长期的、动态的过程。他提出建立全面的、动态的人机对齐策略。全面性要求对齐贯穿AI全生命周期，从模型开发之初融入伦理思考，在模型训练中内嵌价值判断，在系统部署后持续动态调校。动态性则体现在三个层面：
一是对抗测试常态化。通过“红队测试”模拟极端场景，测试模型鲁棒性，持续优化对齐机制。
二是模型评估常态化。开发者和应用者要设立AI伦理委员会，建立重点领域第三方测评机制，实施“白名单+黑名单”动态管理，定期发布《商业模型对齐白皮书》；建立模型开发者自律机制，引入“对齐信用积分”制度，将合规情况与企业融资、上市等挂钩。
三是形成“对齐循环”。通过“前向训练与反向修正”循环，持续校准AI目标与人类价值观的一致性。
全球治理四大困境与“四位一体”框架王江平认为，当前全球AI治理领域存在四大困境。一是理念上的二元对立，当前全球AI治理理念呈现出“控制”与“发展”的二元对立，这种非此即彼的思维模式难以适配AI技术的复杂性和多面性。二是实践上的短期主义，表现为在AI资本推动下追求眼前的技术突破和市场优势，忽视技术对伦理安全、社会结构的长期性、系统性影响。三是文化上的单一视角，当前以西方价值观和利益为核心塑造的AI模型难以适应全球南方国家的多元文化需求，加剧了“智能鸿沟”。四是规则上的阵营化趋势，阵营化的地缘博弈将技术治理异化为巩固科技霸权、划分势力范围的工具，使得全球协同治理步履维艰。
在具体风险层面，他谈到情感商品化。有数据显示，与AI互动时人脑奖赏回路激活程度只有与真人互动时的30%。长期依赖陪伴型AI可能带来心理和社会后果：情感退缩，对真人社交中不可避免的摩擦失去耐心；认知窄化，AI的迎合性回应可能削弱用户的批判性思维与共情能力；身份混淆，部分用户将陪伴型AI视为真实存在，模糊了现实与虚拟的边界。“当情感成为可被算法优化和售卖的商品，人类关系的本质可能会面临被掏空的风险。”
在治理框架上，他提出“四位一体”：企业自律是AI治理的第一道防线，核心在于开发者和使用者内部的伦理约束与风险管理；社会监督特别强调第三方测评，当前的测评能力远远不够，要培育适应AI演进的第三方测评能力；政府监管要体现“敏捷治理”原则，采取包容审慎和分类分级的监管思路，既管住要害，又为创新留足空间；司法兜底负责定分止争、权益救济，通过法律裁决明确各主体责任，树立规则权威。
王江平回顾了原子能技术的发展与治理历程。他说，人类技术发展史反复证明：每一次技术飞跃都会经历“技术冲击—社会阵痛—制度调适”的必然周期。王江平赞成比尔·盖茨关于人工智能可能带来一段动荡期的判断。治理永远滞后，调试过程不可避免。他同时指出，核治理的经验可为AI治理提供参考，但由于AI技术研发以企业为引领，参与方众多，数据和算法具有无形性、易复制性和快速迭代性，二者不能简单类比。
谈及技术与社会公平，他引用《道德经》“天之道，损有余而补不足”，治理的目标是效法“天之道”，通过技术普惠、教育公平和利益共享机制，让AI如甘露般均等地滋养社会，缩小差距。他还提到克制的智慧：在AI时代，最高层次的文明自觉是作出恰当和必要的选择，回归本真的需求。
演讲尾声，王江平引用书中结语：“上善AI”是一个念想，也是一次旅程。这场伟大的旅程，始于我们今天的每一次思考、每一个选择与每一份担当。未来，正在我们手中成形。
更多内容请下载21财经APP
红腾网配资提示：文章来自网络，不代表本站观点。
