科技伦理治理：科技强国的必然要求

【编者按】习近平总书记指出:“科技是发展的利器，也可能成为风险的源头。要前瞻研判科技发展带来的规则冲突、社会风险、伦理挑战，完善相关法律法规、伦理审查规则及监管框架。”

科技伦理是开展科学研究、技术开发等科技活动需要遵循的价值理念和行为规范，是促进科技事业健康发展的重要保障。如果说创新是发展的“引擎”，伦理则是约束不合理发展的“刹车”，两者缺一不可。如何加强科技伦理治理，推进科技强国建设？如何塑造科技向善的文化理念和保障机制，为增进人类福祉、推动构建人类命运共同体提供有力科技支撑？本报约请三位学者研讨交流。

■主持人：陈瑜本报记者

■嘉宾：成素梅上海社科院哲学所副所长、研究员

张春美中共上海市委党校哲学教研部教授

杨庆峰中国科协-复旦大学科技伦理与人类未来研究院教授

视觉中国

主持人：习近平总书记指出:“科技是发展的利器，也可能成为风险的源头。要前瞻研判科技发展带来的规则冲突、社会风险、伦理挑战，完善相关法律法规、伦理审查规则及监管框架。”近年来，我国科技创新水平不断提升，越来越多的前沿领域闯入“无人区”，面临的科技伦理挑战也日益增多。在这样的背景下，如何深刻认识科技伦理治理的重要意义？

成素梅：随着新一轮技术革命的不断深化，科技创新成为社会发展的核心驱动力，科技专家成为文明转型的推动者，科技产品成为社会生活的塑造者。然而，科技革命在从只能改变人的外部自然进展到有能力改变人的内部自然，并以锐不可挡之势将人类社会带入智能化发展阶段的进程中，其所带来的伦理挑战，正在将社会变成伦理实验场，有可能将人类推向被毁灭的危险边缘。因此，我们迫切需要提高风险预判能力和认知能力，使科技伦理治理真正成为科技创新链条中的一个必要环节或核心维度。

从技术及其应用层面来看，加强科技伦理治理能够促进科技健康发展，完善科技创新体制，减少创新过程中潜在的系统性风险，避免滥用和技术异化，防范公共安全风险，保障人类福祉，保护个人权益，维护社会公平，促进可持续发展，提升公众对科技及其产品的信任度。从国际、国家和社会监管层面来看，加强科技伦理治理有助于促进国际合作，促进多边对话与合作，共同应对全球性问题，达成“人类命运共同体”的国际共识。从文化层面来看，加强科技伦理治理有助于重新审视人类的共同价值，增进相互理解，平衡科技创新与人类价值保护之间可接受的结合点，化解乃至规避文化冲突，推动科技文明与人文精神的深度融合，塑造具有人文关怀的科技创新范式。

张春美：推进科技伦理治理，对于规避科技伦理风险，走向“有温度的科技文明”具有重要意义，可从三个层面来把握：在技术层面，伦理治理通过制定伦理规范、设定特定的“技术禁区”（如禁止基因编辑用于人类增强）、重建创新主体道德使命感，构建技术失控的防御之盾，遏制技术滥用带来的系统性风险；在社会层面，伦理治理通过开发伦理风险评估模型、构建敏捷监管框架和伦理审查制度，科学配置资源和保护脆弱群体，规避“创新-监管”的滞后性陷阱，实现科技创新与风险控制的动态平衡；在个体层面，伦理治理通过伦理教育和培训，提升决策者伦理能力，培育大众科技伦理素养；通过公众参与式治理，推动社会形成“科技向善”的集体认知，彰显人类主体性。从根本上讲，科技伦理治理是科技与人文交融交汇结出的硕果，更是摆脱“科技巨人、道德侏儒”的良方，必将在推进科技向善的实践中照亮人性光辉。

杨庆峰：近年来，生物科技、基因技术等领域发展取得突破，一些在这些领域相对落后的国家放松了对科技发展的监管，意图通过松绑来促进发展，由此也加剧了人们对未知的、长期的科技安全和伦理方面的担忧。这种情况下，科技伦理治理的作用要重新理解。对科技伦理治理意义的认识要结合科技发展的具体情况来认识，要意识到对于技术发展的认知变化。换句话说，促进或抑制某种科技发展的总体态度将决定科技伦理治理的未来形态。

主持人：从党的十九届四中全会提出“健全科技伦理治理体制”，到2022年3月我国首个国家层面的科技伦理治理指导性文件《关于加强科技伦理治理的意见》印发实施，再到党的二十届三中全会明确提出“加强科技伦理治理”……近年来，我国高度重视科技伦理治理工作并取得显著成效。如何进一步健全科技伦理治理体制机制，护航科技强国建设？

张春美：在中国，科技伦理治理已纳入国家治理战略，这体现了党和政府对科技伦理治理的行动自觉。建设科技强国，必须补齐科技伦理治理短板，健全科技伦理治理体制机制，实现科技与伦理比翼齐飞。

一是推进科技伦理的法治化。伦理原则和规范仅仅是一种软约束，要将抽象的伦理规范化为具体实践，需要以适当的方式方法，将科技伦理原则、规范转化为具有刚性约束力的法律规定。要以专业化的立法，构建伦理治理架构和监管流程，设置科技创新的缓冲区，确立创新“有所为和有所不为”的边界、规范和准则。对于具有重大伦理挑战和社会影响的前沿技术，可通过立法颁发许可证或设定行为标准，确保创新与伦理协同推进。

二是推进科技伦理审查规范化。伦理审查是监督伦理原则执行情况的重要建制。当下，迫切需要加强审查机构、审查流程的规范化建设。机构方面，确立科技伦理委员会多元化和独立性的组织结构，明确其设立标准和运行机制，摆脱将委员会当成研究机构“形象工程”的行政化做法。流程方面，设计伦理评估程序，制定伦理清单，细化伦理审查规则和标准，建立实时监测与纠偏机制，完善问责与补偿制度，实现“社会问责”与“质量控制”的结合。

三是推进科技伦理教育制度化。强化科技伦理通识课程体系建设，培养科技伦理人才队伍；加强科技伦理管理机构相关人员的科技伦理培训，提升决策者的伦理能力；发挥科技类社会团体作用，推动科技伦理深入人心。概言之，完善科技伦理治理机制，旨在尊重伦理的基本价值，推进科技创新“既快且稳”发展，为科技强国建设构建技术与人文相协调的创新生态。

成素梅：健全科技伦理治理体制既是抢占科技革命制高点的必由之路、落实科技强国战略的必然要求、树立有作为勇担当大国形象和提升国际话语权的重要支撑，也是促进科技创新与社会发展相协调的新维度、应对重大科技风险的新途径，更是维护国家安全和贡献中国智慧的新手段。

健全科技伦理治理体制需要“硬约束”与“软引导”相结合，有效监管和文化塑造相结合。“硬约束”是指为新兴科技创新和应用划出伦理红线（比如，明确人工智能、基因编辑、神经工程等前沿技术的伦理界限，建立行业性的伦理预警机制等）；“软引导”是指以监管和激励等多种方式引导健康的科技创新行为（比如，将伦理治理深度融入国家创新体系，实质性地激励“科技强国”与“向善创新”相统一的企业行为，设立伦理担当创新奖，进行伦理合规认证等）；有效监管是指将政府、社会、行业、企业、市场、公众等多方力量整合起来，在科技创新链条中，形成预防-执行-反馈-改进相协调、适应性评估和动态优化相结合的监管机制，杜绝形式主义和过度干预，不断填补监管空白等；文化塑造是指借助社会活动、行为规范、教育培训等形式，促进科技创新的利益相关者自觉树立铁肩担道义的伦理意识，营造尊重伦理和崇尚责任的科技文化氛围。

杨庆峰：从伦理性来看，建设科技强国是为了中华民族伟大复兴和确保民生福祉的最优路径。此处的伦理性也包括科技伦理治理机制，如何确保科技向善、科技发展的人民指向维度。因此，科技伦理机制体制建设对于科技强国建设有两方面作用：一方面是科技强国建设具有人民指向，要强调以人为本的科技实践和关注数字福祉；另一方面，建设性的科技伦理有助于科技的健康发展，而健康发展的科技是科技强国建设的重要保障。从现实来看，如今，我国正在不断推进科技伦理治理机制自上而下的制度框架的完善，接下来更重要的是如何让这种观念框架深入人心，尤其让科技伦理意识扎根于每个人心中。

主持人：科技伦理问题往往跨越国界，需要全球范围内的合作与对话。习近平总书记强调，“要深度参与全球科技治理，贡献中国智慧，塑造科技向善的文化理念，让科技更好增进人类福祉，让中国科技为推动构建人类命运共同体作出更大贡献”。如何进一步加强国际合作，为全球科技伦理治理贡献中国智慧？

成素梅：当代科技发展正在将人类社会从工业文明转向智能文明。智能文明既是科学-技术-社会-人文高度纠缠的文明，也是深度拷问人性的文明。文明转型过程中所新生的科技伦理问题是全人类共同面临的伦理挑战。这也是包括中国在内的主要科技大国、国际组织和重要智库纷纷前瞻性地出台科技伦理治理条例，努力将文明跃迁所面临的伦理危机转化为发展契机的原因所在。

中国具有追求人与自然、人与人、人与社会和谐发展的悠久历史，拥有深厚的伦理文化传统和独特的伦理思想体系，并将其作为社会治理的有效手段，形成了“以德治国”或“为政以德”实践传统，以及以儒家为核心的东亚文化圈。在科技突飞猛进的当下，我国应该在以各种形式积极参与联合国教科文组织、世界卫生组织、国际科学理事会等国际组织发起的科技伦理治理活动中，将中国的“天人合一”“和谐共生”“科技向善”“责任至上”等伦理理念推向世界，推动建立科技伦理治理的多边合作机制，平衡国家主权和全球伦理治理之间的关系，包容不同文化背景下的伦理差异，发起成立“全球科技伦理治理联盟”，促进各国就重大科技伦理治理问题展开友好对话，在“一带一路”框架下创建科技伦理治理协作机制，彰显中国在科技伦理治理领域内的卓越领导力。

张春美：展开负责任的科技伦理治理实践，不是僵化封闭的自说自话，而应以开放的姿态，在世界性与本土化的统一中，为全球科技伦理治理贡献中国智慧。第一，积极参与并主导全球科技伦理治理框架的构建，抢占规则制定制高点。积极参与国际组织治理，倡议国际科技伦理规则制定。倡导建立包容性国际对话平台，促进国际交流合作。建立高层对话机制，协调跨国伦理争议，推动全球伦理标准的统一。第二，构建中国的科技治理体系以辐射全球。充分关注科技伦理治理的中国问题，归纳科技伦理治理的中国经验，拓展中国科技伦理治理的知识谱系、话语形态和思想类型，总结科技伦理治理的中国方案，为全球科技伦理治理提供中国范本。第三，融合中华伦理文明与全球治理。在国际合作与文化融合中，一方面，要澄清国外对我国科技伦理的文化误解，防范“文化和价值观屏障”。另一方面，通过批判性吸收西方理论，结合中国实践，将中华文化传统伦理智慧融入现代治理，促进科技伦理的“中国化转向”。

杨庆峰：科技伦理问题跨越国界、需要全球范围的合作与对话。法国巴黎AI峰会、英国布莱切利AI峰会、韩国首尔AI峰会以及上海人工智能大会等都是国际性的会议。在科技伦理治理的国际合作中，构建人类命运共同体、以人为本、和谐共生、科技向善、智能向善等都是近年来中国贡献给国际科技伦理治理的智慧。我们期待着中国推出自己的人工智能法，尽快形成完备的法律-伦理-制度的治理体系。

主持人：人工智能是新一轮科技革命和产业变革的重要驱动力量。习近平总书记高度重视人工智能技术的发展和治理，提出“以人为本、智能向善”的重要理念。党的二十届三中全会提出，“完善生成式人工智能发展和管理机制”“建立人工智能安全监管制度”。当前DeepSeek的火爆，让AI再次成为热议焦点。如何应对人工智能发展中的伦理挑战，构建负责任的人工智能治理体系？

张春美：首先，基础研究要实现AI伦理治理的认知升维。全面梳理和分析AI伦理难题，把握“人与技术”关系面临的新问题、新情况，找到AI伦理治理的核心问题，展开学理分析和研究。其次，借鉴已有的科技伦理治理成功经验，比如技术设计中的伦理嵌入、价值观前置、规则制定等，探寻AI伦理治理的新路径。再者，探索伦理治理的协同发展模式。这一模式涵盖多元主体、多种文化和多重语境，以多方协调与合作为基础，借助问题争论、共同参与、寻求共识等途径，加强跨界战略协同，进行系统性生产并分享治理资源，建立价值共识与制度保障，推动AI伦理治理迈向更加包容、共享与合作的新时代。

杨庆峰：DeepSeek的火爆，伴生生成式信息满天飞、生成式知识难以辨识等问题。在哲学史上，柏拉图曾经讨论过文字是毒药或解药、利科讨论过历史是毒药抑或解药。如今，生成式人工智能给我们带来相同的问题。如果它是一种毒药，那么治理系统就要研制出相应的抗毒“血清”，来中和这种毒性。总体来说，我们可以《全球人工智能治理倡议》《人工智能全球治理上海宣言》中的原则为基础，建立系统的、具有衔接性的和中国特色的人工智能治理体系框架。

重要的是，这个治理体系要务实，能针对产业和场景应用中出现的问题进行有效处置。另一方面，人工智能的发展离不开合理想象。科学史上，关于超级机器的思想实验奠定了现代计算机科学的基础。因此，人工智能治理也要保持想象力，不能完全对科幻说不。我们要警惕的是科幻叙事中的过度想象和娱乐至上给AI发展和治理造成的扰乱。

成素梅：DeepSeek作为人工智能发展的最新标志性事件，极大地彰显了人工智能无法抗拒的强大影响力，印证了人机双向赋智的巨大发展潜力。但我们必须同时意识到，这种发展潜力不仅导致了众所周知的侵犯隐私、种族歧视、社会不公等伦理问题，有可能削弱人的自主性，模糊人机界限，增加难以预测的风险等伦理挑战，而且更加严峻的是，向过去建立在人机二分基础上的制度安排和法律法规等提出了框架性挑战。

因此，我们在构建负责任的人工智能伦理治理体系时，除了明确责任主体、倡导算法透明、提供立法保障、构成蜂巢式伦理治理和正反面双清单管理机制、形成应急预案、开发伦理“穿透式”监管系统、成立跨学科伦理研判专家池、建立科技风险防控熔断机制、加强伦理教育与培训等一系列具体措施之外，更加重要的是，需要丰富我们的概念工具箱，加强面向未来发展的伦理框架研究；需要在智能机器成为普遍劳动力的文明转折点，超越为发展经济而奋斗的思维习惯，开启从劳动伦理优位转向休闲伦理优位和让休闲成为劳动境界的新启程，前瞻性地营造有利人的全面发展的文化氛围，真正践行马克思将自由时间作为衡量社会财富标准的理论愿景；需要探索针对复杂智能系统的免责赔付机制，从根本上摆脱算法问责困境和现有人工智能伦理治理原则的落地困境等。

总而言之，我们选择通过科技创新来驱动社会发展，并不只是在选择科技，还是在选择人类文明的未来。围绕智能机器主体性问题展开的讨论，在很大程度上，也是关于人性未来的反思。我们必须既构建具有可操作性的科技伦理治理框架，也探索面向未来的伦理治理框架，通过“科技赋智-制度供给-伦理约束-文化塑造”四位一体策略，形成中国特色的科技伦理治理体制。