【中国科学报】加强我国科技伦理治理需要新思路
近日，由科技部、教育部、工业和信息化部等10部门联合印发的《科技伦理审查办法（试行）》正式公布。该办法旨在规范科学研究、技术开发等科技活动的科技伦理审查工作，强化科技伦理风险防控，促进负责任的创新。
近年来，随着科技伦理问题的凸显，伦理的规制越来越不可或缺。从全球范围来看，未来10至15年的科技伦理问题正面临新的发展形势，加强我国科技伦理治理也需要新的思路。
传统科技管理体制面临挑战
纵观前沿科学领域中产生的一系列新兴技术，如基因工程和基因编辑、人工智能和机器人、合成生物学、神经技术、纳米技术、增强现实技术、3D打印、异种移植等，在给人类生活乃至未来生存带来巨大变化的同时，也可能引发未曾出现的伦理问题。
新兴技术的这种特点引发了一系列我们应该做什么和如何做的规范性问题，即实质性伦理问题和程序性伦理问题，使得传统科技管理体制面临挑战。
为此，欧洲哲学界在“预防伦理”和“责任伦理”的基础上提出“负责任的研究和创新”原则，作为欧盟“地平线2020”战略下科技政策的重要组成，得到全球的积极响应。
负责任的创新特别强调要往前端走，甚至在基础研究的过程中就对创新做一些社会伦理的介入和评估，把对各种不同利益相关者的考量都放到创新过程中去。如何在获得科技福祉的同时最大限度地规避风险，以必要的伦理原则、规范来约束不良科学技术的研究和应用，正变得越来越重要，也面临诸多挑战。
长期以来，我国科技伦理研究方兴未艾，但较之科学技术的迅猛发展态势，仍处于相对滞后的局面。科技伦理监管“洼地”面临“伦理倾销”风险。所谓“伦理倾销”是指在伦理道德准则严格的国家接受培训的研究人员，到伦理道德准则和监管松散的国家进行研究活动，其目的不是研究当地人民，而是绕开本国的法律法规、政策或程序。鉴于“伦理倾销”存在的科研安全风险，重视和加强科技伦理治理体系和制度的建设已成为全球各国关注的问题。
由于科技发展已不再独立于社会，而是与社会发展的关系越来越紧密，加之社会公众意识的觉醒，人们对科技提出了更高要求。随着网络新媒体平台、网络短视频等的快速发展，任何一个事件都可能通过互联网渠道快速向全社会散播，未来将会更进一步加剧和激化社会伦理事件的危机。特别是在全球科研活动不断交融和一体化的国际大背景下，一旦出现科技伦理事件，将给各级政府的管理能力，包括处理热点伦理问题的智慧、速度、效率和方式等，提出更高要求。
伦理风险与挑战浮出水面
随着生物医药、人工智能、新一代信息技术等快速发展，新兴技术正在深刻改变甚至颠覆自然进化法则、人类的生存方式、人类与自然的关系等，为我国创新型国家建设带来了新的风险和挑战。
以人工智能为例，其颠覆性、复杂性及社会关联性等，对社会发展产生了重要影响，引发的伦理风险与挑战已经浮出水面。
一是当具备无自主意识的人工智能做出超出科研人员预期的行为并产生相应的伦理影响时，现有的伦理框架及人类的思维本质将面临极大挑战，这将对目前社会的人际关系、家庭结构产生重大影响，由此颠覆对传统伦理道德的判断。
二是人工智能技术主要基于海量数据的算法设计和深度学习，而数据的采集和使用若管理不到位会导致数据安全问题，及公民的个人隐私泄露问题。
三是高度智能化系统如果被不正当利用或失控可能对人类社会构成威胁，随之而来的是技术研究与应用引发的责任归属问题，一旦人工智能产品脱离社会伦理、法律规范，可能会扰乱经济社会秩序，造成更大危害。
四是人工智能以其智能化、高效化实现对产业结构和社会分工模式的重构，有可能造成大量人员的结构性失业，从而影响社会公平，引发潜在的伦理风险。
建立健全科技伦理组织管理体系
新兴技术的应用导向性强、复杂性高，其中涉及的伦理需要跨学科专家共同参与和不断完善，并且要在研究初始就将伦理问题考虑进去。能不能做是科学技术问题，应不应该做是伦理问题。
为此，笔者建议尽快建立健全科技伦理组织管理体系，加快组建国家科技伦理委员会，加强科技伦理管理制度建设和科技伦理审查队伍建设。
科技伦理绝对不是一个制约机制，更不是一种刹车机制，不能把伦理学作为束缚科学进步的工具。科学进步的目的是维护人类利益，科技伦理则是维护科学发展，是一种正确的科研价值观，它明确了科学技术活动的底线，对科技发展起到避免踩线的护航作用。以往出现伦理事件后，总是用法律来惩罚，但这种处理方式早已不适应当前的新情况。面对新兴技术带来的新问题，法律和伦理应当融为一体、共同发力。
笔者建议进一步完善我国科技伦理政策法规框架，加强新兴技术的伦理规范制定，在科技政策制定过程中强化“以人为本、公平正义、和谐协调、前瞻性责任”等科技伦理原则，并借助法律的刚性约束加强科技伦理治理。
现代国家治理在伦理上的许多问题要靠行业自律，应鼓励相关行业通过协商形成共识，制定行业规范，从而起到保证自身健康发展的作用。科技伦理问题的防范与治理不是科学家个人的责任，需要不同学科领域专家学者以及政府、媒体和公众共同参与，这也是欧盟“负责任的创新”的重要理念之一。
笔者建议尽快出台科技工作者伦理行为规范。由政府主管部门牵头，组织跨学科领域的行业专家、企业代表、行业用户和公众等建立多主体共同参与科技伦理协商并形成共识的机制。
笔者还建议探索设立国家科技伦理研究基金，发挥高等院校、科技智库等平台的作用，提前布局新兴技术领域的伦理研究。对于相关行业，建议按照功能分层、能力分级的思想建立分层分级的伦理审查体系和制度，如在大数据领域，关于数据安全隐私的保护不能使用“一刀切”的监管标准，对核心敏感数据必须采用最严格的标准进行保护，对违规的企业、个人都要进行严惩。对于不同行业，建议按照行业区隔的思路，结合相关行业特点，建立不同的伦理准则。（伊彤 杨博文 作者单位：北京市科学技术研究院创新发展战略研究所）
