解读《人工智能科技伦理审查与服务办法（试行）》的核心要点
近日，工业和信息化部联合九个部门发布《人工智能科技伦理审查与服务办法（试行）》（以下简称《办法》）。为便于社会各界理解与执行该政策，现就其主要内容和要点进行详细说明。
《办法》发布的背景
近年来，党和国家不断强调科技伦理的重要性。2022年3月，中共中央办公厅与国务院办公厅发布《关于加强科技伦理治理的意见》，首次从国家战略层面作出系统部署。此后，2023年9月，科技部等十部门联合发布《科技伦理审查办法（试行）》，明确了科技伦理审查的基本流程与标准。2024年7月，党的二十届三中全会再次提出“加强科技伦理治理”的要求。
随着人工智能技术的迅速发展，其在各行业的应用日益广泛。但与此同时，算法歧视、深度伪造等伦理问题也逐渐浮现。人工智能伦理治理涵盖多个维度，包括促进人类福祉、实现公平公正、确保系统的可控与可信、增强透明与可解释性、责任可追溯性以及隐私保护等。强化伦理治理，已成为保障人工智能产业安全、可持续发展的关键。
《办法》与现有政策法规的衔接
《办法》在政策体系中具有承上启下的作用，与当前已有的人工智能治理法规形成有效联动。
作为《科技伦理审查办法（试行）》的延伸，《办法》在通用性规范基础上，结合人工智能的技术特性和伦理挑战，对审查流程、审查重点、简易程序等进行了细化调整，使之更具针对性和操作性。
《办法》第二十六条指出，对于深度合成、算法推荐、生成式人工智能等服务，若已纳入备案或审批管理，并将伦理要求作为前置条件，则可豁免专家复核，从而降低企业合规负担。同时，第三十二条规定，违反该办法的行为将依据《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》《中华人民共和国科学技术进步法》等相关法律予以处理。
人工智能科技伦理审查流程与重点
《办法》明确了伦理审查的全过程，包括以下关键环节：
- 申请：相关科技活动负责人需向单位的伦理委员会或服务中心提交申请材料。
- 受理：伦理委员会或服务中心评估材料是否符合受理条件，并确定适用的审查程序。
- 开展审查：根据项目性质，采用一般、简易或应急程序进行伦理评估。
- 专家复核：对于被列入“需要专家复核清单”的项目，需提交至地方或相关主管部门，由专家进行二次审核。
- 审查决定：根据审查结果，作出批准、修改后再审或驳回的决定。
- 申诉机制：申请人若对决定存在异议，可向伦理委员会或服务中心提出申诉。
- 跟踪审查：对已批准的项目进行持续跟踪审查，常规项目周期不超过12个月，重点项目不超过6个月。
审查过程中重点关注以下方面：人类福祉的提升、公平与公正、系统的可控性与可信度、透明度与可解释性、责任的可追溯性以及隐私保护等。
需要专家复核的人工智能科技活动类型
《办法》第三章及附件列明了三类需要进行专家复核的科技活动：
- 对人类行为、情绪或健康有显著影响的人机融合系统的研发。
- 具有舆论引导力或社会动员能力的算法模型、应用系统及程序的开发。
- 应用于高风险场景的、具备高度自主决策能力的自动化系统。
对于这类项目，需在单位内部完成初步审查后，再申请专家复核。中央单位直接报送主管部门，地方单位则报送地方管理部门。相关部门将组织专家小组对初步审查意见进行评估，并在30日内反馈结果。最终审查决定将依据专家意见作出，并对复核项目加强跟踪审查。
《办法》在伦理服务与促进方面的创新举措
为推动人工智能伦理治理的实施，《办法》第二章提出了五大促进措施：
- 标准建设：鼓励高校、科研机构、医疗机构及社会团体参与伦理标准制定，推动行业共识。
- 服务体系建设：完善伦理风险监测、评估、认证、咨询等服务，特别是加强对中小微企业的支持。
- 技术创新激励：支持开发用于伦理风险防控的技术工具与平台。
- 宣传教育提升：推动公众和从业人员的伦理意识与素养。
- 人才培养机制：构建职业体系与课程体系，多元化推动伦理人才队伍建设。
这些举措旨在系统解决当前企业在伦理治理中面临的技术手段不足、规范缺失和治理工具匮乏等问题，为人工智能产业的健康发展提供坚实支撑。