有关伦理和安全治理的关切一直是人工智能技术不可避免的问题。随着AIGC技术的涌现，人工智能的伦理和安全治理更是成为与全人类命运共同体密切相关的课题。2023年，我国提出《全球人工智能治理倡议》，围绕人工智能发展、安全、治理三方面系统阐述了人工智能治理中国方案，其开篇便点明“发展人工智能应坚持“以人为本”理念，以增进人类共同福祉为目标，以保障社会安全、尊重人类权益为前提，确保人工智能始终朝着有利于人类文明进步的方向发展”。
在监管规则建设方面，早在2017年，国务院发布的《新一代人工智能发展规划》即将“制定促进人工智能发展的法律法规和伦理规范”列为新一代人工智能发展的“保障措施”之一，要求“加强人工智能相关法律、伦理和社会问题研究，建立保障人工智能健康发展的法律法规和伦理道德框架”， “加快研究制定相关安全管理法规”。
2024年8月14日，科技部发布《关于政协第十四届全国委员会第二次会议第02748号（工交邮电类392号）提案答复的函》，明确国家正在有序推进人工智能立法工作，《人工智能法草案》已被列入国务院立法工作计划。人工智能产业将被纳入强监管之下。
随着越来越多的企业进入人工智能赛道、应用人工智能技术，有关伦理要求和安全治理的规范，也构成了该等企业外部合规义务的重要组成部分。本文结合已有法律法规、标准，对我国涉及人工智能伦理要求和安全治理的规范进行简要的梳理和总结。
目前我国已经初步建成人工智能伦理和安全治理的监管框架。中共中央办公厅、国务院办公厅及各部委发布的政策文件明确了人工智能伦理和安全治理原则，数据合规领域基本法律提出了为人工智能伦理和安全管理提出了基本伦理原则，国家网信办等部委发布了算法和人工智能监管规则，进一步细化了人工智能伦理和安全治理规范。
1. 人工智能伦理治理政策提出的人工智能伦理和安全治理原则
《关于加强科技伦理治理的意见》《新一代人工智能治理原则——发展负责任的人工智能》《国家新一代人工智能标准体系建设指南》《新一代人工智能伦理规范》《全球人工智能治理倡议》等政策文件共同提出了伦理先行、依法依规、以人为本、尊重主权、平等互利、智能向善、和谐友好、敏捷治理、公平公正、公开透明、可控可信、尊重隐私、包容共享、开放协作、循序渐进、增进人类福祉、尊重生命权利、强化责任担当、提升伦理素养的人工智能伦理和安全治理原则。
我国数据合规领域基本的专门性法律包括《网络安全法》《数据安全法》《个人信息保护法》，其亦提出了相关的基本伦理原则，总结下来具体包括：1）推动构建和平、安全、开放、合作的网络空间；2）遵守公共秩序、遵守社会公德和伦理（道德）；2）遵守商业道德、诚实信用原则，数据处理者须恪守职业道德；3）处理个人信息应遵守合法、正当、必要、诚信原则，基于合理目的、最小范围、对个人权益影响最小的方式处理个人信息；4）遵循公开透明原则，公开个人信息处理规则，明示处理的目的、方式和范围。
3. 算法和人工智能监管规则提出的伦理和安全治理规范
目前我国已生效的算法和人工智能领域的具体监管规范包括《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》。依据前述算法和人工智能监管规范，推荐算法服务提供者、深度合成算法服务提供者、生成式人工智能服务提供者应当遵守如下基本伦理和安全要求：
遵循主流价值导向，促进算法应用向上向善，防范算法服务滥用危害国家安全和社会公共利益、扰乱经济秩序和社会秩序、侵犯他人合法权益。
落实算法安全主体责任，通过建立健全算法机制机理审核、科技伦理审查、用户注册、信息发布审核、数据安全和个人信息保护、反电信网络诈骗、安全评估监测、安全事件应急处置等管理制度和安全可控的技术措施，确保算法安全。
坚持发展和安全并重、促进创新和依法治理相结合的原则，对生成式人工智能服务实行包容审慎和分类分级监管。
对于从事人工智能的企业而言，除以上原则性的要求和规范外，其在设计、开发、运营、管理人工智能产品和/或服务还应当遵循人工智能伦理和安全治理的具体规则。目前，该等规则主要见于《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》《科技伦理审查办法（试行）》的相关内容，具体如下：
根据《互联网信息服务算法推荐管理规定》第24条规定，“具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息，履行备案手续。”根据目前已公示的备案情况来看，算法推荐服务包括但不限于各类商品/服务/广告/视频/内容个性化推荐服务、信息推送服务、搜索功能或搜索引擎服务、热搜榜单/榜单排序服务、商品排行服务、信息检索服务、内容过滤服务、网约车派单服务、配送服务、网约车智能调价服务、运输路线决策服务、风险识别服务、情绪识别服务、价格预测服务等。
《互联网信息服务深度合成管理规定》第19条规定“具有舆论属性或者社会动员能力的深度合成服务提供者，应当按照《互联网信息服务算法推荐管理规定》履行备案和变更、注销备案手续。深度合成服务技术支持者应当参照前款规定履行备案和变更、注销备案手续。”根据已公示的算法备案情况来，涉及深度合成技术的服务包括但不限于智能客服服务、图像/文本/对话/音频/视频生成服务、视频/图片制作服务、人脸图像/人脸特效生成服务、文本转语音服务、智能对话/智能问答服务、机器翻译服务、内容/文档生成服务、歌声合成服务、数字人合成服务、虚拟人生成服务等。
《生成式人工智能服务管理暂行办法》第17条规定“提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。”同时，基于《生成式人工智能服务管理暂行办法》根据各省级网信办的公告，具有舆论属性或社会动员能力的、直接面向境内公众提供的生成式人工智能服务，应开展生成式人工智能服务备案及安全评估。备案服务包括但不限于具备文字生成、图片生成、声音生成、视频生成等功能的生成式人工智能服务。
《互联网信息服务算法推荐管理规定》第7条规定：“算法推荐服务提供者应当······制定并公开算法推荐服务相关规则”；第12条规定：“鼓励算法推荐服务提供者综合运用内容去重、打散干预等策略，并优化检索、排序、选择、推送、展示等规则的透明度和可解释性，避免对用户产生不良影响，预防和减少争议纠纷。”最新网络平台算法透明度合规实践表明，企业通常在隐私政策中披露算法推荐服务相关联的个人信息收集使用规则，并在用户个人主页提供拒绝个性化推荐服务的按钮。
《互联网信息服务深度合成管理规定》第8条规定：“深度合成服务提供者应当制定和公开管理规则、平台公约，完善服务协议，依法依约履行管理责任，以显著方式提示深度合成服务技术支持者和使用者承担信息安全义务。”最新AIGC应用平台算法透明度合规实践表明，企业通常在平台用户协议中完整披露用户使用规范，包括账号管理规范、信息内容管理规范、用户内容知识产权保护规范等内容，并在隐私政策中披露深度合成服务相关联的个人信息收集使用规则。
《生成式人工智能服务管理暂行办法》第4条第1款第5项规定：“基于服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性”；第9条第2款规定：“提供者应当与注册其服务的生成式人工智能服务使用者（以下称使用者）签订服务协议，明确双方权利义务。”现有AIGC应用平台算法透明度合规实践同上，不再赘述。
依据《互联网信息服务算法推荐管理规定》第21条规定：“算法推荐服务提供者向消费者销售商品或者提供服务的，应当保护消费者公平交易的权利，不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为。”根据现有反算法歧视执法实践，收集用户消费行为数据，通过算法实施价格歧视构成侵权行为。
依据《互联网信息服务算法推荐管理规定》第15条规定：“算法推荐服务提供者不得利用算法对其他互联网信息服务提供者进行不合理限制，或者妨碍、破坏其合法提供的互联网信息服务正常运行，实施垄断和不正当竞争行为。”根据公开检索的不正当竞争案例，利用算法实施的不正当竞争行为包括但不限于干扰搜索引擎算法操纵搜索引擎排序结果；通过爬虫程序从数据控制方获取数据，并通过算法处理后向用户提供与数据控制方同质的产品或服务。
依据《互联网信息服务算法推荐管理规定》第9条规定：“算法推荐服务提供者应当加强信息安全管理，建立健全用于识别违法和不良信息的特征库，完善入库标准、规则和程序。发现未作显著标识的算法生成合成信息的，应当作出显著标识后，方可继续传输。发现违法信息的，应当立即停止传输，采取消除等处置措施，防止信息扩散，保存有关记录，并向网信部门和有关部门报告。发现不良信息的，应当按照网络信息内容生态治理有关规定予以处置。”
《互联网信息服务深度合成管理规定》第10条规定：“深度合成服务提供者应当加强深度合成内容管理，采取技术或者人工方式对深度合成服务使用者的输入数据和合成结果进行审核。深度合成服务提供者应当建立健全用于识别违法和不良信息的特征库，完善入库标准、规则和程序，记录并留存相关网络日志。深度合成服务提供者发现违法和不良信息的，应当依法采取处置措施，保存有关记录，及时向网信部门和有关主管部门报告；对相关深度合成服务使用者依法依约采取警示、限制功能、暂停服务、关闭账号等处置措施。”
依据《生成式人工智能服务管理暂行办法》第14条规定：“提供者发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施，采取模型优化训练等措施进行整改，并向有关主管部门报告。提供者发现使用者利用生成式人工智能服务从事违法活动的，应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施，保存有关记录，并向有关主管部门报告。”
最新算法内容安全治理法律实践显示，企业通常通过自研或购买文本、图片、视频内容过滤服务、违禁词检测工具等方式进行机器审核，并组建人工审核团队对机器识别的风险内容进行人工复核，并通过建立内部内容审核团队、审核制度、用户举报受理制度，履行前述义务和规范。
《科技伦理审查办法（试行）》是应对科技发展带来的规则冲突、社会风险、伦理挑战出台的伦理审查规则，《科技伦理审查办法（试行）》明确规定了科技伦理审查的监管框架，包含科技伦理审查的基本程序、标准、条件、科技伦理（审查）委员会设立标准、登记制度，建立科技伦理审查结果专家复核机制等基本规则。
《科技伦理审查办法（试行）》第2条第1款第1项规定：“开展以下科技活动应依照本办法进行科技伦理审查：（一）涉及以人为研究参与者的科技活动，包括以人为测试、调查、观察等研究活动的对象，以及利用人类生物样本、个人信息数据等的科技活动；······”
就科技伦理审查的主体，根据该试行办法第4条，高等学校、科研机构、医疗卫生机构、企业等是本单位科技伦理审查管理的责任主体，从事生命科学、医学、人工智能等科技活动的单位，研究内容涉及科技伦理敏感领域的，应设立科技伦理（审查）委员会。其他有科技伦理审查需求的单位可根据实际情况设立科技伦理（审查）委员会。
亦即，在我国从事与利用个人信息数据等的科技活动，需要自主进行科技伦理审查；从事生命科学、医学、人工智能等科技活动的单位，研究内容涉及科技伦理敏感领域的，应当设立伦理委员会。
《科技伦理审查办法（试行）》第3条第1款规定：“开展科技活动应坚持促进创新与防范风险相统一，客观评估和审慎对待不确定性和技术应用风险，遵循增进人类福祉、尊重生命权利、坚持公平公正、合理控制风险、保持公开透明的科技伦理原则，遵守我国宪法、法律法规和有关规定以及科技伦理规范。”
《科技伦理审查办法（试行）》第15条第1款第5项规定：“涉及数据和算法的科技活动，数据的收集、存储、加工、使用等处理活动以及研究开发数据新技术等符合国家数据安全和个人信息保护等有关规定，数据安全风险监测及应急处理方案得当；算法、模型和系统的设计、实现、应用等遵守公平、公正、透明、可靠、可控等原则，符合国家有关要求，伦理风险评估审核和应急处置方案合理，用户权益保护措施全面得当。”
最新科技伦理审查法律实践显示，复旦大学、清华大学、中国科学技术大学等高校，中国科学院计算技术研究所等科研机构，华为、阿里巴巴、百度、商汤、海康威视等企业，纷纷成立科技伦理（审查）委员会，旨在制定并完善科技伦理委员会工作流程、管理制度和研发规范，并开展科技伦理审查。
《科技伦理审查办法（试行）》第三章“审查程序”第四节“专家复核程序”创造性地提出了专家复核科技活动清单制度。
《科技伦理审查办法（试行）》第25条规定：“建立需要开展专家复核的科技活动清单制度，对可能产生较大伦理风险挑战的新兴科技活动实施清单管理。清单根据工作需要动态调整，由科技部公开发布。”，第26条规定：“开展纳入清单管理的科技活动的，通过科技伦理（审查）委员会的初步审查后，由本单位报请所在地方或相关行业主管部门组织开展专家复核。多个单位参与的，由牵头单位汇总并向所在地方或相关行业主管部门申请专家复核。”
《科技伦理审查办法（试行）》附件明确了需要开展伦理审查复核的科技活动清单，具体包括：
1. 对人类生命健康、价值理念、生态环境等具有重大影响的新物种合成研究。
2. 将人干细胞导入动物胚胎或胎儿并进一步在动物子宫中孕育成个体的相关研究。
3. 改变人类生殖细胞、受精卵和着床前胚胎细胞核遗传物质或遗传规律的基础研究。
4. 侵入式脑机接口用于神经、精神类疾病治疗的临床研究。
5. 对人类主观行为、心理情绪和生命健康等具有较强影响的人机融合系统的研发。
6. 具有舆论社会动员能力和社会意识引导能力的算法模型、应用程序及系统的研发。
7. 面向存在安全、人身健康风险等场景的具有高度自主能力的自动化决策系统的研发。
如企业开展清单内的人工智能研发活动的，在该等人工智能算法模型、应用程序及系统上线前，初应通过企业自行组建的科技伦理（审查）委员会的初步审查，还应根据前述规定通过所在地方或相关行业主管部门组织开展的专家复核。鉴于《科技伦理审查办法（试行）》于2023年12月1日实施，目前清单管理的人工智能研发活动相关法律实践被公开报道，建议相关企业依法履行法定义务，并持续关注《科技伦理审查办法（试行）》相关的最新法律动态和监管要求。
人工智能领域立法已纳入我国的立法规划，安全治理和伦理规范是人工智能领域的重大问题；随着立法的不断演进、规则的不断完善，人工智能赛道的企业也需要面对越来越多的外部合规义务。安全治理和伦理规范是人工智能领域的重大问题，本文是对目前我国已有规范的总结和梳理。后续我们亦将持续关注人工智能领域的立法和司法、执法进展，并带来更多的观察和思考。
本文和其内容仅代表作者本人观点，不视为通商律师事务所或其律师的法律意见或建议。如您需要法律意见或专业分析，请咨询有资格的专业人士，或者联系您于通商的日常联系律师。转载请获得授权并注明作者和出处“通商律师事务所”。
到此这篇自动驾驶数据安全（自动驾驶数据安全与法律保护问题研究）的文章就介绍到这了,更多相关内容请继续浏览下面的相关推荐文章，希望大家都能在编程的领域有一番成就！
版权声明：
本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。
如若内容造成侵权、违法违规、事实不符，请将相关资料发送至xkadmin@xkablog.com进行投诉反馈，一经查实，立即处理！
转载请注明出处，原文链接：https://www.xkablog.com/sjkxydsj/50093.html
