http://www.froninvest.com

整顿!下月起,随意发布AI造假音视频将被依法追责

  【导读】11月29日,国家互联网信息办公室、文化和旅游部、国家广播电视总局联合印发了《网络音视频信息服务管理规定》(以下简称“《规定》”),明确网络音视频信息服务提供者应当建立健全辟谣机制,发现网络音视频信息服务使用者利用基于深度学习、虚拟现实等的虚假图像、音视频生成技术制作、发布、传播谣言的,应当及时采取相应的辟谣措施,并将相关信息报网信、文化和旅游、广播电视等部门备案。《规定》自2020年1月1日起施行。

  当前,网络音视频信息服务迅速发展,用户规模不断壮大。有关数据显示,国内网络音视频行业正在持续高速发展,我国网络音乐用户规模已达6.08亿,网络视频用户规模已达7.59亿。与此同时,也带来了传播违法和不良信息、侵犯人民群众合法权益等风险隐患,特别是随着“深度伪造(deepfake)”等新技术新应用在网络音视频领域的运用,这些风险进一步集聚、放大,可能被利用从事危害国家安全、破坏社会稳定、扰乱社会秩序、侵犯他人合法权益等法律法规禁止的活动,造成政治安全风险和国家安全、公共安全风险,对社会稳定造成不良影响。

  因此,亟需出台有针对性的管理规定,明确网络音视频信息服务提供者及其技术支持的主体的信息内容安全管理责任,规范网络音视频信息服务提供者关于利用深度学习、虚拟现实等新技术新应用的管理要求,为网络音视频信息服务及其相关技术的提供、使用、管理等提供有效的依据。

  国家互联网信息办公室有关负责人表示,出台《规定》,旨在促进网络音视频信息服务健康有序发展,保护公民、法人和其他组织的合法权益,维护国家安全和公共利益。

  《规定》明确,网络音视频信息服务提供者应当依法取得法律、行政法规规定的相关资质;网络音视频信息服务提供者应当落实信息内容安全管理主体责任,配备与服务规模相适应的专业人员,建立健全用户注册、信息发布审核、信息安全管理、应急处置、从业人员教育培训、未成年人保护、知识产权保护等制度,具有与新技术新应用发展相适应的安全可控的技术保障和防范措施,有效应对网络安全事件,防范网络违法犯罪活动,维护网络数据的完整性、安全性和可用性。

  《规定》明确,网络音视频信息服务提供者基于新技术新应用上线具有媒体属性或者社会动员功能的音视频信息服务,或者调整增设相关功能的,应当按照国家有关规定开展安全评估;网络音视频信息服务提供者和网络音视频信息服务使用者利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播非真实音视频信息的,应当以显著方式予以标识,不得利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播虚假新闻信息。

  《规定》明确,网络音视频信息服务提供者应当部署应用违法违规音视频以及非真实音视频鉴别技术,发现音视频信息服务使用者制作、发布、传播法律法规禁止的信息内容的,应当依法依约停止传输该信息,采取消除等处置措施;网络音视频信息服务提供者应当建立健全辟谣机制,发现网络音视频信息服务使用者利用基于深度学习、虚拟现实等的虚假图像、音视频生成技术制作、发布、传播谣言的,应当及时采取相应的辟谣措施,并将相关信息报网信、文化和旅游、广播电视等部门备案。

  《规定》强调,网络音视频信息服务提供者和网络音视频信息服务使用者违反《规定》的,由网信、文化和旅游、广播电视等部门依照《中华人民共和国网络安全法》《互联网信息服务管理办法》《互联网新闻信息服务管理规定》《互联网文化管理暂行规定》《互联网视听节目服务管理规定》等相关法律法规规定处理;构成违反治安管理行为的,依法给予治安管理处罚;构成犯罪的,依法追究刑事责任。

网络音视频信息服务管理规定

  第一条 为促进网络音视频信息服务健康有序发展,保护公民、法人和其他组织的合法权益,维护国家安全和公共利益,根据《中华人民共和国网络安全法》《互联网信息服务管理办法》《互联网新闻信息服务管理规定》《互联网文化管理暂行规定》《互联网视听节目服务管理规定》,制定本规定。

  第二条 在中华人民共和国境内从事网络音视频信息服务,应当遵守本规定。

  本规定所称网络音视频信息服务,是指通过互联网站、应用程序等网络平台,向社会公众提供音视频信息制作、发布、传播的服务。

  网络音视频信息服务提供者,是指向社会公众提供网络音视频信息服务的组织或者个人。网络音视频信息服务使用者,是指使用网络音视频信息服务的组织或者个人。

  第三条 各级网信、文化和旅游、广播电视等部门依据各自职责开展网络音视频信息服务的监督管理工作。

  第四条 网络音视频信息服务提供者和使用者应当遵守宪法、法律和行政法规,坚持正确政治方向、舆论导向和价值取向,弘扬社会主义核心价值观,促进形成积极健康、向上向善的网络文化。

  第五条 国家鼓励和指导互联网行业组织加强行业自律,建立健全网络音视频信息服务行业标准和行业准则,推动网络音视频信息服务行业信用体系建设,督促网络音视频信息服务提供者依法提供服务、接受社会监督,提高网络音视频信息服务从业人员职业素养,促进行业健康有序发展。

  第六条 网络音视频信息服务提供者应当依法取得法律、行政法规规定的相关资质。

  第七条 网络音视频信息服务提供者应当落实信息内容安全管理主体责任,配备与服务规模相适应的专业人员,建立健全用户注册、信息发布审核、信息安全管理、应急处置、从业人员教育培训、未成年人保护、知识产权保护等制度,具有与新技术新应用发展相适应的安全可控的技术保障和防范措施,有效应对网络安全事件,防范网络违法犯罪活动,维护网络数据的完整性、安全性和可用性。

  第八条 网络音视频信息服务提供者应当依照《中华人民共和国网络安全法》的规定,对用户进行基于组织机构代码、身份证件号码、移动电话号码等方式的真实身份信息认证。用户不提供真实身份信息的,网络音视频信息服务提供者不得为其提供信息发布服务。

  第九条 任何组织和个人不得利用网络音视频信息服务以及相关信息技术从事危害国家安全、破坏社会稳定、扰乱社会秩序、侵犯他人合法权益等法律法规禁止的活动,不得制作、发布、传播煽动颠覆国家政权、危害政治安全和社会稳定、网络谣言、淫秽色情,以及侵害他人名誉权、肖像权、隐私权、知识产权和其他合法权益等法律法规禁止的信息内容。

  第十条 网络音视频信息服务提供者基于深度学习、虚拟现实等新技术新应用上线具有媒体属性或者社会动员功能的音视频信息服务,或者调整增设相关功能的,应当按照国家有关规定开展安全评估。

  第十一条 网络音视频信息服务提供者和网络音视频信息服务使用者利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播非真实音视频信息的,应当以显著方式予以标识。

  网络音视频信息服务提供者和网络音视频信息服务使用者不得利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播虚假新闻信息。转载音视频新闻信息的,应当依法转载国家规定范围内的单位发布的音视频新闻信息。

  第十二条 网络音视频信息服务提供者应当加强对网络音视频信息服务使用者发布的音视频信息的管理,部署应用违法违规音视频以及非真实音视频鉴别技术,发现音视频信息服务使用者制作、发布、传播法律法规禁止的信息内容的,应当依法依约停止传输该信息,采取消除等处置措施,防止信息扩散,保存有关记录,并向网信、文化和旅游、广播电视等部门报告。

  网络音视频信息服务提供者发现不符合本规定第十一条第一款要求的信息内容的,应当立即停止传输该信息,以显著方式标识后方可继续传输该信息。

  第十三条 网络音视频信息服务提供者应当建立健全辟谣机制,发现网络音视频信息服务使用者利用基于深度学习、虚拟现实等的虚假图像、音视频生成技术制作、发布、传播谣言的,应当及时采取相应的辟谣措施,并将相关信息报网信、文化和旅游、广播电视等部门备案。

  第十四条 网络音视频信息服务提供者应当在与网络音视频信息服务使用者签订的服务协议中,明确双方权利、义务,要求网络音视频信息服务使用者遵守本规定及相关法律法规。对违反本规定、相关法律法规及服务协议的网络音视频信息服务使用者依法依约采取警示整改、限制功能、暂停更新、关闭账号等处置措施,保存有关记录,并向网信、文化和旅游、广播电视等部门报告。

  第十五条 网络音视频信息服务提供者应当自觉接受社会监督,设置便捷的投诉举报入口,公布投诉、举报方式等信息,及时受理并处理公众投诉举报。

  第十六条 为网络音视频信息服务提供技术支持的主体应当遵守相关法律法规规定和国家标准规范,采取技术措施和其他必要措施,保障网络安全、稳定运行。

  第十七条 各级网信、文化和旅游、广播电视等部门应当建立日常监督检查和定期检查相结合的监督管理制度,指导督促网络音视频信息服务提供者依据法律法规和服务协议规范网络音视频信息服务行为。

  网络音视频信息服务提供者应当遵守相关法律法规规定,依法留存网络日志,配合网信、文化和旅游、广播电视等部门开展监督管理执法工作,并提供必要的技术、数据支持和协助。

  第十八条 网络音视频信息服务提供者和网络音视频信息服务使用者违反本规定的,由网信、文化和旅游、广播电视等部门依照《中华人民共和国网络安全法》《互联网信息服务管理办法》《互联网新闻信息服务管理规定》《互联网文化管理暂行规定》《互联网视听节目服务管理规定》等相关法律法规规定处理;构成违反治安管理行为的,依法给予治安管理处罚;构成犯罪的,依法追究刑事责任。

  第十九条 本规定自2020年1月1日起施行。

《规定》解读

  《网络音视频信息服务管理规定》是针对网络音视频信息服务领域的专门管理规定,对之前已经发布的《互联网信息服务管理办法》《互联网新闻信息服务管理规定》《互联网文化管理暂行规定》和《互联网视听节目服务管理规定》等法律法规,作出了很好的衔接和补充。

  监管力量不足,一直都是主观部门最头疼的问题。

  虽然主管部门一直出台各种《通知》,但网络音视频行业的监管还是存在着“难预测、难发现、难审核、难封堵”的问题。

  此次《网络音视频信息服务管理规定》由国家网信办、文化和旅游部、国家广电总局三部门联合制定,作为行业的规范性文件,重要程度可想而知。

  针对网络音视频信息服务,《网络音视频信息服务管理规定》提出了以下明确要求:

  1、明确资质要求。网络音视频信息服务提供者应当依法取得法律、行政法规规定的相关资质。

  记者了解到,音视频网站、app一般需要取得《信息网络传播视听节目许可证》《网络文化经营许可证》《增值电信业务服务许可证(ICP)》,还需要在当地公安机关进行联网备案,如果自己制作节目的话,还需要取得《广播电视节目制作经营许可证》。

  2、明确信息内容安全管理主体责任要求。网络音视频信息服务提供者应当配备与服务规模相适应的专业人员,建立健全用户注册、信息发布审核、信息安全管理、应急处置、从业人员教育培训、未成年人保护、知识产权保护等制度。

  也就是说,接下来,从用户注册到内容审核,再到应急处理和版权保护,音视频提供者都将形成一整套的监管体系和行业规范。

  3、明确“实名制”身份信息认证要求。

  网络音视频信息服务提供者应当对用户进行基于组织机构代码、身份证件号码、移动电话号码等方式的真实身份信息认证。

  用户不提供真实身份信息的,网络音视频信息服务提供者不得为其提供信息发布服务。也就是说,以后如果不进行实名认证,将彻底不能使用网络音视频服务。

  4、明确信息安全要求。任何组织和个人不得利用网络音视频信息服务以及相关信息技术从事法律法规禁止的活动,侵害他人合法权益。

  5、明确处罚机制。网络音视频信息服务提供者应当在与网络音视频信息服务使用者签订的服务协议中,明确双方权利、义务,要求网络音视频信息服务使用者遵守本规定及相关法律法规。

  对违反本规定、相关法律法规及服务协议的网络音视频信息服务使用者依法依约采取警示整改、限制功能、暂停更新、关闭账号等处置措施,保存有关记录,并向网信、文化和旅游、广播电视等部门报告。

  6、明确举报路径。网络音视频信息服务提供者应当自觉接受社会监督,设置便捷的投诉举报入口,公布投诉、举报方式等信息,及时受理并处理公众投诉举报。

  7、明确辟谣机制。网络音视频信息服务提供者应当建立健全辟谣机制,发布、传播非真实音视频信息的,应当立即停止传输该信息,以显著方式标识后方可继续传输该信息,并将相关信息报网信、文化和旅游、广播电视等部门备案。

  七个“明确”,无疑为网络音视频良性传播提供了重要的保障,也为网络信息安全规范加上了一把安全锁。

  目前整个行业依然充斥着盗版、低俗、谣言、不良信息、侵犯肖像权、危未成年人等各种情况,而且随着各种AI换头、变声等新技术的推进,这种风险隐患在网络音视频领域被进一步集聚、放大。在这样的情况下,从内容质量提升到行业良性发展,再到个人用户的信息安全,行业规范都势在必行。

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。