Redian新闻
>
重磅全文 |《生成式人工智能服务管理办法》征求意见!数据安全股异动!

重磅全文 |《生成式人工智能服务管理办法》征求意见!数据安全股异动!

公众号新闻
联系微信:heguilvshi领取优惠券,加入会员

来源: 证券时报
记者:郭博昊

4月11日,国家网信办发布《生成式人工智能服务管理办法(征求意见稿)》(下称《管理办法》),向社会公开征求意见。受此影响,数据安全方向午后走强,截至收盘,美亚柏科涨超18%;三未信安涨超8%,盘中一度涨超11%;任子行涨超6%。

近段时间,以ChatGPT为代表的生成式人工智能服务受到业界广泛关注。国内多家互联网巨头也纷纷布局生成式人工智能赛道。百度此前推出“文心一言”,阿里云也在4月11日发布了“通义千问”产品。

随着ChatGPT等类似应用越来越火热,未来因生成式人工智能引发的社会问题也将快速增长,由此也将带来诸多法律问题。中南财经政法大学数字经济研究院高级研究员金天认为,在越来越多的企业布局生成式人工智能业务之际,国家迅速启动相关领域政策法规制定工作,将更好促进生成式人工智能技术健康发展和规范应用。

此外,据华尔街日报,拜登政府也已经开始研究是否需要对ChatGPT等人工智能工具进行审查,因为人们越来越担心该技术可能会引起歧视或传播有害信息。

利用生成式人工智能生成的内容应当真实准确

《管理办法》明确,国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作,鼓励优先采用安全可信的软件、工具、计算和数据资源。

《管理办法》要求,提供生成式人工智能产品或服务应当遵守法律法规的要求,尊重社会公德、公序良俗。

《管理办法》提出,利用生成式人工智能生成的内容应当体现社会主义核心价值观,不得含有颠覆国家政权、推翻社会主义制度,煽动分裂国家、破坏国家统一,宣扬恐怖主义、极端主义,宣扬民族仇恨、民族歧视,暴力、淫秽色情信息,虚假信息,以及可能扰乱经济秩序和社会秩序的内容。

在算法设计、训练数据选择、模型生成和优化、提供服务等过程中,采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视。

《管理办法》还要求,不得利用算法、数据、平台等优势实施不公平竞争。利用生成式人工智能生成的内容应当真实准确,并采取措施防止生成虚假信息。同时,禁止非法获取、披露、利用个人信息和隐私、商业秘密。

《管理办法》明确,利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人(下称“提供者”),包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等,承担该产品生成内容生产者的责任。

提供者应当指导用户科学认识和理性使用生成式人工智能生成的内容,不利用生成内容损害他人形象、名誉以及其他合法权益,不进行商业炒作、不正当营销。

提供者发现用户利用生成式人工智能产品过程中违反法律法规,违背商业道德、社会公德行为时,包括从事网络炒作、恶意发帖跟评、制造垃圾邮件、编写恶意软件,实施不正当的商业营销等,应当暂停或者终止服务。

生成式人工智能产品训练数据应合法合规

《管理办法》指出,用于生成式人工智能产品的预训练、优化训练数据,应符合《中华人民共和国网络安全法》等法律法规的要求,不含有侵犯知识产权的内容。提供者还要保证数据的真实性、准确性、客观性、多样性。

在个人信息保护方面,《管理办法》明确,涉及个人信息的,提供者承担个人信息处理者的法定责任,履行个人信息保护义务。训练数据包含个人信息的,应当征得个人信息主体同意。

同时,提供者在提供服务过程中,对用户的输入信息和使用记录承担保护义务。不得非法留存能够推断出用户身份的输入信息,不得根据用户输入信息和使用情况进行画像,不得向他人提供用户输入信息。

《管理办法》还要求,提供者应当明确并公开其服务的适用人群、场合、用途,采取适当措施防范用户过分依赖或沉迷生成内容。

“技术大厂”纷纷入局生成式人工智能赛道

据记者不完全梳理,当前百度、华为、腾讯、阿里、京东、360等互联网企业都开始布局生成式人工智能业务,而且部分企业已经推出相应的产品。

百度早在2019年3月发布预训练模型ERNIE 1.0,2023年3月推出了“文心一言”。2021年4月,华为发布盘古大模型。2022年4月,腾讯对外披露混元大模型。

2023年,4月11日,阿里云发布“通义千问”;阿里云智能CTO周靖人在北京云峰会现场表示,将开放通义千问的能力,帮助每家企业打造自己的专属大模型。

在金天看来,生成式人工智能技术富有巨大的商业化潜力。其有望成为“数据与内容生产”的强大引擎,特别是促使内容生成朝向品质更高、成本更低、更有效率的方向发展。

他认为,生成式人工智能是当前发展最快、最具影响力的技术之一,有望在2-5年内进入“生产成熟期”。围绕这一科技竞争的新领域、新赛道做好布局、补齐短板和塑造优势,日益成为促动传统产业升级和谋求中国经济高质量发展的题中之义。在此方面,只有立足国内需求、激发创新活力,理顺基础研究投入、技术成果转化及相关配套协同机制,才能为抢抓战略机遇、服务实体经济提供不竭动力。

附:《生成式人工智能服务管理办法(征求意见稿)》全文:

生成式人工智能服务管理办法

(征求意见稿)

  第一条 为促进生成式人工智能健康发展和规范应用,根据《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律、行政法规,制定本办法。

  第二条 研发、利用生成式人工智能产品,面向中华人民共和国境内公众提供服务的,适用本办法。

  本办法所称生成式人工智能,是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。

  第三条 国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作,鼓励优先采用安全可信的软件、工具、计算和数据资源。

  第四条 提供生成式人工智能产品或服务应当遵守法律法规的要求,尊重社会公德、公序良俗,符合以下要求:

  (一)利用生成式人工智能生成的内容应当体现社会主义核心价值观,不得含有颠覆国家政权、推翻社会主义制度,煽动分裂国家、破坏国家统一,宣扬恐怖主义、极端主义,宣扬民族仇恨、民族歧视,暴力、淫秽色情信息,虚假信息,以及可能扰乱经济秩序和社会秩序的内容。

  (二)在算法设计、训练数据选择、模型生成和优化、提供服务等过程中,采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视。

  (三)尊重知识产权、商业道德,不得利用算法、数据、平台等优势实施不公平竞争。

  (四)利用生成式人工智能生成的内容应当真实准确,采取措施防止生成虚假信息。

  (五)尊重他人合法利益,防止伤害他人身心健康,损害肖像权、名誉权和个人隐私,侵犯知识产权。禁止非法获取、披露、利用个人信息和隐私、商业秘密。

  第五条 利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人(以下称“提供者”),包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等,承担该产品生成内容生产者的责任;涉及个人信息的,承担个人信息处理者的法定责任,履行个人信息保护义务。

  第六条 利用生成式人工智能产品向公众提供服务前,应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估,并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。

  第七条 提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责。

  用于生成式人工智能产品的预训练、优化训练数据,应满足以下要求:

  (一)符合《中华人民共和国网络安全法》等法律法规的要求;

  (二)不含有侵犯知识产权的内容;

  (三)数据包含个人信息的,应当征得个人信息主体同意或者符合法律、行政法规规定的其他情形;

  (四)能够保证数据的真实性、准确性、客观性、多样性;

  (五)国家网信部门关于生成式人工智能服务的其他监管要求。

  第八条 生成式人工智能产品研制中采用人工标注时,提供者应当制定符合本办法要求,清晰、具体、可操作的标注规则,对标注人员进行必要培训,抽样核验标注内容的正确性。

  第九条 提供生成式人工智能服务应当按照《中华人民共和国网络安全法》规定,要求用户提供真实身份信息。

  第十条 提供者应当明确并公开其服务的适用人群、场合、用途,采取适当措施防范用户过分依赖或沉迷生成内容。

  第十一条 提供者在提供服务过程中,对用户的输入信息和使用记录承担保护义务。不得非法留存能够推断出用户身份的输入信息,不得根据用户输入信息和使用情况进行画像,不得向他人提供用户输入信息。法律法规另有规定的,从其规定。

  第十二条 提供者不得根据用户的种族、国别、性别等进行带有歧视性的内容生成。

  第十三条 提供者应当建立用户投诉接收处理机制,及时处置个人关于更正、删除、屏蔽其个人信息的请求;发现、知悉生成的文本、图片、声音、视频等侵害他人肖像权、名誉权、个人隐私、商业秘密,或者不符合本办法要求时,应当采取措施,停止生成,防止危害持续。

  第十四条 提供者应当在生命周期内,提供安全、稳健、持续的服务,保障用户正常使用。

  第十五条 对于运行中发现、用户举报的不符合本办法要求的生成内容,除采取内容过滤等措施外,应在3个月内通过模型优化训练等方式防止再次生成。

  第十六条 提供者应当按照《互联网信息服务深度合成管理规定》对生成的图片、视频等内容进行标识。

  第十七条 提供者应当根据国家网信部门和有关主管部门的要求,提供可以影响用户信任、选择的必要信息,包括预训练和优化训练数据的来源、规模、类型、质量等描述,人工标注规则,人工标注数据的规模和类型,基础算法和技术体系等。

  第十八条 提供者应当指导用户科学认识和理性使用生成式人工智能生成的内容,不利用生成内容损害他人形象、名誉以及其他合法权益,不进行商业炒作、不正当营销。

  用户发现生成内容不符合本办法要求时,有权向网信部门或者有关主管部门举报。

  第十九条 提供者发现用户利用生成式人工智能产品过程中违反法律法规,违背商业道德、社会公德行为时,包括从事网络炒作、恶意发帖跟评、制造垃圾邮件、编写恶意软件,实施不正当的商业营销等,应当暂停或者终止服务。

  第二十条 提供者违反本办法规定的,由网信部门和有关主管部门按照《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律、行政法规的规定予以处罚。

  法律、行政法规没有规定的,由网信部门和有关主管部门依据职责给予警告、通报批评,责令限期改正;拒不改正或者情节严重的,责令暂停或者终止其利用生成式人工智能提供服务,并处一万元以上十万元以下罚款。构成违反治安管理行为的,依法给予治安管理处罚;构成犯罪的,依法追究刑事责任。

  第二十一条 本办法自2023年 月 日起实施。

每天两块钱,实时获取全球数据合规风险预警

👇

招募兼职研究助理:课题组《人脸识别法律治理框架》

  • 申请条件:在数据隐私、数据安全及数据治理等方面具有丰富的理论积累或实践经验;并具有全英文写作的能力。
  • 优先条件:发表过数据法或科技法相关英文论文的优先;有SSCI期刊发表经验的优先
  • 申请方式:请将您的简历和代表作发送到微信:heguilvshi 或邮箱:[email protected]

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
BB鸭 | 特斯拉将取消强制单踏板模式;问界M9专利图曝光;网信办就生成式AI管理​办法征求意见;小米13 Ultra定档下周《最高人民法院、最高人民检察院、公安部关于依法惩治网络暴力违法犯罪的指导意见(征求意见稿)》面向社会公开征求意见全文 | 工业领域数据安全标准体系建设指南(2023版)(征求意见稿)重磅!首个国家AIGC监管文件,生成式AI服务管理办法公布征求意见稿重磅!国家网信办就《生成式人工智能服务管理办法(征求意见稿)》公开征求意见游泳,血糖,娃娃照网信办公布《生成式人工智能服务管理办法》;张勇:阿里所有产品将接入大模型;京东零售开启组织变革 | 极客早知道《四川省企业首席数据官制度建设指南(试行)》征求意见网信办发布《生成式人工智能服务管理办法(征求意见稿)》,全球最快!巴哈马游记(三):大马镫礁的椰风海韵附下载 | 上海市《公共场所人脸识别分级分类应用规范》征求意见国家网信办发布《生成式人工智能服务管理办法(征求意见稿)》未央播报 | 网信办拟出台生成式人工智能服务管理办法 阿里巴巴所有产品将接入“通义千问”大模型全文下载 |《网络数据安全风险评估实施指引》公开征求意见事关生成式人工智能服务!国家网信办出手【金融行业】银保监会、人民银行就《商业银行资本管理办法(征求意见稿)》征求意见—监管政策周报全文 | 深圳《数据产权登记管理暂行办法》征求意见《浙江省数据知识产权登记办法(试行)》征求意见,附起草说明AI管理办法征求意见,乘联会称新能源车会取消特权,科技巨头将研讨AI开发使用标准,比亚迪回应与大疆合作,这就是今天的其他大新闻!规范AI聊天等生成式人工智能服务,国家网信办征求意见【金融行业】证监会就《衍生品交易监督管理办法(征求意见稿)》公开征求意见—监管政策周报对ChatGPT立法!国家网信办刚刚发布《生成式人工智能服务管理办法(征求意见稿)》重磅!网信办发布《生成式人工智能服务管理办法(征求意见稿)》: 内容应当真实准确,预防生成虚假信息北京高院“妈了个逼案”终审宣判(附判决书全文)观剧偶感(十三)《我们的日子》国家网信办《近距离自组网信息服务管理规定》公开征求意见关于生成式人工智能,国家网信办公开征求意见!网信办公布《生成式人工智能管理办法》;字节盈利增八成;东方甄选派发罕见超级激励……近距离自组网信息服务管理规定(征求意见稿)首个由人工智能生成的游戏和电影问世,探秘生成式 AI 如何发展(附相关人工智能产品集)重磅!首个国家AIGC监管文件来了!生成式人工智能服务管理办法征求意见稿出炉附下载 | 信安标委《人脸识别支付场景个人信息保护安全要求》征求意见《济南市公共数据授权运营办法》征求意见,附全文及起草说明【金融行业】证监会就《期货公司监督管理办法(征求意见稿)》公开征求意见—监管政策周报山川米聚说福建
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。