生成式人工智能服务管理办法》征求意见 AIGC规范发展可期
侃侃同学
全梭哈的散户
2023-04-12 07:24:00
事项：4月11日，国家互联网信息办公室起草了《生成式人工智能服务管理办法（征求意见稿）》（简称《意见稿》，下同），现向社会公开征求意见。
平安观点：新技术的“两面性”开始凸显，《意见稿》出台恰逢其时。2023年以来，以ChatGPT为代表的生成式人工智能快速发展，其智能化水平实现了“革命性”提升，具备了向各垂直行业应用的潜力，有希望成为未来的生产力生成工具。但是，生成式人工智能快速发展，也带来了诸多信息安全方面的风险。一方面，信息泄露风险，大量的敏感数据和AI交互之后，可能会被应用于迭代训练，造成敏感信息的泄露，尤其是国家、机构和个人信息，都面临着潜在风险；另一方面，AIGC被恶意应用的风险也在上升，可能被应用于恶意代码生成，发展智能化网络攻击武器，加大了网络安全防护难度。此外，由于大模型基于概率统计原理发展而来，其训练、调优、内容生成等环节的可靠性还需要持续观察，其大范围应用可能带来严重的社会问题。我们认为，《意见稿》的及时出台，恰在国内AIGC发展的早期，初期就做好合规工作，可以为AIGC的后续稳健发展保驾护航。
《意见稿》对生成内容、主体责任、数据源和数据处理等方面均做出了规定。1）内容方面：要求不得危害国家和社会，传递虚假、造谣和有害信息；在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，不得出现歧视；尊重知识产权，保证生成内容的准确性；不得侵犯他人的合法权益。2）明确主体责任：利用生成式人工智能产品提供服务的组织和个人，承担内容生产者责任，履行信息保护的义务。3）数据源：要求合法、不侵权，个人信息使用需要得到个人信息主体授权；人工标注要核验以确保标注内容的准确性。4）数据处理：提供者在提供服务过程中，对用户的输入信息和使用记录承担保护义务；不得生成歧视性、侵权内容，保证服务的持续运营；制止用户违规使用生成式AI的功能。
新技术发展和监管合规是相辅相成的关系。近年来，移动互联网、云计算、大数据、区块链等技术快速涌现，而且都实现了有序、蓬勃的发展，背后离不开监管在网络安全机制体制建设上的完善，以及产业政策引导，真正实现了“技术向善”。同时，监管政策也正在积极适应信息技术的革新。尤其AIGC面世以来，监管机构对数据处理主体、数据处理过程以及伴随的国家安全和信息安全的认识也在逐步清晰。我们预计，随着更多AIGC技术的应用落地，一些潜在的风险将更多的被认识和暴露，监管侧的监管措施也会更“对症”，《意见稿》只是第一步。
投资建议：监管政策的出台，对AIGC本身的成长以及相关安全产业的培育都是有积极意义的。AIGC方面，国内龙头科技企业均在考虑或已经推出大模型，算法、算力和应用均将受益，推荐科大讯飞、金山办公、浪潮信息、紫光股份、中科曙光、海光信息、龙芯中科，关注景嘉微和寒武纪。安全方面，监管趋严，AIGC服务提供商在信息安全尤其数据安全领域的投入将加大，国内安全厂商在AI安全领域的研发投入也在加大，强烈推荐启明星辰，推荐深信服、安恒信息和绿盟科技。
风险提示：1）合规风险上升。部分国家对ChatGPT较为严格，应用落地出现困难，如果后续国内采取类似措施，AIGC行业国内应用将存在较大挑战。2）国内大模型发展可能不及预期。虽然龙头企业持续在推出或规划推出大模型产品，但大规模应用落地还需要市场检验。3）供应链风险可能上升。AIGC在算力领域对海外供应商依赖比较严重，国产替代还需要时间，如果海外限制趋严，国内AIGC发展可能遭到迟滞。
平安观点：新技术的“两面性”开始凸显，《意见稿》出台恰逢其时。2023年以来，以ChatGPT为代表的生成式人工智能快速发展，其智能化水平实现了“革命性”提升，具备了向各垂直行业应用的潜力，有希望成为未来的生产力生成工具。但是，生成式人工智能快速发展，也带来了诸多信息安全方面的风险。一方面，信息泄露风险，大量的敏感数据和AI交互之后，可能会被应用于迭代训练，造成敏感信息的泄露，尤其是国家、机构和个人信息，都面临着潜在风险；另一方面，AIGC被恶意应用的风险也在上升，可能被应用于恶意代码生成，发展智能化网络攻击武器，加大了网络安全防护难度。此外，由于大模型基于概率统计原理发展而来，其训练、调优、内容生成等环节的可靠性还需要持续观察，其大范围应用可能带来严重的社会问题。我们认为，《意见稿》的及时出台，恰在国内AIGC发展的早期，初期就做好合规工作，可以为AIGC的后续稳健发展保驾护航。
《意见稿》对生成内容、主体责任、数据源和数据处理等方面均做出了规定。1）内容方面：要求不得危害国家和社会，传递虚假、造谣和有害信息；在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，不得出现歧视；尊重知识产权，保证生成内容的准确性；不得侵犯他人的合法权益。2）明确主体责任：利用生成式人工智能产品提供服务的组织和个人，承担内容生产者责任，履行信息保护的义务。3）数据源：要求合法、不侵权，个人信息使用需要得到个人信息主体授权；人工标注要核验以确保标注内容的准确性。4）数据处理：提供者在提供服务过程中，对用户的输入信息和使用记录承担保护义务；不得生成歧视性、侵权内容，保证服务的持续运营；制止用户违规使用生成式AI的功能。
新技术发展和监管合规是相辅相成的关系。近年来，移动互联网、云计算、大数据、区块链等技术快速涌现，而且都实现了有序、蓬勃的发展，背后离不开监管在网络安全机制体制建设上的完善，以及产业政策引导，真正实现了“技术向善”。同时，监管政策也正在积极适应信息技术的革新。尤其AIGC面世以来，监管机构对数据处理主体、数据处理过程以及伴随的国家安全和信息安全的认识也在逐步清晰。我们预计，随着更多AIGC技术的应用落地，一些潜在的风险将更多的被认识和暴露，监管侧的监管措施也会更“对症”，《意见稿》只是第一步。
投资建议：监管政策的出台，对AIGC本身的成长以及相关安全产业的培育都是有积极意义的。AIGC方面，国内龙头科技企业均在考虑或已经推出大模型，算法、算力和应用均将受益，推荐科大讯飞、金山办公、浪潮信息、紫光股份、中科曙光、海光信息、龙芯中科，关注景嘉微和寒武纪。安全方面，监管趋严，AIGC服务提供商在信息安全尤其数据安全领域的投入将加大，国内安全厂商在AI安全领域的研发投入也在加大，强烈推荐启明星辰，推荐深信服、安恒信息和绿盟科技。
风险提示：1）合规风险上升。部分国家对ChatGPT较为严格，应用落地出现困难，如果后续国内采取类似措施，AIGC行业国内应用将存在较大挑战。2）国内大模型发展可能不及预期。虽然龙头企业持续在推出或规划推出大模型产品，但大规模应用落地还需要市场检验。3）供应链风险可能上升。AIGC在算力领域对海外供应商依赖比较严重，国产替代还需要时间，如果海外限制趋严，国内AIGC发展可能遭到迟滞。
作者利益披露：转载，不作为证券推荐或投资建议，旨在提供更多信息，作者不保证其内容准确性。
声明：文章观点来自网友，仅为作者个人研究意见，不代表韭研公社观点及立场，站内所有文章均不构成投资建议，请投资者注意风险，独立审慎决策。
S
浪潮信息
S
寒武纪
S
启明星辰
工分
0.38
转发
收藏
投诉
复制链接
分享到微信
有用 0
打赏作者
无用
真知无价，用钱说话
0个人打赏
同时转发
暂无数据