国家网信办出手！信息安全概念午后异动，AI监管是下个增量赛道？券商称关注三个方面lg...

　　金融界4月11日消息 今日午后信息安全概念走高，永信至诚涨停，新华网触及涨停，美亚柏科、人民网涨超5％，绿盟科技、电科网安、任子行等跟涨。

　　消息面上，国家互联网信息办公室就《生成式人工智能服务管理办法（征求意见稿）》公开征求意见。其中提到，提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责。用于生成式人工智能产品的预训练、优化训练数据，应满足以下要求：符合《中华人民共和国网络安全法》等法律法规的要求；不含有侵犯知识产权的内容；数据包含个人信息的，应当征得个人信息主体同意或者符合法律、行政法规规定的其他情形；能够保证数据的真实性、准确性、客观性、多样性；国家网信部门关于生成式人工智能服务的其他监管要求。

　　另据报道，拜登政府已开始研究是否需要对ChatGPT等人工智能工具进行审查。

　　ChatGPT数据泄露、欧洲各国对ChatGPT的监管加强、三星数据泄露等事件，进一步推动了全球对AI安全的建设，OpenAI也发布了自己关于AI安全的建设方法。

　　值得关注的是，3月29日，马斯克等数百名人工智能专家、科技企业家和科学家联名签署一封公开信，呼吁暂停训练与GPT-4更强的AI系统，暂停期至少6个月。公开信表示，大量研究表明，得到顶级AI实验室的认可、具有和人类竞争智能的AI系统，可能对社会和人类构成深远的风险。

　　近日，清华大学与蚂蚁集团签署合作协议，双方将在“下一代互联网应用安全技术”方向展开合作，聚焦智能风控、反欺诈等核心安全场景。双方将携手攻坚可信AI、安全大模型等关键技术，致力于解决AI时代的互联网安全科技难题。

　　中信证券研报指出，近期多国关注以ChatGPT为代表的生成式AI应用的数据安全问题。针对大模型训练、调优所使用数据的安全问题，我们认为，应结合数据采集、传输、存储等全生命周期，通过加密、数据水印等技术手段保护用户数据特别是隐私；针对大模型生成内容的可靠性、使用方式，我们认为，应对AI生成内容进行标记，同时对AI生成内容的可靠性及传播链路进行把关。推荐数据安全解决方案提供厂商、内容监管能力提供厂商、密码技术提供厂商。

　　安信证券计算机团队认为AI监管主要体现在三个方面：

　　1）对数据集获取的安全合规性：由于AI 模型需要大量数据的训练，在使用过程中也需要上传数据获取模型输出结果，因为针对企业内部 在使用AI 大模型时候上传数据的安全和保密性需求将会持续提升，利好数据安全和加密类企业的需求增长，如启明星辰、安恒信息、奇安信、深信服、安博通、信安世纪、三未信安、格尔软件等。

　　2）对人工智能模型的可解释性和透明性：目前的AI 大模型均是基于深度学习搭建，其中的决策机制和过程尚不透明，模型的可解释性较差，这对于AI 的应用构成了比较大的挑战。未来针对AI 模型可解释性的研究也将会持续发展，利好AI 算法类企业的突破。

　　3）对人工智能生成内容的识别和审核：由于AI 模型本身是否具有歧视性和偏向性尚存在争议，因此对于人工智能生成内容的识别和审核需求将会提升，包括反生成式AI 系统在内的产业将会受益，相关公司如美亚柏科等。

　　国信证券分析称，国内AI应用逐步扩大，数据安全和AI监管同样是重点。随着国内百度、360、阿里、华为、腾讯等互联网公司发布或者计划发布大模型，AI相关应用也会逐步起量。针对AI滥用风险，数据安全、密码、AI监管均是重要技术发展方向，重点关注安全板块标的，如启明星辰、绿盟科技、天融信、深信服、奇安信、安恒信息、亚信安全、美亚柏科、三未信安等。

　　天风证券表示，AI监管首先应从源头开始，从数据的托管开始（国家云）。我们认为，大模型数据安全的监管应当从源头开始加强，比如在国家统一规范下对数据进行托管，由国家云（云计算“国家队”运营）提供模型训练数据平台，保证数据的完整性、保密性，再在此基础上部署数据安全产品。例如，根据“华为中国”公众号，华为与工商银行合作搭建了基于自主昇腾AI的金融行业大模型。该机构建议关注以下几个方面，国家云：深桑达、中国电信、品高股份、中国联通、中国移动 ；数据安全：安恒信息、启明星辰、信安世纪、深信服、三未信安 ；数据要素：上海钢联、长亮科技、通行宝、京北方、中科江南、山大地纬、久远银海。