日前，国家互联网信息办公室就《生成式人工智能服务管理办法（征求意见稿）》（以下简称《征求意见稿》）公开征求意见，提出生成式人工智能产品提供服务前需申报安全评估和算法备案。从去年红极一时的AI绘画到近期备受关注的ChatGPT，人工智能生成内容（以下简称“AIGC”）热度不减。然而，伴随着AIGC应用的不断落地，其暴露出来的数据安全、隐私保护等问题也日益显现。

人工智能产业发展迅猛

当前，全球数字经济发展日趋繁荣，元宇宙场景的不断拓展，以及ChatGPT等AIGC应用的成功“破圈”，标志着人工智能产业正在驶入发展快车道。

我国人工智能产业正在与实体经济深度融合，成为经济社会发展新的增长引擎。国家先后出台《新一代人工智能发展规划》《科技部关于支持建设新一代人工智能示范应用场景的通知》等政策，助力人工智能产业发展。中国信通院测算，2022年我国人工智能核心产业规模达5080亿元，同比增长18%。据预测，到2030年，我国人工智能产业规模将达到1万亿元。

IDC与浪潮信息联合发布的《2022-2023中国人工智能计算力发展评估报告》指出：人工智能算力正在为国家创造力的发展带来实质性推进，为企业带来切实的创新成效，加速驱动新业态形成。

作为引领新一轮科技革命和产业变革的战略性技术和重要驱动力量之一，人工智能正在加速赋能千行百业，并融入日常生活的各个方面。

警惕AIGC数据安全风险

AIGC是基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的人工智能技术。据Gartner预测，到2025年，AIGC将占所有生成数据的10%。

由于AIGC技术需要大量的数据来进行训练和优化，以ChatGPT为例，GPT3直接把数据模型参数量从15亿提升到1750亿，接近了人脑中神经连接的数量水平。然而，海量的数据也暴露出了更大的数据安全风险。 西部证券研报指出，生成型人工智能可能在获取数据时侵犯知识产权，在数据获取与保存上存在一定法律风险，生成内容被滥用可能带来巨大的伴生风险。

“数字风洞”后，安全是否会迈上AI技术新台阶？

随着ChatGPT概念爆火，近期人工智能风暴席卷各行各业，网络安全也成为其中一个受影响行业之一。截至目前，国内一些数据安全厂商也提出了AI赋能数据安全的尝试。微软更是发布GPT-4驱动的网络安全工具Microsoft Security Copilot，这个由AI提供支持的安全分析工具，可以使分析师能够快速响应威胁，并在几分钟内评估风险暴露。

那么ChatGPT或者类ChatGPT，是否会在网络安全行业掀起新浪潮，“数字风洞”能否搭上人工智能的快车，也是业内备受关注的话题。

张凯向钛媒体App表示，ChatGPT确实已经到了有可能改变一些业界生态的机会，AI的发展和安全的结合是必不可少的，这个也是一个必然的趋势。

不过人工智能在网络安全领域的应用并非是从ChatGPT开始的。张凯表示，就永信至诚来说，自2017年，公司就开始组织人工智能网络攻防对抗领域的测试验证活动，并通过一系列行业赛事不断吸引更多研究者通过公司RHG靶场平台对其研究成果进行测试和验证。

“我们自己公司的技术研究团队也在尝试如何利用AI来进行安全突破研究工作，这些工具也都集成到了‘数字风洞’里面，成为自动化测试评估安全检测的手段。未来，它有可能会成为我们这个平台里面很重要的智能设施，代替一些人员操作。”张凯向钛媒体App介绍。

对于未来，AI与数据安全的互动或许会产生更多想象。张凯表示：“或许会有一定的可能性，让我们的平台能力基于AI的发展上升一个台阶，并把AI能力体现到下一阶段的战略产品中。”

数据安全要素受重视

与此同时，近年来我国数据安全相关政策也陆续落地，今年年初，工业和信息化部、国家网信办、国家发展改革委等十六个部门联合发布《关于促进数据安全产业发展的指导意见》，文件中明确，到2025年，数据安全产业基础能力和综合实力明显增强。

AI监管规定出炉，国家互联网信息办公室正式发布《生成式人工智能服务管理办法（征求意见稿）》，其中首先明确，国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。

同时意见稿规定，提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责。

天风证券指出，数据要素是数字经济发展的核心引擎，通过与其他生产要素结合，推动产业数字化、数字产业化，驱动宏观经济增长。展望未来，随着大语言模型与垂直行业相结合，当训练数据涉及行业数据时，在保证数据来源的可靠性、安全性之外，防止数据泄露更为关键。

兴业证券研报认为，AI投资除了算力和算法，更要重视数据。各个大模型厂商正逐步推出垂直行业应用，政策也在加速推进行业数字化。垂直场景数据、数据安全、AI大模型自主可控需求背景下，AI投资更要重视“数据要素+国资云”。

国信证券点评表示，国内AI应用逐步扩大，数据安全和AI监管同样是重点。随着国内百度、360、阿里、华为、腾讯等互联网公司发布或者计划发布大模型，AI相关应用也会逐步起量。针对AI滥用风险，数据安全、密码、AI监管均是重要技术发展方向。数据安全是AI发展的前提保障，关注数据安全企业。

文章来源： 通信信息报社，金融界，钛媒体APP