AI大模型爆发式发展不只是带来人们对人工智能未来的憧憬，更引发了一系列的担忧，AI监管、隐私安全等话题不断成为人们讨论的焦点。

AI产业浪潮下

网安格局已产生巨变

本轮AI产业浪潮下，网络安全产业在攻击侧、防守侧都产生了化学反应。

首先在攻击侧，大模型、GPT、生成式AI技术将大幅降低黑客攻击的门槛，包括批量钓鱼邮件生成、批量漏洞挖掘、批量恶意代码生成、批量威胁特征组合等等，通过赋能新手黑客，显著加剧了整体威胁态势，进而带来各类安全软硬件需求以及政企安全预算的提升。

其次在防守侧，大模型、GPT、生成式AI等技术将促使未来安全产品的形态发生重大改变，而“安全大脑”在整个安全体系里面的地位将逐步提升。此前Security Copilot的发布预示着安全管理平台类产品的又一次进化，能够大幅降低安全管理工具的使用门槛，让安全人员能够通过自然语言交互的方式来实现漏洞识别、威胁检测、安全响应、内部协同等多种操作，并且实现降本增效。其中主要涉及到SOC、态势感知、XDR等产品。

这意味着，随着深度合成和生成式AI技术的开放开源，深度合成和生成产品以及服务的增多，技术门槛快速降低，技术逐渐“平民化”。深度合成和生成式AI技术被滥用的可能性提高，造成安全风险与实质性危害，包括制造虚假视频、语音进行诈骗、勒索的违法行为不断增多，给个人、企业造成肖像、名誉等人格和财产权益损害。加上部分企业将内部数据直接输入对应AI模型，或将导致数据的泄密风险。

因为，AI监管的需求将会伴随生成式AI的需求增长而增长，呈现“矛”和“盾”之间的螺旋上升关系。未来无论是出现新制度来管理生成式AI技术本身，还是管理AI大模型在行业侧的落地应用，都将推动网络安全的发展。

根据IDC数据，2021年中国网络安全市场总投资规模为122亿美元，预计2026年将达到319亿美元，2021-2026年规模增速CAGR为21.2%。随着AI监管政策落地，数据安全、隐私保护等安全需求将进一步上升，网络安全防护范围、防护主体将进一步扩大，有望打开行业成长新空间。

具体到产业链环节

三大领域确定性靠前

首先是对数据获取的安全合规性，由于AI模型需要大量数据的训练，在使用过程中也需要上传数据获取模型输出结果，因为针对企业内部在使用AI大模型时候上传数据的安全和保密性需求将会持续提升，利好像启明星辰、安恒信息、奇安信、深信服、安博通等数据安全和加密类企业的需求增长。

其中值得注意的是，4月14日，国务院总理李强主持召开国务院常务会议，审议通过了《商用密码管理条例（修订草案）》。会议指出，要全面贯彻总体国家安全观，进一步规范商用密码应用和管理，督促平台企业依法履行用户密码保护责任，确保个人隐私、商业秘密和政府敏感数据的安全。

对于生成式AI而言，商用密码一方面有望用于对输入模型的数据本身进行加密脱敏等防护工作，甚至未来结合隐私计算等技术实现AI模型训练的数据可用不可见。另一方面，针对模型输出的生成式文字、图片和视频，密码技术也有望赋能，实现内容的唯一性、完整性和不可抵赖性的认证，三未信安、格尔软件、信安世纪之类的商用密码企业参与度同样不低。

其次是在对人工智能模型的可解释性和透明性方面，目前的AI大模型均是基于深度学习搭建，其中的决策机制和过程尚不透明，模型的可解释性较差，这对于AI的应用构成了比较大的挑战。未来针对AI模型可解释性的研究也将会持续发展，利好AI算法类企业的突破。

最后是对人工智能生成内容的识别和审核方面，由于AI模型本身是否具有歧视性和偏向性尚存在争议，因此对于人工智能生成内容的识别和审核需求将会提升，包括反生成式AI系统在内的产业将会受益，目前美亚柏科等公司已在布局该领域。

为数据价值而生的隐私计算

伴随着云计算、大数据、人工智能等新一代信息技术的快速发展，数据已经成为基础性关键战略资源，同时也是数字经济时代的核心生产要素。

但是，在信息技术蓬勃发展的同时，数据也面临着一系列严峻的安全挑战，不仅包括公民个人信息和隐私的安全隐患，也包括政府和企业数据资产的泄露风险。近年来，数据泄露事件层出不穷，出于安全顾虑，数据价值链不同环节之间的流动受阻，分工协作关系脆弱，很难形成有效闭环。

大数据时代，如何在保障数据安全的同时又不影响数据要素的使用，是每一个数据生产者和获益者应该考虑的事情。

1982年，著名计算机学家、中国科学院院士姚期智提出了经典的“百万富翁”问题：张三和李四都是富翁，他们想知道谁更富有，但他们都想保护好自己的隐私，不愿意让对方或者任何第三方知道自己真正拥有多少财富。如何在保护好双方隐私的情况下，计算出谁更有钱？

在普通人看来，这几乎是一个无解的悖论。但是姚期智就此提出了“多方安全计算”的概念，即“一组互不信任的参与方在需要保护隐私信息以及没有可信第三方的前提下进行协同计算”。

近年来，我国多部与数据安全相关的法律法规落地实施，包括《网络安全法》《个人信息保护法》《密码法》《数据安全法》以及《民法典》，形成了较为完备的安全法律体系，隐私计算为需求强烈但瓶颈重重的数据流通提供了破局思路。

随着政策落地以及各方关注度的提升，隐私计算已成为当下火热的新兴技术，跻身商业和资本竞争的热门赛道，有业界人士将2020年称为“隐私计算元年”。顾问咨询公司高德纳（Gartner）发布的《2021年重要科技战略趋势》中，也将隐私计算列为未来几年科技发展的九大趋势之一。

多技术融合保护数据安全

隐私计算又被形象地称为“可用不可见”的技术。看不见数据，却又能实现对数据的计算分析，隐私计算是如何做到的？

蚂蚁集团隐私智能计算技术部总经理王磊告诉科技日报记者，隐私计算是涵盖众多学科的交叉融合技术，发展初期汇聚了多种不同种类的技术，目前主流的隐私计算技术主要分为三大类。

第一类是以多方安全计算为代表的基于密码学的隐私计算技术；第二类是以联邦学习为代表的人工智能与隐私保护技术融合衍生的技术；第三类是以可信执行环境为代表的基于可信硬件的隐私计算技术。

以多方安全计算为例，其主要逻辑是在没有可靠的第三方（中介）的情况下，各方通过事先约定的密码学协议进行交互，完成预定的计算任务，每个参与方无法得知其他方输入的信息，只能得到计算结果。

“每一类技术路线都有各自的特点，适用于不同的应用场景。”王磊说，例如联邦学习适用于对性能和规模要求较高的建模场景，多方安全计算安全性更高，基于可信硬件的隐私计算可以支持更复杂的计算需求。

但是，从近年来的技术发展趋势和行业需求来看，想要通过单一技术“包打天下”几乎不可能，现实需求往往需要不同的隐私计算技术组合使用，在保证原始数据安全和隐私性的同时，完成对数据的计算和分析任务。

隐私计算快速发展

助力数据价值释放

近日，六大国有银行相继发布2022年报，其中工、农、中、建、邮储五家透露了隐私计算应用或相关进展。北京国家金融科技认证中心近日公布了首批“多方安全计算金融科技产品国推认证”名单，首批5项产品通过了该认证。此次认证结果的发布，意味着数据要素市场的相关市场准入标准和监管体系迎来进一步完善。

数字经济时代，数据作为一种核心的生产要素持续服务于实体经济，然而数据搜集以及数据要素在市场上分配、流通的时候要以个人隐私、商业机密、国家机密等敏感数据安全为前提，这关系到数字经济能否稳步前行，也是隐私计算可以蓬勃发展的核心驱动力。

隐私计算是一种融合的涉及三大技术，基于加密算法的多方安全计算、联邦学习、以及可信的运行环境，能保证用数据计算分析，在不泄露各自数据的前提下，协同进行数据分析、处理。

近年来，国内阿里、腾讯、百度、蚂蚁集团、微众银行等大厂均已入局。隐私计算助力数据价值释放，在金融、医疗、政务、智能汽车、营销、工业和电信等具备大量数据基础的领域大有可为，业务场景不断涌现。

根据华经产业研究院的报告，随着中国互联网技术的发展，中国隐私计算市场规模逐年增长，预计2025年中国隐私计算市场规模达192.2亿元，市场空间广阔。

文章来源： 光明网，全景网，数据宝