今年以来，国内生成式人工智能热度高涨，大模型“浪潮”此起彼伏。在产业竞速未来赛道的同时，也亟须系上“安全带”。8月15日，国家网信办等七部门发布的《生成式人工智能服务管理暂行办法》（以下简称《办法》）正式施行，这也是我国首个针对生成式人工智能产业的规范性政策。

“制度的出台不仅仅是规范其发展，更是良性引导和鼓励创新。”业内专家认为，《办法》坚持发展和安全并重，一方面划出法律红线，另一方面也为创新留足空间，生成式人工智能大规模商用有望加速落地，迎来发展新起点。

划出“红线”力保技术安全

生成式人工智能技术，是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术。聚焦境外互联网诈骗的电影《孤注一掷》正在热映，也让人工智能等新技术带来的虚假信息、隐私泄露等风险引起公众高度关注。

《办法》将保护使用者的个人信息安全摆在了重要位置，明确提出，生成式人工智能服务提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务。同时，服务提供者不得收集非必要个人信息，不得非法留存能够识别使用者身份的输入信息和使用记录，不得非法向他人提供使用者的输入信息和使用记录。

“这就将生成式人工智能服务提供者明确纳入了网络平台责任的规制范围内，让违规违法者无灰色地带可躲。”北京大成律师事务所高级合伙人肖飒说。

生成式人工智能面世之初，就存在“一本正经地胡说八道”现象。对此，《办法》明确，提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识，以解决其内容真假难辨，甚至出现技术被滥用、误用等问题。

奇安信集团副总裁张卓表示，对生成式人工智能服务来说，促进发展和防范风险需要两者并重，从《办法》可以看出，数据安全和隐私保护贯穿于生成式人工智能数据的标注、模型预训练、模型训练、提供服务等各个环节，避免了监管盲区导致的安全风险。

分级分类监管留足创新空间

国家网信办有关负责人表示，在监管方式上，《办法》提出，对生成式人工智能服务实行包容审慎和分类分级监管，要求国家有关主管部门针对生成式人工智能技术特点及其在有关行业和领域的服务应用，完善与创新发展相适应的科学监管方式，制定相应的分类分级监管规则或者指引。

其中《办法》第二条明确提出了“不适用”场景，即“行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向境内公众提供生成式人工智能服务的，不适用本办法的规定。”

“这一条让规制对象目标更明确、针对性更强。”肖飒表示，《办法》对生成式人工智能服务提供者不作“一刀切”，体现出我国对生成式人工智能在研究与应用方面的支持和鼓励，为创新留足了发展空间。

同时，《办法》表示，生成式人工智能服务提供者发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施，采取模型优化训练等措施进行整改，并向有关主管部门报告。提供者发现使用者利用生成式人工智能服务从事违法活动的，应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施，保存有关记录，并向有关主管部门报告。

“《办法》坚持法治化的监管方向，将给予市场一个稳定的预期。”中央财经大学中国互联网经济研究院副院长欧阳日辉表示，在法无禁止即可为的前提条件下，更有利于新产业、新技术、新模式、新业态生根发芽，培育出更适合数字经济发展的营商沃土。

助力中国人工智能不断成长

“规模效应、超大市场、快速的数据反馈能激励企业持续投入、高效迭代；丰富的应用场景，让几乎所有行业都可找到‘人工智能+’的可能性；坚定的政策支持，各部门开放场景、揭榜挂帅，也给人工智能以用武之地。”网易集团高级副总裁胡志鹏分析说。

胡志鹏认为，中国善于采用新技术，以快速商业化的模式解决最紧迫的挑战。多年来，在移动支付、新能源汽车等领域都有成功经验。

在移动支付领域，中国是全球最大跨境电商零售出口经济体，也是全球电子商务零售额最大的经济体。不仅如此，中国互联网、无线宽带、移动终端规模居世界前列，基本建成了面向全球重点国家的信息高速通道以及全球最大规模的光纤和移动宽带网络。

在新能源汽车领域，我国新能源汽车生产迈上2000万辆大关。近年来，各部门先后推出70余项支持措施，各地结合自身实际出台配套政策。从实施产业技术创新工程到组建动力电池等国家制造业创新中心，一系列举措让产业发展方向更明确。

当这些领域的成功经验复制到人工智能领域当中，将深刻影响经济发展与产业格局。

科大讯飞的“星火”、网易的“伏羲”、百度的“文心一言”……2023世界人工智能大会上，30多个大模型团队用充满诗意的中国名字，表达对中华优秀传统文化的敬意，更将人工智能造福生活体现得淋漓尽致。

“大模型可以在方方面面给普通人带来便利，例如帮助大家学习知识、修改文章、生成方案等。因此，大模型的集中发布可以让普通人快速接触、使用和了解大模型。”中国科学院软件研究所研究员、中国中文信息学会秘书长孙乐说。

不仅是大模型，人工智能新技术正加速走进千行、赋能百业，比如：为购物者提供个性化推荐，预测天气、指导矿山生产，帮程序员“写代码”、帮科学家“搞科研”……

海量的应用场景，成为中国人工智能发展的优质“试验田”，一大批新技术、新应用、新突破在这里“拔节生长”。

“人工智能是人类发展新领域。”中国人工智能学会副秘书长余有成认为，要积极抢占大模型技术商业化的创新高地，推动人工智能应用场景不断涌现，共同防范好风险，不断提升人工智能技术的安全性、可靠性、可控性、公平性。

苦练内功：避免人工智能“成长烦恼”

放眼世界，决定人工智能“胜负手”的关键就在于芯片、算力等核心领域。必须清楚认识到，我国在这些方面仍面临诸多挑战，仍需苦练内功，避免“成长烦恼”，促进人工智能安全有序发展。

科技创新必须“面向世界科技前沿、面向经济主战场、面向国家重大需求、面向人民生命健康”，发展人工智能技术更是如此。业内人士普遍认为，明确了推进人工智能发展的战略方向，就等于为中国人工智能的腾飞装上了“新引擎”。

——政策布局和基础理论等方面有待进一步加强。科技部战略规划司副司长邢怀滨表示，随着我国人工智能发展进入新阶段，需要制定适应新阶段新特征的创新政策。借助场景创新和需求牵引，将与技术研发形成双向互促的良性循环。

——人才资源是创新活动中最为活跃、最为积极的因素。中国科学院院士、北京大学国际机器学习研究中心主任鄂维南建议，着眼未来，首先要把资源真正配置到做实事的一线科研人员手里；同时要具备有效的人才培养体系，培养对于基本原理和实际问题都有充分了解的人才。

——推动人工智能创新发展，算力的优化与创新刻不容缓。戴琼海认为，当前，人工智能进入了交叉时代，除了向物理要算力，还要向脑科学要算力。在未来，新一代人工智能需要大场景、多对象的数据平台，充分发挥赋能作用强的“头雁效应”。

人工智能作为一把“双刃剑”，如何利用取决于人类的规范。科技部新一代人工智能发展研究中心主任、中国科学技术信息研究所所长赵志耘表示，未来，我国还需加强资源和研发力量统筹，加快基础研究和技术创新，积极参与全球人工智能治理，促进人工智能有序发展。

文章来源： 北京日报，新华网