目前生成式人工智能在模型开发、部署与集成、使用与维护等方面均可能带来风险。中国香港建议采用层级式监管的目的，是在促进创新与加强保障之间取得平衡

文丨 《财经》特派香港记者 焦建

编辑丨 苏琦

4月15日，正值世界互联网大会亚太峰会在中国香港特区举办之际，中国香港特区政府成立不久的数字政策办公室公布的一份官方指引，被认为当地为相关领域“立规矩”的进一步深化。

这份官方文件全名为《香港生成式人工智能技术及应用指引》（下称《指引》）。在生成式人工智能（AI）技术应用落地不断加速之际，针对技术开发者、服务提供者及用户，该《指引》旨在为其提供在现实应用场景中的一些基本规范。

“以应用为本”及“风险分级”的理念优化监管策略，是此份《指引》的核心思路。具体而言，《指引》内容涵盖生成式人工智能应用范围和局限、潜在风险与治理原则。

“特区政府期望通过《指引》促进业界与公众以安全和负责任的方式，发展和应用生成式人工智能技术，在鼓励人工智能技术创新应用的同时减低风险，促进生成式人工智能在中国香港普及发展。”香港特区政府数字政策专员黄志光表示。

解析其具体内容，以下几点或许较为值得关注：

首先，除较为宏观分析了由于技术局限（模型幻觉、模型偏见、黑盒问题、数据完整性）所可能造成的风险，《指引》还为中国香港特区的人工智能管治框架建立了一个四层风险系统。

该风险系统根据潜在危害程度制定相应的监管措施，针对人工智能的不同类型的具体服务，实现“比例原则”（该原则源自行政法，意指行政权力实施要依法依规，兼顾执法目的和权利保障的平衡）的监管方式。具体如图：

按照行业目前的基本判断，生成式人工智能目前在模型开发、部署与集成、使用与维护等方面均可能带来风险。因此，前述这种层级式监管框架的目的，是旨在促进创新与加强保障之间取得平衡，确保监管力度与潜在风险的严重程度相匹配，并能涵盖整个人工智能生态系统。

事实上，目前在这一领域内较为领先的国家或地区，往往采用非约束性框架来指导人工智能系统的开发和使用。

在此基础上，《指引》文本也提醒称：生成式人工智能模型算法需要封装成服务或产品的形式才能推向市场，在服务阶段仍然可能产生新的安全风险问题，可称之为服务衍生问题。具体包括内容安全、制造谣言、模型越狱、数据泄露等方面。以模型越狱为例，其指刻意绕过开发者设置的安全防护机制，使生成式 AI 服务可能被用于危险用途或滥用的行为。

其次，《指引》也对治理生成式人工智能的主要原则提出了遵守法例、安全透明、准确可靠、公平客观、实用高效的五项内容。而目前全球主要国家或地区均在积极发展生成式人工智能，但对安全的理解、治理理念和法律法规的要求，则存在较大差异。

以遵守中国香港特区法例为例：在与现有法律及监管环境进行衔接与互补方面，《指引》则提出，在生成式人工智能技术从研发、服务供给到实际应用的全流程中，所有持份者（相关者）均需以高度的法治意识和严谨态度，严格遵循当地现有的法律条例。

再以中国内地为例：针对推荐算法、深度合成等服务，已制定针对性管理要求；在生成式人工就中国香港而言，生成式人工智能技术运作的每一个环节，毫无例外地都必须与香港现行法律法规的具体规定和精神实质完全契合，不容许有任何偏离或违规操作。

再以美国为例：其采取“以政策引导、企业自治”方式，重点企业承诺对人工智能系统进行自我监管；在立法层面，对开展人工智能治理则呈现出分散化和地区化特点，目前既没有制定统一的联邦法律，也没有设立统一的监管机构，金融、医疗等部分行业及相关监管部门则自行推出自律准则和法规，州层面的人工智能立法也出现了较大差异，加州、纽约州等人工智能研发和应用较为活跃的州已经积极通过各自的人工智能法案，但侧重点有所不同。

第三，中国香港特区此次《指引》的框架性意义，可能在于对目前分散在各领域内的规则进行系统性整合、明晰原则及框架。

在整体层面，中国香港特区政府已于2021年制定了《人工智能道德框架》，提供一套在实施涉及使用人工智能技术的项目时的实用指引。自此开始，特区政府一直参考最新的人工智能发展持续更新该框架。

在此基础上，针对不同行业的具体需求，特区政府的不同部门此前亦曾制定相应的政策宣言。例如，财经事务及库务局在2024 年10月发出《有关在金融市场负责任地应用人工智能的政策宣言》，阐明特区政府在金融市场负责任地应用人工智能的政策立场及方针。

在当地现有的人工智能治理框架下，部分核心监管议题已被纳入现行法律的覆盖范围，例如《个人资料（私隐）条例》可应对人工智能系统使用个人资料可能引发的私隐争议等。这也是前述五项原则内容中遵守中国香港特区法例的基础，即已经“有法可依”。

而对于尚未被现有法律涵盖但有尝试意义的人工智能应用，《指引》也明确指出：在实务上可通过行业自律或阶段性监管沙箱的方式，先进行风险评估与测试；只要遵守必要的私隐保护与安全标准，便不一定需要过度管制。

“此种渐进式的制度安排，能更有效维持中国香港对国际投资与创新的吸引力，并巩固其作为区域科技枢纽的地位。”《指引》在文末附录中也建议称，“为在鼓励创新发展之余，维持一贯重视的个人资料、安全及公平，中国香港（应）保持政策框架的灵活性和适应性，方能营造一个兼顾创新与合规监管的平衡环境。”

责编 | 杨明慧

封图来源 | 视觉中国