新华社消息,美国多家科技企业和机构24日发表联合声明,支持开放权重人工智能模型。 这被认为是对美国政府中一些人企图限制开放权重模型的回应。
目前已有微软、英伟达、开放人工智能研究中心(OpenAI)、元公司、抱抱脸、国际商用机器公司等多家企业和机构签署了该联合声明。
声明说,开放权重模型指任何人都可以下载、检查、修改并在自有基础设施上运行的人工智能模型,这类模型有助于扩大创新机会、加强竞争、降低风险,有助于推动人工智能进入生产生活各个领域,并避免人工智能发展收益集中在少数主体手中。
针对美国政府中一些人讨论限制开放权重模型,声明说,对美国在人工智能领域是否有领导地位的判断,不应取决于是否拥有某一个前沿人工智能模型,而应取决于能否建立一个强大、开放并广泛应用于各行业的人工智能生态系统,相关限制措施可能会抑制竞争。
声明说,开放权重模型存在风险,如在发布后会脱离原始开发者控制,但正确的应对方式不是一禁了之,而是针对可能的危害采取综合性保护措施。
另一方面,仅依赖闭源模型并不必然更加安全。闭源模型同样可能有被入侵、被滥用或出现故障的风险,将先进人工智能能力集中在少数闭源模型中会让风险更严重。开放权重模型则允许更多研究人员和开发者检查模型行为、发现漏洞、开发防护措施并持续改进模型。
关于“蒸馏”技术,声明指出,这种利用一个模型的输出帮助训练、评估或改进另一个模型的方法,在人工智能行业被广泛采用,这体现了开源软件运动的传统。不应将其与非法获取闭源模型价值的行为混为一谈,对于后者应通过有针对性的法律和商业框架予以处理。