来源:新京报
▲3月10日,小红书发布关于打击AI托管运营账号的治理公告。图/新京报贝壳财经截图
由OpenClaw引发的“龙虾旋风”还在持续。不过,在经历了最初的烈火烹油般地“全民追捧”之后,理性的声音渐次登场。
3月10日晚,国家互联网应急中心发布关于OpenClaw安全应用的风险提示,提及由于OpenClaw智能体的不当安装和使用,已经出现了一些严重的安全风险,其中涉及插件投毒、隐私数据、支付账户、API密钥等敏感信息遭窃取等,呼吁相关单位和用户在部署和应用OpenClaw时采取强化网络控制、严格管理插件来源等措施,以防范“龙虾”安装潜在风险。
就在同一晚,中国科协之声也发表评论称:别急着“养龙虾”,不要被营销噱头冲昏头脑。有意思的是,对“龙虾”的盲目追捧也引起了平台公司的警惕。昨晚,某社交平台发布治理公告称,严格禁止任何利用技术手段模拟真人、生成非真实内容或开展虚假互动的行为,明确表示严厉打击AI托管类账号。
风向,的确在慢慢起变化。这种变化当然不是对技术的否定,而是对市场狂热情绪的必要回拨——对技术创新的拥抱,必须限定在理性轨道。
相对于对话式大语言模型,“龙虾”具备更高级的功能,将其部署在个人电脑之后,可以帮用户自动执行任务,譬如收发邮件、管理日程甚至进行金融交易等。作为AI智能体的“龙虾”,代表了当前AI代理行业的前沿水准。
AI代理是人工智能时代,人们努力追求的一种效率革命,因为它进一步、毋宁说是更加剧烈地解放了人的双手,极速提高了工作与生活效率。但是,这场效率革命的门槛,却并不如公众想象得那么低。
AI智能体的运行机制,决定了它必须调用大量的系统权限——读取信息、操作账户、调用API密钥、访问支付接口。对于具备技术素养的专业人士而言,他们知道如何设置权限、辨别插件来源、防范潜在的后门,但对于绝大多数跟风涌入的普通用户来说,他们看到的只是“养龙虾”的酷炫,却鲜少知道背后程序调用所蕴藏的风险。在这种技术盲从之下,所谓“助手”,很可能变成致命陷阱。
国家互联网应急中心提示的插件投毒、数据泄露等风险,正是对这种“技术反噬”的严肃警告。就在这两天,社交平台上还流传一组聊天记录显示,有网友在群聊中专门针对组装了“龙虾”的用户下手,通过发送精心编织的指令,诱导这些用户向其私发红包。
如果这组对话属实,那恰恰表明,当一个人为了赶时髦而使用自己并不了解的技术,他很可能不是在掌控工具,而是把自己暴露给风险。
社交平台之所以开始亮明对AI托管账号的态度,一是出于平台安全考量,更重要的是,AI托管账号触及了人与人社交一个更底层的问题:信任。当社交账号利用技术模拟真人互动,生成非真实内容,本质上是一种欺骗,这绝对是数字平台的负资产。
很多人在谈及这波“龙虾热”时,都提到人们跟风盲从是源于AI时代的能力焦虑。我倒觉得,这未必是一种焦虑,更像是一种数字时代的技术浪漫主义想象。人们对新技术抱有天然的滤镜,相信它无所不能,相信自己能够驾驭它,相信自己只要追赶上这波潮流,就能早早吃到红利,将他人甩在身后,或者,至少不被时代抛下。
这种技术浪漫主义想象本身并无过错,甚至会成为科技创新的动力,但浪漫一旦演变为盲从,便容易让自己跌入风险的深坑。
很多人没有想过的是:自己是否真的需要AI智能体代理,又能否驾驭它?一些人在网络平台上用AI机器人代自己相亲,有没有想过一系列的现实后果?
人工智能时代,AI代理固然是一种生产力,但不应该错误地将AI代理等同于完全的机器替代。更理性的做法是:在认同AI已经成为时代大势的前提下,去认真思考,机器如何为我所用,人与机器如何共生,而不是急吼吼地让机器来“消灭”自己。
根据经验,这波“龙虾”旋风很快就会过去,我们不必因噎废食,拒绝技术带来的便利,但也必须明白:无论是个人、企业或者是政府,都需要在这股热潮中找到自己的位置。创新需要拥抱,但理性的缰绳,必须握在我们自己手中。
撰稿 / 江河(媒体人)
编辑 / 迟道华 徐秋颖