刘德华直播间里“华仔”卖力带货，雷军的“声音”热情推荐理财产品……这些以假乱真的画面，就像AI技术打开的“潘多拉魔盒”，名人“被代言”只是揭开了乱象的冰山一角。

AI换脸，虽然近期才频繁走入公众视野，但在文学影视作品中早有体现。《黑镜》系列片中，主角借助AI技术复制已故亲人的形象和声音，引发了对技术伦理的深刻反思。《三体》小说提到的“智子”技术可以操控人类感知，与AI换脸技术中的“伪造现实”也有相通之处。

事实上，已经有人盯上了这个“新兴产业”。有的网店接单，只需几十元就能提供AI深度合成制作名人视频，一些开源软件和工具可以让人轻松实现换声换脸的效果。如果只是博自己或朋友开心一笑也罢，一旦进入商业公开领域，成为牟利甚至诈骗的“帮凶”，则让人细思极恐。

在司法实践中，国内已经审结了首例AI生成声音人格权侵权案，通过案件裁判为新业态、新技术划定应用边界，并彰显兼顾保护人格权益与引导技术向善的司法态度。上海市嘉定区人民法院也曾审结了因提供“AI换脸”服务引发的著作权侵权纠纷案。在《中华人民共和国民法典》明确规定，任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。在《互联网信息服务深度合成管理规定》则要求，相关任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息等。

尽管诸多法律法规为AI换脸戴上“紧箍咒”，但由于是新生事物，现行法律对AI合成内容的认定、追责、责任分担等仍存在模糊地带，法律监管的步伐仍滞后于技术发展。因违法成本过低、平台责任不明确等原因，受害者维权举步维艰，新型网络乱象由此滋生。

爱因斯坦曾说，“科技本身并无善恶，关键在于使用它的人”。治理AI乱象需要多方合力，包括：加快立法进程，明确技术使用边界，防患于未然；建立健全内容审核和侵权举报机制，及时发现和处理侵权问题，将“恶之花”扼杀在萌芽状态。

技术进步不可阻挡，然而人们在享受AI便利的同时，更要守护好社会的道德底线和法律红线。唯有如此，科技创新才能传递更多善意，让世界变得更加美好。