■一针见血 “魔改”要有边界

《甄嬛传》变身“枪战片”、《红楼梦》改成“武打戏”、孙悟空骑着摩托车扬长而去……据报道，广电总局网络视听司日前发布《管理提示（AI魔改）》，指出近期AI“魔改”视频以假乱真、“魔改”经典现象频发，要求各相关省局督促辖区内短视频平台排查清理AI“魔改”影视剧的短视频，限期反馈工作情况；严格落实生成式人工智能内容审核要求，举一反三，对各自平台开发的大模型或AI特效功能等进行自查，对在平台上使用、传播的各类相关技术产品严格准入和监看，对AI生成内容作出显著提示。

对此，有评论指出：表面是“魔改”，其实就是“去经典化”“去原著化”，把一个完整的作品分拆为一个个形象、一个个片段，并将之还原为某种“模块”“物料”“字符”，加以二次组装、胡乱拼接。这整个过程，我们感受到的是“娱乐整活”之于“严肃表达”的凌驾，是AI暴力对于文化叙事的强拆。

其实，从“AI换脸特效”“AI复活亲人”到“AI爱人”，对AI技术使用边界的讨论始终不曾停止。特别是用“换脸”“换声”假扮熟人的AI恶搞乃至诈骗、传播淫秽内容的AI色情骗局、批量化生成的AI造谣等新型违法犯罪花样翻新、层出不穷。《2024年人工智能安全报告》显示，基于AI的深度伪造欺诈在2023年激增30倍，对网络安全和社会安全构成了较为严重的威胁。前不久，浙江省杭州市公安机关侦破一起利用AI技术伪造活体视频，突破部分网络平台登录认证，窃取用户信息的案件。这些不法分子在登录他人账号窃取用户敏感信息后，将其出售获利。这不仅侵害了用户的个人信息权益，也给整个网络安全带来了严重威胁。

应该说，AI技术只是工具，如何运用取决于人。技术本身并无善恶，但技术的发展与应用必须合乎人类主流价值规则体系。换句话说，AI技术是一把“双刃剑”，其既可成为人类的帮手，帮助人们提升工作效能、改善服务体验，也有可能成为不法分子的帮凶，给公众生活带来难以防范的安全隐患。

目前，我国已颁布实施《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等法律法规，但面对高速发展的AI技术及其日益广泛的应用场景，相关法律法规仍需进一步深化、细化，立法、执法、司法等相关各方仍待进一步形成合力。

小马飞刀以为，只有在引导鼓励人工智能创新发展的同时，对AI技术滥用可能引发的安全风险予以依法防范化解，让相关各方清晰认知并守住使用AI技术的法律边界，才能让AI等新兴技术更好地服务经济社会发展。

AI技术发展到哪里，法律法规空白就要填补到哪里。

小马飞刀

责任编辑：王旭伟