■一针见血 “AI诈骗”来了 监管必须要跟上

日前，包头警方发布一起利用人工智能实施电信诈骗的典型案例，福州市某科技公司法人代表郭先生10分钟内被骗430万元。

据披露，骗子通过智能AI换脸和拟声技术，佯装好友对郭先生实施了诈骗。骗子并没有使用仿真的好友微信添加郭先生，而是直接用好友微信发起视频聊天求助。幸运的是，接到报警后，福州、包头两地警银迅速启动止付机制，成功止付拦截336.84万元，但仍有93.16万元被转移，目前正在全力追缴中。

当前，随着人工智能逐步走向通用型的发展新阶段，出现了诸多不容忽视的问题。比如广州一女子在地铁上拍摄了一张衣着正常的照片，别有用心之人看到后用 AI软件“一键脱衣”，给当事人带来严重影响；有人用chatgpt写了一条“杭州市政府将取消机动车尾号限行政策”的假新闻，让不少人信以为真。再比如，AI实时换脸已从最初的娱乐“整活”，向直播等多个应用场景发展。一些直播间，纷纷采用了AI换脸明星的方式进行直播带货，杨幂、迪丽热巴、angelababy等当红女星，成为了AI换脸的重点对象。

小马飞刀以为，人工智能技术本身并没有善恶，但是，当有心之人、恶意之徒将其作为作恶工具，那么，如何让技术向善，就成为全行业、全社会都需共同关注的重要议题。而且随着技术的进步，必然会有更多眼花缭乱的应用给法律、监管甚至伦理出难题，这就要求法治和监管及时跟进、创新思路，与时俱进构建起严密、高效的监督治理体系。中国科学院院士、清华大学人工智能研究院名誉院长张钹就认为，以深度学习为代表的算法爆发拉开了人工智能浪潮序幕，在计算机视觉、智能语音、自然语言处理等众多领域取得长足发展。但以数据驱动的第二代人工智能在可解释性、稳健性方面的缺陷也逐渐暴露出来，导致安全事件频发。如何实现高质量发展和高水平安全良性互动，是当前人工智能产业面临的最为重要命题。中国信息通信研究院发布的《人工智能白皮书（2022年）》同样指出，随着人工智能应用暴露出各种风险和挑战，以及人们对人工智能认识的不断深入，人工智能治理已经成为全球各界高度关注的议题，对可信安全的呼声不断增多。

上个月，国家互联网信息办公室发布的《生成式人工智能服务管理办法（征求意见稿）》指出，利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。提供生成式人工智能产品或服务应当尊重知识产权、商业道德，不得利用算法、数据、平台等优势实施不公平竞争，等等。其中提到，提供者违反本办法规定的，由网信部门和有关主管部门按照《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律、行政法规的规定予以处罚。法律、行政法规没有规定的，由网信部门和有关主管部门依据职责给予警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停或者终止其利用生成式人工智能提供服务，并处一万元以上十万元以下罚款。构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。

AI由人创造而来，AI的风险不在AI，而在于人。只有通过法律保障和行业监管，给AI技术立下规矩，方能引导人工智能真正“向善”。

小马飞刀

责任编辑：王旭伟