公安部：上半年侦办AI生成谣言案170余起，AI犯罪正在升级

7月24日，国务院新闻办公室举行“开局起步‘十五五’”系列主题新闻发布会。公安部相关负责人介绍，今年上半年，全国公安机关共侦办利用人工智能工具生成网络谣言案件170余起，依法查处190余人。

AI正在成为犯罪分子的新工具。

公安部在发布会上披露，当前利用人工智能实施的新型犯罪主要包括三类：

第一，伪造身份，侵入系统。 利用AI技术伪造身份，侵入政企信息系统，对他人信息和财产实施盗窃。

第二，伪装熟人，实施诈骗。 利用AI换脸、AI换声等技术，伪装成熟人、权威人士，骗取受害者信任后实施诈骗。

第三，生成谣言，扰乱秩序。 利用AI工具批量生成网络谣言，快速传播、制造混乱。

更值得警惕的是，AI犯罪正在变得“智能化”和“隐蔽化” 。传统诈骗还需要真人打电话、发信息，现在AI可以批量生成语音、视频、图文内容，一个人加一台电脑就能冒充一个团队。

公安部采取了四方面措施：

一是依法严厉打击。 上半年侦办170余起AI谣言案件，查处190余人，同时严厉打击提供技术支撑的犯罪团伙，从根源上铲除犯罪土壤。

二是开展智能预警。 依托大数据分析，搭建风险研判模型，对高频陌生视频通话、静默录音来电、短时间多次调取人脸素材等新型诈骗手法进行综合研判。在国家反诈中心App上布设AI内容鉴定功能，用户可上传可疑视频、语音、图片，一键检测是否存在AI生成痕迹。

三是多部门协同共治。 联合网信办、工信部、国家广电总局发布《人工智能生成合成内容标识办法》，规范内容标识。今年上半年，共开展AI应用服务监督检查600余次，对相关服务提供者进行警告、责令整改、关停等行政执法30余次。

四是完善法律体系。 积极推进《网络犯罪防治法》等法律法规立法进程，研究构建AI安全审查制度。

AI是一把双刃剑。 它可以让生活更便利，也可以让犯罪更高效。170余起案件、190余人被查处——这只是冰山一角。当AI生成的内容越来越逼真，当AI换脸越来越难以识别，“眼见为实”这个最基本的信任逻辑，正在被技术瓦解。

对普通人来说，最简单的防范就是：接到陌生视频通话、收到可疑语音信息时，多留个心眼。AI可以模仿任何人的脸和声音，但它模仿不了人与人之间真实的默契和信任。