警惕AI技术背后的隐蔽角落

为生歌唱

原标题：警惕AI技术背后的隐蔽角落

换脸、变声，移花接木，以假乱真……当前，AI技术正在以势不可挡的趋势，创造数字技术生活，为社会带来深刻影响和变革。

然而，在AI技术被广泛应用于各领域的背后，存在着隐蔽的黑暗角落。不法分子利用AI技术进行违法犯罪，对社会安全构成威胁。公安机关在对此类犯罪给予高度关注的同时也向公众发出预警。

从眼下已经出现的利用AI技术实施电信网络诈骗犯罪活动来看，其主要表现为下面几种形式：一是骗子用AI换脸技术，伪装成受害人的熟人、朋友，通过视频通话，进行信息确认，骗取受害人的信任；二是骗子通过骚扰电话录音等来提取声音，获取素材后，利用AI技术进行声音合成，然后用伪造的声音欺骗受害人；三是骗子利用AI技术分析公众发布在网络上的各类信息，根据所要实施的骗术对人群进行目标筛选，个性化定制诈骗脚本，从而实施精准诈骗。

但也有业内人士指出，目前的AI换脸技术若做到融进视频通话中，并达到不卡顿、肉眼难以识别的真实质感，在技术上并非易事。同时，AI换脸换声技术如果被用于诈骗，骗子还必须对被换脸人的外貌、声音、行为习惯、思维方式以及和受害人之间的关系等非常熟悉，否则很容易露出马脚。

当然，技术本身无好坏，关键在于如何利用。AI技术的应用必须符合国家的法律法规以及社会伦理规范。为规范AI技术的合法合规使用，今年1月开始施行的《互联网信息服务深度合成管理规定》，对人脸生成、替换、操控，合成人声、仿声等都有明确约束；今年4月，国家互联网信息办公室发布《生成式人工智能服务管理办法（征求意见稿）》，对AI伪造进行了全面规定。

我国各地公安机关出重拳、全链条严厉打击利用AI技术实施违法犯罪行为。同时，对社会公众来说，针对“变脸”“变声”诈骗，一定要提高防范意识，不轻易向他人提供人脸、指纹等个人生物信息，不在社交平台过度分享个人的动图、视频，一旦发现自己有被骗风险，及时报警求助。

归根结底，在使用AI技术时，要因势利导、趋利避害，坚守法律和道德的底线，使其更利于人类社会的进步发展。（蔡小玲）