新华视点：“AI诈骗潮”真的要来了？ 环球快讯

通过【guò】AI换脸和拟声技术，10分【fèn】钟【zhōng】骗430万【wàn】元；AI虚拟【nǐ】人【rén】在聊天中筛选出受害者，人【rén】工接力实施诈【zhà】骗……近期，多起宣称利用AI技术实【shí】施诈骗的案件引【yǐn】发【fā】关【guān】注。

“新华【huá】视点”记者近日与公【gōng】安部门【mén】核实确【què】认，“AI诈骗全国爆发【fā】”的【de】消息不实，目【mù】前此【cǐ】类诈【zhà】骗发案占【zhàn】比很【hěn】低。但公安机关【guān】已注意到此犯罪【zuì】新手法，将加大力度会同有关部门开展技术反【fǎn】制和【hé】宣传防范。

(资料图片仅供参考)

专家表示，随着AI技【jì】术加速迭代，由于使用【yòng】边界不【bú】清晰，涉诈风险正在【zài】积聚，需要高度【dù】警【jǐng】惕。

“换脸”式诈骗引发焦虑：你会被亲友的脸骗到吗？

近日，内蒙古包头【tóu】警方【fāng】通报一【yī】起利用AI实施诈【zhà】骗的案件【jiàn】，福州市某公【gōng】司法【fǎ】人代表郭先生10分【fèn】钟内被骗430万元。据通报，骗子通过AI换脸【liǎn】和拟【nǐ】声技术，佯【yáng】装熟人实施诈骗。

该案披【pī】露后，不少【shǎo】报道称需警惕“AI诈骗潮”到来，并曝光多起类似案件【jiàn】。如江苏【sū】常州的【de】小刘被骗【piàn】子冒充其同学发语【yǔ】音、打视【shì】频【pín】电话，小刘看到“真人”后信以为真【zhēn】，“借”了6000元给骗【piàn】子。

那么，“AI诈骗潮”是否真的到来了？

记者【zhě】调查了解到【dào】，AI在技术上【shàng】确【què】实能做【zuò】到换脸、拟【nǐ】音，但【dàn】被用来进行“广撒网”式诈骗需要【yào】具【jù】备很多条件。

一位被列入公安部专家库的民警告诉【sù】记者【zhě】，这类【lèi】诈骗如【rú】果得手必须做【zuò】到：收集到被换【huàn】脸对【duì】象的个人身份信息、大量人【rén】脸图片、语音素材【cái】，通过【guò】AI生成以假乱真的音视【shì】频【pín】；窃【qiè】取被换脸对象的微信号；充分掌握【wò】诈骗【piàn】对象【xiàng】个人身份信息【xī】，熟悉其与被换脸【liǎn】对象【xiàng】的社会【huì】关系，综【zōng】合作案【àn】成本很高。

他认为：“相【xiàng】关报道【dào】对一些【xiē】案件【jiàn】的典【diǎn】型细【xì】节描述不够准【zhǔn】确。AI涉诈案【àn】件仍属零星发案状态。”他说【shuō】，成熟的类【lèi】型化诈骗犯罪往往具有【yǒu】在全国多【duō】地集中爆发的特点，但当前【qián】没有成规模【mó】的AI诈骗类案件发生。

公安【ān】机关研【yán】判，近期网上“AI换【huàn】脸换声诈骗在全国爆发【fā】”传言不实【shí】，全国此类案件发生不到10起，但该动【dòng】向值得高度关注。网上一键换脸功能的App、小程序有技术滥用【yòng】风【fēng】险，需要【yào】加强技术【shù】防【fáng】范【fàn】反制【zhì】等工作。

AI进入快速迭代期，涉诈犯罪风险正在积聚

“当前AI技术发展来到螺【luó】旋式【shì】上升的拐点，未来【lái】几年技术迭代将【jiāng】会【huì】按月计算【suàn】。”香港【gǎng】科技【jì】大学（广州）协理副校【xiào】长【zhǎng】、人工智能学域主【zhǔ】任熊辉说。

工信部信【xìn】息显示，伴随AI技【jì】术快速发展【zhǎn】，合【hé】成技术门槛持续降低，逐渐向【xiàng】低算力、小样本学习方向【xiàng】演【yǎn】进【jìn】，利用手机终端即可完成，对算力和数据的要求【qiú】下【xià】降【jiàng】明显。同【tóng】时，随着AI大模型【xíng】的技术加持，正逐步由面部合成向全身【shēn】、3D合成【chéng】发展，效果更加逼真【zhēn】。

国【guó】家开【kāi】发投资集团特级专【zhuān】家【jiā】、厦门美亚柏科AI研发中心总经理【lǐ】赵【zhào】建强表示【shì】，AI技术正加速向【xiàng】网络诈骗、虚假信息、色情等领【lǐng】域【yù】渗透。如在一些网络【luò】平台上假冒明星、公众【zhòng】人物生成视频图像，吸引【yǐn】网民【mín】。此外，AI技术也可能被【bèi】用来规【guī】模化地实施违法【fǎ】犯罪，如【rú】批量【liàng】、自动维护网络账号，发送【sòng】虚假信息，模拟【nǐ】人工在线聊【liáo】天【tiān】等。

值得关注【zhù】的是，当【dāng】前AI技术不再【zài】是实验室【shì】的半成品，引发热【rè】议的“换脸”“拟音”技术已【yǐ】有较成【chéng】熟的开源软件，使用门槛低。

记者注意到，网络上不乏AI换脸【liǎn】教程【chéng】。在国内某【mǒu】知【zhī】名App上输入“换【huàn】脸【liǎn】”，弹出的高频【pín】检索记录显示【shì】有“换【huàn】脸软【ruǎn】件”“换脸App免费”“换脸视【shì】频怎么做”“换脸算法”等。一条名【míng】为“史上最强AI换脸软【ruǎn】件正式【shì】上线了！技术门槛大大降低”的【de】链接，介绍【shào】了一款换脸【liǎn】软件，通过视频演【yǎn】示教程【chéng】，手把手教授【shòu】如【rú】何使用。

“老话说‘眼见为【wéi】实【shí】’，但今后【hòu】眼睛看到的【de】也不一定是真实【shí】的【de】。”北【běi】京【jīng】市天元律师事务所合伙人杨虎城【chéng】表示，未来【lái】涉及【jí】AI合成技术【shù】的诈骗、敲诈勒索等违【wéi】法犯罪和肖像【xiàng】、名誉等民【mín】事侵权问题可能逐【zhú】步显现。

“从【cóng】现【xiàn】有案例看，这些技术已被不法分子利用。如假【jiǎ】冒【mào】明星换【huàn】脸直播【bō】、一键脱衣【yī】、造谣、制作色情视频等。虽然AI诈【zhà】骗【piàn】案【àn】件未【wèi】成气候，但这【zhè】一趋势值得【dé】关注，必须提早防范。”一位反【fǎn】诈民警说。

工信部相关负责【zé】人表示，随着AI技术的不【bú】断【duàn】发展，通【tōng】过少【shǎo】量图片【piàn】、音频信【xìn】息【xī】合成特定视频，利用人工智能【néng】模型批量设计诈骗【piàn】脚本等成【chéng】为可能，客观上【shàng】降低了电信网络诈骗的【de】实施难度，AI类新型犯罪爆发可能【néng】性进一步【bù】提升【shēng】。

尽快完善相关法规制度，为AI技术发展立规划线

中【zhōng】国移动信息安全中心【xīn】品质管理处【chù】副【fù】处长周晶告诉记者，近年来，国际国内【nèi】各界在积极探索深度合成【chéng】技术的【de】有效治理路【lù】径，研判AI技【jì】术【shù】给【gěi】社会带来的风险【xiǎn】和【hé】潜在威胁，正设【shè】法将AI技术发【fā】展纳入一定规则中，做到安【ān】全【quán】可【kě】控。

业内人士【shì】建议，要加强AI反【fǎn】制技术研究，“以AI制AI”。一些【xiē】科技【jì】公【gōng】司正【zhèng】加强对图像、声【shēng】音伪造技术的反【fǎn】制【zhì】研究【jiū】，在公安、金【jīn】融的视【shì】频认证场景已有应【yīng】用。有一线【xiàn】民警建【jiàn】议，要加强AI安全技术应用研发，将AI技术应用于犯【fàn】罪识别、预警【jǐng】、对抗中，实现【xiàn】以“白”AI对【duì】抗“黑”AI。

其【qí】次，加【jiā】强源头治理和【hé】行业【yè】引导，及时更新、完善相【xiàng】关法律【lǜ】、标准、规则，为AI技术发展保驾【jià】护航。

“数据是【shì】AI犯罪的源头，保护好公民的个【gè】人【rén】隐私数【shù】据安全，就能在最大程度上降低AI违【wéi】法犯【fàn】罪的能力【lì】。”熊【xióng】辉说。

中国互联网协会【huì】监管支撑【chēng】部主任郝【hǎo】智超建议，AI技【jì】术发展还要有相【xiàng】关【guān】法律法规来划红线、踩刹【shā】车【chē】。需进一步加强对个人隐私数【shù】据泄露问题的【de】关注，明确【què】信息监管红线，对AI技术的【de】研发、传播、使用做到有规可循【xún】，并根据技【jì】术发【fā】展实际【jì】情【qíng】况，及时【shí】完善对技术服务商行为的【de】规范引导【dǎo】。

此外【wài】，还要【yào】有针对性【xìng】地加强反诈宣传【chuán】。熊辉表示【shì】，未来【lái】AI可根【gēn】据大数据【jù】创造出无【wú】比接近【jìn】真实的“真实”。“要通过不【bú】断的【de】教【jiāo】育改变【biàn】大众观念，让【ràng】人知道眼见不一定为实【shí】，有图不一定有【yǒu】真相，提升对网络【luò】信息的辨识力。”他说。

公【gōng】安部【bù】有关负责人表示，当前【qián】，诈骗集团利【lì】用区块链【liàn】、虚拟货币【bì】、远【yuǎn】程操控【kòng】、共【gòng】享屏幕等新【xīn】技术新业态【tài】，不断更新升级犯罪工【gōng】具，与公安机关在通【tōng】讯网络和转账【zhàng】洗钱等方【fāng】面的攻防对抗不【bú】断加剧升级。公安机关会同相关部门与诈骗分子斗智斗勇，不【bú】断研究调整打击防范【fàn】措施，确【què】保【bǎo】始终【zhōng】保持主动【dòng】权。

工信部表示，下【xià】一步，将强化监管执【zhí】法，积【jī】极会同网信、公安【ān】等部门，督促企业健全完善深度合【hé】成【chéng】信息管理【lǐ】及【jí】技术保障措施；鼓【gǔ】励【lì】技术攻关，凝聚产学研用各方力量【liàng】，提升深度合成【chéng】风险技术防范能力；加强行业自【zì】律【lǜ】，建立【lì】健全【quán】深度合成技术相关【guān】行业标准、行业准则和自【zì】律管理制度【dù】，督促指【zhǐ】导深度合成服【fú】务提【tí】供者和技术支持者制定【dìng】完善业务规范、依法开展【zhǎn】业务和接受【shòu】社会【huì】监督【dū】。

来源：新华社

流程编辑：TF016