随着人工智能软件的普及,“AI换脸”和“AI合成照片、视频”等技术在网络上层出不穷,“AI”造假手段不断翻新。一些违法分子将这些新技术用于非法用途,使犯罪手段有了新的方式。
“一键脱衣”
伪造近七千张淫秽图片
在北京警方侦破的一起案件中,警方接到报案称有人在境外网站上发布广告,声称只需一张日常生活照片,即可一键“脱衣”。
警方抓获的一名犯罪嫌疑人白某某原是一家互联网公司的技术员。他因使用AI脱衣技术制作和贩卖淫秽物品涉嫌犯罪。
北京市海淀区人民检察院检察官助理郭树正表示:白某某使用的这款人工智能软件能够快速对受害人的图片进行“一键脱衣”,通常在几秒钟或几分钟内就能批量生成相应图片。
警方在白某某的电脑中查获了大量涉案照片,均经过“一键脱衣”技术处理。
郭树正表示:白某某通过QQ向351人贩卖了相关图片,图片数量近7000张。
随后,白某某因涉嫌制作、贩卖淫秽物品牟利罪被公诉至法院。2023年4月19日,北京市海淀区人民法院对这起案件进行了开庭审理。
公诉人指出:白某某对含有人脸信息的众多不特定女性照片进行侮辱性编辑并出售,图片数量巨大,涉及人数众多,严重损害了社会公众利益。
那么,这些经过脱衣处理的照片的受害者都是哪些人?白某某为何制作这些照片?他又是如何谋取利益的?
2023年6月,家住北京的白某某在境外的社交媒体上了解到这项“一键脱衣”的技术,于是他起了歪心思,打算利用这项技术赚钱。
北京市海淀区人民检察院检察官李鹏表示:白某某在境外的社交媒体上发布了广告,内容写着“脱衣”,每张1.5元。
每张1.5元 招揽图片定制服务
这就是白某某发布的广告帖,上面写着“电脑AI脱衣,白菜价”“身边人、网红、明星皆可”。他的广告发布后,不少人联系白某某,给他发送照片并购买这项“脱衣”服务。
郭树正表示:一张照片他卖1.5元,能够快速满足相关人的需求。此时就有很多人浏览了白某某在境外社交网站上发布的帖子,经统计,浏览他发布广告的人数约为3万人。
那么,“AI脱衣”究竟是一种什么样的技术呢?据白某某供述,这项技术并不是真正地“脱衣”,而是一种伪造、重绘的技术。
郭树正表示:其实我们可以将它理解为深度图片伪造,它并不是真正地去掉别人照片上的衣服,而是针对已有的模型和模块进行图片重绘。
而且,这项技术操作起来非常简单,一键即可完成脱衣,因此白某某定价不高,一张照片只需1.5元,却可以利用低价吸引更多订单。
短短几个月内,白某制作了几千张露骨图片,获利近万元。但他却未能意识到自己的行为可能带来的严重后果。
检察官郭树正指出:白某制作的图片包括对学生、教师、女同事等进行露骨处理的内容。我们调查发现,白某在这个过程中,清楚地意识到有人可能会利用这些图片从事违法犯罪活动,例如敲诈勒索、传播图片损害受害者名誉,或实施其他更恶劣的犯罪行为。
检察官介绍,白某使用的软件实际上是一款正规的 AI 绘图软件,“露骨”处理只是其中的一项功能模块。白某自以为发现了商机,却把自己推上了法庭被告席。
公诉人表示:经依法审查查明,被告人白某于 2023 年 6 月至 8 月在海淀区等地发布 AI 虚拟广告,利用他人提供的包含特定女性面部信息的图片,使用深度生成技术 AI 软件制作裸体图片贩卖获利,同时出售 AI 露骨处理软件及使用教程牟利。
白某涉嫌制作、贩卖淫秽物品牟利罪被提起公诉。
检察机关认为,被告人白某以牟利为目的,制作、贩卖淫秽物品,情节严重,触犯了《中华人民共和国刑法》相关规定,应当以制作、贩卖淫秽物品牟利罪追究其刑事责任。
郭树正表示:非法加工和利用 AI 技术,并通过非法途径传播,导致一项原本为社会服务、促进科技进步发展的技术,变成了犯罪工具。
侵犯不特定女性名誉,破坏网络环境。
检察机关认为,白某利用 AI 技术犯罪的行为不仅侵犯了无数无辜者的隐私与名誉,还破坏了网络环境的纯净,与科技向善的精神背道而驰。而利用新技术犯罪,也将受到司法机关的严厉打击。
公诉人指出:人工智能技术兴起后,已成为当今科技领域备受瞩目的领域,正在深刻改变社会、经济和生活方式,为社会带来更多便利。我们也打击利用 AI 技术实施犯罪行为,任何利用新技术实施犯罪的行为都将受到严惩。
“换脸”伪造不雅照实施敲诈勒索
一键露骨处理、AI 换脸技术,也可能被不法分子利用,成为敲诈勒索的工具。近期,这类案件有抬头趋势。前不久,深圳警方捣毁了一个团伙,该团伙从网上收集受害者图片信息,然后合成处理,用于敲诈勒索。
前不久,深圳市民吴先生突然收到一个陌生手机号码发来的彩信,点开一看竟然是他和一名陌生女子在酒店房间内的不雅照片。
当事人吴先生:当时我收到一条彩信,里面是我的一张裸照,他当时威胁我,在几点之前要跟他联系给他转钱,我当时一想不对劲,就报警了。
深圳警方接到报案后,立即对吴先生提供的线索进行侦查。通过梳理报案记录,警方发现全市有同样遭遇的不止吴先生一人,犯罪嫌疑人的敲诈勒索方式都如出一辙。
当事人邓先生反映,有人公布了他的不雅照片,照片中还有女性,他的姓名也被标明。同事告诉他,照片肯定是被盗用的。
警方随即将相似案件并案处理。调查显示,一个利用换脸技术伪造不雅照实施敲诈勒索的犯罪团伙逐渐浮出水面。
深圳市公安局坪山分局民警张威介绍,该团伙流窜作案,通过威胁的方式实施敲诈,声称掌握了受害人嫖娼事实,如果不花钱消灾,就会将不雅照公布。团伙分工明确,有人负责图片处理,有人寻找受害者,有人负责联系受害者收款。
在多地警方的协助下,深圳坪山警方开展收网行动,抓获了以王某为首的十多名犯罪嫌疑人。
在犯罪嫌疑人的电脑中,警方发现大量伪造的不雅照片。张威表示,这些照片是由嫌疑人从网上收集受害者信息后,利用合成技术处理而成的,用于敲诈受害人。
目前,王某等犯罪嫌疑人已被检察机关提起公诉,案件正在进一步审理中。深圳市公安局刑警支队民警程儒提醒,遇到换脸敲诈勒索行为时,应及时报警,警方会依法打击此类违法犯罪,并严格保护受害人隐私。
在山东威海,另一位当事人王先生也遭遇了类似骗局。收到不雅照片后,他未经核实便向敲诈团伙转账20万元。
威海警方接到预警信息后,立即联系当事人核实情况。警方发现,骗子短信中包含了一张男女性裸照以及威胁留言,称掌握了被害人的视频资料,如果不联系就会公布。骗子还准确说出了受害人的姓名和工作单位,让受害人信以为真。
在恐吓下,王先生分两次向指定的银行账户转账20万元。但骗子仍不满足,要求王先生继续转账,否则会公开视频。
相关文章推荐阅读: