影视行业深受其害!人工智能竟成犯罪“帮凶”?

1905电影网专稿 近年来,随着AI技术的快速发展,越来越多人在工作生活中开始享受到全新体验,但伴随而来的是,利用或滥用AI技术从事违法犯罪的活动日益增多。
影视行业深受其害!人工智能竟成犯罪“帮凶”?

AI违法犯罪调查 人工智能技术应守住法律底线 时长:06:06 来源:电影网
展开

AI违法犯罪调查 人工智能技术应守住法律底线收起

时长:06:06建议WIFI下打开


绝地黑号网专稿 近年来,随着AI技术的快速发展,越来越多人在工作生活中开始享受到全新体验,但伴随而来的是,利用或滥用AI技术从事违法犯罪的活动日益增多。


2024年上半年,80后导演陈坤起诉“文刻创作”,指控其抄袭了自己团队运用AI技术制作的《山海奇镜》预告片。这个案例让AI作品侵权话题进入了大众的视野。


影视行业深受其害!人工智能竟成犯罪“帮凶”?


天元律所合伙人律师李昀锴在采访中表示,这种行为可能会侵犯原告的复制权、信息网络传播权、改编权以及原告的署名权,因为被告在发布作品时强调了原创。


影视行业深受其害!人工智能竟成犯罪“帮凶”?


随着AI技术快速发展,利用AI技术从事违法犯罪活动屡见不鲜。AI 违法犯罪活动让大众财产安全受到威胁,其中“AI换脸”导致的违法犯罪行为尤为严重。


全国公安机关去年依托“净网”专项行动组织专项会战,严打泄露身份证照片等图像信息的犯罪源头,破获利用AI技术“换脸”进行诈骗犯罪案件79起,抓获犯罪嫌疑人515名。


影视行业深受其害!人工智能竟成犯罪“帮凶”?


我们在采访中发现,大众对于AI可能造成的风险十分担心。有观众直言,AI换脸常见于诈骗,比如把人的模样换成老人子女,来骗取老人信任并诈骗钱财。


影视行业深受其害!人工智能竟成犯罪“帮凶”?


不久前,“男子用AI伪造学生同事近7000张裸照”冲上微博热搜。


犯罪嫌疑人白某某是互联网公司的技术员,他用AI“一键去衣”技术,深度伪造淫秽图片近7000张,以每张1.5元的价格卖出,获利将近一万元。图片涉及女性人数多。最终,白某某因涉嫌制作贩卖淫秽物品牟利罪被公诉至法院,今年4月份,北京海淀区人民法院对这起案件进行了开庭审理。


影视行业深受其害!人工智能竟成犯罪“帮凶”?


李昀锴表示,利用AI功能创造图片在网上进行售卖获利,是犯了传播淫秽物品罪。根据《中华人民共和国刑法》第三百六十三条 :以牟利为目的,制作、复制、出版、贩卖、传播淫秽物品的,处三年以下有期徒刑、拘役或者管制,并处罚金;情节严重的,处三年以上十年以下有期徒刑,并处罚金;情节特别严重的,处十年以上有期徒刑或者无期徒刑,并处罚金或者没收财产。


影视行业深受其害!人工智能竟成犯罪“帮凶”?


2024年2月29日,奇安信集团对外发布《2024人工智能安全报告》,2023年基于AI的深度伪造欺诈暴增了3000%。利用AI换脸进行诈骗,让传统的“眼见为实”面临巨大挑战。


有观众曾碰到QQ被盗的好友突然在网上问自己借钱,且主动提出视频对话来验证身份的情况,但在视频对话的过程中,他发现所谓“好友”其实是AI换脸之后的骗子,自己差点就上当受骗。


影视行业深受其害!人工智能竟成犯罪“帮凶”?


AI换脸技术被不法分子利用成为敲诈勒索的工具,前不久深圳警方打掉了一个犯罪团伙,他们在网上搜集被害人信息,通过AI换脸的方式伪造不雅照,威胁被害人转账汇款。当事人吴先生回忆,当时他收到一条彩信,彩信附有他与一名女性的裸照以及勒索信息,他意识到不对劲,随即报警。


影视行业深受其害!人工智能竟成犯罪“帮凶”?


李昀锴指出,案例里骗子犯的是诈骗罪。虽然利用了AI技术,但核心目的是为了骗取他人财产。


根据 《中华人民共和国刑法》第二百六十六条,诈骗公私财物,数额较大的,处三年以下有期徒刑、拘役或者管制,并处或者单处罚金;数额巨大或者有其他严重情节的,处三年以上十年以下有期徒刑,并处罚金;数额特别巨大或者有其他特别严重情节的,处十年以上有期徒刑或者无期徒刑,并处罚金或者没收财产。


影视行业深受其害!人工智能竟成犯罪“帮凶”?


随着AI技术快速迭代,如何更好地防治AI犯罪,对公民个人、内容生成平台、行业监管部门乃至政法机关等各方都提出了挑战。我国高度重视数据风险的分析与预防,国内的相关监管也快速跟进。


针对性规定有《网络音视频信息服务管理规定》《网络信息内容生态治理规定》《互联网信息服务深度合成管理规定》和《生成式人工智能服务管理暂行办法》。


此外,最高人民法院、最高人民检察院、公安部发布的《关于依法惩治网络暴力违法犯罪的指导意见》,对“利用‘深度合成’等生成式人工智能技术发布违法信息”的网络暴力违法犯罪行为作出了“从重处罚”的规定。


影视行业深受其害!人工智能竟成犯罪“帮凶”?


在李昀锴看来,技术带来的问题最终还是要技术解决。他表示,目前还没有特别针对人工智能的法律出台,但全国人大法工委已经把它提上工作计划,可能近期就会有立法上的成果。