AI换脸诈骗案件频发 安全治理亟需多方协力

APD NEWS

text

作为新一轮科技革命和产业变革的重要驱动力,近一段时间人工智能(AI)的技术积累和应用场景取得了重要突破。问答对话、深度合成等应用正成为AI产业相对成熟的切入口。在火热的AI浪潮下,用户在享受技术带来便利的同时,其中可能暗藏的安全风险亟需得到更多关注。

  近日,不法分子通过AI合成技术冒充知名经济学家,骗取投资者钱财的案件频发。中国银河证券公告,发现有不法分子利用AI合成技术假冒金融机构工作人员,获取投资者信任,骗取投资者钱财。此前,经济学家管清友曾遭遇被AI换脸冒名顶替的情况;东北证券首席经济学家付鹏表示,也遇到过类似情况,效果“非常逼真”。

  AI合成技术相比传统图像视频技术,具有“门槛低、效率高、质量好”的特点,网络上充斥着大量如何伪造的教程和工具代码,即便不具备专业编程能力的普通用户,通过简单学习也能快速上手。较低的门槛却有着可观的“回报”,AI合成技术难免沦为不法分子实施新型诈骗的工具。特别是,随着深度合成仿真精度持续提升,伪造的音视频几乎达到以假乱真的程度,在这种情况下,受害者往往会放松警惕,最终上当受骗而蒙受经济损失。

  值得一提的是,针对AI数字技术犯罪,国家层面相关立法研究正在不断推进。今年以来就有《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理办法(征求意见稿)》等文件相继发布,为规范AI产业健康发展做出指引。

  在政策引导之余,加强AI领域协同治理也至关重要。需要加强监管机构能力建设,及时识别出新的违法犯罪手法,并加以打击整治。同时,应持续提升技术创新能力,通过新技术的开发与应用,提升风险隐患的自主监测、识别和防范能力。此外,还要加强跨部门、跨领域的协同合作,构建起应对新技术、新风险的安全生态系统。

  作为普通的经济活动参与者,我们要加强个人信息保护意识,不要轻易透露自己的身份证、银行卡、验证码等信息;特别要防范人脸、指纹等生物信息的泄露。同时,当收到不寻常的请求或交流时,需要保持警惕,多渠道核实对方的身份和信息,避免仅凭借单一沟通渠道就转账汇款。

  技术本无罪,发挥AI技术赋能新一轮科技革命和产业变革的能力,降低技术“阴暗面”对经济社会发展的影响,还需社会各界共同发力、相向而行。

(来源:中新网)