桂视网

桂视网>新闻>正在查看

“AI复活”衍生商机 需要约束和规范

2024年04月08日 11:23:00  来源: 平乐县委网信办  所属分类:桂观评论  编辑:刁一真  阅读:   查看评论()
  记者近日调查发现,用AI“复活”逝去的人,已经发展成了一门生意。在电商平台搜索“AI复活亲人”,发现提供此类服务的店铺不少,价格从10元到520元不等。有店铺称,可以提供“修复老照片+让照片动起来”和“照片开口说话”功能。与此同时,近年来,AI换声、AI换脸等诈骗手段也越来越高级,有的人用来欺骗用户的情感和钱财。(据法治日报、上游新闻)
  “AI复活”这门此前隐秘而小众的生意,开始受到广泛关注,不断增加的需求同时催生了流水线的生产。除了提供“复活”服务,“复活师”们还在寻找学徒和代理,从而将单一的产业向更远端延伸。但上海大学法学院教授陈敬根认为,“AI复活”存在诈骗的隐患,未来大量AI生成的虚假信息可能引发社会负面情绪、导致信任危机。逝者虽不再具备隐私权和肖像权,但法律仍会对其生前的人格权益予以保护,如果AI技术生成的形象对逝者形象有歪曲和丑化,或是泄露了逝者隐私,则可能引发法律纠纷。更可怕的是,如果有不法分子滥用这种技术,“克隆”还活着的人,就可能实施诈骗行为,或是炮制虚假色情影像,侵犯他人的合法权益。事实上,国内外都已经有利用AI技术模拟面容和声音传播虚假内容、实施诈骗、侵害他人名誉的案例。
  如果“AI复活”技术被拿来牟利,并且缺乏约束地、无限制地泛滥,则会带来很多难以预料的问题和风险。如何让技术的进步只带来益处,不带来危害,这是一个庞大复杂的命题,会随着科技的不断进步,不断地向人类提出新的问题和挑战。为了防止“AI复活”“次生灾害”的发生,需要系统化、体系化的应对方式。一方面,要加快AI领域的立法;另一方面,也应该看到,画出底线和红线的“硬法”固然不可缺位,但为了弥补立法的滞后性,在人工智能等新兴领域,当前应提倡设立更多的“软法”,即通过行业协会、团体组织等自发制定的规则,产生集体约束。
  不容置疑的是,技术不应也不能用于作恶,人类美好的情感,不应被利用来做一些“非法生意”。
(李绍芳)

扫码转发

精彩视频

热点排行

精彩图片