给“AI孙燕姿”设三道监管门槛

2023-05-31 08:29 来源:证券日报
查看余下全文
(责任编辑:单晓冰)
手机看中经经济日报微信中经网微信

给“AI孙燕姿”设三道监管门槛

2023年05月31日 08:29   来源:证券日报   谢若琳

  “AI孙燕姿”一夜间走红。在某视频平台,这位虚拟歌手翻唱的《发如雪》累计播放超221万次。如果不是明确标注,连歌迷都很难分清“真假孙燕姿”。一系列连锁反应正在发生:在各大视频平台,明星AI翻唱的教学视频遍地开花,复制明星声音、肖像的门槛被进一步拉低。

  “真假孙燕姿”让现实世界和AI世界的边界越来越模糊,知识产权和市场监管问题也接踵而至。

  首先是防侵权。据不完全统计,“AI孙燕姿”已经翻唱了超过1000首作品,这一数量远超出孙燕姿本人作品的总和。一方面,“AI孙燕姿”涉嫌侵犯现实孙燕姿的权益。有律师指出,在《民法典》里,对声音的保护是参照肖像权保护进行的,而对肖像权保护有明确的规定——那就是不允许进行伪造;另一方面,涉及著作权的问题,翻唱作品中包含大量未经授权的歌曲,超出了法律中“合理使用”的范畴。

  如何界定侵权以及如何惩罚侵权,有待监管部门和行业专家加强调研,提出有效方法。

  其次是防诈骗。近期,内蒙古包头市公安局侦破了一起使用AI智能技术进行诈骗的案件,受害者认不清对方是AI脸还是真人脸,居然10分钟被骗走430万元。网友纷纷支招视频通话时“怎么证明我是我”,也成为一时奇谈。

  如何在不打击新技术发展的前提下严格监管,成为当下社会面临的问题。

  笔者认为,对待AI生成的内容,不管是模仿生成的,还是完全新创作的,都应该压实生产发布者、平台管理者的责任,完善监管措施。

  一是,凡是利用生成式人工智能生产制作的产品,都应向公众公开声明,进行明确标注。参考《广告法》中“广告应当具有可识别性,能够使消费者辨明其为广告”的要求,AI生成的内容,包括图片、文字、视频、音频等,都应明确标注“AI生成”,不标注即为违法。

  同时,进一步强化平台审核责任和管理责任,明确处罚措施,实行日常监督检查,接受公众举报,对违规的发布者、平台予以惩戒。

  二是,提高AI内容发布的门槛,发布者必须提供真实身份信息,对于可能存在的“异地登陆”“大额转账”等风险行为,设置警示提醒机制,触发警戒时平台可以自动切断服务。同时,应建立用户投诉接收处理机制,全方位杜绝滥用AI技术的行为。

  三是,严格规范企业对用户个人信息的保护,出台加密算法标准,对使用后的信息存储和销毁程序进行监管,织密织牢安全防护网。防止盗用他人个人信息用于AI产品生产。

  诱进以仁义,束缚以刑罚。AI正在飞速进化,我们要迎风而上,用好新工具,使其为经济社会发展服务。同时,要从技术、法律、伦理等方面立好规矩,与时俱进完善监管。

  4月11日,国家互联网信息办公室发布的《生成式人工智能服务管理办法(征求意见稿)》(简称《管理办法》)明确提出“利用生成式人工智能生成的内容应当真实准确,采取措施防止生成虚假信息”。这为加强AI生成内容管理提供了基本遵循,希望相关措施进一步细化,并加快出台。

(责任编辑:单晓冰)