• 打印
  • 收藏
  • 加入书签
添加成功
收藏成功
分享

虚拟主播监管正当时

2021年12月23日,在某公司,研发人员在操作AI 虚拟主播系统(张端/ 摄)

近年来,打开电商平台上的直播会发现,在直播中带货的主播常常并非真人,而是一个数字合成的虚拟数字人。

虚拟数字人是指通过动作捕捉、面部捕捉、三维建模、语音合成等数字技术打造的虚拟形象,其有“人”的形象、具备“人”的性格和行为特征,也初步具备类“人”的互动能力。

经历多轮发展迭代,在数字技术进步的背景下,虚拟数字人的应用场景目前已经从游戏、影视、娱乐业,逐渐向传媒、直播、电商、医疗等多个领域扩展,而虚拟主播便是虚拟数字人向直播和电商领域渗透的产物。

虚拟主播应用场景的多元化,也给监管体系带来更为复杂的法律挑战。

带货存乱象

2021年10月,国家广播电视总局发布的《广播电视和网络视听“十四五”科技发展规划》首次明确鼓励和支持虚拟数字人技术发展。几年前,虚拟主播带货还是新鲜事,而如今,虚拟主播已经凭借低成本、在线时间长等优势在商家的直播间中遍地开花。

技术的快速进步让虚拟数字人的成本降低了。对商家来说,只要向供应商花数万元购买虚拟主播定制软件及后期的运维服务,便可以让直播间实现24小时不断播。于是,大量电商平台的入驻商家开始订购此类服务,用来与真人主播互为补充。

然而,虚拟主播直播带货却存在一些乱象。

一些商家在运用虚拟主播时出现了虚假夸大宣传、诱导非理性消费甚至推销假冒伪劣商品的行为。另外,还有一些虚拟数字人的运营公司急于抢占直播带货的商业赛道,但对选品质量的把关却远不如真人主播团队严格。

由于虚拟主播本身并不是法律意义上的自然人,在很多情况下,法律责任无法由虚拟主播承担,而应由虚拟主播背后的人或机构来承担。

中国政法大学传播法研究中心副主任朱巍认为:“虚拟主播背后不是一个人,这种情况一旦出现问题,责任主体比较特殊。除平台外,电子商务的经营者,虚拟主播的委托人、制造者、设计者、受益人,按照责任承担的方式不同,需要承担各自的责任。”

但是,虚拟主播融合了人工智能、深度合成、虚拟现实等新技术,覆盖的基础软硬件层、平台层、应用层等产业链环节众多,当虚拟主播出现违法情况时,产业链中具体由哪些企业来承担第一责任人的相关责任,目前还需在司法实践中进行确认。

当虚拟主播出现违法情况时,产业链中具体由哪些企业来承担第一责任人的相关责任,目前还需在司法实践中进行确认。

虚拟主播纳入监管视野

虚拟主播的应用场景除了电商直播外,还有泛娱乐直播,后者也是虚拟主播竞争最为激烈的领域。

为了获得更多的流量和收益,一些虚拟主播在直播中出现了打擦边球、恶意营销、散布虚假信息、诱导未成年人打赏等行为。2022年5月,某虚拟主播在其直播的视频平台上宣称自己被拐卖,后被警方查明拐卖经历为虚构,其目的是博取流量。

这些行业乱象已经引起主管部门重视。2022年6月,国家广播电视总局、文化和旅游部联合印发《网络主播行为规范》,为网络主播划定行为红线,并明确利用人工智能技术合成的虚拟主播及内容也须参照该行为规范。

中国政法大学教授陈忠云认为,虚拟主播虽冠以“虚拟”二字,其实底子为实,“人”是虚的,所以监管要实。

依照《网络主播行为规范》,诸多平台在2022年下半年针对虚拟主播加强了监管,并封禁、惩罚了一批有违规行为的虚拟主播账号。

2022年7月,聚集了大量虚拟主播账号的某平台发布了《虚拟主播专项治理公告》,对于虚拟主播低俗色情类和其他违反公序良俗类的恶意行为及言论进行专项治理。

两个月后,该平台又发布文章对其专项治理进行总结,在专项治理中被封禁的账号有137个。文章也从平台社区管理的角度提出了虚拟主播监管的难点,诸如违规行为难发现、传播热度高造成后续影响处理困难、针对虚拟主播行为规则的完善需根据案例进行更多研判等。

纠纷背后是新挑战

虽然主管部门和平臺方已经将虚拟主播的行为规范纳入监管视野,但法律空白与模糊之处仍然很多。

例如,虚拟主播很可能卷入到肖像权、名誉权、隐私权、知识产权等法律纠纷之中。

通过人工智能合成技术,利用人脸照片生成高精度数字虚拟形象已并不难实现。2021年,曾出现一例某著名主持人与上海某科技公司的网络侵权责任纠纷案,涉案科技公司在未经该主持人授权的情况下利用其肖像制作虚拟形象,造成了侵权。

再以中之人的劳动权益、隐私权等问题为例,近年来,相关纠纷案例也有增多之势。

所谓中之人,就是虚拟主播幕后的真人演员。在更加强调交互性的泛娱乐直播中,虚拟主播都由特定的中之人来驱动其行为和语言,技术合成的虚拟形象加上中之人为其塑造的性格设定,一个虚拟主播才得以具备人的互动能力。

由于恶意竞争等原因,一些虚拟主播曾被人“开盒”,即有组织地挖掘、曝光中之人的现实身份、家庭信息等个人隐私;还有中之人因不满高强度、低收入,控诉虚拟主播的运营方侵犯自身劳动权益;另外,中之人还可能与运营方公司争夺虚拟主播账号的归属。

虚拟主播一旦遭受到网络恶意言论的攻击、诽谤,中之人也要承受一定的心理伤害,而如果具体的恶意诽谤并不针对作为自然人的中之人,只针对虚拟主播,那么中之人的维权也会更加曲折。

上海锦天城律师事务所合伙人全开明认为,虚拟数字人会影响到人们的社会关系和精神状态,因此需要关注其伦理问题,而目前,在虚拟数字人伦理方面相关法律法规和伦理规范尚待完善,存在潜在风险。

总之,作为社会数字化转型过程中的产物,包括虚拟主播在内的虚拟数字人,本身就对现存的法律体系、伦理认知提出了挑战。虽然对虚拟主播的监管尚在起步阶段,但监管本身已经传递出一个鲜明信号,那就是虚拟数字人和现实中的人一样,都须划定行为边界。

提前界定虚拟数字人的行为边界、落实好监管,在社会数字化转型过程中将是一个长久议题。未来,虚拟数字人产业的市场规模还将扩大,虚拟主播的应用场景也会继续增多,研判好虚拟主播所涉及的法律风险并布局监管,对于虚拟数字人在其他领域的技术善用也有着一定意义。

随着人工智能的进一步发展,人工智能驱动型虚拟数字人也会更多地走向市场。届时,更须警惕虚拟数字人的行为失序,准备好约束其行为的法律手段。

网站仅支持在线阅读(不支持PDF下载),如需保存文章,可以选择【打印】保存。
畅销排行榜
monitor