乌克兰学生是如何变成说中文的俄罗斯女郎的?
21岁的宾夕法尼亚大学学生洛伊克(Olga Loiek)一直在互联网上寻找观众——但从来没有想到会以现在这种方式获得关注。
去年11月,来自乌克兰的洛伊克在 YouTube 上开设了一个频道。不久之后,她发现自己的形象被盗用,并由人工智能技术变成了另外一个人出现在中国的社交媒体平台。
这个跟她身材长相完全一样的人,自称是精通中文的俄罗斯女孩,感谢中国对俄罗斯的支持,并通过出售俄罗斯糖果等产品赚点小钱。
更吊诡的是,这些虚假账号在中国都拥有数十万粉丝,远远超过了洛伊克本人。
洛伊克告诉路透社记者:“这就像是我的脸在说着普通话,背景是克里姆林宫和莫斯科,我在谈论俄罗斯和中国有多么伟大。这真是让人毛骨悚然,因为我这辈子都不会说出这样的话。”
在中国社交媒体上,越来越多貌似俄罗斯女性的形象,用流利的中文表达对中国的热爱,并称要通过销售来自祖国俄罗斯的小商品来支持战争中的俄罗斯。洛伊克的遭遇就是其中一个例子。
然而,这些女性并不存在。专家说,她们是人工智能通过盗用网上真实女性的形象生成的。通常这些女性并不知情。这些虚构的形象被用来向中国单身男性推销产品。
以洛伊克形象创建的账户拥有数十万粉丝,并销售了数万美元的产品,包括“俄罗斯糖果”。其中一些帖子包含免责声明,称其可能是使用人工智能创建的。
两大AI流派角力:如何对待人工智能的发展?
“AI制作图像在中国很普遍”
XMOV 是一家开发先进人工智能技术的公司。该公司首席执行官吉姆·柴(Jim Chai)说,在中国,制作这种图像的技术非常普遍,很多人都在使用。
他说:“例如,要制作我自己的二维数字人,我只需要拍摄一段30分钟的视频,然后再重新制作。当然,它看起来非常真实。如果你想改变语言,唯一需要调整的就是对口型。”
人工智能是一个备受争议的话题,洛伊克的故事揭示了随着创建和传播的强大工具在全球普及,人工智能的潜在非法或不道德应用所带来的风险。
近几个月来,随着 Chat GPT 等生成式人工智能系统的普遍应用,人们对人工智能助长错误信息、假新闻和盗版的担忧也在加剧。
今年1月,中国发布了人工智能行业标准化指南草案,提出到2026年将形成50多项国家和行业标准。
欧盟的《人工智能法案》本月生效,该法案对高风险的人工智能系统规定了严格的透明度义务,树立了一个潜在的全球基准。
尽管如此,北京大学法学院副教授戴昕表示,监管者正在跌跌撞撞地追赶人工智能发展的步伐。
戴昕说:“我们只能预测,随着越来越强大的信息创建工具的出现,假信息的出生和传播基本上时时刻刻都会出现。”
他说:“我认为,这里最关键的问题是数量太大了……不仅是在中国,在整个互联网上都是如此。”