21岁的宾夕法尼亚大学学生洛伊克（Olga Loiek）一直在互联网上寻找观众——但从来没有想到会以现在这种方式获得关注。

去年11月，来自乌克兰的洛伊克在 YouTube 上开设了一个频道。不久之后，她发现自己的形象被盗用，并由人工智能技术变成了另外一个人出现在中国的社交媒体平台。

这个跟她身材长相完全一样的人，自称是精通中文的俄罗斯女孩，感谢中国对俄罗斯的支持，并通过出售俄罗斯糖果等产品赚点小钱。

更吊诡的是，这些虚假账号在中国都拥有数十万粉丝，远远超过了洛伊克本人。

洛伊克告诉路透社记者：“这就像是我的脸在说着普通话，背景是克里姆林宫和莫斯科，我在谈论俄罗斯和中国有多么伟大。这真是让人毛骨悚然，因为我这辈子都不会说出这样的话。”

在中国社交媒体上，越来越多貌似俄罗斯女性的形象，用流利的中文表达对中国的热爱，并称要通过销售来自祖国俄罗斯的小商品来支持战争中的俄罗斯。洛伊克的遭遇就是其中一个例子。

然而，这些女性并不存在。专家说，她们是人工智能通过盗用网上真实女性的形象生成的。通常这些女性并不知情。这些虚构的形象被用来向中国单身男性推销产品。

以洛伊克形象创建的账户拥有数十万粉丝，并销售了数万美元的产品，包括“俄罗斯糖果”。其中一些帖子包含免责声明，称其可能是使用人工智能创建的。

两大AI流派角力：如何对待人工智能的发展？

“AI制作图像在中国很普遍”

XMOV 是一家开发先进人工智能技术的公司。该公司首席执行官吉姆·柴（Jim Chai）说，在中国，制作这种图像的技术非常普遍，很多人都在使用。

他说：“例如，要制作我自己的二维数字人，我只需要拍摄一段30分钟的视频，然后再重新制作。当然，它看起来非常真实。如果你想改变语言，唯一需要调整的就是对口型。”

人工智能是一个备受争议的话题，洛伊克的故事揭示了随着创建和传播的强大工具在全球普及，人工智能的潜在非法或不道德应用所带来的风险。

近几个月来，随着 Chat GPT 等生成式人工智能系统的普遍应用，人们对人工智能助长错误信息、假新闻和盗版的担忧也在加剧。

今年1月，中国发布了人工智能行业标准化指南草案，提出到2026年将形成50多项国家和行业标准。

欧盟的《人工智能法案》本月生效，该法案对高风险的人工智能系统规定了严格的透明度义务，树立了一个潜在的全球基准。

尽管如此，北京大学法学院副教授戴昕表示，监管者正在跌跌撞撞地追赶人工智能发展的步伐。

戴昕说：“我们只能预测，随着越来越强大的信息创建工具的出现，假信息的出生和传播基本上时时刻刻都会出现。”

他说：“我认为，这里最关键的问题是数量太大了……不仅是在中国，在整个互联网上都是如此。”