24岁女子被AI篡改成色情片主角,她用科技之剑反击!
Breeze Liu的故事激励了全世界。
面对网络上的深度伪造色情片,Breeze Liu女士并未选择沉默。“除非我彻底改变这一现状,否则我无法实现正义,”她坚定地说。
据美媒报道,24岁那年,Breeze Liu发现自己成为了网络上不实色情内容的受害者。在经历了报警、寻求删除内容却屡屡受阻的困境后,她决定自己动手,寻找解决方案。
Breeze Liu的公司Alecto AI正在研发一款面部识别软件,旨在帮助受害者识别并删除那些被滥用和篡改的内容。2020年4月的一个下午,当朋友告知她网上出现了她的色情视频时,她立即否定了这一说法:“这不可能,一定是弄错了。”
然而,不久之后,她在一个知名成人网站上亲眼看到了那张熟悉的脸庞被恶意篡改的视频,强烈的恶心感涌上心头。“那一刻,我感到了前所未有的崩溃。”她回忆道,“我感到极度羞辱,仿佛被世界遗弃。”
2023 年,Breeze Liu 女士和参议员 Amy Klobuchar 在华盛顿特区举行的 Reclaim Coalition x Panorama x Bumble 活动中,以结束基于图像的在线性暴力。
面对绝望,Breeze Liu曾一度站在父母公寓楼的屋顶,思索着是否结束这一切。但她最终选择了坚强,决定与这不公抗争到底。
她向加州伯克利警方报案,并提供了嫌疑人的线索——一名她曾在加州大学伯克利分校就读时认识的学生。但警方的回应让她失望:“他们告诉我,他们无能为力。”
这激发了Breeze Liu的斗志。她在加密货币领域多年的经验让她对技术有着深入的了解。于是,她开始着手研发一款能够识别并删除虚假色情内容的面部识别软件。“我必须改变这个系统,才能为受害者伸张正义,”她坚定地表示。
这场突如其来的风暴彻底改变了Breeze Liu的生活。从2013年17岁从中国移民至今,她眼睁睁地看着自己的生活因这段内容的传播而陷入混乱。短短10天内,她瘦了12磅。“我试图保持正常的生活,但内心却时刻在尖叫。”她说,“每当有人从我身边经过,我都会想,他们是不是看过那段视频?”
Breeze Liu勇敢地与嫌疑人交涉,成功让他从最初的成人网站上删除了视频。但不久后,类似的帖子又在数百个网站上泛滥。她拒绝了他的羞辱和挑衅,决心要为自己讨回公道。
在报警的过程中,她遭遇了更多的打击。警方甚至质疑她是否曾经从事不法交易。三个月的调查无果而终,执法部门对此事也未曾作出回应。
Breeze Liu最终发现了800多个包含她深度伪造材料的链接。但由于官僚主义的阻碍,她无法将它们全部删除。这让她意识到,这样的遭遇并非个例,而是普遍存在的问题。
Breeze Liu女士以科技之剑斩断AI色情魔爪。
因此,到了2022年,Breeze Liu利用自己的积蓄在旧金山创办了Alecto AI公司。这家公司利用面部识别技术帮助用户找到并删除深度伪造的视频和其他内容,然后与各大平台合作进行删除。
在全面推出之前,Alecto AI仍在等待新一轮的融资。但Liu的合资企业无疑为解决这一影响深远的问题提供了急需的工具。
“这种行为给受害者带来的心理和情感创伤是巨大的,”布法罗大学的计算机科学家Siwei Lyu指出。目前,针对深度伪造色情内容的制作和传播尚无法律约束,而这些内容可以在几分钟内借助日益先进且易于获取的人工智能工具轻松创建。
“我无法控制国会或执法部门的行动,”Breeze Liu坦言,“但有一件事是我们可以控制的——那就是我们自己在网络上的形象主权。我正在构建的这款软件是受害者夺回权力的第一道防线。”“我曾想过逃避、躲藏,”她接着说,“但现在,我不会再这样做了。”