OpenAI认「人声复制新工具」太危险,不宜全开放
文章来源: ettoday 于 – 新闻取自各大新闻媒体,新闻内容并不代表本网立场!
(被阅读 3969 次)
▲OpenAI于上月底公布语音AI工具 。
美国人工智慧开发公司OpenAI于3月29日公布语音AI工具「Voice Engine」,只需要短短15秒的说话声音样本,就能复制出此人声音。不过,该公司也认定这项语音复制工具风险太大,不适合全面发布。
「Voice Engine」于2022年首次研发,初始版本被使用在ChatGPT内建文字转语音功能。其生成结果不受声音样本语种限制,若说的是英文,这项技术可使用你的声音,生成西班牙语、法语等其他语言结果。不过,考量到存在滥用风险,现阶段仅提供合作伙伴使用,尚未对外开放。
《卫报》报导,OpenAI延迟推出「Voice Engine」,是为了在至关重要的全球大选年,最大限度地减少假消息出现的可能性。
OpenAI在一篇贴文中表示,目前「Voice Engine」的生成结果都有浮水印,以利追踪生成式音档的来源。与合作伙伴的使用条款也规定,必须取得原始说话者的明确知情同意,更不允许开发人员让个人用户自行创造声音档案。
OpenAI表示,「目前选择预览而非广泛发布这项技术」,是为了强化社会面对「更具说服力的生成式模型」的能力,呼吁逐步淘汰语音认证,作为登入银行帐户或其他敏感资讯的安全措施,制定在AI领域使用个人声音的保护政策,以及推广理解AI能力与限制、包括欺骗性内容的公众教育。
OpenAI写道,「我们希望针对负责任地使用合成声音,以及社会如何适应这些新功能,展开一场对话」,并且根据对话结果及小规模测试,对于是否、如何大规模使用这项技术,做出更明智的决定。