OpenAI认「人声复制新工具」太危险，不宜全开放

▲OpenAI于上月底公布语音AI工具 。

美国人工智慧开发公司OpenAI于3月29日公布语音AI工具「Voice Engine」，只需要短短15秒的说话声音样本，就能复制出此人声音。不过，该公司也认定这项语音复制工具风险太大，不适合全面发布。

「Voice Engine」于2022年首次研发，初始版本被使用在ChatGPT内建文字转语音功能。其生成结果不受声音样本语种限制，若说的是英文，这项技术可使用你的声音，生成西班牙语、法语等其他语言结果。不过，考量到存在滥用风险，现阶段仅提供合作伙伴使用，尚未对外开放。

《卫报》报导，OpenAI延迟推出「Voice Engine」，是为了在至关重要的全球大选年，最大限度地减少假消息出现的可能性。

OpenAI在一篇贴文中表示，目前「Voice Engine」的生成结果都有浮水印，以利追踪生成式音档的来源。与合作伙伴的使用条款也规定，必须取得原始说话者的明确知情同意，更不允许开发人员让个人用户自行创造声音档案。

OpenAI表示，「目前选择预览而非广泛发布这项技术」，是为了强化社会面对「更具说服力的生成式模型」的能力，呼吁逐步淘汰语音认证，作为登入银行帐户或其他敏感资讯的安全措施，制定在AI领域使用个人声音的保护政策，以及推广理解AI能力与限制、包括欺骗性内容的公众教育。

OpenAI写道，「我们希望针对负责任地使用合成声音，以及社会如何适应这些新功能，展开一场对话」，并且根据对话结果及小规模测试，对于是否、如何大规模使用这项技术，做出更明智的决定。