中国AI争议频传 马斯克：北京或推监管新规

马斯克并未详细说明，仅表示他在中国期间会见了当地高层，并就AI的风险及监管必要性，进行了“富有成效的讨论”。他说，他也从这些谈话中得知，中国计画启动AI的相关监管措施。

AI诈欺、假信息兴起

AI在中国飞速发展，该国AI相关欺诈案近期也有所激增。《华尔街日报》5日报道，中国各地警方近日都在官方社交媒体上，广泛警告民众小心犯罪份子藉AI假冒成朋友进行诈骗。

报道指，一名郭姓中国男子4月在微信上接到一通诈骗视讯电话，诈骗者在影像中以AI换脸、语音合成技术冒充其友人的容貌和声音，假可乱真地说服他将约60万美元的款项转入内蒙古的银行帐户。直到郭姓男子联系朋友确认款项，才得知自己受骗上当。根据内蒙古警方的微信贴文，中国当局已终止该笔交易，并试图追回受骗款项。

此事在中国网民间引起热议，一度在微博上以“#AI 诈骗正在全国爆发”的标签广传，该话题随后受审查限制，无法再显示搜索结果。同月，安徽警方因一起类似案件逮捕了一名诈骗份子。

除诈骗案外，AI也在中国造成多起假信息事件。甘肃5月有男子藉网络收集的新闻片，以ChatGPT捏造了一篇火车事故的假贴文，在允许用户分润的博客平台上发表，藉此得利。警方将其逮捕后称，该篇文章获得了1万5000次浏览。同月，河南当局也称，有名男子藉ChatGPT生成“餐馆发生暴力扭打，一名女性被砖击头部后身亡”的假信息，藉以获得流量。

OpenAI并未在中国提供ChatGPT服务，但仍有许多中国民众“翻墙”使用。

政府出手监管

为应对层出不穷的AI案件，中国政府已出台相关法规。

针对假消息、诈骗等案件，中国网信办1月宣布，禁止以AI生成的图像、音频和文本，传播错误、违法或“破坏经济或国家安全”的信息内容。《华尔街日报》指，这些笼统而广泛的定义，给了中国当局相当大的执法自由。

中国网信办4月也公布了管理生成式AI服务（如百度“文心一言”、阿里巴巴“通义千问”等）的措施草案，规定AI产出的内容须“符合国家社会主义核心价值观”、“不得宣扬恐怖主义、歧视、暴力”，并要求企业需为“训练AI产品的数据的合法性负责”，且在公开推出产品之前，须先提交当局进行“安全评估”。

倘若企业未遵守上述指导方针，将被处以1万元人民币（约1450美元）以上的罚款，并得停止旗下AI服务，面臨刑事调查。

彭博社引述分析师说法指，中国网信办的相关规定可能影响未来中国训练AI模型的方式。

除中国外，世界各国也都在寻求規范AI机器人发展的方法。意大利4月一度以个人信息、隐私疑虑，以及生成内容不准确为由暂时禁止ChatGPT，并于ChatGPT母公司OpenAI更新隐私条款后解除禁令。

美国商务部4月亦曾针对“AI模型是否应经认证后才能上市”一事公开请求意见。对此，OpenAI回应“强大的AI系统应受严格的安全评估”，若想落实此类评估，就需要对AI加以监管，因此该公司愿“积极与政府合作，以制定此类监管的最佳形式”。