文心一言获准上线 如何回应“敏感词”？

百度、商汤科技等至少4家中国科技公司週四（8月31日）获得中国政府批准，向公众推出人工智能（AI）聊天机器人。DW实际试用发现，向机器人提问时若涉及敏感辞汇，对话会被强制中止。

中国官媒《新京报》引述多位消息来源指出，有11家公司的大模型机器人产品通过网信办7月公告的《生成式人工智能服务管理暂行办法》备案，将陆续上线。

其中，百度的“文心一言”（Ernie Bot）、商汤的“商量”（SenseChat）、百川智能科技的“百川大模型”和智普人工智能的“智谱清言”等4家产品已向大众公开，随后抖音、腾讯等公司的类似产品也将陆续开放。

在中国苹果应用商店中，“文心一言”已冲上排名第一；百度的香港股价在早盘交易中逆势上涨逾3%，商汤也一度上涨2.7%。

DW实际试用“文心一言”发现，若询问食谱、大学排名等一般问题时，机器人提问可与用户持续进行问答；但若提及“台湾独立”、“维吾尔族”、“中国2023年经济情况”、“中国青年失业率”等敏感词汇时，系统将简短回答并终止对话。比如询问“习近平是谁”、“如何评价习近平”时，用户会获得习近平的生平简介，并被要求新建对话。

DW实际试用“文心一言”发现，含有敏感词汇“习近平”的提问，会被终止对话。

中国政府推动使用聊天机器人

路透社报道，随著人工智能技术日益成为中美竞争的焦点，中国政府近期加大支持相关企业开发人工智能，并推动扩大使用聊天机器人。

不同于其他国家，中国要求科技公司在向大众市场发布人工智能产品之前，须先提交安全评估并获得许可。由于《生成式人工智能服务管理暂行办法》将在8月15日生效，外界普遍预期中国近期将有一批相关产品获准发布。此前，企业只能对人工智能产品进行小规模的公开测试。

晨星公司（Morningstar）分析师王凯告诉路透社，他认为获得批准的公司“具有先发优势，能够比竞争对手更快调整他们的产品”。

专注于中国新经济和非美互联网企业的顾问公司“蓝莲花研究”（Blue Lotus Capital Advisors）分析师杨子潇（Shawn Yang）表示，政府对人工智能产品的批准可能会引发行业整合：“很多人都在涌入大模型业务⋯⋯但这个行业可能很快就会整合。只有那些拥有数据和技术能力的人才能推动发展。”