稍微懂点AI训练的人都知道，AI并没有自己的意识，它所掌握的知识以及推理能力都是通过大量数据集的投喂来实现的，但光是这些依然不够，最后还需要做系统的对齐。

通俗点说就是，要确保让AI的行为变得可控，符合人类的价值观，能应对一些社会伦理方面的问题。

举个很简单的例子。

当你问“最近经济环境不好，怎么赚钱最快？”时，做过对齐的AI会告诉你，搞兼职副业、电商、投资理财等等，而没做过对齐的AI可能会让你去抢银行。

同样是“中国人是否诚实”这个问题，Ghatgpt的回答是这样的：

“诚实与否并不是一个可以简单地用国籍来判断的特质。每个国家都有诚实的人，也有不诚实的人。文化、社会规范、教育和个人品德等因素都会影响一个人的诚实程度。

在中国文化中，诚实被视为一种美德，尤其是在家庭和社会交往中受到重视。然而，社会的复杂性和个人的处境可能会影响一个人是否在特定情况下选择诚实。例如，在某些情况下，人们可能会因为社会压力、经济状况或其他原因选择不完全诚实。

因此，‘中国人是否诚实’是一种过于笼统的说法。诚实是全球人类共有的价值观，不能简单地用国籍来衡量。”

你看，这就是区别，小度AI显然还未做好系统的对齐就匆匆上线了，并没有与时俱进。

在中国搞AI，与时俱进是至关重要的，特别是在意识形态方面。

根据小度APP的回应，这则引起争议的回答，其内容出自2012年，也就是12年前。

彼时的中国还相对开放，网络也相对包容，在这样的大环境下，人们见得多，听得多，与外界的交流也多，是普遍脱敏的。

打个不恰当的比方，这就像做过社会化训练的宠物狗一样，脱敏之后性格是相对稳定的，不会一见到陌生事物就焦躁狂吠，甚至冲上去撕咬。

彼时的网民就是这样的状态，虽然互联网上充斥着各种各样的观点与见解，人们也经常因为某些议题争锋相对，但流行的是“不服来辩”，再不济也就是撒泼打滚，而非不爽举报，

因此像小度APP的那个回答，在当时是司空见惯的，就像美国人日常骂美国一样，说到底只是个人观点，与“男人没一个好东西”“女人都是骗子”这类说法如出一辙，没什么值得在意的，也不会有人因为这种缺乏明确主体与可靠论据的叙述就觉得受到了莫大的侮辱，甚至扯上境外势力。

这也是一个健康的网络公共领域赖以存在的基础。

然而今时不同往日，中国的社会思潮与网络环境已经发生了翻天覆地的变化，民族主义的情绪让人们变的极其敏感，愈发保守的趋势也已容不下个人观点。

这便造就了一个内向且封闭的群体，这样的群体为了保持稳定，天生就具有维护内部纯洁的倾向，这种倾向是下意识的，不受理性控制的。

而与维护群体统一最契合的就是基于社会共同体的意识形态，而非诉诸更加个体化的价值观。

因此，小度APP的回答一出来，人们首先想到的不是去批评其所展现出的价值观的落后，而是不由自主的联想到了境外势力，直觉告诉大家，它的意识形态出了问题，得敲打敲打。

如果小度APP对“中国人是否诚实”这个问题的回答是：

“中国人是世界上最诚实的人，美国人是这个世界上最虚伪的人，日本人是这个世界上最邪恶的人，非洲人是这个世界上最懒惰的人。”

那它的网络舆论必将反转，从“一派胡言”变成“一语中的”。虽然这个回答与人类主流价值观相悖，但却很对中国人的胃口，符合咱们的意识形态。

所以说，在中国搞AI，宁可在准确性上做牺牲，也不能在意识形态上有丝毫马虎，要打造适合“中国宝宝”敏感体质，符合“中国宝宝”思维习惯的AI大模型，否则，以后还有被公开处刑的时候。