盖茨对话奥特曼:未来AI算力将是GPT-4的百万倍
北京时间1月12日，OpenAI的CEO山姆·奥特曼（SamAltman）作为嘉宾参与了比尔·盖茨（BillGates）的播客节目《为我解惑》（UnconfuseMe）。两人的话题覆盖了人工智能未来的发展前景、对人类社会的潜在影响，以及监管的重要性。
提及AI对人类社会的影响，奥特曼直言，“AI将引发人类历史上‘最快’的一次技术革命，而人类可能还完全没有准备好如何应对，也对AI技术的发展速度没有足够的预期。”盖茨也认同奥特曼的观点，他认为，“AI将迫使我们人类以前所未有的速度适应这次变革。”
人类如何适应AI的快速发展，又如何限制AI带来的负面影响，这是目前各国政府及整个科技行业都在努力解决的问题。奥特曼一直强调AI监管的必要性，盖茨在对话中直接了当地问他，“你到底想要做什么？”
奥特曼回应说：“我认为我们开始逐渐弄明白，科技将迅速朝着具有十万或百万倍GPT-4计算能力的系统发展。如果我们是正确的，这项技术将影响到社会、地缘政治力量的平衡等方方面面。”
盖茨和奥特曼共同提议，建立一个类似于国际原子能机构（IAEA）的全球监管机构，像监管核能发展的方式监督人工智能的发展，确保其安全可控。
对于这件事情的可行性，奥特曼表示：“我觉得这有可能。我之前不太确定，但我2023年去了很多国家，和许多需要参与此事务的国家元首进行了交谈，几乎普遍支持。”
但是，“这不会解决AI的所有问题。”奥特曼也提出警示，不能忽视AI系统的复杂性，“我们仍然会有可能在小规模系统上出错，在某些情况下，可能会出相当严重的问题。但我认为这可以帮助我们应对最大等级的风险。”
盖茨和奥特曼对人工智能在提高生产力和创造新就业机会方面的潜力持乐观态度。他们认为，人工智能将使很多行业提升效率，尤其是类似于“写代码”这样的工作，医疗和教育也将极大的受益于人工智能的发展。然而，人类社会可能并没有做好准备去应对这场技术变革。
奥特曼对此表示担忧：“AI将迫使我们比以往任何时候都更快地适应技术的变革。这是最可怕的部分。每一次技术革命都变得更快，这将是迄今为止最快的，劳动力市场将会因为AI而迅速发生改变，但是很多人还没有做好准备。”
在对话最后部分，奥特曼分享了关于个人和职业成长的见解，他强调设定明确目标并勇于追求自己真正想要的东西的重要性。他认为，找到与个人目标相契合的工作可以产生巨大的影响力，这一理念一直指引着他作为人工智能研究人员的职业生涯。
以下为盖茨与奥特曼对话精简版：
奥特曼是OpenAI的首席执行官，在科技行业有丰富的从业经历，曾领导过创业孵化器YCombinator。去年11月份，奥特曼被OpenAI董事会短暂解除了首席执行官的职务，但在员工和外部投资者的支持下得以复职。尽管出现了内部动荡，但OpenAI团队的工作效率、乐观度和积极性都很高。该公司正逐渐走向成熟，并为即将到来的挑战做准备。
1.对人工智能的发展和理解
当人工智能聊天机器人ChatGPT首次出现时，就连许多科技大咖都为之惊叹，其中也包括盖茨。他对奥特曼说：“我非常高兴看到你们的工作取得了持续的进展，尽管我之前对这项技术的进步持怀疑态度。ChatGPT的表现让我大吃一惊。”
盖茨补充说，让他惊讶的是，他甚至不明白ChatGPT为何能如此“言之有物”。奥特曼解释道，它有点儿像人类大脑，我们至今也没搞清楚哪些神经元在起作用。人们正在努力更好地理解人工智能的“编码能力”，这可能会显著提高训练效率和准确性。
2.未来两年的里程碑
盖茨问奥特曼：展望未来两年，你认为会有哪些关键的里程碑？
奥特曼回答说，多模态肯定会成为重要的方向。这意味着大模型将能够处理文本、图像和视频等多种媒体的数据。OpenAI已经发布了支持图像和音频输入、输出的功能，反响比预期更热烈。他们将能够继续推进这一领域，但最重要的进步可能在于推理能力的提升。目前，GPT-4的推理能力有限，未来需要在这方面做出更大的突破。
此外，可靠性的提高也是关键的里程碑。如果问GPT-4一个问题一万次，它应该能够始终给出最好的答案，而不是有时候好有时候不好。奥特曼表示，他们正在努力提高模型的可靠性。
可定制性和个性化同样重要。人们希望从GPT-4中获得不同风格和不同假设集的输出，因此他们将努力实现这一目标，并让用户能够使用自己的数据来定制模型。了解用户的能力、偏好和日程安排，以及与其他外部数据源的连接等，都将是重要的改进领域。
奥特曼还称，我们正处在一个漫长而连续的科技发展曲线上，如今的人工智能系统已经具备了完成任务的能力，这无疑提高了我们的生产力。未来，人工智能将能够承担更多目前被认为是人类工作的任务，当然，我们也会因此找到新的、更好的工作机会。
目前我们所见证的技术进步令人兴奋不已，但将其置于整个技术发展背景下，至少在未来五到十年，我们仍处于一个非常陡峭的改进曲线上。如今的人工智能模型可能是有史以来最智能的。编码是目前最让我们兴奋的生产力提升领域之一，它已经被大规模部署和应用。此外，医疗保健和教育也是我们非常关注的领域，它们在技术曲线上也呈现出巨大的潜力。
3.人工智能监管和社会影响
盖茨和奥特曼深入探讨了人工智能的监管问题，这是全球各国政府都在面临的挑战。长期以来，奥特曼一直强调人工智能监管的必要性，而盖茨则引导他分享了更具体的观点。
奥特曼认为，我们可能需要对世界上少数几个最强大的系统进行监管。他预测技术的快速发展会使系统的计算能力达到GPT-4的10万倍或100万倍。
他进一步指出：“如果我们的预测正确，当然实际情况可能并非如此。但如果我们是对的，这项技术将如我们所想般发展，将对社会、地缘政治平衡等诸多方面产生深远影响。”
奥特曼还提到，监管核武器的国际原子能机构（IAEA）或许是一个值得借鉴的范例。他建议对这些模型的审核可能与国际原子能机构监管核武系统的方式类似。
他解释道：“我觉得这是可能的。以前我对此并不确定，但今年我在世界各地进行了广泛的交流，并与许多国家元首深入探讨了这一问题，几乎得到了所有人的支持。”
然而，奥特曼强调，这并不能解决人工智能带来的所有问题。他说：“规模小得多的系统仍然可能出现问题，在某些情况下，可能会出现非常严重的问题。但我认为这有助于我们应对最主要的那一层风险。”
4.机器人和蓝领工作
盖茨和奥特曼认为，机器人技术将被视为一个关键的发展领域，智能和认知优先于物理。过去的共识是，蓝领工作将首先受到人工智能的影响，但事实恰恰相反，创造性工作受到的影响更早。
5.最常用的应用
盖茨和奥特曼互相分享了最常用的应用软件。奥特曼透露，他使用办公软件Slack最多，尽管他更希望ChatGPT成为其最常用的软件。
而盖茨最常用的应用是Outlook：“我是一个老派的电子邮件爱好者，要么使用电子邮件，要么用浏览器。当然，我收到的很多新闻都是通过浏览器发送的。”
奥特曼对此回应道：“我并不把浏览器视为一款应用。相比之下，虽然我很多时候也会使用浏览器，但使用Slack的时候似乎更多。我整天都在用Slack。”
6.音乐偏好
奥特曼喜欢在工作时听古典音乐，特别是由马克斯·里希特（MaxRichter）重新创作的《四季》。
7.高级人工智能的哲学含义
盖茨和奥特曼都很担心人工智能在处理复杂任务和决策过程中可能带来的潜在风险，包括对民主制度的破坏、战争的加剧以及或者带来人与人之间的矛盾等等。
但是问题具有两面性，盖茨和奥特曼都认为，如果能够利用好这项技术，它也能帮助人类，“人工智能是否能够帮助我们减少战争和两极分化？”他补充道：“我希望人们能够解决人类最棘手的问题，例如我们是否能和睦相处。我认为，如果我们认为人工智能可以促进人类之间的和谐相处，那将是非常积极的。”
奥特曼回应道：“我相信这项技术会给我们带来惊喜。它所能做的事情会让我们大吃一惊。我们必须找到答案，然后再看。但我非常乐观。我同意你的看法，那将是巨大的贡献！”
8.人工智能的公平性和可访问性
运行人工智能系统的成本预计将大幅下降，使其更容易为更广泛的受众所接受。OpenAI已经大大降低了GPT-3和GPT-4的成本。
但盖茨在对话中表达了他的担忧，即人工智能将“迫使我们以前所未有的速度适应这项技术”。奥特曼对此表示认同，他认为人工智能将引发人类历史上“最快”的技术革命，而我们可能还没有准备好适应这种速度。
他解释说：“这就是最令人担忧的部分。这并不是说我们必须努力适应。人类的适应能力非常强大。我们之前已经经历了许多重大的技术变革，大多数工作都随着时间的推移而发生了变化。但这一次，变化的速度将会更快，社会必须适应的速度，以及劳动力市场的变化，这将是迄今为止最快的一次技术革命。”
事实上，已经有人看到了他们的工作受到人工智能的影响。在2023年和2024年裁员的公司中，一些公司暗示或直接表示，他们希望通过人工智能工具提高效率，从而减少员工数量。
奥特曼也曾表达过对人工智能的其他担忧。去年，他在接受采访时承认：“最让我感到焦虑的是一种假设，即我们推出ChatGPT已经做了一些非常糟糕的事情。”
9.人工智能领域的竞争与合作
OpenAI面临着人工智能领域日益激烈的竞争，这既具有挑战性，又具有激励作用。奥特曼认为，与微软的合作有利于扩展人工智能的能力。
10.OpenAI的团队和成长
OpenAI大约有500名员工，与谷歌和微软等科技巨头相比，这个数字依然很少。但由于其使命和从事突破性技术工作，该公司吸引了许多顶尖人才。节目录制的时候，OpenAI还没经历戏剧性的董事会变故，在节目播出前奥特曼对比尔·盖茨补充说：“这太戏剧性了，那就像我们真正长大的时刻”。