最新万字长文专访奥特曼:被解职时痛苦万分
据国外媒体报道,美国知名播客莱克斯·弗里德曼(Lex Friedman)近期再次邀请人工智能领域的领军人物、OpenAI首席执行官山姆·奥特曼(Sam Altman)进行专访。这次对话,奥特曼不仅深入剖析了OpenAI董事会近期的变动,还畅谈了首席科学家伊利亚·苏茨凯弗(Ilya Sutskever)的未来动向、与埃隆·马斯克(Elon Musk)之间的法律纷争,以及备受瞩目的文字转视频工具Sora、豪掷7万亿美元的芯片计划、即将推出的新一代大语言模型GPT-5,乃至通用人工智能(AGI)的远景规划等。
以下为此次专访实录全文:
01 OpenAI董事会风波
问:请带我们回顾下从2023年11月16日周四开始的OpenAI董事会风波,也许是11月17日周五。
奥特曼:那绝对是我一生中最痛苦的职业经历,充满了混乱、羞耻、沮丧以及其他一大堆负面的东西。不过,其中也不乏值得珍藏的美好瞬间。我希望自己当时能够保持冷静,不被过度的肾上腺素冲昏头脑,从而能够停下来细细品味那些宝贵的经历。
但当我看到那时候发的推文时,感觉这就像自己的悼词,记录着人们在那个特殊时期对我的赞美和支持。看到这些推文,我深感欣慰,也感受到了身边人的爱与关心。真是太棒了!整个周末,尽管遭遇了一些不愉快的事情,但总体而言,我感受到的爱远远超过了恨。
尽管我不知道到底发生了什么,也不知道将要发生什么,这感觉真的很糟糕。确实有很多时候,我认为这将是人工智能安全有史以来最糟糕的事情之一。但我也很庆幸这一切发生得相对较早。我认为,在OpenAI成立和通用人工智能(AGI)诞生的过程中,注定会有一系列疯狂且具有爆炸性的事件发生。这些事件虽然令人不安,但也为我们提供了宝贵的经验和教训,为未来应对更多挑战做好了准备。
问:但你自己有一种感觉,你会经历某种权力斗争?
奥特曼:确实,通往通用人工智能的道路可能会涉及多方面的权力斗争。我希望是这样。
问:所以,你必须要经历这些。正如您所言,我们需要深思熟虑如何构建董事会架构,如何有效组织,以及如何与合作伙伴沟通,力求在最大程度上减少权力斗争的发生。
奥特曼:是的。回首过去,那段经历确实令人不悦,充满了艰难和痛苦。然而,当我们重新投入工作时,繁忙和紧张的节奏让我无暇过多沉湎于过去的情绪。在那之后的一个月,也许是45天里,我仿佛处于一种游离的状态,每天都像是在漂泊,思绪并不清晰。那时的我,情绪异常低落,仿佛被阴影笼罩。
问:你对董事会审议过程的参与度和严谨性有了解吗?你能谈谈在这种情况下涉及的人际关系动态吗?是不是只是几次对话,然后事态突然激化,然后就有人提出“为什么我们不解雇山姆”之类的建议?
奥特曼:我认为董事会成员总体上都是出于好意的人,我相信在那种压力环境下,人们感到时间紧迫或其他什么,人们会做出不那么明智的决定都可以理解。我认为OpenAI面临的挑战之一将是,我们需要有一个擅长在压力下运作的董事会和团队。
问:你认为董事会的权力过大了吗?
奥特曼:我认为董事会应该有很大的权力,但我们确实看到的一件事是,在大多数公司架构中,董事会通常要对股东负责。有时人们拥有超级投票权或其他什么。在这种情况下,我认为我们结构中的一个问题是,我们可能没有充分考虑到非营利组织董事会实际上掌握着很大的权力,除非你有其他规定。他们并不真正向任何人负责,基本上只对自己负责。这在某些方面是好的,但我们真正希望的是OpenAI的董事会能够对整个世界负责,尽管这在实践中可能很难实现。
问:所以你们宣布组建新的董事会。
奥特曼:是的。
问:我想一开始有一个新的、规模较小的董事会,现在有一个新的最终董事会吗?
奥特曼:还不是最终的董事会。我们增加了一些人,还会增加更多。
问:在新的董事会中,有哪些是之前那个董事会中可能存在的问题,现在得到了解决?
奥特曼:原董事会在一年的时间里规模变小了。原本是九个人,后来减少到六个人,然后我们无法就新增成员达成一致。此外,我认为董事会也没有太多经验丰富的董事会成员,而OpenAI的很多新董事会成员在作为董事会成员方面更有经验。我认为这将有所帮助。
问:有人批评了新加入董事会的一些人。例如,我听到了很多人批评拉里·萨默斯(Larry Summers)的加入。那么选择董事会成员的过程是怎样的?涉及哪些因素?
奥特曼:选择布雷特·泰勒(Bret Taylor)和萨默斯为董事会成员是在那个非常紧张的周末做出的决定,而那个周末真是就像坐过山车一样,给人一种大起大落的感觉。我们试图就新的董事会成员达成一致,这些成员既要让这里的执行团队感到满意,也要得到原董事会成员的认可。
实际上,萨默斯是原董事会成员推荐的人选之一。至于布雷特,我想在那个疯狂周末之前,我就提议过他,但他当时很忙,不想接受这份工作。之后,我们确实需要帮助,他才加入进来。我们也考虑了很多其他人选,但我觉得如果我回来的话,我需要更换新的董事会成员。我不认为我可以在同样的人员配置下再次与原董事会合作,尽管后来我们决定让亚当·德安吉洛(Adam D’Angelo)留下。但我们考虑了各种配置,最终决定想要组建一个三人的董事会,并需要短时间内找到两名新的董事会成员。
所以那些决定确实是直接做出的,你必须在战场上迅速做出决定。那时你没有时间设计严格的流程。对于之后的新的董事会成员,以及我们还将要继续添加的新成员,我们有一些认为对董事会来说重要的标准,我们希望这些人具备的不同专长。与招聘一名高管不同,他只需要把一个角色做好,但对于董事会成员来说,他需要需要在治理和思考方面表现出全方位的能力。因此,布雷特说的一句话我很认同,那就是我们想要以成批的形式招聘董事会成员,而不是一次一个地招聘。我们正在考虑的是一群能够带来非营利组织专业知识、公司运营专业知识、良好的法律和治理专业知识的人,这是我们试图优化的目标。
问:那么,对于单个董事会成员来说,技术素养重要吗?
奥特曼:不是每个董事会成员都需要这类素养,但确实有一些人需要。这也是董事会职责一部分。
问:关于OpenAI,人们可能不了解的有趣的一点是,我当然也不了解,那就是经营公司的所有细节。当人们想到董事会时,鉴于其中的戏剧化元素,他们可能首先会想到你。他们会想:如果你开发出AGI或你创造出一些极具影响力的产品,并成功将它们推向市场,你和董事会之间的对话会是什么样的?他们可能还会想:在那种情况下,应该有什么样的合适团队来进行决策和讨论?
奥特曼:我认为,董事会中确实需要一些技术专家。同时,你需要一些能够思考“我们如何部署这项技术才能最大限度造福人类?”的人,还需要一些持有不同观点的人。我认为你我可能会犯的一个错误是,认为只有理解技术才是挑选董事会成员的重要标准,这当然是董事会应该讨论的一部分,但关于这项技术将如何影响社会和人们的生活,你也也同样希望能够在董事会中得到体现。
问:你在考虑人选时,是更看重他们的过往经历,还是只是与他们交谈即可?
奥特曼:过往经历很重要。当然,你们会进行很多交谈,但有些职位我完全不看重过往经历,只看他的上升势头,忽略掉Y轴的截距。
问:谢谢。谢谢你为观众用数学的方式做出解释。
奥特曼:对于董事会成员,我确实更看重Y轴截距。我认为过往经历中有一些深刻的东西可以说,经验是很难被替代的。
问:你尝试将过往经历拟合为多项式函数还是指数函数?
奥特曼:这个类比不太合适。
问:好的。你之前提到了那个疯狂周末遭遇的一些低谷。对你来说,心理上还有哪些低谷?你有没有考虑过去亚马逊丛林里喝下亚胡阿斯卡(一种致幻剂),然后永远消失?
奥特曼:那是一段非常糟糕的时期。当然,也有一些很棒的时刻。我的手机不断收到与我日常合作的人以及那些我已经十年没联系过的人发来的关怀信息。因为我当时正处于危机之中,因此没有太多时间去回应,没能充分感受到这份温暖,但这确实让人感到很棒。总的来说,那是一个非常痛苦的周末。就像是在公众面前进行的一场战斗,让我感到非常疲惫,比我预想的还要难受。我认为争斗通常都很累人,但这次真的特别疲惫。董事会是在周五下午做出决定的。我并没有得到太多答复,但我也认为,董事会有权这么做,所以我会稍微花点时间思考一下我接下来想做什么,但我也会努力从中找到隐藏的祝福。
我当时心想,我目前在OpenAI的工作,或者之前的工作,是经营一家规模相当大的公司。而我一直最喜欢的事情就是与研究者们一起工作。然后我就想,我可以非常专注地去做AGI的研究工作。我开始对这个想法感到兴奋。当时我甚至没有想到这一切都会化为泡影。那已经是周五下午了。
问:所以你接受了这样的终结——
奥特曼:非常快,真的非常快。我经历了一段短暂的迷茫和愤怒,但这种负面状态很快就过去了。到了周五晚上,我已经在和别人讨论下一步要做什么了,而且我对此感到很兴奋。我记得是周五晚上,我第一次从这里的执行团队那里听到消息,他们说:“嘿,我们要抗争到底。”然后我就去睡觉了,心里还是想着:我很兴奋,继续前进!
问:你睡得好吗?
奥特曼:根本就没怎么睡。奇怪的是,有一段四天半的时间,我睡得很少,吃得也不多,但还是精力充沛。战时你会学到一些关于肾上腺素的奇怪事情。
问:所以你接受了这样的结局,OpenAI这个被你视为“孩子”的公司迎来了失败的一天。
奥特曼:我对新的事物都感到兴奋。我心想:“行吧,这玩意儿确实疯了点,但管它呢!”
问:这是一个很好的应对机制。
奥特曼:然后到了周六早上,两位董事会成员打来电话说:“嘿,我们不想搅局。我们不想在这里储存太多价值。我们能谈谈你回来的事吗?”最初,我不想回去,但后来又仔细地想了想,我还是觉得,我真的很关心这里的人、合作伙伴和股东们。我爱这家公司。所以我对他们说:“好吧,但我有自己的条件。”然后在那个周末最痛苦的时候,我一直在反思,也被告知,不仅仅是我,整个团队都在想,我们试图努力维持OpenAI的稳定,而那时整个世界都在试图让它分崩离析,人们试图招募我们的人。
我们一直被告知:“好了,我们快要弄完了。我们快要完成了。我们只需要再多一点点时间。”这是一种非常混乱的状态,直到周日晚上,我几乎每隔几个小时就期待这种混乱能够结束,找到一种让我回去的方法,让事情恢复到原来的样子。但董事会随后任命了一位新的临时首席执行官,我当时就觉得,这感觉真的很糟糕。那是整个事件的最低谷时刻。我告诉你,这感觉很痛苦,但整个周末我感受到了很多关怀。除了周日晚上的那一瞬间,我不会用愤怒或仇恨来形容我的情绪,但我感受到了人们对我的爱。虽然痛苦,但那个周末的主导情绪是爱,而不是恨。
问:你曾高度赞扬了米拉·穆拉蒂(Mira Murati),你说她在你推文中提到的关键时刻给予了你特别帮助。也许我们可以稍微偏离一下主题。你欣赏穆拉蒂哪些品质?
奥特曼:她在那个周末的混乱中做得很好,人们往往在危机时刻才会关注领导者的表现,无论是好是坏。但我真正欣赏这类领导者的一点是,他们在平凡的周二早上9点46分和日常繁琐工作中是如何表现的。他们如何出席会议,他们做决策的质量如何。这就是我所指的“静默时刻”。
问:这意味着大部分工作都是在日复一日、一次次的会议中完成的。只要保持专注,并做出明智的决策即可。
奥特曼:是的。你看,过去20分钟你想谈论的,我理解的,是那一个非常疯狂的周末,但那并不是OpenAI的真正意义所在。OpenAI真正重要的是过去的七年。
问:嗯,确实如此。人类文明可不仅仅关于纳粹德国入侵苏联,尽管人们仍然关注这一点。
奥特曼:这是完全可以理解的。
02 苏茨凯弗其实很逗逼
问:它能帮助我们洞察人性,人性的极端,也许人类文明的某些成就和某些损害就是在这些时刻发生的。人类文明的某些毁坏和伟大成就得以显现,因此这非常具有启发性。下面,让我问你关于伊利亚·苏茨凯弗(Ilya Sutskever)的事情。他是不是被劫持在一个秘密的核设施里充当人质?
奥特曼:当然不是。
问:那是被藏在普通的秘密设施里?
奥特曼:也不是。
问:这事儿都快成梗了。你认识伊利亚很久了,对吧?他显然卷入了董事会那场风波,还有那一大堆乱七八糟的事情。你现在和他关系怎么样?
奥特曼:我依然喜欢伊利亚。我非常尊重他。关于他现在的计划,我无可奉告。那是他的问题,该由他来回答。但我真的很希望在我职业生涯的剩余时间里,我们能继续一起工作。他比我年轻一些,也许他还会再工作久一些。
问:有一个搞笑梗说伊利亚好像看到了什么东西,比如他可能看到了通用人工智能,这让他内心充满了忧虑。伊利亚到底看到了什么?
奥特曼:伊利亚从来没有看到通用人工智能。我们任何人都没有看到过。我们还没有开发出通用人工智能。不过,伊利亚身上有很多让我敬佩的品质,其中之一是他非常重视通用人工智能及其广泛的安全问题,包括这项技术将对社会产生的影响。随着我们继续取得重大进展,伊利亚是过去几年里我花最多时间讨论这将意味着什么的人之一,讨论我们需要做什么来确保我们做得正确,确保我们成功地完成使命。所以,虽然伊利亚没有看到通用人工智能,但他在思考并确保我们在这个过程中做得正确,这对人类来说是一份巨大贡献。
问:我以前和他聊过很多次。我认为当他谈论技术时,总是进行这种长期思考。所以他不是在想一年后会怎么样,而是在想十年后的事情,只是从首要原则开始思考,比如“好吧,如果这项技术能够扩展开来,这里的根本要素是什么?它将走向何方?” 这也是他思考所有其他安全问题和所有类似问题的基础,这使得与他交谈非常有趣。你知道他为什么近来变得沉默了吗?他是在进行自我反思吗?
奥特曼:再次强调下,我不想代表伊利亚发言。我觉得你应该问问他本人。他确实是一个习惯深入思考的人。我觉得伊利亚总是在以一种非常好的方式进行灵魂探索。
问:对,没错。而且,他也很懂得沉默的力量。另外,我听说他有时也挺逗的,但我从没见过他那一面。
奥特曼:那样的他真的很可爱。
问:我从没见过逗比的伊利亚,但我也很期待看到那一面。
奥特曼:我最近和他一起参加了一个晚宴,他当时正在和一只小狗玩,心情非常放松,那场景相当温馨!我当时就想,哇,这不是世界最常见的伊利亚。
问:那么,就这整桩事情而言,你对董事会的架构满意吗?
奥特曼:是的。
问:关于这一切及其走向,你有什么看法?
奥特曼:我对新组建的董事会感觉很满意。在OpenAI的架构方面,董事会的一项职责就是要审视并找出我们可以使其更加稳健的地方。我们原本想先安排新的董事会成员到位,但显然,在这个过程中,我们在结构方面学到了一个教训。我觉得我没有太多深刻的见解要说。这是一次疯狂、非常痛苦的经历。我觉得这是各种奇怪情况的完美风暴。这次经历让我预见到了未来的挑战:随着赌注的提高,我们将需要更加稳健的治理结构和流程,以及更加合适的人选。我很高兴这件事发生在我还年轻的时候,但经历它确实非常痛苦。
问:这件事会让你在信任他人时变得更加犹豫吗?
奥特曼:会。
问:只是在个人层面吗?
奥特曼:是的。我自认为是一个非常信任他人的人。我的人生哲学一直是不要过于担忧所有的偏执狂想,不要担心那些边缘情况。即便你稍微吃点亏,换来的是可以放下防备地生活。然而,这次经历对我来说太震撼了。我完全措手不及,它确实改变了我。我真的不喜欢这种感觉,但它确实改变了我对人的默认信任和对糟糕情况的应对方式。
问:你得在这方面小心一点。你担心自己会变得过于愤世嫉俗吗?
奥特曼:我不担心自己会变得过于愤世嫉俗。我认为自己与愤世嫉俗的人截然相反,但我担心自己会变得不那么容易信任他人。
问:实际上,对于正在开发通用人工智能(AGI)的人来说,我不清楚应该选择信任模式还是不信任模式来行动才是最好的。这是一次有趣的旅程。但在结构方面,我更关注人性层面。你如何让自己身边围绕着既能构建出色事物,又能做出明智决策的人?因为随着你开始赚更多的钱,这个东西拥有更大影响力,周围的人们可能会变得越来越奇怪。
奥特曼:关于董事会成员以及我应该持有的信任程度,或者我应该如何以不同的方式行事,你可以提出各种看法。但就这里的团队而言,我想你会给我非常高的评价。我对我每天一起工作的人们怀有巨大的感激、信任和尊重,我认为被这样的人们包围着真的非常重要。