OpenAI震荡 : 无视安全仓促上4o,每天工作20小时,不再理想主义

  衡小宇白小交发自凹非寺

  量子位公众号 QbitAI

  动荡内幕终于曝光——

  OpenAI CTO Mira Murati 的离开,与 GPT-4o、Her 息息相关!

  简单来说,就是今年春天 OpenAI 为了大抢谷歌开发者大会的风头,紧急推出 GPT-4o。

  时间真的是非、常、紧、张,以至于安全团队只能在极短的时间内(9 天,拿不到更多时间了)完成安全测试评估

  时间紧,任务重,即便 007 式工作,每天工作 20 小时,测试数据还是不足。

  结果大家也看到了,4o 发布后才爆出该模型存在安全问题。

  总的来说,OpenAI 好像有点变形了:压榨员工、轻视安全,在市场上大出风头比安全可靠更重要

  之前奥特曼被开除时诟病的问题,特别是对安全的漠视,实实在在被证明了。比起 AI 技术的安全可靠,他更在乎竞争上的赢。

  很多员工和高管都超不满的。

  当初 4o 发布第二天,沉寂许久的 OpenAI 灵魂人物 Ilya 就宣布了自己的离开。

  现在,4o 全量上线的第二天,Mira 也走了。

  还带着研究主管 Bob McGrew 和研究副总裁 Barret Zoph 一起跑路。

  (真不知道是说这些元老们太顾念公司,还是说 OpenAI 真是营销天才。)

  说来说去,他们告别 OpenAI 都围绕一个原因,那就是“公司对安全重视程度不足”。

  OpenAI,真的不要安全了??!

  试图抢救“安全性”的 Mira

  我们再来展开说说 4o 上线的火急火燎程度。

  今年 5 月 14 日,OpenAI 发布 GPT-4o;5 月 15 日,Google 发布名为 Project Astra 的 AI 助手,同日 OpenAI 首席科学家 Ilya 官宣离职。

  一切的发生,早“有预谋”。

  据透露,挑在 14 日发布,完全因为 OpenAI 想抢 Google 的风头。

  为此,OpenAI 安全团队仅得到了 9 天的时间,来做安全检测。

  就,时间真的不够啊!

  9 天时间里,安全团队成员们 007 式工作,每天不分白天黑夜,拼死拼活干 20 个小时,还是没做完安全测试。

  即便如此,GPT-4o 还是如期发布了。

  然后就果然被发现 GPT-4o 有安全问题,它的“劝说”“诱导”性非常强,具备创建能够说服人们改变信念并参与潜在危险或非法行为的内容的能力。

  很容易引导人误入歧途,干些不好的事,说些不对的话。

  一些 OpenAI 内部员工也表示,仓促发布 GPT-4o,让 OpenAI 失去了对领域内的领先优势。

  但能咋办,发都发布出去了……

  Mira 试图力挽狂澜,只能把 4o 的全量上线往后一延再延,最终在本周三(9 月 25 日)才全量发布。

  隔天她就宣布辞职了。

  她挥一挥衣袖,带走了另外两名高管。

  其实,Mira 也不是没有试图拯救过 OpenAI 的“不安全”。

  一方面,OpenAI 前任及在职员工分别透露过,作为 CTO 的 Mira 多次推迟了包括搜索和语音交互在内的产品的计划发布。她认为它们还没有准备好。

  另一方面,最近曝出 5 月 Ilya 辞职后,Mira 和后来长期休假的总裁 Greg Brockman 都去 Ilya 家找过他。

  他俩带着公司员工写的卡片,对 Ilya 晓之以理,动之以情:我的老天奶,你可回来吧,Ilya!公司现在好混乱,没有你咱肯定得崩溃!

  Ilya 应该是动过心的,他对 OpenAI 的前同事表示,他真的在认真考虑要不要重回 OpenAI。

  但没过多久,Brockman 就打电话过来说 OpenAI 撤回了让 Ilya 重返公司的邀请。

  真·一整个大问号。

  多八卦两句,Ilya 和 Mira 之间,还有其他核心成员因不满 OpenAI 对安全的重视程度而离职。

  比如 John Schulman,也是 OpenAI 的联合创始人。

  8 月 6 日,他告别 OpenAI,转投最强竞对 Anthropic。

  他在推特发文表示,他表示选择离职是为了更深入地从事 AI 对齐研究,即确保 AI 的发展与人类价值观相一致。

  OpenAI 转向:公司关键数据曝光

  一切的一切,似乎都与 OpenAI 转向有关。

  LeCun 表示,将一家非盈利开放研究机构变成一家秘密的、以产品为中心的盈利性公司,势必会导致许多人退出。

  有媒体,甚至直接以 OpenAI as we know it is dead 为名。

  据 OpenAI 内部员工爆料,OpenAI 越来越专注于构建产品而非研发技术。这些产品的重点不再是纯粹的研究。

  此前,也的确有类似的消息爆出,比如 GPT-5 迟迟不发,却计划出 AI 搜索对标谷歌,大举招募产品设计等相关的员工。

  不过另一面,参加过 o1 和

  的研究员 Noam Brown 针对这些传闻了个推特:研究的重要性降低了?没听说过

  奥特曼本周去意大利参加活动时,也否认了员工离职与公司转变有关。

  • 我看到的大多数内容也完全是错误的。但过去一年里,我们的董事会一直在独立思考公司的下一阶段发展需要什么。
  • 我认为这些变动反映了人们准备好迎接人生新篇章,同时也标志着新一代领导力的崛起。

  不过也有网友替奥特曼说话:经营一家公司远比想象中那么困难。它不可能以非盈利的形式生存下来。

  纽约时报今天也透露了关于 OpenAI 经营的一些关键数据:

  • 8 月收入达到了 3 亿美元,相较于去年(2023 年)年初增长了 1700%,较去年同同期增长两倍多。
  • 截至今年 6 月,每月使用其服务的人约有 3.5 亿人,相较于今年 3 月仅有 1 亿人左右,高了三倍多。
  • 今年的年销售额预计约为 37 亿美元,其中 10 亿来自于企业;而去年仅有 7 亿美元。
  • 每月大概有 1000 万 ChatGPT 用户,向 OpenAI 支付 20 美元。
  • 2025 年收入将达到 116 亿美元;2029 年收入达到 1000 亿美元。

  这样看,OpenAI 其实已经赚很多了,甚至势头还在蹭蹭蹭地往上涨。

  但如果对于现阶段的公司来说,可能还不够。

  比如支付一些基础运营和硬件设施的费用,今年就将亏损约 50 亿美元。

  那老板就不能不管了。要么从用户这边入手,要么从投资方这边入手。

  文件中显示,预计今年年底 ChatGPT 订阅价格将再涨个 2 美元, 并且未来五年内涨到 44 美元。

  我先帮咱们算算,大概一个月也就 300 多块钱吧。

  那融资这边,OpenAI 一直就没有闲着。

  早在今年 8 月份就被曝出,OpenAI 正在就新一轮融资进行谈判。

  老股东兴盛资本(Thrive Captial)可能领投 10 亿美元,最大股东微软也有望参与此轮融资(但没看到 OpenAI 首位投资人 Vinod Khosla 的身影)。

  由此,OpenAI 的估值将超过此前的 860 亿美元,甚至超过 1000 亿美元。

  什么概念呢?相当于当时 Anthropic 估值(150 亿)的 6 倍、马斯克 xAI(240 亿)的 4 倍。

  结果现在刚好一个月过去,这次寻求的融资估值已上升至——1500 亿美元。

  融资窗口期:高层动荡,苹果退出

  如今,OpenAI 又迎来了关键的融资窗口期。

  本轮计划以 1500 亿美元估值收获 70 亿美元融资,不过其他媒体爆料说是 65 亿美元,也是创业公司有史以来最高估值之一。微软预计将参与投资 10 亿美元。

  这轮融资最早可能在下周结束。

  据爆料,作为投资的一部分,OpenAI 有两年时间需要将自己的公司转变成营利性的公司。

  随后还会有新的一系列电话会议,介绍 OpenAI 产品和研究团队的主要领导人。

  这样的时间,大批量重要高管离职,也不免让一些业内人士合理怀疑:

  融资还没结束就离职,可能会让投资者恐慌,由此搞乱 OpenAI 接下来进展。

  不过就在刚刚,有消息称,苹果将不再参与此次的投资。

  以及对于 OpenAI 来说,最大的挑战不是一笔两笔融资,也不是产品模型是不是依然具备先进性,而是正在失去理想主义的旗帜,变得没有梦想,走向平庸。

  奥特曼在被重新评价

  归结起来一句话:初心已不再。

  当初 OpenAI 建立,就是看到了 AI 正在带来的巨大改变,以及最顶级的 DeepMind 这样的研究机构,正在成为 Google 这样巨头的附庸,包括马斯克在内的人,担心智能时代的核武器,垄断在日益“邪恶”的大公司手中。于是自掏腰包、慷慨解囊,给最顶级的人才发大公司同样级别的薪水,然后用梦想激励他们 Think Different,真正改变世界。

  天才 Ilya 就是在这样的背景中,放弃了谷歌最顶级的待遇,成为 OpenAI 的联合创立者,一点点沿着“天方夜谭”式的 AGI 目标,最后在 GPT 的新范式中,真正改写了 AI 时代的进程。

  然而山姆·奥特曼不是这样的人,他不是技术出身,他也不是乔布斯那样希望通过产品改变世界的人,他关注创新、欣喜于创业投资的乐趣,但最后似乎角色更像是一个顶级的硅谷生意人。他最初的角色是 OpenAI 的资助者,后来成了 CEO,然后又在马斯克出局 OpenAI 后获得了更大的内部话语权,并且在 ChatGPT 问世后,大名得曝,地位前所未有,一度封神。

  他被外界评价“ChatGPT 之父”——即便严格来讲他不是,他乐于代表整个团队谈论 AGI、谈论 AI 带来的世界变革,游走出访于各个国家,享受最受欢迎的追捧。一度,他被放到了乔布斯、马斯克之后,认为他可能就是下一个从硅谷改变世界的人。

  直到 Ilya 发动内讧,以“不顾 AI 安全”之名,把他开除,这是 OpenAI 裂缝的开始,但裂痕却没有得到愈合,并且越来越大。

  Ilya 最终走了,OpenAI 的前进似乎并没有结束,即便所有人都感知得到进展在减缓。

  奥特曼也开始呈现了更加诡异得一面,在他已经再无掣肘的领导下,OpenAI 越来越关注竞争,而不是 Think Different;越来越展现估值、融资和盈利可能性上的追求,而不是 AGI 的目标;变得越来越不 cool,甚至被曝出开始搞办公室政治,开始走下坡路……

  于是在核心技术人员的流失中,在 OpenAI 显而易见的转变中,一度封神的奥特曼,开始面临全新的争议,他开始获得一些完全不同的评价,他现在是这样一个人——

  一个被 ilya 带到了他不应该有的高度的人,一个追名逐利现在利欲熏心的人,一个曾经被拥护最后又众叛亲离的人。

  一个让 OpenAI 失去理想主义的人。

  参考链接:

  [1]https://x.com/bindureddy/status/1839819878792122600

  [2]https://x.com/oran_ge/status/1839820626774950351

  [3]https://www.wsj.com/tech/ai/open-ai-division-for-profit-da26c24b?st=C8P17G&reflink=desktopwebshare_permalink

  [4]https://x.com/bindureddy/status/1839819878792122600

  [5]https://x.com/ciphergoth/status/1834665686280683533

  [6]https://www.nytimes.com/2024/09/27/technology/openai-chatgpt-investors-funding.html