Sam Altman

Sam Altman 据报道预计 AI 有三种最终结局：全球监管机构、顶级实验室合并为一体，或某家公司率先突破并能瘫痪对手的硬件。

第一种是建立全球监管机构，第二种是顶级实验室合并为单一实体，第三种是某家公司率先突破关键技术，甚至获得瘫痪竞争对手硬件的能力。

原文 (en)

The first is the establishment of a global regulatory body, the second is the consolidation of top labs into a single entity, and the third is that one company will take the lead in breaking through key technologies, even gaining the capability to paralyze the hardware of its competitors.

Sam Altman 认为 AI 用水量被严重夸大，称每3.8万次 ChatGPT 查询的用水量只相当于生产一颗加州杏仁。

每38,000次ChatGPT查询所用的水量，相当于在加州生产一颗杏仁所用的水量。

原文 (en)

For every 38,000 ChatGPT queries, that is the same amount of water used in the production of one single almond in California.

据报道，Sam Altman 告诉 OpenAI 员工，AI 有三种可能的终局，其中一种是单一公司一家独大，让其他所有人的 GPU 都“熔化”。

让其他所有人的 GPU 都熔化

原文 (en)

melts everyone else’s GPUs

奥尔特曼表示自己要对 ChatGPT 采用何种道德框架负责，且自推出以来一直睡不好。

必须为采用哪种道德框架的决定负责的人是我。我晚上睡不好。自从 ChatGPT 推出以来，我没有一晚睡得安稳。

原文 (en)

The person who must be held responsible for the decisions about which moral framework is applied is me. I do not sleep well at night. I have not slept well a single night since ChatGPT was launched,

奥尔特曼称，关于模型行为的细小决策在庞大用户规模下影响巨大，令他担忧。

让我夜不能寐的是我们对模型行为方式做出的那些小决定。其影响很大。

原文 (en)

What keeps me up at night are the small decisions we make about how a model behaves. The impact is big,

奥尔特曼提出一个两难问题：即便出于研究目的，ChatGPT 是否应提供生物武器制造指导，凸显与用户自由之间的张力。

即使你的目的仅仅是研究，ChatGPT 是否应该教你如何制造生物武器？

原文 (en)

Should ChatGPT teach you how to build a biological weapon even if your aims are merely research-related?

Altman不认同AGI已经到来，但表示OpenAI已接近目标，预计年底前实现AGI。

OpenAI的Sam Altman也不同意黄仁勋的判断，称他认为公司已接近目标，预计将在年底前实现AGI。

原文 (en)

OpenAI's Sam Altman also didn't agree with Huang's assessment, saying that he thought his company was almost there and expected to reach AGI by the end of the year.

Sam Altman 承诺 AI 技术将带来今天难以想象程度的共同繁荣。

今天看来难以想象程度的共同繁荣

原文 (en)

shared prosperity to a degree that seems unimaginable today

据报道，奥特曼在内部简报中明确否定了由单一开发者凭借自我改进的 AI 压制所有对手、“熔掉其他人 GPU”的“Eliezer 方案”。

显然我认为那个（方案）很糟糕。

原文 (en)

Obviously I think that one’s terrible.

奥特曼预测AI将带来疾病治愈以及全民的极度富裕。

全民极度富裕

原文 (en)

universal extreme wealth

Altman 据报道向员工描述了超级智能竞赛的三种结局：IAEA 式监管、类 CERN 的实验室合并，或单一公司凭递归自我改进一家独大。

据报道，Sam Altman 告诉 OpenAI 员工，超级智能竞赛有三种可能的结局：类似国际原子能机构的监察机构审计前沿实验室；领先实验室合并为类似 CERN 的单一实体；或某一家公司凭借递归自我改进遥遥领先，以至于能够“熔毁其他所有人的 GPU”。

原文 (en)

Sam Altman reportedly told OpenAI employees there are three plausible endings to the race to build superintelligence: an International Atomic Energy Agency-style inspector that would audit frontier labs, a merger of the leading labs into a single CERN-like entity, or one firm pulling so far ahead through recursive self-improvement that it could 'melt everyone else's GPUs.'

Altman 据报道称单一公司凭递归自我改进瘫痪对手硬件、一家独大的情景“很糟糕”。

据报道，Altman 称这种结果“很糟糕”。

原文 (en)

Altman called that outcome 'terrible,' according to the reporting.

Altman 据称告诉员工，“Eliezer 方案”即一家实验室率先实现递归自我改进并让对手得不到算力，是糟糕的结局，列入只是为了完整。

在这种情形下，某一家开发者率先实现递归自我改进，再凭借失控式的经济优势让所有对手得不到算力——用 Altman 直白的话说，就是“熔掉其他所有人的 GPU”。这是披着思想实验外衣的赢家通吃结局，Altman 据称只是“为了完整起见”才把它列入。

原文 (en)

In this scenario, one developer reaches recursive self-improvement first, then uses its runaway economic lead to starve every rival of compute — or, in Altman’s blunt phrasing, “melt everyone else’s GPUs.” It’s a winner-take-all outcome dressed up as a thought experiment, and Altman reportedly included it “only for completeness.”

Altman 告诉员工，当前通过安全测试后发布的做法只是“pacing 1.0”，行业需在约一年内选定安全开发前沿 AI 的路径。

据 The Information 报道，Sam Altman 上周在内部讲话中向 OpenAI 员工阐述了安全开发前沿 AI 的三种可能“终局”。他据称把当前的做法，即模型通过安全测试后发布并提示任何顾虑，称为“pacing 1.0”。他告诉员工，这一决定必须在大约一年内做出。

原文 (en)

According to The Information, Sam Altman walked OpenAI staff through three possible “endgames” for safely developing frontier AI in an internal talk last week. He reportedly called the current playbook — shipping models once they pass safety tests and flagging any concerns — “pacing 1.0.” The decision, he told employees, has to be made within roughly a year.

Altman 据称倾向于设立类似 IAEA 的全球监管机构，审计前沿实验室及其算力和能源使用。

据报道，Altman 似乎倾向于这一选项，而且这并不新鲜。类似 IAEA 的构想出现在 OpenAI 2023 年 5 月由 Altman、Greg Brockman 和 Ilya Sutskever 合写的文章《超级智能的治理》中。

原文 (en)

Per the report, Altman appeared to favor this option — and it’s not new. The IAEA-style idea appears in OpenAI’s own May 2023 post “Governance of superintelligence,” co-authored by Altman, Greg Brockman and Ilya Sutskever.

奥特曼在内部讲话中称 AI 安全选择为“pacing 2.0”，呼吁一年内做出决定，并为自我改进的 AI 设定速度限制或停止点。

奥特曼将这一选择称为“pacing 2.0”，并呼吁在一年内做出决定。他表示，该方案必须为能自我改进的 AI 设定“速度限制”或停止点。

原文 (en)

Altman described the choice as “pacing 2.0” and called for a decision within a year. He said the approach must include a “speed limit” or stopping point for AI that improves itself.

据报道，奥特曼称国际机构和CERN式方案都需要大量协调，OpenAI现在不能放弃竞争位置。

据报道，奥特曼告诉员工，前两个方案需要大量协调，而OpenAI现在承受不起让出阵地，OpenAI和Anthropic都在走向公开上市。

原文 (en)

Altman reportedly told staff that the first two plans demand heavy coordination and that OpenAI cannot afford to cede ground now, with both the startup and Anthropic moving toward public offerings.

Sam Altman表示愿意接受部分事情出错，并警告开源模型将带来一波网络安全问题的巨浪。

我们愿意接受某些事情出错。……未来将有一波网络安全问题的巨浪，来自这些开源模型。

原文 (en)

We are willing to accept some things going wrong,” OpenAI CEO Sam Altman told Vanity Fair’s global editorial director, Mark Guiducci, last month, adding that “there is a coming tidal wave of cybersecurity problems that are going to come from these open-source models.

Sam Altman 警告称，将未来的控制权让给 AI 是不可接受的，并强调 OpenAI 站在人类一边，AI 必须始终服务于人。

AI 的发展可能以两种方式走向非常糟糕的结果，我们必须避免。第一，我们可能把未来的控制权拱手让给 AI。这是不可接受的；我们毫不讳言地站在人类这一边，AI 必须始终为人服务。

原文 (en)

There are two ways AI progress could go very badly and that we must avoid. First, we could lose control of the future to AI. This is unacceptable; we are unapologetically on Team Humanity, and AI must always serve people.

Altman 表示支持让独立评估机构获得类似员工的权限来评估 AI 实验室。

OpenAI 首席执行官 Sam Altman 当时表示，他也支持让独立评估者拥有类似员工的访问权限这一想法。

原文 (en)

OpenAI CEO Sam Altman said at the time that he also supported the idea of independent evaluators with employee-like access.

Sam Altman 在9月表示，OpenAI 现在上市时机不对、并不明智。

“现在上市是个不明智的时机。”

原文 (en)

“Right now would be an ill-advised moment to go public,”

Sam Altman 表示，由于 AI 安全仍需更多工作，OpenAI 不会在 2026 年上市。

OpenAI 首席执行官 Sam Altman 在 9 月表示，公司不会在 2026 年上市，理由是 AI 安全方面仍有工作要做。

原文 (en)

CEO Sam Altman said in September that the company would not go public in 2026, citing the work still needed on AI safety.

奥特曼认为人们无法直觉理解指数增长，这是盲区，也是看清AI发展轨迹的创业者的巨大优势。

世界并不懂得如何直觉地理解指数级增长。

原文 (en)

The world does not understand how to intuit exponentials

奥特曼回忆称，在外界轻视深度学习时，OpenAI 觉得自己掌握着最大的秘密，被低估反而是一份礼物。

多年来在 OpenAI，我们感觉自己掌握着世界上最大的秘密。

原文 (en)

For years at OpenAI it felt like we knew the biggest secret in the world

Sam Altman 在 2023 年向国会警告，如果 AI 技术出问题，后果可能非常严重。

“如果这项技术出了问题，后果可能相当严重。”

原文 (en)

“If this technology goes wrong, it can go quite wrong.”

奥特曼在宣布陆奇负责 YC 中国时，称其是自己认识的最出色的技术专家之一。

我很高兴地宣布，陆奇将加入 YC，创办并负责 YC 中国。我多年来一直试图招募他——他是我认识的最出色的技术专家之一。

原文 (en)

I am delighted to announce that Qi Lu is joining YC to launch and run YC China. I have been trying to recruit Qi for many years — he is one of the most impressive technologists I know,