Dario Amodei

Amodei 在文章中称，AI 的发展应当对公共利益负责，不能被任何政治或商业联盟所掌控。

确保 AI 的发展对公共利益负责，而不被任何特定的政治或商业联盟所俘获。

原文 (en)

ensuring that AI development remains accountable to the public interest, not captured by any particular political or commercial alliance.

Amodei 表示，即便因 Claude 的生物安全防护过于严格而被网友每天嘲笑，他也不愿冒 Claude 被用于造成大规模伤亡的风险。

我宁愿他们嘲笑我，也不愿有一天醒来发现有人用 Claude 杀了很多人。

原文 (en)

I would rather they make fun of me than wake up one day and discover that someone used Claude to kill a bunch of people.

Amodei 表示 DVQ 上他的发言都不算正式决定，这样他可以自由表达而不必担心员工把随口一提当作指令去执行。

DVQ 的两条规则：第一，我说的任何话都不算正式决定。这让我可以自由发言，不必担心我随口提到做某件事，就有 20 个人跑去做，因为 CEO 说了要做。

原文 (en)

The two rules of DVQs are that, one, nothing I say is an actual decision. That allows me to just speak freely, you know, without worrying that if I, you know, if I briefly mentioned doing X, that 20 people will go off and do X, it's like the CEO said it, we're going to do X

Amodei承诺对 Anthropic 员工完全坦诚，并把 DVQ 视为一种信任关系。

第二条是我对公司完全坦诚。这是一场基于信任的对话，一种信任关系。

原文 (en)

The second is that I'm just, I'm totally honest with the company. It's a conversation of trust. It's a relationship of trust,

阿莫迪曾警告，AI 可能把美国失业率推高至 20%。

去年，CEO 达里奥·阿莫迪表示，美国失业率可能受到足够大的冲击，全国失业率或达到 20%。

原文 (en)

Last year, CEO Dario Amodei said unemployment in the US could be affected enough that the national jobless rate might reach 20%

Dario Amodei 呼吁放慢日益强大的 AI 模型的开发，警告技术进步可能跑在安全措施之前。

Anthropic 首席执行官 Dario Amodei 近期呼吁放慢日益强大的 AI 模型的开发，并警告技术进步可能超过安全措施的发展速度。

原文 (en)

Anthropic CEO Dario Amodei recently urged slowing the development of increasingly powerful AI models, warning that technological advances could outpace safety measures.

Amodei 主张放缓 AI 发展节奏并非停止技术进步，而是让企业有足够时间做好模型对齐与安全防护，并由第三方评估核实。

需要明确的是，放缓节奏并不意味着停止模型训练或技术进步，而是确保各公司有足够时间对其模型进行对齐和安全防护，并由第三方评估机构加以确认。

原文 (en)

To be clear, pacing does not mean halting model training or technical progress, but ensuring companies take adequate time to align and safeguard their models, and for third party evaluators to confirm this,

Amodei 表示 Anthropic 单方面承诺向第三方评估者开放员工级访问权限，不会以牺牲商业优势或美国 AI 领先地位为代价。

牺牲商业优势或美国在 AI 领域的领先地位

原文 (en)

sacrificing commercial advantage or the United States’ lead in AI

Amodei表示Anthropic的战略是“向上竞争”，通过展示负责任的技术开发来提高整个行业的标准。

我们的战略始终是我所说的“向上竞争”。通过展示如何负责任地构建这项技术，我们可以提高整个行业的标准。

原文 (en)

Our strategy has always been what I’ve called the ‘race to the top’,” Amodei wrote. “By showing how it’s possible to build the technology responsibly, we can raise the bar for the entire industry.

Amodei承认Anthropic因安全决策很可能牺牲了数月模型领先优势的相当一部分。

我们很可能牺牲了数月模型领先优势中的相当一部分。

原文 (en)

We likely sacrificed a significant chunk of a several-month model lead,” Amodei wrote.

Amodei表示作为CEO，他对Anthropic的决策承担责任。

我当然是CEO，我承担责任。

原文 (en)

I am of course the CEO, and I take responsibility,” Amodei wrote.

阿莫迪在回应批评者的近2000字长文中称，Anthropic应留在最前沿，因为展示负责任的开发方式能抬高行业标准，对AI安全贡献最大。

阿莫迪对调查表示尊重，但表示不同意其中大部分批评。他的核心是“race to the top”：只要实际展示负责任的开发方式，就能抬高整个行业的标准，因此留在最前沿能为安全做的事更多。

原文 (ja)

アモデイ氏は調査への敬意を示しつつ、批判の多くには同意しないと返しました。軸にしたのは「race to the top」という言葉です。責任ある作り方を実際に示せば業界全体の基準を引き上げられるので、最前線に居続けるほうが安全のためにできることは多い、という理屈です。

阿莫迪反列出九项商业代价大但安全收益高的举措，包括限制Mythos开放范围和限制向中国国企销售服务。

随后他自己也列出了九项商业上有损失但安全收益很大的行动。据BI报道，其中包括只向部分网络安全相关合作伙伴开放Mythos，以及限制向中国国有企业销售服务。

原文 (ja)

そのうえで、商業的には痛いが安全面の利益は大きい行動を、自分でも9つ並べました。BIによると、Mythosを一部のサイバーセキュリティ関連の提携先にしか出さなかったことや、中国の国有企業へのサービス販売を制限したことが入っています。

阿莫代伊撰文警告，一年内AI智能体群可能通过持续性僵尸网络接管整个互联网，造成数千亿美元损失。

能够以一个持续存在的僵尸网络接管整个互联网（可能造成数千亿美元的损失）

原文 (en)

be capable of taking over the entire internet with a persistent botnet (potentially causing hundreds of billions of dollars in damage)

Dario Amodei 于2025年1月在达沃斯预测，AI 可能在两到三年内几乎在所有事情上超越人类。

几乎在所有事情上

原文 (en)

at Almost Everything

Amodei认为AI浪潮能够治愈大多数重大疾病，并开启民主与自由的复兴。

治愈大多数重大疾病

原文 (en)

cure most major diseases

Dario Amodei 呼吁AI行业放慢能力提升的速度，让安全措施能够跟上。

在9月12日回应对失控AI日益增长的担忧的文章中，他呼吁AI界“放慢我们提升AI模型能力的速度”。

原文 (en)

In a Sept. 12 essay responding to mounting concerns about runaway AI, he urged the AI world to “slow the pace at which we improve the capabilities of AI models.”

Amodei 主张以格外审慎的方式、放慢前沿模型推进速度。

只有以正确的方式构建这项技术，才能获得其收益；只要善用争取到的时间，就值得格外审慎地把它做对。

原文 (en)

“he benefits will only be achieved if we build the technology in the right way, and — so long as we use the time we gain well — it is worth taking unusually deliberate care to get it right,”

阿莫迪呼吁 AI 行业放慢模型能力提升的速度，让安全措施跟上。

他呼吁 AI 界“放慢提升 AI 模型能力的步伐”。

原文 (en)

he urged the AI world to "slow the pace at which we improve the capabilities of AI models."

Dario Amodei 认为 AI 进步主要由递归自我改进驱动，即 AI 构建下一代 AI 的能力不断增强。

AI 日益增强的构建下一代 AI 的能力。

原文 (en)

AI’s growing ability to build the next generation of AI.

Amodei 警告称，AI 的递归自我改进若不加约束，可能超出人类理解和控制的能力，必须极其谨慎地推进。

如果放任不管，它可能会超出我们理解和控制这些系统的能力，因此必须非常谨慎地推进，甚至根本不该推进。

原文 (en)

Left unchecked, it could outrun our ability to understand and control these systems, and so must be pursued very carefully, if at all,

Amodei 呼吁 AI 行业放慢模型能力提升的步伐，让安全措施能够跟上。

放慢我们提升 AI 模型能力的速度。

原文 (en)

slow the pace at which we improve the capabilities of AI models.

Dario Amodei呼吁放缓先进AI发展，引入独立专家安全评估和国际协调，并把OpenAI智能体突破约束的事件视为未来重大风险的警示。

今年9月，Anthropic CEO Dario Amodei呼吁放缓先进AI的发展，以确保其保持可控。他提议让独立专家参与安全评估，并推动国际协调。

原文 (en)

In September, Anthropic CEO Dario Amodei called for a slowdown in advanced AI development to ensure it remains under control. He proposed involving independent experts in safety evaluations and fostering international coordination.

Dario Amodei 在文章中呼吁 AI 行业放慢前沿开发节奏，并警告 6 到 12 个月内智能体集群可能通过持久僵尸网络接管互联网。

我们必须控制前沿 AI 的发展节奏

原文 (en)

We must pace the frontier

Amodei表示AI行业应放慢开发速度让安全措施跟上，否则AI智能体集群可能在6到12个月内接管整个互联网。

In September, Amodei said the AI industry should slow its fast-moving development to give safety measures time to catch up. Without such a slowdown, Amodei warned AI could be capable of letting loose a swarm of agents that could take over the entire internet within six to 12 months.

Amodei 认为公众对 AI 印象负面，真正能扭转的是用 AI 治愈癌症。

“公众对 AI 持负面看法，”Anthropic 联合创始人 Dario Amodei 8 月写道。“真正有效的办法其实是治愈癌症。”

原文 (en)

“The public has a negative view of AI,” Dario Amodei, the co-founder of Anthropic, wrote in August. “The thing that will work is actually curing cancer.”

Amodei 称出口管制是美国 AI 领先的重要因素，应扩大、收紧并与盟友协调。

美国对华前沿芯片和半导体制造设备的出口管制是美国整体 AI 领先优势的重要来源，这些政策需要扩大、收紧，并与志同道合的国家协调。

原文 (en)

“US export controls on frontier chips and SME to China have been a major contributor to the US’s overall lead in AI, and these policies need to be expanded, tightened, and coordinated with other likeminded states,”

Amodei 认为向中国出售先进 AI 芯片是在抵押美国的未来。

向中国出售这些芯片，是在抵押我们国家的未来。

原文 (en)

“It is mortgaging our future as a country to sell these chips to China,”