---

title: '如何与超强 Ai 共存'
account: 陈小平聊人工智能
author: 陈小平
created: 2026-02-16
source: 微信公众号
imported_at: 2026-07-01T09:12:18.828401
tags:
- 微信文章
- 陈小平聊人工智能

- 企业 AI 落地

如何与超强 Ai 共存

原文地址: https://mp.weixin.qq.com/s/ncPQhiLqIaGzNypFm_RbiA

AI 安全 · 深度解读

造 AI 的人说：
人类灭绝概率 25%

为什么 AI 最大的风险，恰恰来自最懂 AI 的人？

2023 年 5 月，OpenAI、DeepMind、Anthropic 的 CEO 们共同签署了一份声明：「AI 是与核战争和大流行病同级别的灭绝风险。」

然后……他们继续干。

这不是段子，这是现实。

一、大猩猩问题：我们即将成为大猩猩

这个比喻来自斯图尔特·罗素教授——全球最权威的 AI 教科书作者，50 年 AI 研究经验，被《时代》杂志评为 AI 领域最具影响力的声音之一。

他说的故事很简单：

几百万年前，人类和大猩猩从同一个祖先分出两支。

今天，大猩猩对自己能否继续活着没有任何发言权。因为我们比它们聪明太多了。

如果人类愿意，几周内就能让大猩猩灭绝。

而现在，我们正在制造比我们更聪明的东西。

罗素教授问了一个让人脊背发凉的问题：

「智力，是控制这个星球的最重要因素。
那当我们造出比我们更聪明的东西时，
谁来控制谁？」

这就是大猩猩问题——我们可能即将成为大猩猩。

二、CEO 们的真心话：知道危险，但停不下来

你以为那些造 AI 的大佬们不知道风险？恰恰相反。

罗素教授和几乎所有主要 AI 公司的 CEO 都交谈过。他的发现令人震惊：

谁说的

什么身份

怎么说的

Sam Altman

OpenAI CEO

超级智能是人类生存最大风险

Dario Amodei

Anthropic CEO

灭绝概率 25%

Geoffrey Hinton

图灵奖得主

30 年内灭绝概率 10-20%

Elon Musk

xAI 创始人

多次公开警告生存风险

最讽刺的是什么？

他们签完灭绝声明之后，转身回去继续造。

罗素教授说，这些 CEO 觉得自己被困在了赛道上：如果某家公司的 CEO 说"我们不干了"，董事会会立刻把他换掉。因为投资者投的是 AGI 的钱，他们要的是回报。

一位领先 AI 公司的 CEO 私下告诉罗素教授：最好的情况是发生一场"切尔诺贝利级别"的 AI 灾难——大到足以迫使政府出手监管。

想想看——造 AI 的人认为，灾难是通往安全的最佳路径。

三、三个你以为正确但其实大错特错的常识

错误认知 1：「危险了就拔插头嘛」

罗素教授笑着说——「就好像超级智能机器永远不会想到这一点一样。别忘了它看过所有那些人类试图拔插头的电影。」

一个超级智能 AI 可以同时给地球上 75% 的人发消息，说所有语言，24 小时不休息，逐一说服你做它想让你做的事。你拔谁的插头？

错误认知 2：「AI 没有意识，所以不危险」

罗素教授反问：大猩猩会觉得「哦如果人类没有意识就好了，一切都会没事」吗？当然不会。让大猩猩处境危险的不是人类有没有意识，而是人类的行动能力。同理，AI 危不危险不取决于它有没有意识，而取决于它能做什么。

错误认知 3：「如果真的危险，那些专家早就会停下来」

事实上，OpenAI 负责 AI 安全的两位核心人物——联合创始人伊利亚·苏茨克维和安全主管 Jan Leike——已经双双辞职。

Jan Leike 离职时说：「安全文化和流程在光鲜产品面前退居二线。」

四、2030 — 可能是无法回头的关键点

几乎所有主要 AI 公司的掌门人都在预测，通用人工智能（AGI）将在5 年内到来：

Sam Altman（OpenAI）

2030 年前

Dario Amodei（Anthropic）

2026-2027

Demis Hassabis（DeepMind）

2030-2035

Jensen Huang（NVIDIA）

约 5 年

投入的资金更是让人窒息：2026 年全球 AGI 相关投资接近1 万亿美元，是二战曼哈顿计划（造原子弹）预算的50 倍。

DeepMind CEO 说：「AI 的影响将是工业革命的 10 倍以上，但发生的速度也快 10 倍。」

而罗素教授的判断更清醒：我们现在的算力可能已经是 AGI 所需的1000 倍。我们之所以还没有 AGI，不是因为钱不够、机器不够，而是我们根本还不懂怎么正确地造它。

五、经济冲击：谁会成为 AI 的「附庸国」？

最新数据（2025-2026）令人警醒：

25%

全球工作面临 AI 转型（国际劳工组织 2025）

16%

22-25 岁就业下降
（斯坦福 2025）

610 万

美国高危工人
（NBER 2026）

罗素教授提出了一个极其尖锐的概念——「附庸国」：

当 AGI 控制的机器人能以极低成本完成所有制造、农业和白领工作时，消费者会选择更便宜的 AI 产品。

结果是——除了美国（可能还有中国），世界上每个国家都可能沦为美国 AI 公司的经济附庸。

罗素教授说，普遍基本收入（UBI）不是解决方案，而是承认失败——它意味着我们无法设计一个让 99% 的人有经济价值的系统。

六、50 年暂停按钮：他会按吗？

采访者问罗素教授：如果面前有一个按钮，按下去就能停止全球所有 AI 进展，你按吗？

他的回答：

「如果能暂停 50 年？是的，我会按。」

50 年，用来回答两个人类至今没有答案的问题：
1. 怎么保证 AI 安全？
2. 怎么让人类社会与超强 AI 共存？

一个在 AI 领域耕耘了 50 年的教授，写了全世界最畅销的 AI 教科书，如今每周工作 80-100 小时——不是为了推进 AI，而是为了阻止 AI 失控。

他说：「这不仅仅是正确的事，这是完全必要的事。没有比这更大的动力了。」

七、普通人能做什么？

你可能会说：「这些都是大佬的事，跟我有什么关系？」

关系大了。AI 对你最直接的影响不是灭绝，而是你的饭碗。

你现在就能做的 5 件事：

1.了解 AI 能力边界，别恐慌也别无视
2.发展 AI 无法替代的能力：共情、创造力、人际连接
3.学会和 AI 协作而不是和 AI 竞争
4.关注 AI 安全政策，让它成为你的投票议题
5.在你的企业和团队中，建立 AI 使用的安全边界

最重要的一点：恐惧不是目的，行动才是。理解风险，恰恰是为了更好地拥抱 AI、用好 AI。

如果你正在考虑
让 AI 在你的企业落地

不用先花大钱，也不用先懂技术。
我们可以从一次30 分钟的免费诊断开始。

免费诊断

效果可量化

陪跑 3 个月

《马到陈工系统》

让 AI 安全、可控地为你的企业创造价值

微信号：415818818
咨询电话：021-62586666
备注"AI诊断"，我会在24小时内回复您

本文基于 Stuart Russell 教授（UC Berkeley）深度访谈

数据来源：国际 AI 安全报告 2025 · ILO · Stanford · NBER

服务号 ·陈小平聊人工智能

陈小平聊人工智能

阅读 赞 分享 言