“到2030年AI可能会杀死我们所有人？”——硅谷敲响警钟

一瞥

• 前 Anthropic 和 OpenAI 员工 Jacob Coxon 表示，AI 实验室正在“向超智能 AI 狂奔”

• 他在 X 上的帖子吸引了超过 1 亿次的浏览量

• 一位 Anthropic 研究员认为，十年内 AI 消灭人类的概率大于 10%

• 今年 7 月，超过 1,000 名 AI 从业者签署了放缓发展速度的请愿书

• OpenAI 和 Anthropic 正接近潜在的华尔街首秀

随着企业推向新的“AGI 时代”，对 AI 安全的担忧正在蔓延出硅谷。

最新的警告来自前 Anthropic 和 OpenAI 员工 Jacob Coxon，他辞职并指责这些公司在争夺超智能 AI 的竞争中“拿我们的生命做赌注”。

核心细节

Coxon 表示，构建 AI 的人相信它可能会“在这十年结束前杀死我们所有人”。此后，他的帖子在 X 上吸引了超过 1 亿次的浏览量，引发了立法者、名人和 AI 从业者的反应。

一位 Anthropic 研究员表示，他认为在未来十年内，AI 消灭所有人类的概率大于 10%。

这些警告发出之际，OpenAI 和 NVIDIA 高管正在宣传新“AGI 时代”的开始，指的是在大多数任务中能够达到或超越人类水平的通用人工智能。

AI 安全研究员兼 OpenAI 非营利董事会成员 Paul Christiano 表示，快速的发展可能会带来灾难性和不可逆转的失控“重大风险”。

今年 7 月，超过 1,000 名 AI 从业者签署了一份请愿书，呼吁建立一种放缓开发速度的机制。几位安全研究人员也已经从主要实验室辞职。

为什么重要

随着 Anthropic 和 OpenAI 临近潜在的华尔街首秀，这场争论可能会加剧，这会带来更多资金，并可能带来更快实现 AI 商业化的更大压力。

由于联邦监管有限，放缓这场竞争需要相互竞争的 AI 公司进行协调。最近涉及 AI 智能体突破限制的事件，增加了人们对功能日益强大的系统可能做出何种行为的担忧。

值得关注的内容

来自 AI 从业者、投资者和立法者的压力可能会决定该行业向更强大模型发展的速度，以及伴随而来的监管力度。

每一个新闻头条都是一个机会——不要在场边观望。在 TradeQuo 上进行实盘交易。

来源：Yahoo Finance

时间：2:00 PM EEST