「AI 可能在 2030 年前毀滅人類？」—— 矽谷敲響警鐘

一瞥

• 前 Anthropic 和 OpenAI 員工 Jacob Coxon 表示，AI 實驗室正「競相開發超智慧 AI」

• 他在 X 上的發文吸引了超過 1 億次觀看

• 一位 Anthropic 研究人員認為，十年內 AI 有超過 10% 的機率可能消滅人類

• 今年 7 月，超過 1,000 名 AI 從業人員簽署了放慢開發速度的請願書

• OpenAI 和 Anthropic 正接近潛在的華爾街首秀

隨著企業推動邁向新的「AGI 時代」，AI 安全擔憂正從矽谷蔓延開來。

最新的警告來自前 Anthropic 和 OpenAI 員工 Jacob Coxon，他辭職並指責這些公司在競相開發超智慧 AI 的過程中「拿我們的生命作賭注」。

關鍵細節

Coxon 表示，開發 AI 的人相信它可能在「這十年結束前殺死我們所有人」。自那以後，他的發文在 X 上吸引了超過 1 億次觀看，引發了立法者、名人和 AI 從業人員的反應。

一位 Anthropic 研究人員表示，他相信在未來十年內，AI 有超過 10% 的機率消滅所有人類。

這些警告出現之際，OpenAI 和 NVIDIA 高階主管正宣傳新「AGI 時代」的開始，意指在大多數任務中能夠達到或超越人類的人工一般智慧。

AI 安全研究員兼 OpenAI 非營利董事會成員 Paul Christiano 表示，快速的進展可能會帶來災難性和不可逆轉的失控「重大風險」。

今年 7 月，超過 1,000 名 AI 從業人員簽署了一份請願書，呼籲建立放慢開發速度的機制。幾位安全研究人員也已從主要實驗室辭職。

為什麼重要

隨著 Anthropic 和 OpenAI 接近潛在的華爾街首秀，這場辯論可能會加劇，這將帶來更多資金，並可能帶來更快將 AI 商業化的更大壓力。

在聯邦監管有限的情況下，放慢競爭需要競爭對手 AI 公司進行協調。最近涉及 AI 代理突破控制的事件，增加了人們對能力日益增強的系統可能做出何種行為的擔憂。

值得關注的焦點

來自 AI 從業人員、投資者和立法者的壓力，可能會影響該行業向更強大模型發展的速度，以及隨之而來的監管力道。

每個新聞標題都是一個機會 — 不要只在旁觀望。在 TradeQuo 進行實盤交易。

來源：Yahoo Finance

時間：下午 2:00 EEST