한눈에 보기
전 Anthropic 및 OpenAI 직원인 Jacob Coxon은 AI 연구소들이 "초지능 AI를 향해 경쟁하고 있다"고 말합니다.
그의 X 포스트는 1억 회 이상의 조회수를 기록했습니다.
한 Anthropic 연구원은 10년 이내에 AI가 인류를 멸종시킬 확률이 10% 이상이라고 보고 있습니다.
지난 7월, 1,000명 이상의 AI 개발자들이 개발 속도를 늦추자는 청원에 서명했습니다.
OpenAI와 Anthropic은 월가 데뷔 가능성에 가까워지고 있습니다.
기업들이 새로운 "AGI 시대"를 향해 나아가면서 AI 안전에 대한 우려가 실리콘밸리를 넘어 흘러나오고 있습니다.
최근의 경고는 전 Anthropic 및 OpenAI 직원이었던 Jacob Coxon으로부터 나왔는데, 그는 퇴사하며 이들 기업이 초지능 AI를 향해 경쟁하면서 "우리의 목숨을 담보로 도박을 하고 있다"고 비난했습니다.
주요 세부 사항
Coxon은 AI를 만드는 사람들이 AI가 "이 시대가 끝나기 전에 우리 모두를 죽일 수 있다"고 믿고 있다고 말했습니다. 그의 게시물은 이후 X에서 1억 회 이상의 조회수를 기록하며 국회의원, 연예인, AI 업계 종사자들의 반응을 이끌어냈습니다.
한 Anthropic 연구원은 향후 10년 이내에 AI가 모든 인류를 전멸시킬 가능성이 10% 이상이라고 믿는다고 말했습니다.
이러한 경고는 OpenAI와 NVIDIA 경영진이 대부분의 작업에서 인간과 대등하거나 그 이상을 수행할 수 있는 인공일반지능을 의미하는 새로운 "AGI 시대"의 시작을 홍보하는 가운데 나왔습니다.
AI 안전 연구원이자 OpenAI 비영리 이사회 멤버인 Paul Christiano는 빠른 발전이 통제력을 상실하는 재앙적이고 되돌릴 수 없는 "의미 있는 위험"을 초래할 수 있다고 말했습니다.
지난 7월에는 1,000명 이상의 AI 업계 종사자들이 개발 속도를 늦추기 위한 메커니즘을 요구하는 청원에 서명했습니다. 여러 안전 연구원들도 주요 연구소를 사직했습니다.
이것이 중요한 이유
Anthropic과 OpenAI가 잠재적인 월가 데뷔에 가까워짐에 따라, 더 많은 자본과 잠재적으로 AI 상용화를 더 빠르게 진행해야 한다는 더 큰 압박이 가해지면서 논쟁이 심화될 수 있습니다.
연방 규제가 제한적인 상황에서 경쟁 속도를 늦추려면 라이벌 AI 기업들 간의 협력이 필요할 것입니다. 최근 AI 에이전트가 격리 구역을 돌파한 사건들은 점점 더 유능해지는 시스템이 무엇을 할 수 있을지에 대한 우려를 더하고 있습니다.
주목할 사항
AI 개발자, 투자자, 국회의원들의 압박은 업계가 더 강력한 모델을 향해 얼마나 빨리 움직일지, 그리고 그에 따라 얼마나 많은 감독이 수반될지를 결정할 수 있습니다.
모든 헤드라인은 기회입니다 — 방관하지 마세요. TradeQuo에서 실시간으로 거래하세요.
출처: Yahoo Finance
시간: 오후 2:00 (EEST)
