一目でわかる概要
元AnthropicおよびOpenAIのスタッフであるジェイコブ・コクソン氏は、AI研究所が「超知能AIに向けて競い合っている」と述べています
彼のX（旧Twitter）への投稿は1億回以上の閲覧を記録しました
あるAnthropicの研究者は、10年以内にAIが人類を滅ぼす可能性が10%以上あると考えています
7月には、1,000人以上のAI開発者が開発スピードを落とすよう求める署名を行いました
OpenAIとAnthropicは、ウォール街へのデビュー（株式公開）が近いとされています
企業が新たな「AGI時代」へと突き進む中、AIの安全性に対する懸念がシリコンバレーの外へと広がっています。
最新の警告は、元AnthropicおよびOpenAIのスタッフであるジェイコブ・コクソン氏から発せられました。同氏は退職後、超知能AIへの競争において企業が「私たちの命をギャンブルにさらしている」と非難しました。
主な詳細
コクソン氏は、AIを構築している人々自身が、今世紀末までにAIが「私たち全員を殺す可能性がある」と信じていると述べました。彼の投稿はその後、Xで1億回以上のインプレッションを集め、議員や著名人、AI開発者らの反応を呼び起こしています。
あるAnthropicの研究者は、今後10年以内にAIが全人類を滅ぼす可能性が10%以上あると考えていると述べました。
こうした警告は、OpenAIやNVIDIAの幹部らが、ほとんどのタスクにおいて人間に匹敵またはそれを超える能力を持つ人工一般知能（AGI）を指す、新たな「AGI時代」の始まりをアピールしている中で発せられています。
AI安全研究者であり、OpenAIの非営利理事会メンバーでもあるポール・クリスティアーノ氏は、急速な進歩が壊滅的かつ不可逆的な制御喪失の「重大なリスク」を生み出す可能性があると述べています。
7月には、1,000人以上のAI開発者が開発を抑制する仕組みを求める請願書に署名しました。また、いくつかの主要な研究所からも、安全研究者らが相次いで辞任しています。
なぜこれが重要なのか
AnthropicやOpenAIがウォール街へのデビューを控えている中、さらなる資金流入とともにAIの商用化を加速させる圧力が高まり、この議論はさらに激化する可能性があります。
連邦政府による規制が限定的であるため、この競争のペースを落とすには、ライバル関係にあるAI企業同士が協調する必要があります。また、AIエージェントが制御を突破した最近の事案を受け、より能力の高まったシステムが何を引き起こすかについて、懸念がさらに深まっています。
今後の注目点
AI開発者、投資家、そして議員からの圧力が、業界がより強力なモデルへと移行するスピードや、それに伴う監視体制の強さを左右することになるでしょう。
すべてのヘッドラインはチャンスです。傍観者でいるのはやめましょう。TradeQuoでリアルタイムに取引を始めましょう。
情報源: Yahoo Finance
時間: 東部ヨーロッパ夏時間（EEST）午後2:00
