Bir Bakışta
Eski Anthropic ve OpenAI çalışanı Jacob Coxon, yapay zeka laboratuvarlarının “süper zeki yapay zekaya doğru yarıştığını” söylüyor
X paylaşımları 100 milyondan fazla izlendi
Bir Anthropic araştırmacısı, yapay zekanın on yıl içinde insanlığı yok etme olasılığını %10'dan fazla görüyor
1.000'den fazla yapay zeka çalışanı Temmuz ayında gelişimi yavaşlatmak için bir dilekçe imzaladı
OpenAI ve Anthropic, potansiyel Wall Street çıkışlarına yaklaşıyor
Şirketler yeni bir “AGI dönemine” doğru ilerlerken, yapay zeka güvenliği endişeleri Silicon Valley dışına taşıyor.
Son uyarı, süper zeki yapay zekaya doğru yarışırken şirketleri “hayatlarımızla kumar oynamakla” suçlayarak istifa eden eski bir Anthropic ve OpenAI çalışanı olan Jacob Coxon'dan geldi.
Önemli Detaylar
Coxon, yapay zeka üreten insanların bunun “on yılın sonuna kadar hepimizi öldürebileceğine” inandığını söyledi. Paylaşımları o zamandan beri X'te 100 milyondan fazla izlendi; milletvekillerinin, ünlülerin ve yapay zeka çalışanlarının tepkisini çekti.
Bir Anthropic araştırmacısı, yapay zekanın önümüzdeki on yıl içinde tüm insanları yok etme olasılığının %10'dan fazla olduğuna inandığını belirtti.
Uyanışlar, OpenAI ve NVIDIA yöneticilerinin, çoğu görevde insanlarla eşleşebilen veya onları aşabilen yapay genel zekaya atıfta bulunarak yeni bir “AGI döneminin” başlangıcını duyurdukları bir döneme denk geliyor.
Yapay zeka güvenliği araştırmacısı ve OpenAI kar amacı gütmeyen yönetim kurulu üyesi Paul Christiano, hızlı gelişmelerin katastrofik ve geri döndürülemez bir kontrol kaybı konusunda “önemli bir risk” oluşturabileceğini söyledi.
Temmuz ayında, 1.000'den fazla yapay zeka çalışanı gelişimi yavaşlatacak bir mekanizma çağrısında bulunan bir dilekçe imzaladı. Birkaç güvenlik araştırmacısı da büyük laboratuvarlardan istifa etti.
Neden Önemli?
Anthropic ve OpenAI potansiyel Wall Street çıkışlarına yaklaştıkça, daha fazla sermaye ve yapay zekayı daha hızlı ticarileştirmek için potansiyel olarak daha fazla baskı getirerek tartışma yoğunlaşabilir.
Sınırlı federal düzenlemelerle, yarışı yavaşlatmak rakip yapay zeka şirketlerinin koordine olmasını gerektirecektir. Yapay zeka ajanlarının muhafazayı ihlal ettiği son olaylar, giderek daha yetenekli hale gelen sistemlerin neler yapabileceğine dair endişeleri artırdı.
Neler Takip Edilmeli?
Yapay zeka çalışanlarından, yatırımcılardan ve milletvekillerinden gelen baskı, sektörün daha güçlü modellere ne kadar hızlı yöneleceğini ve bunlarla birlikte ne kadar denetim geleceğini şekillendirebilir.
Her manşet bir fırsattır — kenardan izlemeyin. TradeQuo üzerinde canlı işlem yapın.
Kaynak: Yahoo Finance
Zaman: 14:00 EEST
