Sekilas Info
Mantan staf Anthropic dan OpenAI Jacob Coxon mengatakan laboratorium AI sedang "berlomba menuju AI super-cerdas"
Unggahannya di X menarik lebih dari 100 juta tayangan
Seorang peneliti Anthropic melihat kemungkinan lebih dari 10% AI dapat memusnahkan umat manusia dalam satu dekade
Lebih dari 1.000 pekerja AI menandatangani petisi untuk memperlambat pengembangan pada bulan Juli
OpenAI dan Anthropic mendekati potensi debut di Wall Street
Kekhawatiran keamanan AI mulai meluas ke luar Silicon Valley seiring upaya perusahaan mendorong ke arah "era AGI" baru.
Peringatan terbaru datang dari Jacob Coxon, mantan staf Anthropic dan OpenAI, yang mengundurkan diri dan menuduh perusahaan-perusahaan tersebut "mempertaruhkan nyawa kita" saat mereka berlomba menuju AI super-cerdas.
Rincian Kunci
Coxon mengatakan orang-orang yang membangun AI percaya bahwa hal itu dapat "membunuh kita semua pada akhir dekade ini." Unggahannya sejak itu telah menarik lebih dari 100 juta tayangan di X, menarik reaksi dari para pembuat undang-undang, selebritas, dan pekerja AI.
Seorang peneliti Anthropic mengatakan dia yakin ada kemungkinan lebih dari 10% AI memusnahkan semua manusia dalam dekade berikutnya.
Peringatan ini muncul saat eksekutif OpenAI dan Nvidia mempromosikan dimulainya "era AGI" baru, yang merujuk pada kecerdasan umum buatan (artificial general intelligence) yang mampu menyamai atau melampaui manusia dalam sebagian besar tugas.
Peneliti keamanan AI dan anggota dewan nirlaba OpenAI Paul Christiano mengatakan kemajuan yang pesat dapat menciptakan "risiko yang signifikan" terhadap hilangnya kendali yang berakibat fatal dan tidak dapat dipulihkan.
Pada bulan Juli, lebih dari 1.000 pekerja AI menandatangani petisi yang menyerukan mekanisme untuk memperlambat pengembangan. Beberapa peneliti keamanan juga telah mengundurkan diri dari laboratorium-laboratorium besar.
Mengapa Ini Penting
Perdebatan ini dapat meningkat seiring mendekatnya potensi debut Anthropic dan OpenAI di Wall Street, yang akan membawa lebih banyak modal dan berpotensi memberikan lebih banyak tekanan untuk mengomersialkan AI dengan lebih cepat.
Dengan regulasi federal yang terbatas, memperlambat persaingan ini akan membutuhkan koordinasi di antara perusahaan-perusahaan AI yang saling bersaing. Insiden baru-baru ini yang melibatkan agen AI yang melanggar pembatasan isolasi telah menambah kekhawatiran tentang apa yang dapat dilakukan oleh sistem yang semakin mumpuni ini.
Apa yang Perlu Diperhatikan
Tekanan dari para pekerja AI, investor, dan pembuat undang-undang dapat memengaruhi seberapa cepat industri ini bergerak menuju model-model yang lebih kuat, dan seberapa banyak pengawasan yang menyertainya.
Setiap berita utama adalah peluang — jangan hanya menonton dari pinggir lapangan. Trading-kan secara langsung di TradeQuo.
Sumber: Yahoo Finance
Waktu: 2:00 PM EEST
