Nhìn lướt qua
Cựu nhân viên Anthropic và OpenAI, Jacob Coxon, cho biết các phòng thí nghiệm AI đang “chạy đua hướng tới AI siêu thông minh”
Các bài đăng trên X của ông đã thu hút hơn 100 triệu lượt xem
Một nhà nghiên cứu của Anthropic nhận thấy có hơn 10% khả năng AI có thể xóa sổ nhân loại trong vòng một thập kỷ
Hơn 1.000 nhân viên AI đã ký vào bản kiến nghị làm chậm quá trình phát triển vào tháng 7
OpenAI và Anthropic đang tiến gần đến màn ra mắt tiềm năng trên Phố Wall
Nỗi lo sợ về an toàn AI đang lan rộng ra khỏi Thung lũng Silicon khi các công ty thúc đẩy hướng tới một “kỷ nguyên AGI” mới.
Cảnh báo mới nhất đến từ Jacob Coxon, cựu nhân viên Anthropic và OpenAI, người đã nghỉ việc và cáo buộc các công ty đang “đánh bạc với mạng sống của chúng ta” khi họ chạy đua hướng tới AI siêu thông minh.
Chi tiết chính
Coxon cho biết những người xây dựng AI tin rằng nó có thể “tiêu diệt tất cả chúng ta vào cuối thập kỷ này.” Các bài đăng của ông kể từ đó đã thu hút hơn 100 triệu lượt xem trên X, thu hút phản ứng từ các nhà lập pháp, người nổi tiếng và nhân viên AI.
Một nhà nghiên cứu của Anthropic cho biết ông tin rằng có hơn 10% khả năng AI sẽ xóa sổ tất cả con người trong vòng một thập kỷ tới.
Các cảnh báo được đưa ra khi các giám đốc điều hành của OpenAI và NVIDIA thúc đẩy sự khởi đầu của một “kỷ nguyên AGI” mới, đề cập đến trí tuệ nhân tạo tổng hợp có khả năng ngang bằng hoặc vượt trội con người trong hầu hết các nhiệm vụ.
Nhà nghiên cứu an toàn AI và là thành viên ban quản trị phi lợi nhuận của OpenAI, Paul Christiano, cho biết những tiến bộ nhanh chóng có thể tạo ra “nguy cơ đáng kể” dẫn đến việc mất kiểm soát thảm khốc và không thể đảo ngược.
Vào tháng 7, hơn 1.000 nhân viên AI đã ký một bản kiến nghị kêu gọi một cơ chế làm chậm quá trình phát triển. Một số nhà nghiên cứu an toàn cũng đã từ chức tại các phòng thí nghiệm lớn.
Tại sao điều này quan trọng
Cuộc tranh luận có thể gia tăng khi Anthropic và OpenAI tiếp cận các màn ra mắt tiềm năng trên Phố Wall, mang lại nhiều vốn hơn và có khả năng gây ra nhiều áp lực hơn để thương mại hóa AI nhanh hơn.
Với các quy định liên bang còn hạn chế, việc làm chậm cuộc đua sẽ đòi hỏi các công ty AI đối thủ phải phối hợp với nhau. Các sự cố gần đây liên quan đến việc các tác nhân AI phá vỡ rào cản ngăn chặn đã làm tăng thêm mối lo ngại về những gì các hệ thống ngày càng có năng lực cao có thể làm.
Những điều cần theo dõi
Áp lực từ nhân viên AI, nhà đầu tư và các nhà lập pháp có thể định hình tốc độ chuyển dịch của ngành hướng tới các mô hình mạnh mẽ hơn và mức độ giám sát đi kèm với chúng.
Mỗi tiêu đề là một cơ hội — đừng chỉ đứng nhìn từ bên lề. Hãy giao dịch trực tiếp trên TradeQuo.
Nguồn: Yahoo Finance
Thời gian: 2:00 CH EEST
