W skrócie
Były pracownik Anthropic i OpenAI, Jacob Coxon, twierdzi, że laboratoria AI „ścigają się w kierunku superinteligentnej sztucznej inteligencji”
Jego posty na platformie X przyciągnęły ponad 100 milionów wyświetleń
Jeden z badaczy Anthropic ocenia szanse na to, że AI wyeliminuje ludzkość w ciągu dekady, na ponad 10%
Ponad 1000 pracowników branży AI podpisało w lipcu petycję o spowolnienie rozwoju
OpenAI i Anthropic zbliżają się do potencjalnego debiutu na Wall Street
Obawy dotyczące bezpieczeństwa AI przenoszą się poza Dolinę Krzemową, gdy firmy dążą do nowej „ery AGI”.
Najnowsze ostrzeżenie nadeszło od Jacoba Coxona, byłego pracownika Anthropic i OpenAI, który odszedł z pracy i oskarżył firmy o „hazard naszym życiem” w wyścigu po superinteligentną AI.
Kluczowe szczegóły
Coxon powiedział, że ludzie tworzący AI wierzą, że może ona „zabić nas wszystkich do końca dekady”. Jego posty od tego czasu zdobyły ponad 100 milionów wyświetleń na platformie X, wywołując reakcje ustawodawców, celebrytów i pracowników branży AI.
Jeden z badaczy Anthropic przyznał, że jego zdaniem istnieje ponad 10% szans na to, że AI wyeliminuje wszystkich ludzi w ciągu najbliższej dekady.
Ostrzeżenia te pojawiają się w momencie, gdy dyrektorzy OpenAI i Nvidia promują początek nowej „ery AGI”, odnosząc się do sztucznej inteligencji ogólnej, zdolnej do dorównania lub przewyższenia ludzi w większości zadań.
Badacz bezpieczeństwa AI i członek zarządu organizacji non-profit OpenAI, Paul Christiano, powiedział, że szybki postęp może stworzyć „istotne ryzyko” katastrofalnej i nieodwracalnej utraty kontroli.
W lipcu ponad 1000 pracowników branży AI podpisało petycję wzywającą do stworzenia mechanizmu spowalniającego rozwój. Kilku badaczy bezpieczeństwa odeszło również z głównych laboratoriów.
Dlaczego to ma znaczenie
Debata może przybrać na sile, gdy Anthropic i OpenAI zbliżą się do potencjalnych debiutów na Wall Street, co przyniesie więcej kapitału i potencjalnie większą presję na szybszą komercjalizację AI.
Przy ograniczonej regulacji federalnej, spowolnienie wyścigu wymagałoby koordynacji między rywalizującymi ze sobą firmami zajmującymi się AI. Niedawne incydenty z udziałem agentów AI naruszających zabezpieczenia zwiększyły obawy o to, do czego zdolne mogą być coraz bardziej zaawansowane systemy.
Na co zwracać uwagę
Presja ze strony pracowników branży AI, inwestorów i ustawodawców może ukształtować to, jak szybko branża będzie zmierzać w kierunku potężniejszych modeli i jak duży nadzór zostanie nad nimi ustanowiony.
Każdy nagłówek to okazja — nie przyglądaj się temu z boku. Handluj na żywo na TradeQuo.
Źródło: Yahoo Finance
Czas: 14:00 EEST
