Auf einen Blick
Der ehemalige Mitarbeiter von Anthropic und OpenAI, Jacob Coxon, sagt, dass KI-Labore „auf eine superintelligente KI zusteuern“
Seine Beiträge auf X wurden mehr als 100 Millionen Mal aufgerufen
Ein Anthropic-Forscher sieht eine Wahrscheinlichkeit von mehr als 10 %, dass die KI die Menschheit innerhalb eines Jahrzehnts auslöschen könnte
Mehr als 1.000 KI-Mitarbeiter haben im Juli eine Petition unterzeichnet, um die Entwicklung zu verlangsamen
OpenAI und Anthropic stehen vor potenziellen Börsendebüts an der Wall Street
Die Angst um die KI-Sicherheit greift über das Silicon Valley hinaus, während Unternehmen auf eine neue „AGI-Ära“ drängen.
Die jüngste Warnung kam von Jacob Coxon, einem ehemaligen Mitarbeiter von Anthropic und OpenAI, der kündigte und den Unternehmen vorwarf, „mit unserem Leben zu spielen“, während sie auf eine superintelligente KI zusteuern.
Wichtigste Details
Coxon sagte, dass Menschen, die KI entwickeln, glauben, sie könnte „uns alle bis zum Ende des Jahrzehnts töten“. Seine Beiträge haben inzwischen mehr als 100 Millionen Aufrufe auf X generiert und Reaktionen von Gesetzgebern, Prominenten und KI-Mitarbeitern hervorgerufen.
Ein Anthropic-Forscher sagte, er glaube, dass die Wahrscheinlichkeit, dass die KI innerhalb des nächsten Jahrzehnts alle Menschen auslöscht, bei über 10 % liegt.
Die Warnungen fallen in eine Zeit, in der Führungskräfte von OpenAI und Nvidia den Beginn einer neuen „AGI-Ära“ propagieren, was sich auf künstliche allgemeine Intelligenz bezieht, die in der Lage ist, den Menschen bei den meisten Aufgaben zu erreichen oder zu übertreffen.
Der KI-Sicherheitsforscher und Vorstandsmitglied der gemeinnützigen Organisation OpenAI, Paul Christiano, sagte, dass rasche Fortschritte ein „erhebliches Risiko“ eines katastrophalen und unumkehrbaren Kontrollverlusts mit sich bringen könnten.
Im Juli unterzeichneten mehr als 1.000 KI-Mitarbeiter eine Petition, in der sie einen Mechanismus zur Verlangsamung der Entwicklung forderten. Mehrere Sicherheitsforscher sind zudem aus großen Laboren ausgeschieden.
Warum es wichtig ist
Die Debatte könnte sich verschärfen, da Anthropic und OpenAI vor potenziellen Börsendebüts an der Wall Street stehen, was mehr Kapital und möglicherweise mehr Druck zur schnelleren Kommerzialisierung von KI mit sich bringt.
Da es kaum staatliche Regulierung gibt, würde eine Verlangsamung des Wettlaufs eine Abstimmung zwischen konkurrierenden KI-Unternehmen erfordern. Jüngste Vorfälle, bei denen KI-Agenten Sicherheitsbarrieren durchbrochen haben, haben die Besorgnis darüber verstärkt, was immer leistungsfähigere Systeme tun könnten.
Worauf zu achten ist
Der Druck von KI-Mitarbeitern, Investoren und Gesetzgebern könnte die Geschwindigkeit beeinflussen, mit der sich die Branche auf leistungsfähigere Modelle zubewegt, und bestimmen, wie viel Aufsicht damit einhergeht.
Jede Schlagzeile ist eine Chance — schauen Sie nicht nur von der Seitenlinie aus zu. Handeln Sie live auf TradeQuo.
Quelle: Yahoo Finance
Zeit: 14:00 Uhr EEST
