En un coup d'œil
Jacob Coxon, ancien employé d'Anthropic et d'OpenAI, affirme que les laboratoires d'IA se « livrent à une course vers une IA super-intelligente »
Ses publications sur X ont attiré plus de 100 millions de vues
Un chercheur d'Anthropic estime à plus de 10 % le risque que l'IA élimine l'humanité d'ici une décennie
Plus de 1 000 professionnels de l'IA ont signé une pétition en juillet pour ralentir le développement
OpenAI et Anthropic approchent de potentielles introductions en bourse à Wall Street
Les craintes concernant la sécurité de l'IA dépassent désormais la Silicon Valley, alors que les entreprises s'efforcent d'entrer dans une nouvelle « ère de l'AGI ».
Le dernier avertissement en date provient de Jacob Coxon, un ancien employé d'Anthropic et d'OpenAI, qui a démissionné et accusé les entreprises de « jouer avec nos vies » dans leur course vers une IA super-intelligente.
Détails clés
Coxon a déclaré que les personnes qui conçoivent l'IA pensent qu'elle pourrait « tous nous tuer d'ici la fin de la décennie ». Ses publications ont depuis attiré plus de 100 millions de vues sur X, suscitant des réactions de législateurs, de célébrités et de professionnels de l'IA.
Un chercheur d'Anthropic a affirmé qu'il estime à plus de 10 % le risque que l'IA élimine tous les êtres humains au cours de la prochaine décennie.
Ces avertissements surviennent alors que les dirigeants d'OpenAI et de NVIDIA promeuvent le début d'une nouvelle « ère de l'AGI », en référence à l'intelligence artificielle générale capable d'égaler ou de dépasser les humains dans la plupart des tâches.
Paul Christiano, chercheur en sécurité de l'IA et membre du conseil d'administration à but non lucratif d'OpenAI, a déclaré que des progrès rapides pourraient créer un « risque significatif » de perte de contrôle catastrophique et irréversible.
En juillet, plus de 1 000 professionnels de l'IA ont signé une pétition réclamant un mécanisme pour ralentir le développement. Plusieurs chercheurs en sécurité ont également démissionné de grands laboratoires.
Pourquoi c'est important
Le débat pourrait s'intensifier à mesure qu'Anthropic et OpenAI approchent de potentielles introductions en bourse, ce qui apportera plus de capitaux et potentiellement plus de pression pour commercialiser l'IA plus rapidement.
En l'absence de réglementation fédérale stricte, ralentir cette course exigerait une coordination entre les entreprises d'IA concurrentes. Des incidents récents impliquant des agents d'IA ayant franchi leurs barrières de confinement ont accentué les inquiétudes quant aux capacités de ces systèmes de plus en plus performants.
Ce qu'il faut surveiller
La pression exercée par les professionnels de l'IA, les investisseurs et les législateurs pourrait façonner la rapidité avec laquelle l'industrie progresse vers des modèles plus puissants, ainsi que le niveau de surveillance qui les accompagnera.
Chaque opportunité se cache dans l'actualité — ne restez pas sur la touche. Tradez en direct sur TradeQuo.
Source : Yahoo Finance
Heure : 14 h 00 EEST
