Короткий огляд
Колишній співробітник Anthropic та OpenAI Джейкоб Коксон заявляє, що лабораторії ШІ «мчать назустріч суперінтелектуальному ШІ»
Його дописи в мережі X набрали понад 100 мільйонів переглядів
Один із дослідників Anthropic оцінює ймовірність того, що ШІ знищить людство протягом десятиліття, у понад 10%
У липні понад 1 000 працівників сфери ШІ підписали петицію з закликом уповільнити розробку
OpenAI та Anthropic наближаються до потенційного дебюту на Волл-стріт
Побоювання щодо безпеки ШІ виходять за межі Кремнієвої долини, оскільки компанії рухаються до нової «ери AGI».
Останнє попередження надійшло від Джейкоба Коксона, колишнього співробітника Anthropic та OpenAI, який звільнився та звинуватив компанії у «грі з нашими життями» в гонці за створення надрозумного ШІ.
Ключові деталі
Коксон зазначив, що люди, які створюють ШІ, вірять, що він може «вбити нас усіх до кінця десятиліття». З того часу його дописи набрали понад 100 мільйонів переглядів в X, викликавши реакцію законодавців, знаменитостей та розробників ШІ.
Один із дослідників Anthropic заявив, що, на його думку, існує понад 10% ймовірності того, що ШІ знищить усе людство протягом наступного десятиліття.
Ці попередження з'явилися на тлі того, як керівники OpenAI та NVIDIA пропагують початок нової «ери AGI», маючи на увазі штучний загальний інтелект, здатний зрівнятися з людиною або перевершити її в більшості завдань.
Дослідник безпеки ШІ та член некомерційної ради OpenAI Пол Крістіано заявив, що стрімкий прогрес може створити «значний ризик» катастрофічної та незворотної втрати контролю.
У липні понад 1 000 працівників сфери ШІ підписали петицію із закликом створити механізм для уповільнення розробки. Кілька дослідників безпеки також звільнилися з провідних лабораторій.
Чому це важливо
Ця дискусія може загостритися на тлі наближення Anthropic та OpenAI до потенційного дебюту на Волл-стріт, що принесе більше капіталу і, можливо, посилить тиск з метою швидшої комерціалізації ШІ.
За відсутності належного державного регулювання, уповільнення цієї гонки вимагатиме координації між конкуруючими компаніями. Нещодавні випадки, коли агенти ШІ виходили з-під контролю ізольованого середовища, лише посилили занепокоєння щодо того, на що здатні дедалі потужніші системи.
За чим стежити
Тиск з боку працівників сфери ШІ, інвесторів та законодавців може визначити, наскільки швидко індустрія рухатиметься до більш потужних моделей і наскільки жорстким буде нагляд за ними.
Кожен заголовок — це можливість, не спостерігайте зі сторони. Торгуйте наживо на TradeQuo.
Джерело: Yahoo Finance
Час: 14:00 за EEST
