Бывший исследователь Anthropic: гонка ИИ стала ставкой на жизни

Бывший исследователь Anthropic: гонка ИИ стала ставкой на жизни
Британский исследователь Джейкоб Коксон, работавший над предобучением моделей сначала в OpenAI, затем в Anthropic, объявил об уходе из Anthropic. Его вывод резко расходится с логикой продолжения технологической конкуренции: обе компании, по его мнению, идут к самосовершенствующемуся сверхинтеллекту, не доказав, что смогут удержать его под человеческим контролем. «Ни одна из компаний не действует ответственно. Они мчатся прямо к самосовершенствующемуся сверхинтеллекту и играют нашими жизнями», — заявил он.

Коксон предупреждает, что будущие системы могут превзойти людей в стратегически важных задачах, взламывать цифровые системы, быстро развивать науку и получать реальные ресурсы. Он утверждает, что прогресс в этих направлениях не замедляется, а сотрудники ИИ-лабораторий в частных разговорах допускают самые тяжелые сценарии: «Люди, создающие ИИ, искренне верят, что он может убить нас всех к концу десятилетия».

При этом бывший сотрудник видит различие между двумя компаниями. В OpenAI, по его оценке, многие еще не осознали масштаб цивилизационных рисков. В Anthropic риски понимают лучше, но продолжают разработку из опасения, что лидерство достанется менее осторожным конкурентам. Такая логика, считает Коксон, не снимает ответственности: решение вступить в решающую фазу гонки не должно приниматься внутри частных корпораций.

Позиция других специалистов Anthropic менее категорична в оценке настоящего, но близка в оценке далекой перспективы. Руководитель исследований согласования Эван Хабингер публично оценил вероятность гибели человечества от будущего ИИ в ближайшее десятилетие более чем в 10%, одновременно подчеркнув низкий риск от текущих моделей. Его беспокоят системы, способные помогать собственному улучшению и тем самым ускорять прогресс. Исследователь Самуэль Маркс также заявил, что в отрасли всерьез обсуждают риск вымирания или сопоставимых последствий от продвинутого ИИ.

Коксон предлагает не просто предупреждать об опасности, а добиваться координации государств и лабораторий — вплоть до временной паузы в наращивании возможностей моделей. «Я оптимистично смотрю на потенциал координации», — отметил он, хотя и признал, что мир пока движется не к замедлению, а к глобальной гонке.

https://brazil-test-hub.syndichain.com Brazil News Hub brazil-test-hub brazil-test-hub