Исследователь искусственного интеллекта Джейкоб Коксон объявил об увольнении из компании Anthropic. В течение последних трех лет он занимался исследованиями в области претренировки моделей как в OpenAI, так и в Anthropic.
Коксон заявил, что обе компании действуют безответственно. По его словам, разработчики ИИ осознают, что создаваемые ими системы могут представлять угрозу для человечества к концу текущего десятилетия, однако продолжают гонку, опасаясь, что конкуренты добьются лидерства первыми. Он назвал этот процесс «ставкой», которую не следует совершать внутри частных компаний.
Инженер Anthropic Эван Хьюбингер, занимающийся стресс-тестированием моделей, подтвердил опасения коллеги. Хьюбингер оценил риск гибели человечества от искусственного интеллекта в течение ближайшего десятилетия более чем в 10%. Он отметил, что процесс рекурсивного самоулучшения систем происходит быстрее, чем ожидалось.
Коксон выразил обеспокоенность тем, что скоро системы станут сверхчеловеческими и смогут «взломать что угодно» или приобрести реальные ресурсы. Исследователь призвал к международной координации и допустил необходимость временного запрета на дальнейшее развитие возможностей моделей ИИ.
Оригинал: https://www.lavanguardia.com/vida/20260909/11630677/ingeniero-anthropic-dimite-ia-matarnos-todos-final-decada.html
