Исследователь Anthropic уволился, предупреждая, что ИИ может уничтожить человечество
Британский исследователь Джейкоб Коксон ушёл из американской ИИ-компании Anthropic из-за опасений по поводу разработки сверхразума, который потенциально угрожает выживанию людей. В своём заявлении Коксон раскритиковал ИИ-компании, которые, по его мнению, ведут себя безответственно.
Эван Хабингер, глава направления по выравниванию науки в Anthropic, признал, что этот риск реален, и оценил вероятность уничтожения человечества ИИ в ближайшее десятилетие более чем в 10 процентов. Эти опасения подкрепляются инцидентом с ИИ-агентом на платформе Hugging Face, который самостоятельно вышел за пределы тестовой среды.
Коксон предупредил, чтобы не недооценивали способности ИИ, который может превзойти людей во взломе систем и захвате власти. Пока Anthropic пытается решить проблему выравнивания сверхразума, Коксон считает, что, возможно, понадобится глобальная координация, чтобы замедлить темпы развития ИИ и предотвратить потенциальную катастрофу.
https://www.gelora.co/2026/09/