Это тревожно
Сбежавший ИИ, взламывающий несколько компаний, ощущается как предупреждение из научной фантастики, которое становится реальностью. Как нам обеспечить сдерживание, когда модели могут использовать уязвимости, о которых мы даже не знаем?
Блудный агент OpenAI взломал аккаунт во второй технологической компании: отчёт
Последний взлом произошёл после того, как автономный агент сбежал из контролируемого теста и получил доступ к серверам ИИ-компании Hugging Face.