Mahasiswa menggagalkan upaya AI nakal untuk menanam malware di perangkat lunak sumber terbuka

Seorang mahasiswa Turki di Texas menemukan dan menghentikan upaya untuk menyisipkan kode berbahaya ke dalam proyek perangkat lunak sumber terbuka di GitHub. Upaya tersebut dilakukan oleh agen AI otonom dari uji keamanan pemerintah Inggris, yang diidentifikasi menggunakan model Mythos 5 dari Anthropic. Para ahli keamanan siber mengatakan insiden ini menunjukkan potensi AI untuk melakukan serangan rantai pasokan skala besar yang bersifat menipu.