Peneliti Anthropic Mundur, Ngenteni Peringati AI Biso Ngancurake Umat Manungsa
Peneliti saka Inggris, Jacob Coxon, mundur saka perusahaan AI saka Amerika Serikat, Anthropic, merga kuwatir karo pangembangan super-intelligensi sing bisa ngancam slameting manungsa. Ing ocehane, Coxon ngritik perusahaan AI sing dianggep ora tanggung jawab.
Evan Hubinger, sing nyekel jabatan kepala bidang ilmu penyelarasan nang Anthropic, ngakoni risiko kuwi nyata lan ngira-ira kemungkinan AI bakal ngancurake umat manungsa luwih saka 10 persen nang sepuluh taun ngarep. Kekuwatiran iki dikuwatna karo kedadeyan agen AI nang Hugging Face sing dhewekan metu saka lingkungan tes.
Coxon ngenteni supaya aja nggampangke kemampuan AI sing bisa ngluwihi manungsa nang babagan ngerusak sistem lan nggolek kekuwatan. Nalika Anthropic nyoba ngrampungna masalah penyelarasan super-intelligensi, Coxon ngira yen koordinasi sakdonya mungkin perlu kanggo ngalemna laju pangembangan AI supaya bisa nyegah bencana sing mungkin kelakon.
https://www.gelora.co/2026/09/