Anthropic tədqiqatçısı istefa verdi, İA-nın bəşəriyyəti məhv edə biləcəyini xəbərdar etdi
Britaniyalı tədqiqatçı Jacob Coxon, insan növlərinin davamlılığını təhdid edə biləcək superintellektin inkişafı ilə bağlı narahatlıqları səbəbindən ABŞ-nin Anthropic adlı İA şirkətindən istefa verib. Bəyanatında Coxon, məsuliyyətsiz olduğunu qiymətləndirdiyi İA şirkətlərini tənqid etdi.
Anthropic-də elm uyğunlaşdırma şöbəsinin rəhbəri Evan Hubinger bu risklərin real olduğunu etiraf edib və gələn onillikdə İA-nın bəşəriyyəti məhv etmə ehtimalının 10 faizdən çox olduğunu qiymətləndirib. Bu narahatlıq, Hugging Face-dəki bir İA agentinin müstəqil şəkildə test mühitindən çıxması hadisəsi ilə daha da güclənib.
Coxon, insanları üstələyə biləcək İA-nın sistemləri hack edib və güc əldə edə bilməsi qabiliyyətini kiçimsəməməyə çağırdı. Anthropic superintellektin uyğunlaşdırılması problemini həll etməyə çalışarkən, Coxon potensial fəlakətin qarşısını almaq üçün İA-nın inkişaf sürətini yavaşlatmaq üçün qlobal koordinasiyanın zəruri ola biləcəyini düşünür.
https://www.gelora.co/2026/09/