Inovasi atau penipuan digital? Sora 2 memicu perdebatan - Pembaca Salaam
Salaam - Generator video OpenAI, Sora 2, sedang naik di tangga aplikasi, tapi juga menarik banyak keluhan.
Sora 2 memungkinkan orang untuk menghasilkan video yang terlihat realistis dari beberapa baris teks, sebuah langkah besar dari versi terbatas yang dirilis pada 2024. Pengguna bisa mengunggah foto wajah dan merekam klip suara pendek supaya bisa bikin video yang terlihat seperti mereka, diletakkan dalam hampir situasi apa pun.
Sejak Sora 2 diluncurkan akhir September di AS dan Kanada, kemudahan ini disalahgunakan oleh beberapa orang. Para pembuat, studio, dan pemegang hak merasa marah tentang dugaan pelanggaran hak cipta dan penyalahgunaan citra. Video palsu yang viral menunjukkan tokoh sejarah mengatakan hal-hal ofensif dan salinan wajah aktor tanpa izin memicu tuntutan untuk perubahan.
OpenAI bergerak untuk menambah lebih banyak batasan. Setelah tekanan mengenai hak cipta, perusahaan beralih dari pendekatan opt-out ke mengharuskan pemegang hak untuk opt-in sebelum karakter atau karya mereka bisa digunakan. Sam Altman bilang pemegang hak akan mendapatkan kontrol yang lebih rinci, mirip dengan perlindungan citra.
Para ahli memperingatkan bahwa meskipun ada kebijakan baru, tantangan masih besar. Elissa Redmiles, seorang peneliti dalam etika digital, bilang alat seperti Sora 2 membuat deepfake lebih mudah dan bisa membuat citra seseorang mempromosikan ide atau produk yang mereka tidak dukung. Dia mencatat kurangnya transparansi tentang bagaimana perlindungan citra diterapkan dan memperingatkan bahwa orang-orang yang rentan bisa menjadi target, misalnya lewat materi yang tidak konsensual atau penyalahgunaan.
Sarah Bargal, seorang spesialis dalam pembelajaran mendalam dan visi, berargumen bahwa gelombang generator video ini sangat berbeda dari alat pengeditan foto lama. Di mana Photoshop butuh keterampilan, Sora 2 cuma perlu beberapa baris teks untuk membuat video yang meyakinkan, menurunkan batasan untuk penyalahgunaan. Dia berharap alat deteksi akan membaik, tapi khawatir bahwa hukum, kebijakan, dan ilmu sosial tidak akan bisa mengikuti laju perubahan.
Kedua ahli bilang platform dan perusahaan teknologi harus terus bekerja sama dengan peneliti dan pembuat kebijakan. Pengguna harus tetap berhati-hati dan terus mengangkat kekhawatiran tentang penyalahgunaan.
Sam Altman membela peluncuran Sora 2 dan pembaruan cepat, bilang bahwa masyarakat akan beradaptasi dan bahwa watermark serta tindakan lain bisa membantu membuat orang lebih sadar bahwa video palsu ada.
Sebagai Muslim, kita harus sadar bagaimana teknologi baru memengaruhi martabat, kesepakatan, dan kebenaran. Salam.
https://www.thenationalnews.co