Gambar AI Terungkap: Peneliti Ungkap Metode Sederhana untuk Mendeteksi Deepfake
Dalam gambar ini, orang di sebelah kiri adalah orang asli, sedangkan orang di sebelah kanan adalah hasil rekayasa AI. Bola mata mereka digambarkan di bawah wajah mereka. Pantulan pada bola mata tersebut konsisten untuk orang asli, tetapi tidak tepat (dari sudut pandang fisika) untuk orang palsu. Kredit: Adejumoke Owolabi
Dengan menggunakan metode astronomi untuk menganalisis pantulan mata, para peneliti berpotensi mendeteksi gambar deepfake, meskipun teknik ini mengandung beberapa risiko ketidakakuratan.
Di period dimana siapa pun bisa berkreasi kecerdasan buatan (AI), kemampuan untuk mendeteksi gambar palsu, khususnya deepfake orang, menjadi semakin penting. Kini, para ilmuwan mengatakan mata mungkin menjadi kunci untuk membedakan deepfake dari gambar asli.
Mendeteksi Deepfake Melalui Analisis Bola Mata
Penelitian baru yang dipresentasikan pada Pertemuan Astronomi Nasional Royal Astronomical Society menunjukkan bahwa deepfake dapat diidentifikasi dengan menganalisis pantulan pada mata manusia, mirip dengan cara astronom mempelajari gambar galaksi. Penelitian yang dipimpin oleh mahasiswa Magister Sains Universitas Hull Adejumoke Owolabi ini berfokus pada konsistensi pantulan cahaya pada setiap bola mata. Perbedaan dalam pantulan ini sering kali menunjukkan gambar palsu.
Serangkaian mata palsu yang memperlihatkan pantulan yang tidak konsisten di setiap mata. Kredit: Adejumoke Owolabi
Teknik Astronomi dalam Mendeteksi Deepfake
“Pantulan pada bola mata itu konsisten pada orang sungguhan, tetapi tidak tepat (dari sudut pandang fisika) pada orang palsu,” kata Kevin Pimbblet, profesor astrofisika dan direktur Pusat Keunggulan Ilmu Information, Kecerdasan Buatan, dan Pemodelan di Universitas Hull.
Para peneliti menganalisis pantulan cahaya pada bola mata orang-orang dalam gambar asli dan gambar yang dihasilkan oleh AI. Mereka kemudian menggunakan metode yang biasanya digunakan dalam astronomi untuk mengukur pantulan dan memeriksa konsistensi antara pantulan bola mata kiri dan kanan.
Serangkaian mata asli yang memperlihatkan pantulan yang sebagian besar konsisten di kedua mata. Kredit: Adejumoke Owolabi
Mengukur Ketidakkonsistenan dan Implikasinya
Gambar palsu sering kali tidak memiliki konsistensi dalam pantulan antara setiap mata, sedangkan gambar asli umumnya menunjukkan pantulan yang sama di kedua mata.
“Untuk mengukur bentuk galaksi, kami menganalisis apakah galaksi tersebut padat di bagian tengah, apakah simetris, dan seberapa halus galaksi tersebut. Kami menganalisis distribusi cahaya,” kata Pimbblet. “Kami mendeteksi pantulan secara otomatis dan menjalankan fitur morfologinya melalui CAS. [concentration, asymmetry, smoothness] dan indeks Gini untuk membandingkan kesamaan antara bola mata kiri dan kanan.
“Temuan ini menunjukkan bahwa deepfake memiliki beberapa perbedaan di antara keduanya.”
Koefisien Gini biasanya digunakan untuk mengukur bagaimana cahaya dalam gambar galaksi didistribusikan di antara piksel-pikselnya. Pengukuran ini dilakukan dengan mengurutkan piksel-piksel yang membentuk gambar galaksi dalam urutan menaik berdasarkan fluks dan kemudian membandingkan hasilnya dengan apa yang diharapkan dari distribusi fluks yang benar-benar merata. Nilai Gini 0 adalah galaksi yang cahayanya didistribusikan secara merata di semua piksel gambar, sedangkan nilai Gini 1 adalah galaksi dengan semua cahaya terkonsentrasi dalam satu piksel.
Tim tersebut juga menguji parameter CAS, sebuah alat yang awalnya dikembangkan oleh para astronom untuk mengukur distribusi cahaya galaksi guna menentukan morfologinya, tetapi menemukan bahwa alat tersebut tidak berhasil memprediksi mata palsu.
“Penting untuk dicatat bahwa ini bukanlah peluru ajaib untuk mendeteksi gambar palsu,” tambah Pimbblet. “Ada positif palsu dan negatif palsu; tidak semuanya bisa terdeteksi. Namun, metode ini memberi kita dasar, rencana serangan, dalam perlombaan senjata untuk mendeteksi deepfake.”
