Key Takeaway
- Apabila deepfakes semakin mudah dibuat, cara baharu dan dipertingkat untuk mengesannya telah menjadi keutamaan.
- Teknologi pengesanan deepfake Facebook menggunakan pembelajaran mesin terbalik untuk mendedahkan sama ada video itu palsu atau tidak.
- Pakar berkata menggunakan teknologi blockchain akan menjadi cara terbaik untuk melihat sama ada video itu nyata atau tidak kerana kaedah itu bergantung pada data kontekstual.
Facebook yakin dengan model pembelajaran mesinnya untuk memerangi pemalsuan dalam, tetapi pakar berkata pembelajaran mesin dengan sendirinya tidak akan menyelamatkan kita daripada ditipu oleh pemalsuan mendalam.
Syarikat seperti Facebook, Microsoft dan Google semuanya sedang berusaha untuk memerangi penipuan mendalam daripada merebak ke seluruh web dan rangkaian sosial. Walaupun kaedah berbeza, terdapat satu kaedah kalis bodoh yang berpotensi untuk mengesan video palsu ini: rantaian blok.
“[Blockchains] hanya memberi anda banyak potensi untuk mengesahkan deepfake dengan cara yang merupakan bentuk pengesahan terbaik yang boleh saya lihat,” Stephen Wolfram, pengasas & Ketua Pegawai Eksekutif Wolfram Research dan pengarang A New Kind of Sains, memberitahu Lifewire melalui telefon.
Teknik Mengesan Palsu Dalam Facebook
Teknologi Deepfake telah berkembang pesat sejak beberapa tahun lalu. Video yang mengelirukan menggunakan kaedah pembelajaran mesin untuk melakukan perkara seperti menindih wajah seseorang pada badan orang lain, mengubah keadaan latar belakang, segerak bibir palsu dan banyak lagi. Ia terdiri daripada parodi yang tidak berbahaya kepada membuat selebriti atau tokoh awam berkata atau melakukan sesuatu yang mereka tidak lakukan.
Pakar mengatakan bahawa teknologi sedang berkembang dengan pantas, dan pemalsuan dalam hanya akan menjadi lebih meyakinkan (dan lebih mudah untuk dibuat) apabila teknologi semakin tersedia secara meluas dan lebih inovatif.
Facebook baru-baru ini memberikan lebih banyak cerapan tentang teknologi pengesanan palsu dalam kerjasama dengan Michigan State University. Rangkaian sosial mengatakan ia bergantung pada kejuruteraan terbalik daripada satu imej yang dijana kecerdasan buatan kepada model generatif yang digunakan untuk menghasilkannya.
Para saintis penyelidikan yang bekerja dengan Facebook berkata bahawa kaedah itu bergantung pada mendedahkan corak unik di sebalik model AI yang digunakan untuk menjana deepfake.
“Dengan menyamaratakan atribusi imej kepada pengecaman set terbuka, kami boleh menyimpulkan lebih banyak maklumat tentang model generatif yang digunakan untuk mencipta deepfake yang melampaui daripada mengenali bahawa ia tidak pernah dilihat sebelum ini. Dan dengan mengesan persamaan antara corak koleksi deepfakes, kami juga dapat mengetahui sama ada satu siri imej berasal dari satu sumber, tulis saintis penyelidik Xi Yin dan Tan Hassner dalam catatan blog Facebook mengenai kaedah pengesanan deepfake.
Wolfram berkata adalah wajar anda menggunakan pembelajaran mesin untuk melihat model AI lanjutan (deepfake). Walau bagaimanapun, sentiasa ada ruang untuk menipu teknologi.
“Saya sama sekali tidak terkejut bahawa terdapat cara pembelajaran mesin yang baik untuk [mengesan pemalsuan dalam],” kata Wolfram. “Satu-satunya persoalan ialah jika anda berusaha secukupnya, bolehkah anda memperdayakannya? Saya pasti anda boleh.”
Memerangi Deepfakes Dengan Cara Berbeza
Sebaliknya, Wolfram berkata bahawa dia percaya menggunakan blockchain akan menjadi pilihan terbaik untuk mengesan jenis deepfakes tertentu dengan tepat. Pendapat beliau mengenai penggunaan blockchain berbanding pembelajaran mesin bermula pada 2019, dan beliau berkata, akhirnya, pendekatan blockchain boleh memberikan penyelesaian yang lebih tepat kepada masalah deepfake kami.
“Saya menjangkakan penonton imej dan video boleh menyemak secara rutin terhadap blok blok (dan 'pengiraan triangulasi data') sedikit seperti cara penyemak imbas web kini menyemak sijil keselamatan,” tulis Wolfram dalam artikel yang diterbitkan dalam Scientific American.
Memandangkan rantaian blok menyimpan data dalam blok yang kemudiannya dirantai bersama dalam susunan kronologi, dan memandangkan rantaian blok terdesentralisasi tidak boleh diubah, data yang dimasukkan tidak boleh diubah.
Satu-satunya soalan ialah jika anda berusaha secukupnya, bolehkah anda memperdayakannya? Saya pasti anda boleh.
Wolfram menjelaskan bahawa dengan meletakkan video ke dalam blok blok, anda akan dapat melihat masa video itu diambil, lokasi dan maklumat kontekstual lain yang membolehkan anda mengetahui sama ada video itu telah diubah dalam apa jua cara.
“Secara umumnya, lebih banyak metadata yang ada yang mengkontekstualisasikan gambar atau video, lebih besar kemungkinan anda dapat mengetahuinya,” katanya. “Anda tidak boleh memalsukan masa pada blockchain.”
Walau bagaimanapun, Wolfram berkata kaedah yang digunakan-sama ada pembelajaran mesin atau penggunaan blokchain-bergantung pada jenis deepfake yang anda cuba lindungi (iaitu, video Kim Kardashian mengatakan sesuatu yang bodoh atau video tentang ahli politik membuat kenyataan atau cadangan).
“Pendekatan blockchain melindungi daripada jenis palsu mendalam tertentu, sama seperti pemprosesan imej pembelajaran mesin melindungi daripada jenis palsu mendalam tertentu,” katanya.
Intinya, nampaknya, adalah kewaspadaan bagi kita semua apabila ia datang untuk memerangi banjir palsu yang akan datang.
