Key Takeaway
- Deep Nostalgia ialah program baharu yang membolehkan anda menganimasikan foto lama.
- Teknologi ini menunjukkan betapa mudahnya untuk mencipta video orang yang melakukan perkara yang sebenarnya tidak mereka lakukan dalam kehidupan sebenar.
- Teknologi palsu mendalam sudah begitu canggih sehingga sukar untuk mengetahui sama ada video itu sebenar atau dijana komputer, kata seorang pakar.
Berhati-hati dengan perisian baharu yang boleh mencipta apa yang dipanggil "deep fake", yang mana video orang sebenar boleh disimulasikan, pakar memberi amaran.
Deep Nostalgia, yang dikeluarkan oleh syarikat MyHeritage, menjadi sohor kini di media sosial, dengan pengguna menghidupkan semula semua orang daripada komposer terkenal kepada saudara mara yang telah meninggal dunia. Perisian ini melukis reaksi bercampur-campur, dengan sesetengah orang gembira dengan ciptaan itu, dan yang lain menganggapnya menyeramkan. Teknologi ini menunjukkan betapa mudahnya untuk mencipta video orang yang melakukan perkara yang sebenarnya mereka belum lakukan dalam kehidupan sebenar.
"Teknologi Deepfake semakin canggih dan lebih berbahaya," kata Aaron Lawson, penolong pengarah Makmal Teknologi dan Penyelidikan (STAR) SRI International, dalam temu bual e-mel. "Ini sebahagiannya disebabkan oleh sifat kecerdasan buatan. Di mana teknologi 'tradisional' memerlukan masa dan tenaga manusia untuk bertambah baik, AI boleh belajar daripada dirinya sendiri.
"Tetapi keupayaan AI untuk mengembangkan dirinya adalah pedang bermata dua," sambung Lawson. "Jika AI dicipta untuk melakukan sesuatu yang baik, bagus. Tetapi apabila AI direka untuk sesuatu yang berniat jahat seperti palsu yang mendalam, bahayanya tidak pernah berlaku sebelum ini."
Perisian Menghidupkan Foto
Tapak web Genealogi MyHeritage memperkenalkan enjin animasi bulan lepas. Teknologi yang dikenali sebagai Deep Nostalgia, membolehkan pengguna menganimasikan foto melalui laman web MyHeritage. Sebuah syarikat bernama D-ID mereka bentuk algoritma untuk MyHeritage yang mencipta semula pergerakan wajah manusia secara digital. Perisian menggunakan pergerakan pada gambar dan mengubah suai ekspresi muka untuk bergerak seperti yang biasa dilakukan oleh wajah manusia, menurut laman web MyHeritage.
Nostalgia Mendalam menunjukkan bahawa teknologi palsu mendalam menjadi lebih mudah diakses, Lior Shamir, seorang profesor sains komputer di Kansas State University, berkata dalam temu bual e-mel. Ia berkembang dengan cepat dan menghapuskan walaupun perbezaan yang ketara antara video dan audio palsu dan sebenar.
"Terdapat juga kemajuan besar ke arah palsu dalam masa nyata, bermakna video palsu mendalam yang meyakinkan dihasilkan pada masa komunikasi video," kata Shamir."Sebagai contoh, seseorang boleh mengadakan pertemuan Zoom dengan orang tertentu, sambil melihat dan mendengar suara orang yang sama sekali berbeza."
Terdapat juga semakin banyak pemalsuan mendalam berasaskan bahasa, Jason Corso, pengarah Institut Kecerdasan Buatan Stevens di Institut Teknologi Stevens, berkata dalam temu bual e-mel. "Menjana keseluruhan perenggan teks palsu yang mendalam ke arah agenda tertentu agak sukar, tetapi kemajuan moden dalam pemprosesan bahasa semula jadi yang mendalam memungkinkannya," tambahnya.
Cara Mengesan Palsu Dalam
Walaupun teknologi pengesanan palsu dalam masih dalam peringkat permulaan, terdapat beberapa cara anda boleh mengesannya, kata Corso, bermula dengan mulut.
"Kebolehubahan dalam penampilan bahagian dalam mulut apabila seseorang bercakap adalah sangat tinggi, menjadikannya sukar untuk menghidupkan secara meyakinkan, " jelas Corso. “Ia boleh dilakukan, tetapi ia lebih sukar daripada bahagian kepala yang lain. Perhatikan bagaimana video Nostalgia Dalam tidak menunjukkan keupayaan untuk gambar itu menyebut 'Saya sayang kamu' atau beberapa frasa lain semasa penciptaan palsu yang mendalam. Melakukannya memerlukan pembukaan dan penutupan mulut, yang sangat sukar untuk penjanaan palsu yang mendalam."
Ghosting ialah satu lagi hadiah, tambah Corso. Jika anda melihat kabur di sekeliling tepi kepala, itu adalah hasil daripada "gerakan pantas atau piksel terhad yang tersedia dalam imej sumber. Telinga sebahagiannya boleh hilang seketika, atau rambut boleh menjadi kabur di tempat yang anda tidak sangka," dia berkata.
Anda juga boleh melihat variasi warna apabila cuba melihat video palsu yang mendalam, seperti garisan tajam di seluruh muka, dengan warna yang lebih gelap pada satu bahagian dan lebih cerah pada bahagian yang lain.
"Algoritma komputer selalunya boleh mengesan corak herotan ini," kata Shamir. "Tetapi algoritma deep fake sedang berkembang pesat. Undang-undang yang ketat akan diperlukan untuk melindungi daripada deep fake dan kerosakan yang boleh menyebabkannya dengan mudah."
