Key Takeaway
- Penyelidikan baharu mendedahkan orang ramai tidak dapat memisahkan imej yang dijana AI daripada imej sebenar.
- Peserta menilai imej yang dijana AI sebagai lebih boleh dipercayai.
- Pakar percaya orang harus berhenti mempercayai apa sahaja yang mereka lihat di Internet.
Pepatah 'melihat adalah percaya' tidak lagi relevan apabila ia berkaitan dengan Internet, dan pakar berkata ia tidak akan menjadi lebih baik dalam masa terdekat.
Kajian baru-baru ini mendapati bahawa imej wajah yang dihasilkan oleh kecerdasan buatan (AI) bukan sahaja sangat realistik foto, tetapi ia juga kelihatan lebih mulia daripada wajah sebenar.
"Penilaian kami terhadap fotorealisme wajah yang disintesis AI menunjukkan bahawa enjin sintesis telah melalui lembah yang luar biasa, dan mampu mencipta wajah yang tidak dapat dibezakan dan lebih boleh dipercayai daripada wajah sebenar, " pemerhatian para penyelidik.
Orang Itu Tidak Wujud
Para penyelidik, Dr. Sophie Nightingale dari Lancaster University dan Profesor Hany Farid dari University of California, Berkeley, menjalankan eksperimen selepas mengakui ancaman palsu yang didedahkan dengan baik, daripada semua jenis penipuan dalam talian hinggalah yang menyegarkan. kempen disinformasi.
"Mungkin yang paling berbahaya ialah akibatnya, dalam dunia digital di mana mana-mana imej atau video boleh dipalsukan, ketulenan sebarang rakaman yang menyusahkan atau tidak diingini boleh dipersoalkan," kata para penyelidik.
Mereka berhujah bahawa walaupun terdapat kemajuan dalam membangunkan teknik automatik untuk mengesan kandungan palsu yang mendalam, teknik semasa tidak cekap dan cukup tepat untuk mengikuti aliran berterusan kandungan baharu yang dimuat naik dalam talian. Ini bermakna terpulang kepada pengguna kandungan dalam talian untuk memilih yang sebenar daripada yang palsu, kata kedua-duanya.
Jelle Wieringa, penyokong kesedaran keselamatan di KnowBe4, bersetuju. Dia memberitahu Lifewire melalui e-mel bahawa memerangi palsu dalam sebenarnya adalah sangat sukar dilakukan tanpa teknologi khusus. "[Teknologi pengurangan] boleh menjadi mahal dan sukar untuk dilaksanakan ke dalam proses masa nyata, selalunya mengesan palsu dalam hanya selepas fakta itu."
Dengan andaian ini, penyelidik melakukan satu siri eksperimen untuk menentukan sama ada peserta manusia boleh membezakan wajah tersintesis terkini daripada wajah sebenar. Dalam ujian mereka, mereka mendapati bahawa walaupun latihan untuk membantu mengenali palsu, kadar ketepatan hanya meningkat kepada 59%, meningkat daripada 48% tanpa latihan.
Ini menyebabkan penyelidik menguji sama ada persepsi tentang kebolehpercayaan dapat membantu orang ramai mengenal pasti imej tiruan. Dalam kajian ketiga, mereka meminta peserta menilai kebolehpercayaan wajah, hanya untuk mengetahui bahawa purata penarafan untuk wajah sintetik ialah 7.7% lebih boleh dipercayai daripada penilaian purata untuk wajah sebenar. Nombor itu mungkin tidak begitu banyak, tetapi penyelidik mendakwa ia adalah signifikan secara statistik.
Deeper Fakes
Pemalsuan mendalam sudah menjadi kebimbangan utama, dan kini perairan telah dicemari lagi oleh kajian ini, yang mencadangkan imejan palsu berkualiti tinggi itu boleh menambah dimensi baharu kepada penipuan dalam talian, contohnya, dengan membantu mencipta lebih banyak profil palsu dalam talian yang meyakinkan.
"Satu perkara yang mendorong keselamatan siber ialah kepercayaan orang ramai terhadap teknologi, proses dan orang yang cuba memastikan mereka selamat," kongsi Wieringa. "Pemalsuan yang mendalam, terutamanya apabila ia menjadi fotorealistik, menjejaskan kepercayaan ini dan, oleh itu, penerimaan dan penerimaan keselamatan siber. Ia boleh menyebabkan orang ramai menjadi tidak percaya dengan semua yang mereka anggap."
Chris Hauk, juara privasi pengguna di Pixel Privacy, bersetuju. Dalam pertukaran e-mel ringkas, dia memberitahu Lifewire bahawa palsu dalam fotorealistik boleh menyebabkan "kekacauan" dalam talian, terutamanya pada hari ini apabila semua jenis akaun boleh diakses menggunakan teknologi ID foto.
Tindakan Pembetulan
Syukurlah, Greg Kuhn, Pengarah IoT, Prosegur Security, mengatakan bahawa terdapat proses yang boleh mengelakkan pengesahan penipuan sedemikian. Dia memberitahu Lifewire melalui e-mel bahawa sistem kelayakan berasaskan AI memadankan individu yang disahkan dengan senarai, tetapi kebanyakannya mempunyai perlindungan terbina dalam untuk menyemak "kehidupan."
"Jenis sistem ini boleh memerlukan dan membimbing pengguna untuk melaksanakan tugas tertentu seperti tersenyum atau menoleh ke kiri, kemudian ke kanan. Ini adalah perkara yang tidak dapat dilakukan oleh wajah yang dijana secara statik," kongsi Kuhn.
Para penyelidik telah mencadangkan garis panduan untuk mengawal penciptaan dan pengedaran mereka untuk melindungi orang ramai daripada imej sintetik. Sebagai permulaan, mereka mencadangkan untuk memasukkan tera air yang tertanam dalam ke dalam rangkaian sintesis imej dan video itu sendiri untuk memastikan semua media sintetik boleh dikenal pasti dengan pasti.
Sehingga itu, Paul Bischoff, peguam bela privasi dan editor penyelidikan infosec di Comparitech, berkata orang ramai bersendirian."Orang ramai perlu belajar untuk tidak mempercayai wajah dalam talian, sama seperti kita semua (semoga) belajar untuk tidak mempercayai nama paparan dalam e-mel kami, " kata Bischoff kepada Lifewire melalui e-mel.
