Key Takeaway
- Perisian yang menggunakan kecerdasan buatan untuk memprofilkan orang ramai menimbulkan kebimbangan privasi.
- Cryfe menggabungkan teknik analisis tingkah laku dengan kecerdasan buatan.
- Syarikat China Alibaba baru-baru ini menghadapi kritikan selepas dilaporkan mengatakan bahawa perisiannya boleh mengesan Uighur dan etnik minoriti lain.
Perisian baharu yang dikuasakan oleh kecerdasan buatan yang bertujuan untuk majikan memprofilkan pekerja mereka menimbulkan kebimbangan privasi.
Satu platform perisian baharu, dipanggil Cryfe, menggabungkan teknik analisis tingkah laku dengan kecerdasan buatan. Pembangun mendakwa bahawa dengan menganalisis petunjuk minit, perisian itu boleh mendedahkan niat orang semasa temu duga. Tetapi sesetengah pemerhati mengatakan bahawa Cryfe dan jenis perisian lain yang menganalisis tingkah laku boleh menceroboh privasi.
"Syarikat semakin bergantung pada AI untuk pemprofilan," kata pakar AI Vaclav Vincale dalam temu bual e-mel. "Tetapi manusia yang mengekodkan algoritma ini, apatah lagi orang sokongan pelanggan yang anda hubungi melalui telefon, tidak dapat memberitahu anda sebab mereka membuat sebarang pengesyoran tertentu."
Lebih Daripada Perkataan
Cryfe dibangunkan oleh syarikat Switzerland yang pekerjanya dilatih oleh FBI dalam teknik pemprofilan. "Cryfe, dalam semua komunikasi interpersonal, bukan sahaja mendengar kata-kata, tetapi mengenal pasti isyarat lain yang dipancarkan oleh manusia seperti emosi, ekspresi mikro, dan semua gerak isyarat," kata Caroline Matteucci, pengasas Cryfe, dalam temu bual e-mel.
"Semasa pengambilan, contohnya, ini membolehkan kami pergi dan mencari personaliti sebenar lawan bicara kami."
Matteucci berkata privasi pengguna dilindungi kerana syarikat itu telus tentang cara perisiannya berfungsi. "Pengguna, sebelum boleh menggunakan platform, mesti menerima syarat umum," katanya.
"Di sini dinyatakan bahawa pengguna tidak boleh mengemukakan temu duga untuk analisis tanpa mendapat kebenaran bertulis daripada lawan bicara."
Cryfe bukanlah satu-satunya perisian berkuasa AI yang bertujuan untuk menganalisis tingkah laku manusia. Terdapat juga Humantic, yang mendakwa menganalisis tingkah laku pengguna. "Teknologi pemecah laluan Humantic meramalkan tingkah laku semua orang tanpa mereka perlu mengambil ujian personaliti," menurut tapak web syarikat.
Syarikat itu mendakwa menggunakan AI untuk mencipta profil psikologi pemohon berdasarkan perkataan yang mereka gunakan dalam resume, surat lamaran, profil LinkedIn dan sebarang teks lain yang mereka serahkan.
Perisian tingkah laku telah menghadapi cabaran undang-undang pada masa lalu. Pada 2019, Bloomberg Law melaporkan bahawa Equal Employment Opportunity Commission (EEOC) meneliti kes dakwaan diskriminasi yang menyalahi undang-undang disebabkan oleh bantuan algoritma, keputusan berkaitan HR.
"Ini semua perlu diselesaikan kerana masa depan merekrut adalah AI," kata peguam Bradford Newman kepada Bloomberg.
Sesetengah pemerhati mengambil isu dengan syarikat yang menggunakan perisian penjejakan tingkah laku kerana ia tidak cukup tepat. Dalam temu bual, Nigel Duffy, pemimpin kecerdasan buatan global di firma perkhidmatan profesional EY, memberitahu InformationWeek bahawa dia bermasalah dengan perisian yang menggunakan kuiz media sosial dan menjejaskan pengesanan.
"Saya rasa terdapat beberapa literatur yang sangat menarik tentang potensi pengesanan kesan, tetapi pemahaman saya ialah cara yang sering dilaksanakan agak naif," katanya.
"Orang ramai membuat kesimpulan bahawa sains tidak benar-benar menyokong [seperti] memutuskan seseorang adalah pekerja yang berpotensi baik kerana mereka banyak tersenyum atau memutuskan bahawa seseorang menyukai produk anda kerana mereka banyak tersenyum."
Syarikat Cina Dilaporkan Memprofilkan Minoriti
Penjejakan tingkah laku mungkin mempunyai tujuan yang lebih jahat juga, kata beberapa kumpulan hak asasi manusia. Di China, gergasi pasaran dalam talian Alibaba baru-baru ini menimbulkan kekecohan selepas dilaporkan mendakwa bahawa perisiannya boleh mengesan Uighur dan etnik minoriti lain.
The New York Times melaporkan bahawa perniagaan pengkomputeran awan syarikat itu mempunyai perisian yang akan mengimbas imej dan video.
Tetapi manusia yang mengekodkan algoritma ini…tidak dapat memberitahu anda sebab mereka membuat sebarang pengesyoran.
The Washington Post juga baru-baru ini melaporkan bahawa Huawei, sebuah lagi syarikat teknologi China, telah menguji perisian yang boleh memberi amaran kepada penguatkuasa undang-undang apabila kamera pengawasannya mengesan wajah Uighur.
Permohonan paten 2018 oleh Huawei dilaporkan mendakwa bahawa "pengenalpastian sifat pejalan kaki adalah sangat penting" dalam teknologi pengecaman muka."Atribut objek sasaran boleh menjadi jantina (lelaki, perempuan), umur (seperti remaja, pertengahan umur, tua) [atau] bangsa (Han, Uyghur), " kata aplikasi itu.
Jurucakap Huawei memberitahu CNN Business bahawa ciri pengenalan etnik seharusnya "tidak pernah menjadi sebahagian daripada aplikasi."
Penggunaan kecerdasan buatan yang semakin berkembang untuk mengisih sejumlah besar data pasti akan menimbulkan kebimbangan privasi. Anda mungkin tidak tahu siapa atau apa yang menganalisis anda apabila anda pergi temu duga kerja seterusnya.
