Key Takeaway
- Penyelidikan baharu mendapati AI boleh memantau dan mengawal tingkah laku dalam talian anda.
- Sesetengah pakar mengatakan bahawa AI sudah mengawal tingkah laku manusia melalui algoritma.
- Untuk mengelakkan AI daripada merampas keputusan mereka, pengguna harus ingat tiada perkara seperti privasi dalam talian.
Komputer mungkin tidak lama lagi dapat mengawal pilihan yang anda buat dalam talian.
Penyelidik baru-baru ini mendapati bahawa kecerdasan buatan (AI) boleh mencari dan mengeksploitasi kelemahan dalam pembuatan keputusan manusia dan membimbing orang ke arah keputusan tertentu. Pakar berkata penemuan itu adalah petanda pengaruh algoritma yang semakin meningkat terhadap tingkah laku manusia.
"Orang yang merupakan pengguna berat platform digital dalam talian menghadapi risiko yang lebih besar untuk dipengaruhi, berbanding dengan orang biasa, berdasarkan penyediaan di belakang tabir, AI dan pembelajaran mesin menawarkan faedah yang ketara merentas banyak kawasan termasuk kesihatan,” katanya. "Akhirnya, seberapa bertanggungjawab kami menetapkan teknologi ini akan menentukan sama ada ia akan digunakan untuk hasil yang baik untuk masyarakat, atau dimanipulasi untuk mendapatkan keuntungan."
Bukan Sekadar Teori
Walaupun kertas baru-baru ini menyerlahkan keupayaan AI untuk mempengaruhi keputusan, sesetengah pakar mengatakan bahawa komputer sudah melakukan perkara itu. Sesiapa sahaja yang pergi ke dalam talian dan mengakses web tertakluk kepada kuasa meresap AI, Josephine Yam, seorang peguam dan ahli etika AI, memberitahu Lifewire dalam temu bual e-mel.
"AI ialah Revolusi Perindustrian Keempat," kata Yam. "Keupayaannya yang semakin meningkat untuk membuat keputusan autonomi lebih cepat, lebih baik dan lebih murah daripada manusia memberi kesan kepada kehidupan kita secara mendalam. Ciri bantuan pemandu menjadikan kereta kita lebih selamat. Penglihatan komputer menjadikan diagnosis penyakit lebih tepat. Terjemahan mesin membolehkan kami berkomunikasi merentasi lautan walaupun terdapat halangan bahasa."
Oleh kerana AI diterapkan sendiri ke dalam kebanyakan aspek kehidupan kita, ia mempengaruhi keputusan harian kita, sama ada kita sedar atau tidak, kata Yam. Ia menyediakan iklan dalam talian dan suapan berita berdasarkan klik kami sebelum ini. Ia mengesyorkan muzik, filem dan idea hadiah berdasarkan gelagat mendengar, menonton dan membeli-belah kami yang lalu.
"AI ialah mesin ramalan terhebat di dunia," tambah Yam. "Oleh kerana sejumlah besar data sejarah digunakan untuk melatih algoritma, keupayaan pembelajaran mesin sistem AI mengesan corak bernuansa dalam data peribadi kami untuk membuat pengesyoran yang sangat tepat tentang kami."
Tetapi Theresa Kushner, pakar AI di NTT DATA Services, mempertikaikan idea bahawa AI sedang mempengaruhi keputusan dalam talian. "Anda boleh mengatakan bahawa AI membantu untuk memaklumkan keputusan," kata Kushner kepada Lifewire dalam temu bual e-mel.
"Tetapi pengaruh ialah keupayaan khusus untuk memberi kesan pada watak, perkembangan atau tingkah laku seseorang atau sesuatu," tambah Kushner. "Suapan Google anda ialah contoh AI yang baik bekerja hari ini. Adakah anda membeli lebih banyak perabot kebelakangan ini kerana Google tahu anda telah melihat sofa?"
Untuk mengelakkan AI daripada merampas keputusan mereka, Yam berkata pengguna harus ingat tiada perkara seperti privasi dalam talian lagi.
"Orang ramai meninggalkan jejak digital identiti atau data peribadi mereka ke mana sahaja mereka pergi. Algoritma AI merekod, menyusun dan melombong semua data peribadi dalam talian mereka," tambah Yam. "Algoritma ini mengumpulkan beribu-ribu titik data peribadi tentang pengguna untuk membuat ramalan tentang kemungkinan besar tingkah laku pengguna itu."
Sama ada AI sedang mempengaruhi keputusan manusia atau tidak, pemerhati meminta lebih banyak peraturan industri. Akta Kepintaran Buatan EU yang dicadangkan, sebagai contoh, ialah rangka kerja kawal selia global pertama yang akan menjadikan manusia bertanggungjawab terhadap kesan berbahaya AI mereka, kata Yam.
"Satu-satunya cara yang realistik untuk mencegah jenis penyalahgunaan AI oleh syarikat teknologi besar ini adalah dengan menghendaki mereka, sama ada melalui tekanan awam atau perundangan, untuk menjadikan algoritma pembelajaran pengukuhan mereka tersedia untuk penelitian awam," kata Borhani. "Ini bukan persoalan besar, memandangkan syarikat-syarikat ini masih boleh memegang data pengguna mereka, yang tanpanya algoritma itu sendiri tidak berguna."
