Key Takeaway
- AI dan algoritma pembelajaran mesin sedang memerhati tingkah laku manusia dan boleh belajar memanipulasinya, kata pakar.
- Penyelidik baru-baru ini mencipta cara untuk mencari dan mengeksploitasi kelemahan dalam cara orang membuat pilihan menggunakan AI.
- Algoritma media sosial yang paling canggih sekarang ialah TikTok, kata seorang pemerhati.
Algoritma kecerdasan buatan (AI) dan pembelajaran mesin semakin mempelajari cara mempengaruhi tingkah laku pengguna, kata pakar.
Penyelidik di agensi sains kebangsaan Australia baru-baru ini mencipta cara untuk mencari dan mengeksploitasi kelemahan dalam cara orang membuat pilihan menggunakan AI. Penyelidikan terkini hanyalah salah satu daripada gelombang sistem dipacu AI yang direka untuk memanipulasi pembuatan keputusan manusia.
"Tidak ada kesudahan untuk banyak cara AI sudah mempengaruhi tingkah laku, " Kentaro Toyama, seorang profesor di Sekolah Maklumat Universiti Michigan dan pengarang Geek Heresy: Menyelamatkan Perubahan Sosial daripada Kultus Teknologi, katanya dalam temu bual e-mel.
"Malah, jika anda pernah melakukan carian Google dan membuat susulan pada pautan, anda telah dipengaruhi oleh sistem AI yang meneka minat anda dan mengembalikan hasil yang dianggap paling berkaitan dengan anda."
AI lwn. Manusia
Dalam penyelidikan Australia yang diterbitkan dalam makalah baru-baru ini, peserta manusia bermain permainan melawan komputer dalam pelbagai eksperimen. Percubaan pertama meminta peserta mengklik pada kotak berwarna merah atau biru untuk memenangi wang.
AI berjaya kira-kira 70% pada masa itu, mempelajari corak pilihan peserta dan membimbing mereka ke arah pilihan tertentu.
Dalam percubaan lain, peserta menonton skrin dan menekan butang apabila mereka ditunjukkan simbol tertentu, atau tidak menekannya apabila ditawarkan yang lain. AI belajar menyusun semula simbol, jadi peserta membuat lebih banyak kesilapan.
Hasil eksperimen, penyelidik membuat kesimpulan, bahawa AI belajar daripada respons peserta. Mesin itu kemudiannya mengenal pasti dan menyasarkan kelemahan dalam membuat keputusan orang ramai. Sebenarnya, AI boleh memanipulasi peserta untuk membuat tindakan tertentu.
Fakta bahawa AI atau pembelajaran mesin boleh memanipulasi orang seharusnya tidak mengejutkan, kata pemerhati.
"AI mempengaruhi tingkah laku kita setiap hari," kata Tamara Schwartz, penolong profesor keselamatan siber dan pentadbiran perniagaan di York College of Pennsylvania, dalam temu bual e-mel.
"Kami sentiasa mendengar tentang algoritma dalam aplikasi media sosial seperti Facebook atau Twitter. Algoritma ini mengarahkan perhatian kami kepada kandungan yang berkaitan dan mencipta kesan 'ruang gema', yang seterusnya mempengaruhi tingkah laku kami."
TikTok sedang Menonton
Algoritma media sosial yang paling canggih sekarang ialah TikTok, kata Schwartz. Apl ini menganalisis perkara yang anda minati, berapa lama anda menonton sesuatu dan seberapa cepat anda melangkau sesuatu, kemudian memperhalusi tawarannya untuk memastikan anda terus menonton.
"TikTok jauh lebih ketagihan berbanding platform lain kerana algoritma AI ini, yang memahami perkara yang anda suka, cara anda belajar dan cara anda memilih maklumat," tambahnya. "Kami tahu ini kerana purata masa pengguna menggunakan TikTok ialah 52 minit."
Manipulasi tingkah laku manusia oleh kecerdasan buatan boleh mempunyai kegunaan positif, hujah Chris Nicholson, Ketua Pegawai Eksekutif syarikat AI Pathmind, dalam temu bual e-mel. Agensi kesihatan awam, contohnya, boleh menggunakan AI untuk menggalakkan orang ramai membuat keputusan yang lebih baik.
"Walau bagaimanapun, media sosial, pembuat permainan video, pengiklan dan rejim autoritarian sedang mencari cara untuk mendorong orang ramai membuat keputusan yang tidak sesuai dengan kepentingan mereka, dan ini akan memberi mereka alat baharu untuk melakukannya, " tambahnya.
Isu etika dengan tingkah laku yang mempengaruhi AI selalunya merupakan isu yang serius, kata Toyama. AI membenarkan pengiklanan terfokus di mana keutamaan dan kelemahan individu boleh dieksploitasi.
"Adalah mungkin, sebagai contoh, sistem AI untuk mengenal pasti orang yang cuba berhenti merokok dan memberi mereka iklan rokok yang menggoda," tambahnya.
Tidak semua orang bersetuju bahawa manipulasi AI terhadap tingkah laku manusia adalah bermasalah. Psikologi klasik dan AI kedua-duanya memerhati data, kata Jason J. Corso, pengarah Institut Kecerdasan Buatan Stevens, dalam temu bual e-mel.
"Saintis manusia mungkin lebih baik dalam menyamaratakan pemerhatian dan menyaring teori tingkah laku manusia yang mungkin lebih luas digunakan manakala model AI akan lebih bersetuju untuk mengenal pasti nuansa khusus masalah," kata Corso.
"Dari sudut pandangan etika, saya tidak nampak perbezaan antara ini."
