Key Takeaway
- Pelbagai apl baharu mungkin dapat mengesan emosi pelajar.
- Pembuat perisian Intel dan kelas Class dilaporkan sedang membangunkan perisian yang akan mengawasi wajah dan bahasa badan pelajar digital.
- Sesetengah pakar bimbang menggunakan AI untuk memantau pelajar boleh menyebabkan pencerobohan privasi.
Sekolah tidak lama lagi boleh menggunakan kecerdasan buatan (AI) untuk memantau keadaan emosi pelajar.
Pembuat perisian Intel dan bilik darjah Class sedang membangunkan perisian yang akan mengawasi wajah dan bahasa badan pelajar digital. Sistem ini dilaporkan boleh mengesan sama ada pelajar bosan, terganggu atau keliru, tetapi sesetengah pakar bimbang perisian itu boleh menyebabkan pencerobohan privasi.
"Produk pemantauan berasaskan AI sedemikian harus telus tentang cara data ini digunakan, " Michael Huth, pengasas bersama syarikat Xayn dan ketua jabatan pengkomputeran di Imperial College London, memberitahu Lifewire dalam e-mel temuduga. "Jika ia digunakan untuk mengesan penglibatan dalam kohort pelajar, di mana penglibatan pada peringkat individu tidak direkodkan, ini agak kurang bermasalah dari perspektif privasi. Jika mana-mana data ini digunakan untuk mempengaruhi penilaian pelajar, bagaimanapun, saya dapat melihat pelbagai masalah yang timbul."
Mengawasi Pelajar
Class dan Intel telah bekerjasama untuk menyepadukan teknologi berasaskan AI yang berjalan bersama-sama dengan perisian persidangan video Zoom, lapor Protocol. Perisian itu boleh digunakan untuk memantau pelajar, kata laporan itu.
"Melalui perkongsian kami dengan Intel, kami akan dapat membawa ciri baharu yang mengasyikkan kepada perisian Kelas yang didorong oleh fungsi yang disokong penyelidikan," menurut tapak web syarikat. "Kami juga akan bekerjasama dengan Intel untuk memanfaatkan sumber dan menyediakan para pendidik dan pelajar dengan cerapan berharga, kajian kes bersama, kertas putih, webinar dan banyak lagi."
Intel memberitahu Protocol bahawa perisian bilik darjah berada di peringkat awal dan tiada rancangan untuk menghantar produk ke pasaran.
Perkongsian dengan Class bukanlah satu-satunya kerjasama yang berpotensi antara perisian pembacaan emosi Intel dan pengeluar lain. Risalah dalam talian daripada Intel menggembar-gemburkan papan putih elektronik baharu yang dipanggil Viewboard yang ditujukan kepada sekolah. Perisian Intel "membolehkan myViewboard menilai dan memaparkan keadaan emosi pelajar sebagai maklum balas segera untuk pendidik, " menurut risalah.
Class ialah salah satu daripada banyak produk perisian yang bertujuan untuk mengesan emosi pelajar menggunakan AI. Terdapat juga 4Little Trees, platform pembelajaran pengesanan emosi yang merupakan "pembantu pengajar maya [yang] akan membantu dengan memilih soalan yang paling sesuai untuk anda atau mencabar anda apabila diperlukan," menurut tapak web syarikat.
Ashish Fernando, Ketua Pegawai Eksekutif syarikat AI iSchoolConnect, memberitahu Lifewire dalam temu bual e-mel bahawa AI boleh dilatih untuk menilai tingkah laku dan ciri manusia tanpa kesan bias subjektif yang dipegang oleh individu.
"AI boleh menilai bilangan tingkah laku manusia yang jauh lebih besar, termasuk ekspresi mikro yang mudah dilepaskan, pada kadar yang jauh lebih pantas daripada manusia," kata Fernando. "Jika maklum balas boleh mengambil masa berjam-jam, AI kini boleh memberikan perkara yang sama dalam masa beberapa minit."
Kebimbangan Privasi
Penggunaan AI untuk memantau manusia semakin berkembang. Snapchat mempunyai teknologi AI yang menilai tahap emosi sekumpulan orang pada acara langsung. Mad Street Den menggunakan AI penglihatan komputer untuk membantu peruncit mengenali ekspresi muka dan emosi bakal pembeli. BrainQ memanfaatkan AI untuk memahami cara penumpang berinteraksi dengan kenderaan autonomi yang mereka gunakan. Dan syarikat menggunakan AI untuk mengesan keletihan pemandu.
"Ini adalah kes penggunaan yang bagus untuk keselamatan jalan raya, tetapi ia menimbulkan persoalan mengenai hak privasi pemandu dalam kenderaan peribadi mereka," kata Huth. "Adakah maklumat keletihan akan dikongsi dengan syarikat insurans atau pengilang kereta? Atau adakah ia hanya memberi amaran kepada pemandu untuk berhenti dan berehat? Ini tidak menjadi isu untuk armada kereta komersial seperti trak, van penghantaran atau teksi."
Satu isu ialah maklumat AI, seperti pergerakan otot untuk membuat kesimpulan keadaan emosi, mungkin tidak boleh dipercayai, kata Huth. "Ini mewujudkan dilema, kerana AI yang lebih dipercayai mungkin memerlukan akses kepada data yang lebih sensitif seperti isyarat EEG," tambahnya.
Bagi pelajar, AI boleh berguna untuk memantau pematuhan semasa peperiksaan dalam talian apabila pengawas tidak dapat hadir secara fizikal. Tetapi penggunaan AI untuk ini adalah perbalahan, kata Huth, kerana sistem cuba menentukan sama ada pelajar berniat untuk menipu atau menipu, dan terdapat potensi sebenar untuk positif palsu yang mengakibatkan hukuman yang tidak wajar terhadap pelajar yang tidak melakukan apa-apa kesalahan.
"Mana-mana AI yang digunakan untuk tujuan ini perlu cukup teguh untuk menangani tandas, tandas gugup setiap pelajar (seperti pergerakan mata yang tidak menentu), dan sebagainya," kata Huth.
