Key Takeaway
- Perisian sekatan umur automatik YouTube menimbulkan kebimbangan terhadap kandungan LGBTQ+ pada platform.
- Syarikat itu telah dicemari oleh kontroversi mengenai pencipta kandungan LGBTQ+ yang mengukuhkan keraguan.
- Bias dalam pembelajaran mesin memberi kepercayaan kepada idea bahawa pelaksanaan penapisnya yang tidak sempurna berkemungkinan menyekat akses secara tidak adil.
Dengan sejarah menyasarkan pencipta kandungan LGBTQ+ secara tidak adil dalam proses penyederhanaannya, teknologi berasaskan AI baharu YouTube dilihat sebagai langkah seterusnya yang membimbangkan bagi gergasi teknologi itu.
Di blog rasmi YouTube minggu lalu, platform perkongsian video mendedahkan rancangan untuk mengeluarkan perisian automatik baharu untuk "menggunakan sekatan umur dengan lebih konsisten" pada video yang dianggap tidak sesuai untuk penonton yang lebih muda.
Didorong oleh kebimbangan baru-baru ini tentang kanak-kanak pada apl, sistem baharu ini berasaskan perisian kecerdasan buatan pembelajaran mesin dengan keupayaan untuk melepaskan penyederhana manusia untuk proses yang lebih automatik. Isunya? Sistem automatik YouTube telah dituduh memilih kandungan LGBTQ+ dan pencipta semata-mata untuk yang sedia ada.
Walaupun ia tidak berniat jahat, yang saya rasa tidak, ia adalah kekurangan input daripada pelbagai suara-atau sekurang-kurangnya kurang rasa hormat.
"Pembelajaran mesin dimaklumkan oleh dan dicipta oleh manusia, dan kemungkinan kecenderungan itu wujud di dalamnya atau dipelajari oleh mesin itu sendiri," kata YouTuber Rowan Ellis dalam temu bual telefon dengan Lifewire. "Sikap berat sebelahnya terhadap kandungan [LGBTQ+] telah terbukti dalam pengalaman YouTubers [LGBTQ+] sebelum ini, dan saya tidak melihat bukti bahawa apa-apa telah dilakukan untuk menghentikannya daripada berlaku."
Bayi, Sekarang Kita Mendapat Darah Buruk
Ellis ialah YouTuber yang mencipta kandungan pendidikan dengan sikap feminis dan aneh, dan pada tahun 2017 dia menerbitkan video mengenai mod terhad syarikat itu. Sebagai langkah awal ke penyederhanaan kandungan automatik, mod ini membenarkan pengguna untuk menyaring "kandungan yang berpotensi matang" secara pilihan daripada cadangan dan pengesyoran carian.
Memperoleh lebih 100, 000 tontonan, dia percaya terdapat usaha sedar untuk menghalang salurannya daripada sekatan kerana lantangnya menentang keterlaluan langkah baharu YouTube ke arah penyederhanaan. Pengguna lain pada platform tidak begitu bernasib baik, dan mereka membuat YouTube mengetahuinya.
Saman tindakan kelas terhadap YouTube telah difailkan pada Ogos 2019 oleh sekumpulan lapan pencipta LGBTQ+ yang menuduh syarikat Silicon Valley menyekat pembuat dan kandungan video aneh dan trans. Tuntutan itu mendakwa laman web itu menggunakan "amalan peraturan kandungan, pengedaran dan pengewangan yang menyalahi undang-undang yang menstigma, menyekat, menyekat, mendemonetisasi dan merugikan Plaintif LGBT secara kewangan dan Komuniti LGBT yang lebih besar." Ia masih melalui mahkamah California.
Pembelajaran mesin dimaklumkan oleh dan dicipta oleh manusia, dan kecenderungan tersebut mungkin wujud di dalamnya atau dipelajari oleh mesin itu sendiri.
Pada bulan Jun tahun yang sama, platform itu mendapat perhatian media selepas enggan menegur dengan pantas pengulas konservatif terkenal Steven Crowder untuk kempen gangguan homofobik selama berbulan-bulan terhadap wartawan dan pengacara Vox Carlos Maza. Ini mengukuhkan apa yang Ellis katakan sebagai corak dengan platform dalam talian untuk mengabaikan cabaran unik yang dihadapi oleh pencipta aneh. Kurangnya kepercayaan pencipta LGBTQ+ terhadap keupayaan YouTube untuk menunjukkan kepada mereka bukan tanpa merit.
"Saya tidak fikir mereka memahami keperluan untuk wujudnya ketelusan berhubung isu sosial dan memastikan kesaksamaan," katanya. "Masih terdapat kanak-kanak di seluruh dunia yang telah membesar dengan idea bahawa menjadi gay adalah salah, dan apabila mereka mula mempersoalkan kepercayaan itu, tetapi mendapati ia ditutup oleh carian atau sekatan yang selamat, ia akan mengukuhkan idea ini bahawa ia adalah salah, tidak sesuai, dewasa, songsang, dan kotor."
Gagal Belajar Auto
Dengan sejarah buruknya mengenai pencipta kandungan LGBTQ+ pada platformnya, kebimbangan tentang pelaksanaan keupayaan perisian pembelajaran mesin untuk membezakan norma yang lebih besar masih muncul. Don Heider, Pengarah Eksekutif di Markkula Center for Applied Ethics, mencadangkan potensi kebodohan adalah risiko yang terlalu besar untuk diperjudikan.
"Adalah sukar untuk mempercayai bahawa AI boleh mentadbir kandungan dari pelbagai negara dengan berkesan dengan norma dan piawaian budaya yang berbeza," tulisnya dalam temu bual e-mel. "AI terlalu kerap dilihat sebagai jawapan kepada soalan yang rumit. Pada ketika ini, AI dan cara ia dicipta bergelut untuk menangani tugasan yang mudah sekalipun, apatah lagi sebarang penyederhanaan kandungan dengan sebarang tahap kerumitan."
YouTube memutuskan penggunaan teknologi AI kerana kekurangan penyederhanaan yang konsisten oleh penyederhana manusia, menurut blognya. Meningkatkan penggunaan penapis berkomputer untuk mengalih keluar video yang dianggap tidak sesuai menjadi kebiasaan, dan melaksanakan prosedur yang sama untuk dasar sekatan umurnya dilihat sebagai langkah seterusnya yang logik.
Sebagai sebuah syarikat yang ingin memperbaiki prosesnya secara beransur-ansur selepas kritikan yang berpanjangan mengenai hubungannya dengan pengguna kanak-kanak, keputusan ini tidak mengejutkan.
Saya rasa mereka tidak memahami keperluan untuk wujudnya ketelusan dalam isu sosial dan memastikan kesaksamaan.
Kanak-kanak telah menjadi demografi utama untuk tapak perkongsian video. Pada bulan Ogos, firma analitis video digital Tubular mendapati, selain daripada video muzik, kandungan yang ditujukan kepada kanak-kanak mendahului senarai akhir bulan untuk video yang paling banyak ditonton di YouTube.
Minat syarikat untuk melindungi kuasa besar yang sedang berkembang pesat ini pada platform adalah masuk akal. Walau bagaimanapun, alatan yang digunakan untuk menguatkuasakan perlindungan ini masih menyusahkan mereka yang telah mendapati diri mereka hiliran prosedur penyederhanaan syarikat.
"Kebimbangan saya ialah ia akan mendatangkan banyak kemudaratan dan tidak melindungi belia [LGBTQ+] yang memerlukan kandungan bermaklumat, berterus terang dan jujur yang mungkin disediakan oleh ramai YouTuber [LGBTQ+], tetapi dibenderakan dalam sistemnya sebagai tidak sesuai," kata Ellis."Walaupun ia tidak berniat jahat, yang saya rasa tidak, ia adalah kekurangan input daripada pelbagai suara-atau sekurang-kurangnya kurang rasa hormat.
"Kami melihatnya sepanjang masa dalam teknologi. Apabila anda melihat pengecaman muka gagal membezakan wajah Hitam yang berbeza, atau apabila kami melihat ubat dan melihat bahawa ubat hanya diuji pada jantina tertentu. Ini adalah perbualan yang lebih besar dan YouTube tidak terkecuali daripada itu."