Twitter Berkongsi Keputusan Cabaran Bounty Bias Algoritma

Twitter Berkongsi Keputusan Cabaran Bounty Bias Algoritma
Twitter Berkongsi Keputusan Cabaran Bounty Bias Algoritma
Anonim

Twitter mengumumkan keputusan pertandingan terbukanya untuk mencari berat sebelah dalam sistem pemangkasan fotonya.

Cabaran hadiah dibuka pada bulan Julai selepas pengguna Twitter menunjukkan bahawa alat pemangkasan automatik tapak itu mengutamakan wajah orang yang berkulit cerah berbanding mereka yang berkulit gelap. Ia menimbulkan beberapa persoalan tentang cara perisian mengutamakan warna kulit dan faktor tertentu berbanding yang lain.

Image
Image

Cabaran berusaha untuk mencari pepijat dan berat sebelah lain yang mungkin ada pada sistem pemangkasan untuk menyelesaikan isu tersebut.

Tempat pertama dimenangi Bogdan Kulynych, yang penyerahannya menunjukkan cara penapis kecantikan boleh mempermainkan model pemarkahan algoritma, yang seterusnya, menguatkan standard kecantikan tradisional. Penyerahan menunjukkan algoritma memilih wajah muda dan langsing dengan sama ada ton kulit cerah atau hangat. Kulynych memenangi $3, 500.

Tempat kedua dimenangi HALT AI, sebuah syarikat permulaan teknologi di Toronto, yang mendapati imej warga emas dan orang kurang upaya telah dipangkas daripada foto. Pasukan diberi $2, 000 untuk menduduki tempat kedua.

Tempat ketiga, dan $500, dimenangi oleh Roya Pakzad, pengasas Taraaz Research, yang mendapati algoritma lebih mengutamakan pemangkasan skrip Latin berbanding skrip Arab, yang boleh membahayakan kepelbagaian linguistik.

Image
Image

Keputusan terperinci telah dibentangkan di DEF CON 29 oleh Rumman Chowdhury, pengarah pasukan META Twitter. Pasukan META mengkaji masalah yang tidak disengajakan dalam algoritma dan menyingkirkan sebarang jenis berat sebelah jantina dan kaum yang mungkin ada pada sistem sedemikian.

Data yang diperoleh daripada peraduan ini akan digunakan untuk mengurangkan pepijat dan berat sebelah dalam algoritma pemangkasan dan membantu memastikan persekitaran yang lebih inklusif.

Disyorkan: