Bakit Nagtatampok ang Netflix ng Mga Black Aktor sa Mga Promo sa Mga Black User


Noong nakaraang linggo, ang mga gumagamit ng Netflix ay nagtaas ng mga alalahanin na ang kumpanya ay nagta-target sa mga gumagamit ng African American sa pamamagitan ng lahi sa paraan na itinataguyod nito ang mga pelikula na nagpapakita ng mga itim na character na kung minsan ay may mga menor de edad lamang na ginagampanan sa isang pelikula.

Ang debate ay nagsimula pagkatapos ng Stacia L. Brown, tagalikha ng podcast Kagandahan City, nag-tweet ang isang screenshot ng promosyon na ipinakita niya para sa Tulad ng Ama, na nagtatampok ng dalawang itim na character, Leonard Ouzts at Blaire Brooks, na may "20 mga linya sa pagitan nila, nangunguna," sa halip na sikat na puting bituin ng pelikula, Kristen Bell at Kelsey Grammer. Si Brown, na itim, ay nag-post ng isang maliit na iba pang mga halimbawa kung saan ang Netflix ay naka-highlight ng mga itim na aktor, siguro upang maakit siya upang panoorin, kahit na ang mga cast ng pelikula ay nakararami nang puti.

Bilang tugon, ang Netflix ay nagbigay ng isang maingat na worded statement na nagbibigay diin na ang kumpanya ay hindi sumusubaybay sa demograpikong data tungkol sa mga gumagamit nito. "Ang mga ulat na tinitingnan namin sa mga demograpiko kapag ang personalize ng mga likhang sining ay hindi totoo," sabi ng kumpanya. "Hindi kami humingi ng mga miyembro para sa kanilang lahi, kasarian, o etnisidad upang hindi namin magagamit ang impormasyong ito upang i-personalize ang kanilang karanasan sa Netflix. Ang tanging impormasyon na ginagamit namin ay kasaysayan ng panonood ng isang miyembro. "Idinagdag ng kumpanya na ang mga personalized na poster ay produkto ng isang algorithm sa pag-aaral ng makina na ipinakilala noong nakaraang taon.

Sa madaling salita, ang Netflix ay nagmamalasakit sa pagpapanatili sa iyo ng baluktot, sa halip na ang iyong lahi. Gayunpaman ang pagtuon sa mga tahasang katanungan tungkol sa lahi ay isang bagay ng isang umigtad, na nagpapahintulot sa kumpanya na distansya ang sarili mula sa isang kinalabasan na sinasabi ng mga mananaliksik ay madaling mahuhulaan. "Kung personal mo batay sa pagtingin sa kasaysayan, ang pag-target sa pamamagitan ng lahi / kasarian / etnisidad ay isang natural na lumilitaw na epekto," propesor ng Princeton Arvind Narayanan tweeted bilang tugon sa pahayag ni Netflix. "Ngunit ang isang makitid na salita pagtanggi ay nagpapahintulot sa mga kumpanya upang magpalihis ng mga alalahanin."

Ang pagsisikap ng kumpanya na i-optimize ang bawat aspeto ng serbisyo, hanggang sa thumbnail na mga imaheng pang-promosyon, ay nasa kurso ng banggaan na may pagkakakilanlan ng lahi at etniko. Iyon ay dahil sa isang sopistikadong operasyon ng pagsubaybay sa data tulad ng Netflix nakakaalam ng ilang mga manonood ay nakasalalay sa panonood ng nilalaman na sumasalamin sa kanilang sariling lahi, kasarian, o sekswalidad. Kaya malamang na inaasahan na ang mga likhang sining na batay sa kasaysayan ng pagtingin na iyon ay sumasalamin sa mga kagustuhan sa lahi o kasarian. Habang pinahahalagahan ng mga user ang mga iminungkahing kategorya tulad ng "Mga Pelikula na may isang malakas na lead ng babae," ang mga thumbnail na naka-target na hyper ay hindi na maaring tumakbo sa isang problema.

Ang algorithm ay maaaring pagsubok na mukhang hindi nakapipinsala na mga variable, tulad ng kung ang mga menor de edad na character ng pelikula ay maaaring makaakit ng mga manonood. Ngunit inilapat nito ang pormula sa isang repository ng nilalaman na sumasalamin sa mga bias sa Hollywood, kung saan ang mga tao ng kulay ay ibinibigay nang mas kaunti at hindi gaanong kilalang mga bahagi. Itinatampok ang mga menor de edad na itim na character sa isang nakararami puting pelikula tulad ng Tulad ng Ama iniwan ang mga gumagamit ng Netflix tulad ng damdamin ni Brown na manipulahin.

Tinalakay ba ng Netflix ang kinalabasan na ito? Ang tugon ng kumpanya sa WIRED ay nagtutuon ng tanong: "Patuloy naming sinubok ang iba't ibang mga imahe upang mas mahusay na maunawaan kung ano talaga ang kapaki-pakinabang sa mga miyembro sa pagpapasya kung ano ang dapat panoorin. Ang layunin ng lahat ng pagsubok ay upang matuto mula sa aming mga miyembro at patuloy na mapabuti ang karanasan na inihahatid namin, "sabi ng isang tagapagsalita ng kumpanya sa pamamagitan ng email.

Bakit nakakaabala ang pagpapasadya sa thumbnail? "Kami ay personalize ang koleksyon ng imahe sa serbisyo para sa maraming mga taon," idinagdag ang tagapagsalita. "Mga isang taon na ang nakakaraan, sinimulan namin ang pag-personalize ng koleksyon ng imahe sa pamamagitan ng miyembro habang nakita namin na ito ay nakatulong sa mga miyembro na magbawas sa oras ng pagba-browse at mas mabilis na makahanap ng mga kuwento na nais nilang panoorin. Sa pangkalahatan, ang lahat ng aming mga pag-update at tampok ng serbisyo[s] ay dinisenyo sa paligid ng pagtulong sa mga miyembro na mas mabilis na makahanap ng pamagat na masisiyahan nilang panoorin. "

Ang tagapagsalita ay hindi magpapaliwanag kung anong aspeto ng aming mga gawi sa panonood ay ginagamit para sa personalized na koleksyon ng imahe. "Hindi kami lumalalim sa paksang ito ng karamihan sa pagmamay-ari," ang tagapagsalita ay sumulat.

Kung ang profile ng Netflix ay sinadya o hindi, ang propesor ng law ng Georgetown na si Anupam Chander ay nag-aakala na ang kumpanya ay may utang sa mga gumagamit ng higit na transparency. "Napaka-katunayan na ang algorithm ay magkakaroon ng mali," sabi niya. "Ang mga itim na tao ay may ilang mga aktwal na mga bahagi ng pagsasalita, sinusubukang i-promote ang isang pelikula sa akin bilang isang tao ng kulay ay maaaring bunutin ang bahagi ng character na pinapatay sa ang unang 10 minuto. "

Idinagdag ni Chander na ang Netflix ay nawawala ang isang pagkakataon upang turuan ang mga gumagamit nito. "Ang pag-aalala dito ay pagmamanipula, at ang paraan upang maiwasan ang pagiging manipulado ay maging isang edukadong mamimili. Ang mga kumpanya ay kailangang turuan kami tungkol sa kung paano gumagana ang kanilang mga produkto at ang kanilang mga algorithm. "Isinasaalang-alang ni Chander ang kanyang sarili na isang mahusay na mamimili, ngunit hanggang Martes, hindi niya alam na ang mga thumbnail ng Netflix ay naglilingkod sa kanya ay tulad ng personalized na seleksyon ng pelikula.

Si Selena Silva, isang assistant sa pananaliksik sa University of California sa Davis, na nag-co-authored ng isang kamakailang papel tungkol sa mga kinalabasan ng napapaloob na lahi, ay nakikita rin ang silid para sa higit na katapat mula sa Netflix. Ang paggawa ng desisyon sa algorithm ay may mapanganib na mga kahihinatnan para sa mga itim at Hispanic na tao kapag ginamit sa mga lugar tulad ng kriminal na katarungan at mahuhulaan policing. Sa gayong mga kaso, ang mga technologist sa likod ng mga algorithm ay maaaring hindi malinaw na magtanong tungkol sa lahi. Maraming mga proxy, tulad ng mataas na paaralan o zip code na malapit na nakabatay sa lahi.

Sa mga arena na iyon, walang kakayahang makita, samantalang "madaling maipaliwanag ng Netflix ang lahat ng bagay na nangyayari, kung ito ay gumagawa ng malalaking populasyon na hindi komportable," sabi ni Silva. "Kapag ito ay isang bagay na walang halaga tulad ng mga likhang sining na ipinapakita upang mag-advertise ng isang pelikula, sa grand scheme ng mga bagay, hindi na kailangang maitago."


Higit pang mga Great WIRED Stories