Sinasabi ng Facebook na ang kanyang bagong teknolohiya ng AI ay maaaring makakita ng 'paghihiganti porn' – TechCrunch


Ang Facebook sa Biyernes ay nag-anunsiyo ng isang bagong artipisyal na tool na pinapagana ng katalinuhan na sinasabi nito ay tutulong sa social network na makita ang paghihiganti sa porno – ang hindi naiambag na mga kilalang larawan na, kapag naka-post online, ay maaaring magkaroon ng mga nagwawasak na bunga para sa mga lumitaw sa mga larawan. Ang teknolohiya ay makikinabang sa parehong mga diskarte sa pag-aaral ng AI at machine upang proactively tukuyin ang malapit-nude na mga imahe o mga video na ibinahagi nang walang pahintulot sa Facebook at Instagram.

Ang patalastas ay sumusunod sa mas maaga na pilot ng Facebook ng isang photo-matching na teknolohiya, na kung saan ay direktang isumite ng mga tao ang kanilang mga kilalang larawan at video sa Facebook. Ang programa, na kung saan ay tumakbo sa pakikipagsosyo sa mga tagapagtaguyod ng mga organisasyon ng biktima, ay magkakaroon ng isang digital fingerprint ng larawang iyon upang maiwasang mapigil ito ng Facebook mula kailanman na ibinabahagi online sa mga platform nito. Ito ay katulad ng kung paano pinipigilan ng mga kumpanya ngayon ang mga imahe ng pang-aabuso ng bata na mai-post sa kanilang mga site.

Gayunpaman, ang bagong teknolohiya ng AI para sa paghihiganti porn ay hindi nangangailangan ng paglahok ng biktima. Mahalaga ito, nagpapaliwanag sa Facebook, dahil ang mga biktima ay natatakot din sa retribution upang iulat ang nilalaman mismo. Sa ibang mga pagkakataon, hindi lang nila alam na ang mga larawan o video ay ibinabahagi.

Habang ang kumpanya ay maikli sa mga detalye tungkol sa kung paano gumagana ang bagong system mismo, ito ay tanda na ito ay lampas lamang ng "paghanap ng kahubdan."

Matapos ang mga flag ng system ng isang imahe o video, isang espesyal na sinanay na miyembro ng Facebook's Community Operations team ay susuriin ang imahe, pagkatapos ay alisin ito kung lumalabag ito sa Mga Pamantayan ng Komunidad ng Facebook. Sa karamihan ng mga kaso, hindi rin paganahin ng kumpanya ang account bilang isang resulta. Magagamit ang isang proseso ng pag-apila kung naniniwala ang tao na nagkamali ang Facebook.

Bilang karagdagan sa teknolohiya at umiiral na programa ng piloto, sinabi ng Facebook na nasuri rin nito kung paano maaaring mapabuti ang iba pang mga pamamaraan sa pag-uulat ng pagrereklamo ng porno. Halimbawa, nakita nito na gusto ng mga biktima ang mas mabilis na mga tugon kasunod ng kanilang mga ulat at hindi nila nais ang isang robotic reply. Ang iba pang mga biktima ay hindi alam kung paano gamitin ang mga tool sa pag-uulat o kahit na sila ay umiiral.

Sinabi ng Facebook na ang pagtugon sa paghihiganti porn ay kritikal dahil maaari itong humantong sa mga kahihinatnan ng kalusugan ng kaisipan tulad ng pagkabalisa, depression, paniniwala sa paniwala at kung minsan kahit na PTSD. Maaari ring maging propesyonal na mga kahihinatnan, tulad ng mga nawawalang trabaho at nasira na relasyon sa mga kasamahan. Dagdag pa, ang mga may mas tradisyunal na komunidad sa buong mundo ay maaaring shunned o desterado, inuusig o kahit na pisikal na pinsala.

Sinabi ng Facebook na hindi ito nakakahanap ng isang paraan upang "kilalanin ang trauma na tinitiis ng mga biktima," kapag tumugon sa kanilang mga ulat. Sinasabi nito na muling sinusuri na muli ang mga tool sa pag-uulat at iproseso upang matiyak na mas "tapat, malinaw at maawain" ang mga ito.

Inilunsad din nito ang "Not Without My Consent," isang hub ng suporta sa biktima sa Facebook Safety Center na binuo kasama ang mga eksperto. Ang sentro ay nag-aalok ng mga biktima ng access sa mga organisasyon at mga mapagkukunan na maaaring suportahan ang mga ito, at ay detalye ng mga hakbang upang gawin upang i-ulat ang nilalaman sa Facebook.

Sa mga buwan sa hinaharap, sinabi ng Facebook na magtatayo din ito ng mga tool sa suporta para sa biktima sa mas maraming impormasyon sa lokal at kultura na may kaugnayan sa pakikipagtulungan sa mga kasosyo, kabilang ang Revenge Porn Helpline (UK), Cyber ​​Civil Rights Initiative (US), Digital Rights Foundation (Pakistan), SaferNet (Brazil) at Propesor Lee Ji-yeon (South Korea).

Ang paghihiganti sa porno ay isa sa maraming mga isyu na nagreresulta mula sa pagbibigay sa mundo ng isang platform para sa pampublikong pagbabahagi. Ang Facebook ngayon ay nagsisimula sa pagmamay-ari hanggang sa mga pagkabigo ng social media sa maraming mga fronts – na kasama rin ang mga bagay tulad ng mga paglabag sa privacy ng data, ang pagkalat ng maling impormasyon at online na harassment at pang-aabuso.

Ang CEO Mark Zuckerberg kamakailan ay nag-anunsyo ng pivot sa privacy, kung saan ang mga produkto ng Facebook ay magkakasama bilang isang naka-encrypt, interoperable, network ng pagmemensahe – ngunit ang paglipat ay nag-awas sa loob ng Facebook, na nagdudulot nito upang mawala ang mga nangungunang execs kasama ang paraan.

Habang nagbabago ang mga pagbabago sa kung ano ang nais ng publiko, maraming nawalan na ng tiwala sa Facebook. Sa unang pagkakataon sa loob ng 10 taon, napansin ng Edison Research ang pagbaba sa paggamit ng Facebook sa U.S., mula 67 hanggang 62 porsiyento ng mga Amerikano 12 at mas matanda. Still, Facebook ay isang napakalaking plataporma, na may higit sa 2 bilyong mga gumagamit. Kahit na ang mga gumagamit mismo ay hindi sumali sa Facebook, hindi ito pumipigil sa kanila na maging biktima ng paghihiganti porn o iba pang online na pang-aabuso ng mga patuloy na gumagamit ng social network.