Paano Mga Kumpanya ng Teknolohiya ay Bumubuo ng Mga Panuntunan na Namamahala sa AI


Noong unang bahagi ng Abril, inilathala ng European Commission ang mga alituntunin na inilaan upang mapanatili ang anumang artipisyal na teknolohiya ng katalinuhan na ginagamit sa mapagkakatiwalaan ng 500 milyong mamamayan ng EU. Ang commissioner ng bloke para sa digital na ekonomiya at lipunan, ang Mariya Gabriel ng Bulgaria, ay tinawag silang "isang matatag na pundasyon batay sa mga halaga ng EU."

Isa sa 52 eksperto na nagtrabaho sa mga alituntunin ay nag-uudyok na ang pundasyon ay may depekto-salamat sa industriya ng tech. Si Thomas Metzinger, isang pilosopo mula sa Unibersidad ng Mainz, sa Alemanya, ay nagsabi ng napakaraming eksperto na lumikha ng mga alituntunin na nagmula o nakahanay sa mga interes sa industriya. Sinabi ni Metzinger na siya at ang isa pang miyembro ng grupo ay hiniling na mag-draft ng isang listahan ng paggamit ng AI na dapat ay ipinagbabawal. Ang listahan na iyon ay may kasamang autonomous na mga armas, at mga sistema ng pagmamarka ng social na pamahalaan na katulad ng mga nasa ilalim ng pag-unlad sa Tsina. Ngunit ipinahayag ni Metzinger na ang mga kaalyado ng tech ay kumbinsido sa mas malawak na grupo na hindi dapat gumuhit ng anumang "pulang linya" sa paligid ng paggamit ng AI.

Sinabi ni Metzinger na nawala ang isang pagkakataon para sa EU na magtakda ng isang maimpluwensyang halimbawa na-tulad ng mga patakaran sa pagkapribado ng GDPR ng bloke-ay nagpakita na ang teknolohiya ay kailangang gumana sa loob ng malinaw na mga limitasyon. "Ngayon lahat ay nakasalalay sa pag-uusap," sabi niya.

Kapag ang isang pormal na draft ay inilabas noong Disyembre, ang mga gamit na iminungkahi na nangangailangan ng "mga pulang linya" ay iniharap bilang mga halimbawa ng "mga kritikal na alalahanin." Ang paglilipat na iyon ay lumitaw upang mangyaring Microsoft. Ang kumpanya ay walang sariling upuan sa grupo ng eksperto ng EU, ngunit tulad ng Facebook, Apple, at iba pa, ay kinakatawan sa pamamagitan ng trade group DigitalEurope. Sa isang pampublikong komento sa draft, si Cornelia Kutterer, ang senior director ng Microsoft para sa mga affairs ng gobyerno ng EU, ay nagsabi na ang grupo ay "kinuha ang tamang diskarte sa pagpili na itapon ang mga ito bilang 'mga alalahanin,' sa halip na 'mga pulang linya.'" Hindi ginawa ng Microsoft magbigay ng karagdagang komento. Si Cecilia Bonefeld-Dahl, direktor heneral para sa DigitalEurope at isang miyembro ng grupo ng dalubhasa, ay nagsabi na ang kanyang trabaho ay balanse, at hindi nakahilig sa industriya. "Kailangan nating gawin ito nang tama, hindi upang ihinto ang European innovation at kapakanan, kundi pati na rin upang maiwasan ang mga panganib ng maling paggamit ng AI."

Ang pagbagsak sa mga alituntunin ng Europa para sa AI ay isang paunang pag-aaway sa isang debate na malamang na magbalik-balik sa buong mundo, dahil ang mga tagapayo ay nag-iisip ng pag-install ng mga guardrail sa artipisyal na katalinuhan upang maiwasan ang pinsala sa lipunan. Ang mga kumpanya ng tech ay may malapit na interes-at sa ilang mga kaso ay lumilitaw na sinusubukan na patnubayan ang pagtatayo ng anumang mga bagong guardrails sa kanilang sariling kapakinabangan.

Propesor ng batas ng Harvard na si Yochai Benkler ay nagbabala sa journal Kalikasan sa buwang ito na "ang industriya ay kumilos upang hugis ang agham, moralidad at mga batas ng artipisyal na katalinuhan."

Binanggit ni Benkler ang karanasan ni Metzinger sa op-ed na iyon. Kasama rin siya sa iba pang mga akademya sa pagpuna sa isang programa ng National Science Foundation para sa pananaliksik sa "Katapatan sa Artipisyal na Katalinuhan" na pinondohan ng Amazon. Ang kumpanya ay hindi lalahok sa peer review process na naglalaan ng mga pamigay. Ngunit sinasabi ng mga dokumento ng NSF na maaari itong hilingin sa mga tatanggap na magbahagi ng mga update sa kanilang trabaho, at mananatiling isang karapatan sa lisensya ng royalty-free sa anumang binuo ng intelektwal na ari-arian.

Tumanggi ang Amazon na magkomento sa programa; Sinabi ng isang tagapagsalita ng NSF na ang mga kasangkapan, data, at mga papeles ng pananaliksik na ginawa sa ilalim ng mga gawad ay magagamit lahat sa publiko. Sinasabi ni Benkler na ang programa ay isang halimbawa ng kung paano ang industriya ng tech ay nagiging masyadong maimpluwensiyal sa kung paano namamahala ang lipunan at sinusuri ang mga epekto ng AI. "Kailangan ng mga aktor ng gobyerno na matuklasang muli ang kanilang sariling pakiramdam bilang isang kailangang-kailangan na kontra sa kapangyarihan ng industriya," sabi niya.

Ginamit ng Microsoft ang ilan sa kapangyarihan nito kapag itinuturing ng estado ng Washington ang mga panukala upang paghigpitan ang teknolohiya ng facial recognition. Ang yunit ng ulap ng kumpanya ay nag-aalok ng ganitong teknolohiya, ngunit sinabi din nito na ang teknolohiya ay dapat sumailalim sa bagong pederal na regulasyon.

Noong Pebrero, suportado ng Microsoft ang isang bill ng privacy na isinasaalang-alang sa Senado ng estado ng Washington na nagpapakita ng mga ginustong panuntunan nito, na kinabibilangan ng isang pangangailangan na pinahihintulutan ng mga tagalabas na subukan ang kanilang teknolohiya para sa katumpakan o biases. Ang kumpanya ay nagsalita laban sa isang mahigpit na panukalang batas na naglagay ng moratoriyum sa paggamit ng lokal at pang-estado na pamahalaan ng teknolohiya.

Sa pamamagitan ng Abril, natagpuan ng Microsoft ang kanyang sarili laban sa isang House version ng bill na ito ay suportado, pagkatapos ng pagdaragdag ng firmer na wika sa facial recognition. Kinakailangan ng kuwenta ng House na ang mga kumpanya ay kumuha ng independiyenteng kumpirmasyon na ang kanilang teknolohiya ay pantay na nagtrabaho para sa lahat ng mga tono ng balat at kasarian bago i-deploy ito. Si Irene Plenefisch, direktor ng gobyerno ng Microsoft, ay nagpatotoo laban sa bersyon na iyon ng panukalang batas, na nagsasabing "epektibo itong mag-ban sa facial recognition technology [which] ay may maraming kapaki-pakinabang na gamit. "Ang kuwenta ng bahay ay tumigil. Sa mga mambabatas na hindi mapagkasundo ang magkakaibang mga pangitain para sa batas, ang pagtatangka ni Washington na ipasa ang isang bagong batas sa pagkapribado na gumuho.

Sa isang pahayag, sinabi ng isang tagapagsalita ng Microsoft na ang mga pagkilos ng kumpanya sa Washington ay nagmula sa paniniwala nito sa "malakas na regulasyon ng teknolohiyang pang-facial recognition upang matiyak na ginagamit ito nang may pananagutan."

Sinabi ni Shankar Narayan, direktor ng teknolohiya at kalayaan na proyekto ng ACLU's Washington chapter, ang episode na nagpapakita kung paano ang mga tech na kumpanya ay nagsisikap na makapagpatuloy ng mga mambabatas patungo sa kanilang napaboran, maluwag, patakaran para sa AI. Ngunit, sabi ni Narayan, hindi sila laging magtagumpay. "Ang aking pag-asa ay mas maraming mga tagapagbuo ang makakakita sa mga kumpanyang ito bilang mga entidad na kailangang kontrolado at tumayo para sa mga mamimili at komunidad," sabi niya. Noong Martes, binoto ng mga superbisor ng San Francisco ang pagbabawal sa paggamit ng pagkilala ng mukha ng mga ahensya ng lungsod.

Ang mga mambabatas ng Washington-at ang Microsoft-umaasa na subukan muli para sa bagong batas sa privacy at facial recognition sa susunod na taon. Sa pamamagitan noon, ang Ai ay maaaring maging paksa ng debate sa Washington, DC.

Noong nakaraang buwan, ipinakilala ng mga senador na si Cory Booker (D-New Jersey) at Ron Wyden (D-Oregon) at Kinatawan Yvette Clarke (D-New York) ang mga bill na tinatawag na Algorithmic Accountability Act. Kabilang dito ang isang iniaatas na natutukoy ng mga kumpanya kung ang mga sistema ng AI at ang kanilang data ng pagsasanay ay may mga biases, o maaaring makapinsala sa mga mamimili sa pamamagitan ng diskriminasyon.

Si Mutale Nkonde, isang kapwa sa instituto ng pananaliksik ng Data at Lipunan, ay sumali sa mga talakayan sa panahon ng pag-draft ng bill. Umaasa siya na magpapalitaw ito ng talakayan sa DC tungkol sa mga epekto ng panlipunan ng AI, na sinasabi niya ay matagal nang huli.

Ang industriya ng tech ay gagawin ang sarili nito bilang bahagi ng anumang naturang pag-uusap. Sinabi ni Nkonde na kapag nakikipag-usap sa mga mambabatas tungkol sa mga paksa tulad ng mga pagkakaiba sa lahi sa mga algorithm sa pagtatasa ng mukha, ang ilan ay tila nagulat, at sinabi na sila ay binigyang-diin ng mga tech company kung paano ang teknolohiya ng AI ay nakikinabang sa lipunan.

Ang Google ay isang kumpanya na nagbigay ng briefed federal lawmakers tungkol sa AI. Ang magulang na alpabeto nito ay gumastos ng $ 22 milyon, higit sa anumang iba pang kumpanya, sa paglulunsad noong nakaraang taon. Noong Enero, nagbigay ang Google ng isang puting papel na naglalaban na kahit na ang teknolohiya ay may mga panganib, ang mga umiiral nang patakaran at regulasyon sa sarili ay sapat na "sa karamihan ng mga pagkakataon."

Ang Metzinger, ang propesor ng pilosopiya ng Aleman, ay naniniwala na ang EU ay maaari pa ring makalaya mula sa impluwensya ng industriya sa patakaran ng AI nito. Ang grupo ng mga dalubhasa na gumawa ng mga alituntunin ay ngayon nagmumungkahi ng mga rekomendasyon kung paano dapat sisimulan ng European Commission ang bilyun-bilyong euros na gagastusin nito sa mga darating na taon upang mapalakas ang competitiveness ng Europa.

Nais ng Metzinger na ilan sa mga ito upang pondohan ang isang bagong sentro upang pag-aralan ang mga epekto at etika ng AI, at katulad na gawain sa buong Europa. Iyon ay lilikha ng isang bagong klase ng mga dalubhasa na maaaring patuloy na umuunlad sa mga alituntunin ng AI etika ng EU sa mas kaunting direksyon sa industriya, sabi niya.


Higit pang mga Great WIRED Stories