Google at Microsoft Warn Iyan AI May Do Dumb Things


Google CEO Sundar Si Pichai ay nagdala ng magandang balita sa mga mamumuhunan sa mga kita ng kumpanya ng alpabeto ng kumpanya noong nakaraang linggo. Nag-ulat ang alpabetong $ 39.3 bilyon sa huling quarter ng kita, hanggang 22 porsiyento mula sa isang taon na mas maaga. Ibinigay ni Pichai ang ilan sa mga credit sa teknolohiya sa pag-aaral ng machine ng Google, na nagsasabi na ito ay may korte kung paano mas tumutugma ang mga ad nang mas malapit sa kung anong mga mamimili ang nais.

Isang bagay na hindi binanggit ni Pichai: Ang alpabeto ay nagbabala na ngayon ng mga namumuhunan na ang parehong teknolohiya ng AI ay maaaring lumikha ng mga etikal at ligal na problema para sa negosyo ng kumpanya. Ang babala ay lumitaw sa unang pagkakataon sa "Risk Factors" segment ng pinakabagong taunang ulat ng Alphabet, na isinampa sa Securities and Exchange Commission sa susunod na araw:

"Ang mga bagong produkto at serbisyo, kabilang ang mga na isinasama o ginagamit ang artipisyal na katalinuhan at pag-aaral ng makina, ay maaaring magtaas ng bago o palalain ang umiiral na etikal, teknolohikal, legal, at iba pang mga hamon, na maaaring negatibong nakakaapekto sa aming mga tatak at pangangailangan para sa aming mga produkto at serbisyo at nakakaapekto sa aming mga kita at mga resulta ng pagpapatakbo."

Dapat gamitin ng mga kumpanya ang mga kadahilanan ng panganib na bahagi ng kanilang taunang mga pag-file upang ibunyag ang nakikitang mga problema sa mga namumuhunan. Iyon ay dapat na panatilihin ang libreng market operating. Nagbibigay din ito ng mga kumpanya ng isang paraan upang i-defuse lawsuits na nagke-claim ng pamamahala ay nagtataglay ng mga potensyal na problema.

Hindi malinaw kung bakit ang mga abogado ng mga alituntunin ng Alphabet ay nagpasya na oras na upang balaan ang mga mamumuhunan ng mga panganib ng mga smart machine. Tinanggihan ng Google na ilarawan ang mga pampublikong filing nito. Ang kumpanya ay nagsimulang sumubok ng mga self-driving na sasakyan sa mga pampublikong kalsada noong 2009 at na-publish na pananaliksik sa mga etikal na tanong na itinaas ng AI sa loob ng maraming taon.

Gustung-gusto ng alpabetong iposisyon ang sarili bilang isang lider sa pananaliksik ng AI, ngunit anim na buwan sa likod ng karibal na Microsoft sa mga babalang mamumuhunan tungkol sa mga etikal na panganib ng teknolohiya. Ang pagsisiyasat ng AI sa pinakabagong pag-file ng Google ay bumabasa tulad ng na-trim down na bersyon ng mas buong wika Ang Microsoft ay naglagay sa pinakabagong pinakabagong ulat ng SEC nito, na isinampa noong nakaraang Agosto:

"Ang mga algorithm ng AI ay maaaring flawed. Ang mga dataset ay maaaring hindi sapat o naglalaman ng nakiling impormasyon. Ang hindi naaangkop o kontrobersyal na mga kasanayan sa data ng Microsoft o iba pa ay maaaring makapinsala sa pagtanggap ng mga solusyon sa AI. Ang mga kakulangan na ito ay maaaring makakaapekto sa mga desisyon, mga hula, o pagtatasa ng mga application ng AI na gumagawa, na sumasailalim sa amin sa mapagkumpetensiyang pinsala, legal na pananagutan, at pinsala sa tatak o reputasyon."

Ang Microsoft ay namumuhunan rin sa AI sa loob ng maraming taon, at noong 2016 ipinakilala nito ang isang panloob na board ng etika ng AI na hinarangan ang ilang mga kontrata na nakikita na nagdudulot ng hindi naaangkop na paggamit ng teknolohiya.

Hindi sumagot ang Microsoft sa mga tanong hinggil sa tiyempo ng pagbubunyag nito sa potensyal para sa pusong AI. Ang parehong Microsoft at alpabeto ay nag-play ng mga kilalang papel sa isang kamakailang pamumulaklak ng pag-aalala at pananaliksik tungkol sa mga etikal na hamon na itinataas ng artificial intelligence. Pareho silang nakaranas ng mga ito.

Noong nakaraang taon, natagpuan ng mga mananaliksik na ang serbisyo ng ulap ng Microsoft ay hindi gaanong tumpak sa pagtuklas ng kasarian ng mga itim na babae kaysa sa mga puting kalalakihan sa mga larawan. Ang kumpanya ay humingi ng tawad at sinabi na ito ay naayos na ang problema. Ang mga protesta ng empleyado sa Google ay pinilit ang kumpanya sa labas ng isang kontrata ng Pentagon na naglalapat ng AI upang magsuot ng surveillance footage, at sinisensyahan nito ang sarili nitong mga serbisyo sa Photos mula sa paghahanap ng mga apes sa snaps ng gumagamit pagkatapos ng isang pangyayari kung saan ang mga itim na tao ay nagkakamali para sa mga gorilya.

Maaaring mukhang hindi malinaw ang mga bagong pagsisiwalat ng Microsoft at Google. Ang mga filing ng SEC ay mga nakalulungkot na dokumento na nakasulat sa isang espesyal at sagana na sub-claused na lawyer na dialect. Gayunpaman, si David Larcker, direktor ng Corporate Governance Research Initiative ng Stanford, ay nagsabi na ang mga bagong pagkilala ng mga panganib ng attendant ng AI ay malamang na napansin. "Tinitingnan ng mga tao ang mga bagay na ito," sabi niya.

Ang mga namumuhunan at kakumpitensiya ay nag-aaralan ng mga kadahilanan ng panganib upang makakuha ng isang kahulugan ng kung ano ang nasa isip ng pamamahala, sabi ni Larcker. Maraming mga item ay karaniwang nakalista-tulad ng mga panganib ng isang pang-ekonomiyang paghina-bilang upang maging mas o mas mababa walang kahulugan. Ang mga pagkakaiba sa mga kumpanya o mga di-pangkaraniwang bagay, tulad ng mga hamon ng etika na itinataas ng artipisyal na katalinuhan, ay maaaring maging mas nakapagtuturo.

Ang ilang mga kumpanya na inaangkin ang kanilang mga futures ay nakasalalay sa mabigat sa AI at pag-aaral ng machine ay hindi naglilista ng mga hindi inaasahang epekto ng mga teknolohiya sa kanilang mga pagsisiwalat ng SEC. Sa pinakahuling taunang ulat ng IBM, para sa 2017, ang kumpanya ay nag-aangkin na "pinangungunahan nito ang merkado para sa mga artificial intelligence infused software solutions" habang ang pagiging pioneer ng "responsibilidad ng data, etika at transparency." Ngunit ang pag-file ay tahimik sa mga panganib na attendant may AI o pag-aaral ng machine. Hindi tumugon ang IBM sa isang kahilingan para sa komento. Ang susunod na taunang pag-file ng kumpanya ay dahil sa susunod na ilang linggo.

Ang Amazon, na umaasa sa AI sa mga lugar kabilang ang voice assistant na si Alexa at warehouse robots, ay nagdadagdag ng pagbanggit ng artipisyal na katalinuhan sa mga kadahilanan ng panganib sa taunang ulat na isinampa noong nakaraang buwan. Gayunpaman, hindi katulad ng Google at Microsoft, ang kumpanya ay hindi nag-imbita ng mga mamumuhunan upang aliwin ang mga saloobin kung paano ang mga algorithm nito ay maaaring makiling o hindi tama. Ang takot sa Amazon ay ang pagsasagawa ng pamahalaan ng mga patakaran sa negosyo na hindi magiliw sa teknolohiya.

Sa ilalim ng heading na "Regulasyon ng Pamahalaan ay Nagbabago at Hindi Maayos na Pagbabago Maaaring makapinsala sa Ating Negosyo," isinulat ni Amazon: "Hindi malinaw kung paano umiiral ang umiiral na mga batas na may kinalaman sa mga isyu tulad ng pagmamay-ari ng ari-arian, libelo, proteksyon ng data, at personal na privacy na nalalapat sa Internet, e- commerce, digital na nilalaman, mga serbisyo sa web, at mga teknolohiya at serbisyo sa artificial intelligence. "

Gayunpaman, sa Huwebes, inanyayahan ni Amazon ang ilang mga tuntunin ng pamahalaan sa pagkilala ng mukha, isang teknolohiya na itinatag sa pagpapatupad ng batas, na binabanggit ang panganib ng maling paggamit. Hindi tumugon ang Amazon sa isang kahilingan para sa komento tungkol sa kung bakit iniisip ng mga mamumuhunan na kailangang malaman ang tungkol sa regulasyon ngunit hindi etikal na mga uncertainties sa paligid ng Ai. Maaaring magbago ang pagtatasa sa oras.

Sinabi ni Larcker na habang nagiging mas mahalaga ang mga gawi at teknolohiya ng negosyo, may posibilidad silang mag-usbong sa mga pagsisiwalat sa panganib sa maraming kumpanya. Ang cybersecurity ay ginagamit upang gumawa ng isang bihirang hitsura sa SEC filings; ngayon binabanggit ito ay pro forma. Maaaring sumunod ang AI. "Sa tingin ko ito ay uri ng likas na pag-unlad ng mga bagay," sabi ni Larcker.


Higit pang mga Great WIRED Stories