Kung minsan ang mga sistema ng pag-aaral ng makina ay sorpresa sa amin – TechCrunch


Ang simpleng spreadsheet na ito ay hindi maaaring magmukhang magkano ngunit ito ay isang kamangha-manghang paggalugad kung paano ang mga machine "sa tingin." Ang listahan, pinagsama sa pamamagitan ng researcher Victoria Krakovna, naglalarawan ng iba't ibang mga sitwasyon kung saan ang mga robot ay sumunod sa espiritu at ang sulat ng batas sa parehong oras.

Halimbawa, sa video sa ibaba ng isang algorithm sa pag-aaral ng machine natutunan na maaari itong i-rack puntos na hindi sa pamamagitan ng pagkuha ng bahagi sa isang lahi ng bangka ngunit sa pamamagitan ng flipping sa paligid ng isang bilog upang makakuha ng mga puntos. Sa isa pang kunwa "kung saan kailangan ng kaligtasan ng enerhiya ngunit ang pagbibigay ng kapanganakan ay walang gastos sa enerhiya, isang uri ng hayop ang nagbago ng isang laging nakaupo na pamumuhay na halos binubuo ng mating upang makagawa ng bagong mga bata na maaaring kainin (o ginagamit bilang mga ka-asawa upang makagawa ng mas maraming nakakain na mga bata)." Ito ay humantong sa kung ano ang tinatawag na Krakovna "indolent cannibals."

Ito ay malinaw na ang mga machine na ito ay hindi "iniisip" sa anumang tunay na kahulugan ngunit kapag binigyan ng mga parameter at ang kakayahan na magbabago ng isang sagot, ito rin ay malinaw na ang mga robot ay makabuo ng ilang mga masasayang ideya. Sa ibang pagsubok, natutunan ng isang robot na ilipat ang isang bloke sa pamamagitan ng pag-smack sa talahanayan gamit ang braso nito at isa pang "genetic algorithm [was] dapat i-configure ang isang circuit sa isang osileytor, ngunit sa halip [made] isang radyo upang kunin ang mga senyas mula sa kalapit na mga computer. "Ang isa pang sistema ng pagtuklas ng kanser ay natagpuan na ang mga larawan ng mga nakamamatay na mga tumor ay karaniwang naglalaman ng mga pinuno at kaya nagbigay ng maraming maling mga positibo.

Ang bawat isa sa mga halimbawang ito ay nagpapakita ng hindi inaasahang mga kahihinatnan ng pagtitiwala sa mga machine upang matuto. Matututo sila ngunit malilito din sila sa amin. Ang pag-aaral ng makina ay ganoon lamang – ang pag-aaral na nauunawaan lamang ng mga makina.

Isang pangwakas na halimbawa: sa isang laro ng Tetris kung saan ang isang robot ay kinakailangan na "hindi mawala" ang programa ay nag-pause ng "walang katapusan na laro upang maiwasan ang pagkawala." Ngayon kailangan lang magtaboy ng isang pagnanasa at magkakaroon tayo ng matalino na tatlong taon -Told sa aming mga kamay.