Isipin ang isang mundo kung saan ang mga artipisyal na intelektwal na algorithm ay gumawa ng mga pagpapasya na nakakaapekto sa iyong pang-araw-araw na buhay. Ngayon, isipin na sila ay pinipigilan.
Ito ang mundo na ating nakatira, sabi ng scientist ng data, si Harvard PhD at may akda na si Cathy O'Neil. (Basahin ang bahagi ng aming talakayan kasama si Dr O'Neil dito). Naupo kami kasama ang nominado ng National Book Award upang malaman kung ano ang magagawa namin tungkol sa pagkiling sa panahon ng malaking data. CT: Naaprubahan ba ang AI?
CO: Ang bawat algorithm na hindi pa malinaw na ginawa patas ay dapat na ipinapalagay na pinapalagay. Sapagkat bilang mga tao, kami ay pinipigilan. Kung kinikilala natin na, at nililikha namin ang mga algorithm na ito kasama ang aming mga halaga at aming data, kung gayon hindi namin dapat ipagpalagay na ang anumang bagay ay nangyari na magically nangyari upang gawing patas ang mga bagay. Walang magic doon.
CT: Saan nakuha ang mga algorithm ng kanilang data?
CO: Ito ay nakasalalay sa algorithm. Minsan ang social media, para sa mga bagay tulad ng pag-target sa merkado sa politika o advertising o for-profit na mga kolehiyo at predatory lending - ngunit maraming data ang hindi nakolekta sa social media, o kahit online.
Ang koleksyon ng data ay lalong nakatali sa totoong buhay, tulad ng pagkuha ng isang trabaho, pagtatrabaho sa iyong trabaho, pagpunta sa kolehiyo o pagpunta sa bilangguan. Ang mga bagay na iyon ay hindi mga bagay na maaari nating makayanan sa mga batas sa pagkapribado. Ang mga ito ay mga isyu ng kapangyarihan, kung saan ang mga tao na na-target ng mga algorithm ay walang kapangyarihan, at ang mga tao na nangongolekta ng impormasyon at pagbuo at pag-deploy ng mga algorithm ay may lahat ng lakas. Wala kang anumang mga karapatan sa pagkapribado kung ikaw ay isang kriminal na nasasakdal, wala kang anumang mga karapatan sa pagkapribado sa iyong trabaho, at wala kang gaanong paraan sa mga karapatan sa pagkapribado kung nag-aaplay ka para sa isang trabaho dahil kung hindi mo sinasagot ang mga tanong na tinanong sa iyo ng iyong employer, baka malamang na hindi mo makuha ang trabaho.
Dapat nating isipin nang kaunti ang tungkol sa privacy at higit pa tungkol sa kapangyarihan pagdating sa mga algorithm at pinsala [maaari silang maging sanhi].
CT: Ano ang maaari nating gawin upang mapabuti ito?
CO: Maaari naming kilalanin na ang mga algorithm na ito ay hindi likas na perpekto, at subukan ang mga ito para sa kanilang mga bahid. Dapat tayong magkaroon ng patuloy na pag-awdit at monitor - lalo na para sa mga mahahalagang desisyon tulad ng pag-upa, pag-sentensya ng kriminal o pagtatasa ng mga tao sa kanilang mga trabaho - upang matiyak na ang mga algorithm ay kumikilos sa paraang nais natin sila, hindi sa ilang uri ng diskriminasyon o hindi patas na paraan.
Ailsa Johnson / © Culture Trip
CT: Ano ang pinakamahusay at pinakamasamang sitwasyon ng kaso para sa hinaharap na data-driven?
CO: Ang pinakapangit na sitwasyon ng kaso ay kung ano ang mayroon tayo ngayon - na lahat tayo ay bulag na inaasahan na maging perpekto ang mga algorithm, kahit na dapat nating makilala nang mas mabuti. At ipinagpapalaganap namin ang nakaraang mga kawalang-katarungan at hindi pagiging patas. At patuloy naming binabalewala ang mga bahid ng mga algorithm na ito.
Ang pinakamahusay na sitwasyon ng kaso ay kinikilala namin ang mga algorithm na ito ay hindi likas na mas mahusay kaysa sa mga tao. Nagpapasya tayo kung ano ang gusto natin bilang mga tao, kung ano ang ating pinagsisikapang. Kung ano ang nais nating magmukhang lipunan, at itinuturo namin ang mga pagpapahalagang iyon. Kung matagumpay nating gawin ito, ang mga algorithm na ito ay maaaring maging mas mahusay kaysa sa mga tao.
CT: Anong papel ang maaaring i-play sa araw-araw?
CO: Ang pinakamahalagang papel na maaaring i-play ng isang indibidwal ay ang hindi tahasang magtiwala sa anumang algorithm. Upang magkaroon ng napakaraming pag-aalinlangan. Kung susuriin ka sa isang algorithm tanungin ang 'Paano ko malalaman na patas, paano ko malalaman na kapaki-pakinabang, paano ko malalaman na tumpak ito? Ano ang rate ng error? Para kanino nabigo ang algorithm na ito? Nabigo ba ito ng mga kababaihan o mga menor de edad? ' Itanong ang ganoong uri ng tanong.
Ang pangalawang bagay, na lampas sa pag-aalinlangan, ay kung sa palagay mo ang isang algorithm ay hindi patas sa iyo o sa ibang tao ay ang pag-ayos sa mga ibang tao. Ang isang kamakailang halimbawa ay mga guro. Ang mga istatistikong modelo tungkol sa mga guro na naidagdag sa halaga ay kakila-kilabot, halos random na mga tagabuo. Ngunit nasanay sila upang magpasya kung ano ang dapat makuha ng mga guro at kung ano ang dapat iputok ng mga guro, sa buong US.
Ang mungkahi ko ay makuha nila ang kanilang unyon upang tumalikod. At nangyari ito sa ilang mga lugar. Ngunit nakakagulat kung gaano kalakas ang paglaban doon dahil sa likas na katangian ng matematika ng sistema ng pagmamarka.
CT: Paano ka nakapasok sa 'malaking data'?
CO: Nagtrabaho ako sa Wall Street at nasaksihan ang krisis sa pananalapi mula sa loob. Ako ay naiinis sa paraan ng matematika na ginamit upang samantalahin ang mga tao o upang lokohin ang mga tao. Nakita ko ang uri ng pinsala na maaaring magmula sa mga kasinungalingan sa matematika, kung ano ang tinawag kong 'ang armas ng matematika'.
Nagpasya akong lumayo dito, kaya sumali ako sa Occupy Wall Street at nagsimulang magtrabaho bilang isang scientist ng data. Dahan-dahan akong natanto na nakikita namin ang mga mali at nakaliligaw na hype sa paligid ng mga nakaliligaw na mga algorithm ng data na nangyayari sa labas ng Wall Street pati na rin, at iyon ay hahantong sa maraming pinsala. Ang pagkakaiba ay na habang ang mga tao sa buong mundo ay napansin ang krisis sa pananalapi, hindi ko inisip na mapapansin ng mga tao ang mga kabiguan ng mga malaking algorithm ng data na ito, sapagkat karaniwang nangyayari ito sa indibidwal na antas.
Basahin ang bahagi ng aming talakayan kasama si Dr O'Neil dito. Ang libro ni Dr Cathy O'Neil, The Weapons of Math Destruction: Gaano Karagdagang Data ang Nagpapataas ng Kawalang-katwiran at Demonyo sa pagbabanta, ay magagamit na ngayon.
