Intervju, Hana Fraj: Prednosti moralnih dilema u svetu kojim upravlja računarski kod
Ako ste poput mene, onda vam se sigurno dopada (uglavnom) činjenica da algoritmi mogu da vam preporuče film za gledanje, neku novu pesmu, ili da vam omoguće efikasan način da pratite objave na društvenim mrežama. Ali, gde su algoritmimi koji bi trebalo da pomognu policiji da pronađu počinioca zločina? Ili oni koji bolje dijagnostikuju bolesti od doktora? Međutim, nisu svi kao ja, i autonomni virtuelni doktori, prodavci i policajci ne ulivaju svima poverenje. U knjizi „Zdravo svete: Kako biti human u doba mašina“, matematičarka Hana Fraj pažljivo proučava potencijalne prednosti i opasnosti u svetu kojim upravlja računarski kod. U daljem tekstu opisuje svoj „poziv za buđenje“ koji je iskusila u Berlinu, koliko je zaista raspostranjeno kopanje podataka (data mining), osobu koja je inspirisala način kojim se obraća publici i još mnogo toga.
Kada ste dobili ideju da napišete ovu knjigu?
Pošto sam diplomirala, radila sam sa policijom da bismo utvrdili šta se desilo tokom nemira u Londonu 2011. godine. Posao koji smo obavljali bio je retrospektivan, nemiri su se već završili. Pomoću podataka koje smo sakupili, pokušali smo da napravimo model koji bi predvideo šta bi mogao da bude izvor novih nemira i gde bi se ljudi nalazili. Namera je bila da omogućimo policiji da spremno dočeka i prati potencijalne nemire.
Otputovala sam u Berlin da održim govor, i neiskusna i naivna, kakva sam bila, napravila sam nekoliko šala i rekla: „Ovako se guše nemiri“. Ako postoji grad u svetu, koji zaista razume šta znači biti potlačen u policijskoj državi, to je Berlin. Bukvalno su me rastrgli na pozornici. To me je trglo. Ako se bavite novim tehnologijama, morate biti svesni sveopštih implikacija.
Primetila sam da države koriste zastarele algoritme za vrlo bitne stvari. Pomislila sam da ljudi koji pišu ove algoritme ne pričaju sa ljudima koji ih koriste, a ljudi koji ih koriste ne pričaju sa ljudima na čije će živote njihove odluke uticati. Zaključila sam da je jako bitno premostiti jaz između te tri grupe.
Šta vas je najviše iznenadilo dok ste pisali knjigu?
Mnogo sam toga naučila i promenila sam mišljenje o velikom broju stvari dok sam pisala ovu knjigu. Na primer, kada sam saznala da postoje algoritmi koji mogu da predvide da li će neko počiniti zločin, bila sam prestravljena idejom da takva tehnologija može imati manu koja bi pravila greške, i smatrala sam da ne bi trebalo da ima moć nad nečijom budućnošću. Ali kada sam se malo više udubila u materiju, shvatila sam da ne treba kritikovati ako nešto ne deluje savršeno. Dovoljno je znati šta nam preostaje ako ne budemo koristili ove sisteme – mi sami. A najveće iznenađenje je bilo saznanje koliko su ljudi loši u rešavanju takvih problema; neverovatno je koliko predrasude mogu biti snažne. Čak iako postoje mane i greške u sistemu, treba imati u vidu šta daje najbolje rezltate.
Takođe, godinama sam se bavila analizom podataka u naučne svrhe, ali nisam imala predstavu koliko, na primer, brokeri poseduju informacija i podataka. U pitanju su ogromne kompanije koje raspolažu uobičajenim podacima: ime, godine, pol, visina. Ali takođe znaju, recimo, da li ste ikada imali abortus ili pobačaj; kako se seksualno opredeljujete i da li je to zaista vaše stvarno seksualno opredeljenje.
Sve što radimo na internetu ne samo da se nadzire, već se sve te informacije pakuju, prodaju i preprodaju da bi se nama lakše manipulisalo. Verujem da je problem sa Kembridž analitikom samo početak velike nevolje.
S druge strane, prikupljanje naših podataka može biti vrlo korisno. Na primer, sajt „23andMe“ prodaje uslugu pronalaženja porekla, pa tako možemo da saznamo da li potičemo od Vikinga ili od koga god, i pritom skupljaju ogromnu DNK bazu podataka koja je za naučnike neprocenjiva. Podstakli su ljude da im plate, da pridodaju DNK njihovoj bazi podataka. Genijalno!
Da li se po nečemu knjiga koju ste želeli da napišete razlikuje od knjige koju ste napisali?
Planirala sam da napravim veseli izlet u tu tematiku, i da završim sa tim u roku od šest meseci. Bilo je mnogo teže nego što sam mislila. Postoje velike nijanse u postavljenim pitanjima. I ne postoje laki odgovori. Da bih mogla da odgovorim na njih ili napišem zanimljivo štivo, morala sam puno da istražujem. Više sam se posvetila pisanju ove knjige, istraživanju, čitanju nego što sam se posvetila svom doktoratu.
Poslednje poglavlje knjige bavi se pitanjem da li mašine mogu biti kreativne, i da li mašine mogu prepoznati istinsku lepotu. Morala sam da definišem lepotu na neki način. Ja sam matematičar, jeste li svesni šta to znači? Nisam mislila da ću pisati definicije umetnosti.
Koja kreativna osoba (ne pisac) je najviše uticala na vas i vaš rad?
Hans Rozling, doktor i statističar. Zovu ga Mik Džegerom TED-a. Umro je pre dve godine. On me je inspirisao zbog načina na koji je prenosio svoje znanje o statistici, temi koja nije naročito privlačna. On je razumeo da kada prenosite svoje znanje publici, ona mora da vam bude na prvom mestu. Znao je da kakva god tema da je u pitanju, nešto mora publiku da privuče i zadrži. Svi mi volimo humor, šalu, malo blesavosti. Umeo je da dovede publiku do ludila svojim humorom, i onda u pravom trenutku, kada su slušaoci spremni, preneo bi im neko znanje i poruku. To je izvanredna veština, pokušavam i sama da je savladam.
Ubedite nekoga da pročita „Zdravo svete“ u 50 reči ili manje.
Ovo nije knjiga o algoritmima. Ovo je knjiga o ljudima. O tome ko smo, kuda smo se zaputili, šta nam je bitno – i kako se menjamo zajedno sa tehnologijom. Ne obećavam da ćete dobiti odgovore, ali se nadam da će promeniti način na koji posmatramo svet.
Izvor: nytimes.com
Prevod: Aleksandar Mandić
Kada ste dobili ideju da napišete ovu knjigu?
Pošto sam diplomirala, radila sam sa policijom da bismo utvrdili šta se desilo tokom nemira u Londonu 2011. godine. Posao koji smo obavljali bio je retrospektivan, nemiri su se već završili. Pomoću podataka koje smo sakupili, pokušali smo da napravimo model koji bi predvideo šta bi mogao da bude izvor novih nemira i gde bi se ljudi nalazili. Namera je bila da omogućimo policiji da spremno dočeka i prati potencijalne nemire.
Otputovala sam u Berlin da održim govor, i neiskusna i naivna, kakva sam bila, napravila sam nekoliko šala i rekla: „Ovako se guše nemiri“. Ako postoji grad u svetu, koji zaista razume šta znači biti potlačen u policijskoj državi, to je Berlin. Bukvalno su me rastrgli na pozornici. To me je trglo. Ako se bavite novim tehnologijama, morate biti svesni sveopštih implikacija.
Primetila sam da države koriste zastarele algoritme za vrlo bitne stvari. Pomislila sam da ljudi koji pišu ove algoritme ne pričaju sa ljudima koji ih koriste, a ljudi koji ih koriste ne pričaju sa ljudima na čije će živote njihove odluke uticati. Zaključila sam da je jako bitno premostiti jaz između te tri grupe.
Šta vas je najviše iznenadilo dok ste pisali knjigu?
Mnogo sam toga naučila i promenila sam mišljenje o velikom broju stvari dok sam pisala ovu knjigu. Na primer, kada sam saznala da postoje algoritmi koji mogu da predvide da li će neko počiniti zločin, bila sam prestravljena idejom da takva tehnologija može imati manu koja bi pravila greške, i smatrala sam da ne bi trebalo da ima moć nad nečijom budućnošću. Ali kada sam se malo više udubila u materiju, shvatila sam da ne treba kritikovati ako nešto ne deluje savršeno. Dovoljno je znati šta nam preostaje ako ne budemo koristili ove sisteme – mi sami. A najveće iznenađenje je bilo saznanje koliko su ljudi loši u rešavanju takvih problema; neverovatno je koliko predrasude mogu biti snažne. Čak iako postoje mane i greške u sistemu, treba imati u vidu šta daje najbolje rezltate.
Takođe, godinama sam se bavila analizom podataka u naučne svrhe, ali nisam imala predstavu koliko, na primer, brokeri poseduju informacija i podataka. U pitanju su ogromne kompanije koje raspolažu uobičajenim podacima: ime, godine, pol, visina. Ali takođe znaju, recimo, da li ste ikada imali abortus ili pobačaj; kako se seksualno opredeljujete i da li je to zaista vaše stvarno seksualno opredeljenje.
Sve što radimo na internetu ne samo da se nadzire, već se sve te informacije pakuju, prodaju i preprodaju da bi se nama lakše manipulisalo. Verujem da je problem sa Kembridž analitikom samo početak velike nevolje.
S druge strane, prikupljanje naših podataka može biti vrlo korisno. Na primer, sajt „23andMe“ prodaje uslugu pronalaženja porekla, pa tako možemo da saznamo da li potičemo od Vikinga ili od koga god, i pritom skupljaju ogromnu DNK bazu podataka koja je za naučnike neprocenjiva. Podstakli su ljude da im plate, da pridodaju DNK njihovoj bazi podataka. Genijalno!
Da li se po nečemu knjiga koju ste želeli da napišete razlikuje od knjige koju ste napisali?
Planirala sam da napravim veseli izlet u tu tematiku, i da završim sa tim u roku od šest meseci. Bilo je mnogo teže nego što sam mislila. Postoje velike nijanse u postavljenim pitanjima. I ne postoje laki odgovori. Da bih mogla da odgovorim na njih ili napišem zanimljivo štivo, morala sam puno da istražujem. Više sam se posvetila pisanju ove knjige, istraživanju, čitanju nego što sam se posvetila svom doktoratu.
Poslednje poglavlje knjige bavi se pitanjem da li mašine mogu biti kreativne, i da li mašine mogu prepoznati istinsku lepotu. Morala sam da definišem lepotu na neki način. Ja sam matematičar, jeste li svesni šta to znači? Nisam mislila da ću pisati definicije umetnosti.
Koja kreativna osoba (ne pisac) je najviše uticala na vas i vaš rad?
Hans Rozling, doktor i statističar. Zovu ga Mik Džegerom TED-a. Umro je pre dve godine. On me je inspirisao zbog načina na koji je prenosio svoje znanje o statistici, temi koja nije naročito privlačna. On je razumeo da kada prenosite svoje znanje publici, ona mora da vam bude na prvom mestu. Znao je da kakva god tema da je u pitanju, nešto mora publiku da privuče i zadrži. Svi mi volimo humor, šalu, malo blesavosti. Umeo je da dovede publiku do ludila svojim humorom, i onda u pravom trenutku, kada su slušaoci spremni, preneo bi im neko znanje i poruku. To je izvanredna veština, pokušavam i sama da je savladam.
Ubedite nekoga da pročita „Zdravo svete“ u 50 reči ili manje.
Ovo nije knjiga o algoritmima. Ovo je knjiga o ljudima. O tome ko smo, kuda smo se zaputili, šta nam je bitno – i kako se menjamo zajedno sa tehnologijom. Ne obećavam da ćete dobiti odgovore, ali se nadam da će promeniti način na koji posmatramo svet.
Izvor: nytimes.com
Prevod: Aleksandar Mandić
