Počašćen sam pozivom da sudjelujem u panelu i održim predavnje u radnoj skupini na jubilarnom 10. Mobility Day 2016 koji će se održati 29. rujna u hotelu Antunović u Zagrebu. Ova sjajno organizirana manifestacija stekla je značanu reputaciju kao jedna od važnih platformi ITC industrije za raspravu o nadolazećim tehnološkim trendovima. Ovaj ću post nadopunjavati informacijma o pripremama za konferenciju, kao i reakcijama nakon što Mobility Day bude održan. Kao uvod donosim odgovore na pitanja koja sam primio od T-Portala, koji kao jedan od medijskih sponzora pruža podršku komunikaciji događanja. Kada tekst bude objavljen, uključiti ću i link na stranicu s objavom, kao i ostale linkove koji će se odnositi na moja predavanja. Smatram pitanja vrlo pertinentnima sadašnjem tehnološkom trenutku, posebno u odnosu na razvoj umjetne inteligencije (AI, Artificial intelligence), i nadam se da moja razmišljanja daju barem neke odgovore koja moderna društva traže.

1) Čini se kako ni pravna branša neće ostati pošteđena u širenju automatizacije i robotizacije. Automatizacija dugotrajnih i zamornih poslova svakako je poželjna, ali koliko daleko možemo i trebamo ići? Hoćemo li doista u ne tako dalekoj budućnosti imati robote za odvjetnike? Gdje povući granicu?

Potpuno ste u pravu, niti jedna branša neće biti zaobiđena promjenama koje donose, između ostalih, robotizacija i automatizacija. U prošlosti se smatralo da u umnim djelatnostima, kao što je to pravna profesija, neće biti moguće niti lako zamijeniti profesionalce automatima. Međutim to se sada upravo događa, prvenstveno zahvaljujući uvođenju tehnologija zasnovanih na umjetnoj inteligenciji (AI, artificial intelligence) i novim pristupima u okviru AI tehnologije kao što su to dubinske (deep learning) i ostale varijante strojnog učenja. Pri tome treba razumjeti da umjetna inteligencija za sada pogoduje zamjeni samo repetitivnih, rutinskih poslova, a oni u kojima je potreban kreativni, nestandardni pristup za sada nema uspjeha. Danas se stoga smatra da u procesu nadomještanja ljudi tehnologijom neće biti pošteđene niti manualne niti umne djelatnosti, nego će AI tehnologija zamijeniti jednako rutinske poslove kako u umnim, tako i u manualnim djelatnostima, dok će nestandardne djelatnosti kako umne, tako i manualne za sada biti pošteđene.

Povijesno gledano, napredak tehnologija uglavnom nije moguće zaustaviti, i naša civilizacija ima tendenciju usvajanja promjena. Ljudi taj proces pokreću svojom sposobnošću inovacije, ali posljedice promjena izazvanih tim inovacijama često inicijalno proizvode ljudske strahove i bojazni. Te bojazni nisu uvijek utemeljene na razumu i analiza promjena često je obojena strahovima. Jedan takav tipični strah jest da će tehnologija nadomjestiti ljude, najbanalnije u smislu uzimanja radnih mjesta. Pokazalo se ipak, ako se danas uopće možemo pouzdati u prošla iskustva, da pojave novih tehnologija iako doista dovode do ukidanja radnih mjesta istovremeno stvaraju još veći broj novih radnih mjesta, na poslovima koje uopće nije bilo moguće zamisliti na osnovi odbačenih tehnologija. Stoga bi bilo pravilnije pitati se ne hoćemo li imati robote za odvjetnike, nego hoćemo li željeti odvjetnike takve kakve danas poznajemo, koja će biti uloga pravnika i što će te velike promijene donijeti u smislu promjena pravnog sustava.

2) Zbog čega bi odvjetnički ured trebao zaposliti robota? Gdje vidite najveće potrebe i mogućnosti primjene?

Roboti nisu nužno ono što smo pod tim nazivom zamišljali u doba sci-fi romana Arthura C. Clarke-a, nego ih je možda bolje opisati kao softwareske automatizirane procesi svojstvene ljudskoj interakciji. Primjerice, rijetko će se tko odlučiti bankomat (ATM ili Automated Teller Machines kako ih nazivaju u SAD) nazvati robotom iako je upravo ta sprega softwarea i hardwarea nadomjestila bankovne činovnike. Dakle, na način na koji je bankomat robot doživjet ćemo i mnoge druge automatizacije procesa ljudske interakcije pa tako će i pravni procesi postati automatizirani. Veliki dio tih procesa odvijat će se u internetskom oblaku u obliku softwarea kao usluge i njezini “mehanizmi” neće u cijelosti biti vidljivi korisnicima.

Pretpostavljam da će svakodnevne transakcije kao što je to npr. kupoprodaja biti tako automatizirani kao softwareske usluge bazirane u oblaku i siguran sam da će one biti preciznije i sofisticiranije nego li je to ispunjavanje obrazaca kupoprodajnih ugovora za vozila ili nekretnine kupljenih u Narodnim Novinama. Dakle, prvo će roboti nadomjestiti postojeće servise kao što je to Narodne Novine, koji se koriste u najjednostavnijim standardiziranim transakcijama, a tek potom kompleksnije transakcije koje imaju manje elemenata rutine. To znači da će standardni, repetitivni i ponovljivi procesi biti među prvim kandidatima za automatizaciju. Kao primjer mogao bih navesti možda meni jedan vrlo dragi pravni proces, a to je odlučivanje u sporovima o domenskim imenima UDRP (Uniform dispute resolution policy). U toj tzv. upravnoj kvazi-arbitraži broj pravnih elemenata o kojima se odlučuje potpuno je standardiziran i pojednostavljen. Mogu zamisliti da taj proces bude u budućnosti automatski, vođen umjetnom inteligencijom.

3) Pretpostavimo kako će u nekom trenutku ljude u odvjetničkim uredima zamijeniti roboti. Što smatrate najvećim izazovima i rizicima u pravnoj i društvenoj regulaciji takvog poslovanja? Kako ih savladati ili izbjeći?

Kao što sam rekao, ne vjerujem da će zamjena ljudi robotima biti sveobuhvatna i linearna. neke će radnje raditi roboti, a neke radnje će vjerojatno raditi i roboti i ljudi. Ako se vratimo poslovanju bankomata, u prvim godinama njihovog rada uvijek smo se bojali ili nadali da će oni pogriješit te nam isplati više ili manje od proknjiženoga. To se nije događalo jer u mnogim djelatnostima strojevi rade preciznije od ljudi. Slično će izgledati i izrada ugovora putem ekspertnih sustava, ali to ne znači da neće bit potrebno imati savjetnika koji na temelju svojeg ljudskoga iskustva može oblikovati pravilan input za ekspertni sustav.

Pravna regulacija automatiziranih sustava na određeni je na način jednostavnija od regulacija ljudskih postupaka. Naime, proizvođač će ostati odgovoran ali će on zbog ponovljivosti i rutine poslova koji njegovi ekspertni sustavi obavljaju imati korist da može ispraviti greške uz malo pogrešaka. Zamislite usporedbu s moralnom dilemom koja se javlja s pojavom autonomnih vozila. Mnogi se ljude boje scenarija u kojem vozilo u kojem se vozite odluči umjesto vas, na temelju programerskih uputa, da u cilju spašavanja života osobe za koju je ocijenilo da je dijete koje je upravo ispred vas istrčalo na ulicu, skrene sa sigurne putanje uz rizik da naškodi ili ubije vlastite putnike umjesto da pregazi osobu koju je detektiralo. Pitanje koje se postavlja jest, da li je moralnije da se ovaj scenarij doista dopusti uz uvjet da uvođenje autonomnih vozila dovede do značajnog povećanja sigurnosti u prometu i smanjenja nesreća sa smrtnim posljedicama. Drugim riječima, biste li se opredijelili rizik gubitka kontrole nad tehnologijom i time prihvatili eliminaciju brojnih ljudskih grešaka koje dovode do velikog svakodnevnog gubitka ljudskih života, ako bi tehnologija koja vas može ubiti dramatično povećala sigurnost prometa i smanjila smrtnost u prometu?

Mislim da ovaj izoštreni primjer može poslužiti kao ilustracija dilema s kojima se moramo suočiti prilikom uvođenja novih tehnologija. Proces pojave i uvođenja novih tehnologija već je sada tako brz da se mnogi pojedinci osjećaju nelagodno i faktički se izbjegavaju suočiti s puninom nastalih promjena. Kako bi olakšali osjećaj nelagode uslijed gubitka kontrole mnogi guraju stvarni stupanj promjena u podsvijest i odbijaju se suočiti s dilemama koje su već nastale, te time otežavaju prilagođavanje društvene zajednice novonastalim promjenama. Upravo u tome segmentu vidi se nefunkcionalnost sustava upravljanja modernim društvima i neadekvatnost mnogih modernih političara koji nastoje tim procesima upravljati bez ikakve vizije. Očito je stoga da moramo uložiti velike napore u promjenu sustava obrazovanja i upravljanja društvima kako bismo se u stvarnom vremenu suočili s promjenama i dilemama koje one donose. Drugim riječima, čovječanstvo danas doista ima potrebu, ali i mogućnosti na bazi znanja upravljati procesima na način na koji to nikada nije moglo u vlastitoj prošlosti. Naravnu, tu veliku ulogu ima umjetna inteligencija. Upravo stoga promijene koje će uslijediti biti će veće nego ikada u povijesti čovječanstva.

4) Smatrate li vi osobno takav scenarij prijetnjom ili prilikom? Obrazložite.

Svaka je prijetnja u stvari prilika. Potrebno je upravljati ljudskim strahom da bi se prilika ispunila u cijelosti. Osobito je to tako u modernim društvima gdje stalne promjene bivaju uglavnom doživljene kao prijetnje. Ljudska se vrsta nije još uspjela prilagoditi brzim promjenama koje generira njen vlastiti razvoj i potpuno neadekvatno reagira na te promjene doživljavajući ih kao prijetnje. Koji puta su dileme duboke, ali to samo znači da treba uložiti veći napor da bi se njima kvalitetno upravljalo ali ne i da su one neriješive. Koji puta su pak brige opravdane i tada te dileme treba uključiti u demokratski proces kako bi se što veći broj ljudi uključio u njihovo rješavanje i time olakšao rješenje. Vidimo to primjerice kod reakcija na pojavu Uber usluge prijevoza ili na osobnoj razini na o kojoj se pojedinci često protive promjeni vlastitih uvriježenih običaja i načina zaposlenja.

Bilo bi mnogo adekvatnije i svima ugodnije kada bismo mogli razinu razmišljanja o promjenama, koje su najkarakterističniji vid društvenih tijekova u modernim društvima, doživljavati kao priliku i kao zabavu. Dakle, jedan opušteniji pristup promjenama mogao bi svakome od nas ponaosob donijeti osobno zadovoljstvo i pozitivni izazov čije bi ispunjenje, kako sam rekao moglo biti istinski zabavno i ispunjavajuće. Za to je naravno potrebno reformirati obrazovni sustav, jer samo dobro obrazovani pojedinci mogu izazove ove vrste doživljavati kao zabavu. Moglo bi se reći da je sama pojava Interneta doprinijela neopisivom podizanju razine dostupnosti informacija i zapravo služi kao jedan autokorektivni mehanizam u uvjetima snažnih promjena.

5) Koja su ključna pitanja na koja će ljudska zajednica morati pronaći odgovore prije no što stupi u doba umjetnih superinteligencija?

Bez ikakve dvojbe radi se na prvom mjestu o etičkim i moralnim pitanjima, te ulozi i odnosima društva, pojedinaca i institucija u kontekstu radikalno različitih tehnoloških pojava i redefinirane moći pojedinca. Stare navike traženja odgovora u prošlosti velika su prijetnja i značajno usporavaju donošenje adekvatnih novih rješenja koja su potrebna da naša društva nastave funkcionirati bez većih potresa. Opasnost gledanja u prošlost leži u tome što u situaciji disruptivnih promjena tehnoloških, poslovnih i društvenih modela analogije s prošlim razvojem nisu uvijek odgovarajuće i mogu koji puta biti posve pogrešne. Stoga je potrebno sustavom odgoja stvoriti pojedince koji će biti u stanju gledati unaprijed na kreativni način i istovremeno moći tražiti najljudskije odgovore koji se mogu dati u situacijama koje nisu zasnovane na ljudskom iskustvu.