Etika u dobu umjetne inteligencije! Razgovor s prof. dr. sc. Anom Pošćić

Razgovarali smo s prof. dr. sc. Anom Pošćić, predsjednicom Etičkog odbora projekta EDIH Adria i stručnjakinjom za pravna i etička pitanja u kontekstu umjetne inteligencije. Prof. dr. sc. Pošćić predvodi tim interdisciplinarnih stručnjaka koji se bave razmatranjem etičkih izazova i promicanjem najviših etičkih standarda u razvoju i primjeni novih tehnologija. U ovom intervjuu, ona će nam približiti ulogu etičkog odbora, najaktualnije etičke dileme u području umjetne inteligencije, te konkretne primjere etičkih izazova s kojima se suočavamo u današnjem poslovnom svijetu.

1. Kako bi opisali ulogu i odgovornosti etičkog odbora čija ste predsjednica u projektu EDIH Adria?

Projekt EDIH ADRIA kroz tehničku ekspertizu, razvojem inovativnih usluga te edukacijom osigurava provedbu najviših etičkih standarda te usklađenost s zakonskom propisima. Kako bi pružili potporu tvrtkama u eventualnim dvojbama oko etičkih pitanja osnovan je Etički odbor kao savjetodavno tijelo.
Odbor predstavlja specijalizirano savjetodavno tijelo za etička i pravna pitanja povezana s razvojem i korištenjem sustava umjetne inteligencije i novih tehnologija. Skupinu čine stručnjaci iz različitih disciplina poput prava, računarstva, elektrotehnike, informacijskih znanosti, tehničkih znanosti, psihologije te filozofije. Zadatak odbora je identificiranje, razmatranje i promišljanje etičkih pitanja vezanih uz umjetnu inteligenciju, ukazivanje na izvore, načela, prijepore, akte države i EU te ovisno o potrebama moguća priprema smjernica u pojedinim sferama djelovanja. Konkretni rezultat aktivnosti je usvajanje Politika korištenja alata umjetne inteligencije na Sveučilištu u Rijeci u čijoj sam izradi aktivno sudjelovala.

2. Kako vaš etički odbor percipira najaktualnije etičke dileme koje prate implementaciju umjetne inteligencije u poslovnom sektoru danas?

Jako se puno priča o sustavima umjetne inteligencije, njihovim prednostima, nedostacima i rizicima pri čemu se slabo ili sporadično fokusira na etička načela koja raspravljaju o standardima što je ispravno i pogrešno, prihvatljivo i neprihvatljivo. Riječ je primarno o načelima te smatram kako ih je važno imati na umu i promišljati svaki korak unaprijed u svjetlu načela te prosuđivati reperkusije.
Etika umjetne inteligencije bavi se važnim pitanjem kako bi se ljudski programeri, proizvođači i operatori trebali ponašati kako bi minimizirali etičke štete koje mogu nastati od umjetne inteligencije u društvu, bilo zbog lošeg (neetičkog) dizajna, neprimjerenih primjena ili zloupotrebe. Etička načela u ovom području bave se pitanjima kao što su privatnost, pristranost sustava, autonomija, pitanje odgovornosti, ali i utjecaj na tržište rada i pitanja održivosti.
Čim malo zagrebete u to područje naići ćete na veliki broj vodiča i politika o odgovornoj i etičkoj uporabi sustava umjetne inteligencije. Posebno ih je veliki broj usvojen u kontekstu uporabe generativne umjetne inteligencije (npr. Svjetski gospodarski forum, UNESCO, Vijeće Europe, EU i dr. ).

3. Možete li identificirati konkretne primjere etičkih izazova ili kontroverzi koje su nedavno nastale u kontekstu primjene AI tehnologije u poslovanju?

Russel i Norvig u svojem udžbeniku „Artificial Intelligence: A Modern Approach“ sumiraju postojeća etička načela koja se mogu primijeniti na sustave umjetne inteligencije kao što su sigurnost sustava, zaštita privatnosti, suradnja svih dionika, transparentnost sustava, ograničenje štetne uporabe, pouzdanost sustava, odgovornost, poštivanje temeljnih ljudskih prava i vrijednosti te poštivanje raznolikosti / inkluzija. Pored prethodnih u posljednje vrijeme sve više se ispituje i utjecaj umjetne inteligencije na tržište rada, održivost samih sustava i pitanja solidarnosti. Etička načela su u pravilu moralni kompas te su za razliku od pravnih pravila često fleksibilnija što treba iskoristiti kao prednost.
U novije vrijeme sve je više primjera gdje se algoritmi koriste za prepoznavanje kandidata te mogu nehotice dovesti do pristranosti prilikom zapošljavanja. Primjer je diskriminacija kandidata na osnovu rase, spola ili nekih drugih karakteristika. Nadalje, znamo da algoritmi prikupljaju velike količine podataka što povećava njihovu učinkovitost. Prikupljanje, pohranjivanje i analiza podataka može izazvati zabrinutosti s aspekta zaštite privatnosti. Isto tako algoritmi strojnog učenja često funkcioniranju na principu crnih kutija te ponekad nije jasno (ili barem ne većini) na koji način donose određene odluke. Upravo izostanak transparentnosti može otežati utvrđivanje odgovornosti za rezultate što u konačnici rezultira manjkom povjerenja korisnika, ali i šire javnosti.
Kao jedan od primjera o kojem sam nedavno čitala, a čini mi se malo bizarnim su tzv. „deathbots“ koji omogućavaju „interakciju“ korisnika s preminulima. Sada uz pomoć generativnih alata svatko tko ima pristup Internetu i s minimalnim znanjem može „oživiti“ preminule. Iako je njihova primarna svrha pomoć u prihvaćanju smrti voljenih i privikavanju na nove okolnosti, alati otvaraju brojene etičke dileme kao što su primjerice zaštita dostojanstva preminulih te pitanja zlouporaba podataka.

4. Kako ocjenjujete ravnotežu između potencijalnih koristi AI tehnologija za tvrtke i etičkih rizika koje one mogu predstavljati za pojedince, društvo ili okoliš?

Kao što sam prije istaknula do sada se o tim pitanjima samo sporadično raspravljalo. Kao jedan od pokazatelja je i nedavno objavljeno istraživanje OECD-a o tome koliko se često pojmovi koji su povezani uz etiku, odgovornu umjetnu inteligenciju, pouzdanu umjetnu inteligenciju spominju u oglasima za posao. U većini zemalja, manje od 1% svih radnih mjesta spominju se prethodni pojmovi pri čemu je u periodu od 2019. do 2022. godine primijećena tendencija porasta. Tako primjerice u Njemačkoj, brojka se povećala s manje od 0.05% 2019. na 0.4% u 2022., dok primjerice Velika Britanija sa 0.1% na 0.4%.
Vjerujem da nije potrebno nabrajati konkretne prednosti koje nove tehnologije donose tvrtkama u vidu porasta produktivnosti, novih inovativnih proizvoda i usluga, ubrzanja složenih procesa te smanjenje troškova. S druge strane, ne smijemo zaboraviti na etičke rizike za pojedince pa i društvo u vidu gubitka radnih mjesta, smanjenje ljudske autonomije, zaštite privatnosti i pitanja diskriminacije. Moram spomenuti još jedan aspekt koji se možda zaboravlja, a to je razvijati održive sustave. Dosadašnja istraživanja pokazuju da sustavi umjetne inteligencije mogu pridonijeti, ali i značajno otežati ostvarenje UN-ovih ciljeva održivog razvoja.
Na posljetku važan je i kakav je društveni utjecaj novih tehnologija, odnosno je li njime došlo do novih ili produbljivanja postojećih društvenih nejednakosti odnosno pokušati usmjeriti nove tehnologije za promicanje društvene pravednosti i inkluzije. Sve prethodne rizike je potrebno procijeniti s interdisciplinarnog aspekta te razvijati odgovarajuće politike, pravne okvire, ali i etičke smjernice.

5. Koje su ključna razmišljanja Vas i Vašeg odbora u vezi s pitanjima kao što su algoritamska pristranost, kršenje privatnosti ili smanjenje ljudske autonomije u AI sustavima koje koriste tvrtke?

Pitanja kao što su algoritamska pristranost, zaštita privatnosti i smanjenje ljudske autonomije nisu neka novina. Problemi su postojali i ranije. Sjetimo se samo kada je pred nekih desetak godina Amazon razvio softver za analizu životopisa i sumiranja relevantnih podatka radi rangiranja i traženja najboljih kandidata. Sustav je preferirao muške kandidate. Želim naglasiti da je takvih primjera bilo i ranije, ali pojavom novih naprednijih alata pitanja se intenziviraju što ne znači da su sada sustavi transparentniji i da možemo objasniti način na koji sustavi donose odluke.
Još jedan nedavni primjer odnosi se na nedavnu odluku Suda EU (CJEU) iz prosinca 2023. godine gdje je prvi put Sud imao priliku pojasniti i tumačiti učinak odredbi Uredbe za zaštitu osobnih podataka, točnije čl. 22. (1). Naime, Sud je presudio da najveća njemačka privatna kreditna agencija SCHUFA, nezakonito ocjenjuje kreditnu sposobnost klijenata na temelju automatiziranog sustava koji se temelji na osobnim podatcima (profiliranje). Sud je potvrdio kako u prethodnom slučaju kad je riječ o profiliranju i automatiziranju odluka mehanizmi koje predviđa Uredba za zaštitu osobnih podataka primjenjuju se i prema trećim osobama. Ova interpretacija ima važan utjecaj na algoritamsko upravljanje i primjenu automatiziranog nadzora te sustava donošenja odluka na radnom mjestu, iako se njezina faktička pozadina odnosi na automatizirano donošenje odluka i ocjenjivanje u kontekstu zahtjeva za kreditima.
U Europskoj uniji posljednjih se godina osobita pozornost posvećuje sustavnom pristupu u području umjetne inteligencije. Europska komisija je objavila Etičke smjernice za pouzdanu umjetnu inteligenciju gdje su ljudi stavljeni u središte razvoja umjetne inteligencije (tzv. antropocentrična umjetna inteligencija). Pouzdana umjetna inteligencija ima tri sastavnice, koje trebaju biti ispunjene tijekom cijelog životnog ciklusa sustava: zakonitost, etičnost i otpornost. Svaka je sastavnica sama po sebi nužna, ali nije dovoljna za postizanje pouzdane umjetne inteligencije. U idealnom su slučaju sve tri sastavnice usklađene i preklapaju se u svojem djelovanju. Smjernice navode etička načela i s njima povezane vrijednosti koje se moraju poštovati pri razvoju, uvođenju i upotrebi sustava umjetne inteligencije kao što su poštovanje ljudske autonomije; sprečavanja nastanka štete; pravednost i objašnjivosti. Smjernice detaljno navode zahtjeve koje bi sustavi umjetne inteligencije trebali ispuniti uz navođenje tehničkih i netehničkih metoda za njihovu provedbu. Međutim, riječ je o horizontalnom propisu te će u budućnosti biti potrebno usvojiti i sektorske propise uzimajući u obzir posebnosti sustava umjetne inteligencije u različitim poslovnim okruženjima.

6. Kako pristupate etičkim implikacijama automatizacije pokretane AI-em, posebno u vezi s potencijalnim gubitkom radnih mjesta ili promjenama u dinamici radne snage?

Za učinkovito ostvarivanje prednosti umjetne inteligencije na tržištu rada potrebna je odgovarajuća infrastruktura te kvalificirana radna snaga. U Izvješću pučke pravobraniteljice iz 2023. godine spominje se istraživanje Međunarodnog monetarnog fonda (MMF) prema kojem umjetna inteligencija bi mogla utjecati na oko 60% radnih mjesta u razvijenim gospodarstvima, dok bi na tržištima u razvoju mogla promijeniti 40%, a u zemljama s niskim prihodima 26% poslova. Nadalje navodi kako prema istraživanju Hrvatske gospodarske komore i Best Advisory d.o.o. u 342 hrvatske tvrtke, 50% velikih poduzeća primjenjuje neke od alata umjetne inteligencije, najviše u automatizaciji poslovnih procesa, no samo 5% poduzeća u RH redovito educira zaposlenike o umjetnoj inteligenciji.
Novi procesi konstanto utječu na postojeće radne odnose koje dovode do novih dinamika.

Biti će ključno osigurati ponovo osposobljavanje i prekvalifikaciju radnika koji su pogođeni automatizacijom kako bi se prilagodili novim zahtjevima tržišta rada. Prije svega važno je ulagati u obrazovni sustav, mijenjati i nadopunjavati kurikulume pojedinih kolegija, konstanto educirati nastavnike, osvješćivati o prednostima i nedostacima, inzistirati na interdisciplinarnom pristupu te omogućiti fleksibilne i prilagodljive programe osposobljavanja.

Poticanje razvoja novih poslova i mogućnosti zapošljavanja nameće se kao imperativ. Uz sve to važan aspekt je i pitanja socijalne sigurnosti u vidu zaštita u slučaju nezaposlenosti, pristup socijalnoj pomoći i zdravstvenoj skrbi. Međutim, potrebna je prilagodba svih dionika odnosno percipirati alate i sustave umjetne inteligencije kao pomoć u postojećim procesima. Smatram da neće umjetna inteligencija zamijeniti ljude, već ljudi koji koriste alate umjetne inteligencije, ali samo pod pretpostavkom da razvijamo sustave koje je moguće kontrolirati.

7. Koju ulogu ima vaš odbor u zagovaranju regulatornih okvira ili industrijskih standarda koji promiču etičke prakse u korištenju AI tehnologija među tvrtkama?

Kao profesor prava moram se osvrnuti na potrebu regulatornog okvira. Dok je pred nekoliko desetljeća možda postojala dvojba treba li sustave umjetne inteligencije i nove tehnologije uopće regulirati, današnji ubrzani razvoj nameće potrebu razmatranja pristupa i metode regulacije. S jedne strane imamo ubrzani razvoj novih tehnologija, a s druge strane pravni sustav koji je često vrlo usporen. U ovom području je važna brza i pravovremena reakcija.
Kako bi se razumio pristup Europske unije možda je najlakše objasniti na primjeru. Znamo da postoje sustavi za automatsko prepoznavanje lica. Dok se primjerice u nekim zemljama, primjerice Poljskoj provode ozbiljna istraživanja koja te sustave koriste kao pomoć u međusobnoj komunikaciji djece s intelektualnim poteškoćama i njihovog uključenja u društvo, s druge stane taj se isti ili slični sustav koristi u Kini za nadzor stanovništva. Što želim reći, sustav je isti samo se razlikuje princip uporabe. Europska unija se želi nametnuti kao lider u području regulacije te je još 2021. godine usvojila prijedlog Uredbe o umjetnoj inteligenciji (Artificial Intelligence Act) koji je nedavno usvojen. Uredba ne regulira same sustave, već njihovu uporabu. Sam zakon je vrlo detaljan te općenito ukazuje na probleme s regulacijom obzirom da po nekima je predetaljan, a neka pitanja izostavlja. Vidjet će se kako će se sustav razvijati obzirom na brze promjene i poteškoće s praćenjem regulacije. Kao primjer navodim kako prvi prijedlog Uredbe nije u sebi uključivao modele umjetne inteligencije opće namjene (generativne modele) koji su sada sadržani u Uredbi.

8. Prema vašem mišljenju, koje su najhitnije akcije koje tvrtke trebaju poduzeti kako bi osigurale da njihova uporaba AI tehnologija bude u skladu s etičkim načelima i vrijednostima?

Možda jedan od mogućih načina je primjena koncepta tzv. “ethics by design” prema kojem bi već u proces dizajniranja sustava i tehnologija bili ugrađeni određeni etički principi. Dakle, etički aspekti bi se trebali uzeti u obzir u fazi dizajna sustava, a ne naknadno ili kad se pojavi neki problem. Već u fazi razvoja proizvoda bi trebalo razmišljati o mogućim implikacijama proizvoda na pitanja pravednosti, transparentnosti, privatnosti, sigurnosti i jednakosti, procjena na društvo i okoliš. Nadalje, kao pomoć mogu poslužiti prethodno spomenute Smjernice za pouzdanu umjetnu inteligenciju koje su namijenjene svim dionicima u području umjetne inteligencije koji dizajniraju, razvijaju, uvode, provode i upotrebljavaju umjetnu inteligenciju ili ona na njih utječe. One sadrže neiscrpan popis za procjenu pouzdane umjetne inteligencije kojim se operacionalizira pouzdana umjetna inteligencija. To bi moglo biti posebno primjenjivo na sustave umjetne inteligencije koji su u izravnoj interakciji s korisnicima i prvenstveno je namijenjen razvojnim programerima i subjektima koji uvode sustave umjetne inteligencije (bilo da je riječ o samostalnom razvoju sustava ili nabavi sustava od trećih strana). Riječ je o alatu za potporu stručnjacima koji razvijaju sustave umjetne inteligencije.
U konačnici sustavi umjetne inteligencije trebaju biti usmjereni na čovjeka i temeljiti se na obvezi upotrebe sustava u službi čovječanstva i općeg dobra.

9. U radu odbora uz vas sudjeluje još 7 stručnjaka, prof. dr. sc. Sanja Barić, Katedra za ustavno pravo, Pravni fakultet Sveučilišta u Rijeci, doc. dr. sc. Ivan Cerovac, Odsjek za filozofiju, Filozofski fakultet Sveučilišta u Rijeci, izv. prof. dr. sc. Asmir Gračanin, Odsjek za psihologiju, Filozofski fakultet Sveučilišta u Rijeci, dr. sc. Franko Hržić, Sveučilište u Rijeci, Tehnički fakultet i Centar za umjetnu inteligenciju i kibernetičku sigurnost, izv. prof. dr. sc. Martina Ivašić-Kos, Sveučilište u Rijeci, Fakultet informatike i digitalnih tehnologija i Centar za umjetnu inteligenciju i kibernetičku sigurnost, izv. prof. dr. sc. Adrijana Martinović, Pravni fakultet Sveučilišta u Rijeci te mr. sc. Damir Medved, direktor projekta EDIH Adria, Sveučilište u Rijeci. Na koji način njihove kompetencije i ekspertize doprinose radu odbora?

Obzirom da je riječ o kompleksnim pitanjima koja zahtijevaju interdisciplinarnost i razumijevanje raznih aspekata u radu odbora sudjeluju priznati stručnjaci u svojim disciplinama koji se svaki ovisno o potrebi u svijetlu svoje ekspertize fokusiraju na pojedine aspekte.

10. I za kraj, trebamo li se bojati sve većeg prodora primjene umjetne inteligencije u naše poslovanje i svakodnevicu?

Smatram kako se ne smijemo bojati, već pristupiti procesima s oprezom na način što ćemo ih pokušati razumjeti, educirati se te sagledati moguće pozitivne, ali i negativne implikacije odnosno pokušati usmjeriti te procese u našu korist, u unapređenje poslovanja i poslovnih procesa. Važno je razmatrati i razumjeti tehničke, kulturološke, pravne, filozofske i političke mehanizme kako bi sustave i nove tehnologije pokušalo obuzdati, kontrolirati u vremenu brzih promjena budući da je riječ o nečemu što se prije događalo stoljećima i godinama, a sada se odvija u danima, minutama. Takav pristup s prijedlogom mogućih načina kontrole predlaže i Mustafa Suleyman u svojoj najnovijoj knjizi „Nadolazeći val“.
Međutim, čak i nakon što se postigne usklađenost s pravno provedivim temeljnim pravima, etička nam razmatranja mogu pomoći da razumijemo kako razvoj, uvođenje i upotreba umjetne inteligencije mogu utjecati na temeljna prava i vrijednosti na kojima se ona temelje te nam mogu pomoći da osiguramo razrađenije smjernice kada nastojimo utvrditi što bismo trebali raditi s tehnologijom, a ne što (trenutačno) možemo raditi s njom.

Nameće se pokušati ostvariti ravnotežu između promocije inovacija i novih tehnologija i s druge strane potrebe za pravnom sigurnošću uz poštivanje moralnih, etičkih i socioloških standarda. Mišljenja sam kako je razvoj novih tehnologija i sustava umjetne inteligencije poželjan, ali isključivo kao alat za dobrobit čovječanstva. I dalje se ulaganje u obrazovanje svih nas s interdiciplinarnim pristupom nameće kao prioritet.

Kad je riječ o Hrvatskoj čini se da smo na početku. Prema istraživanju OECD-a iz 2023. godine u prosjeku 35% odraslih tijekom 2021. godine je izrazilo zabrinutost da će umjetna inteligencija u sljedeća dva desetljeća većinom negativno utjecati, dok 42% smatra da će većinom koristiti. Kad je riječ o Hrvatskoj manje od 30% smatra da će umjetna inteligencija biti od pomoći odnosno koristi! Puno je još posla na osvješćivanju, a tehnologija i novi sustavi se razvijaju eksponencijalnom brzinom ili kako kaže naslov knjige Diamandisa i Kotlera: The Future Is Faster Than You Think!.

Foto: Arhiva