V Ljubljani je 30. novembra in 1. decembra 2023 potekal mednarodni dogodek Evropske mreže za nacionalne institucije (ENNHRI) o vplivu umetne inteligence na človekove pravice z naslovom "Co-Lab: AI - ENNHRI Capacity Building Event on Artificial Intelligence«. Dogodka so se udeležili številni predstavniki evropskih nacionalnih institucij za človekove pravice iz več kot 30 držav in drugi mednarodni strokovnjaki, ki so izmenjali spoznanja, izkušnje in razpravljali o tem, kako si lahko (skupaj) prizadevamo za prihodnost, v kateri umetna inteligenca ne le pospešuje tehnološki napredek, temveč tudi ohranja in krepi temeljne pravice.
Na dogodku je svetovalka Varuhovega Centra za človekove pravice in predsednica delovne skupine ENNHRI o pravicah oseb z oviranostmi Jerneja Turin predstavila nekatere priložnosti in izzive, ki jih umetna inteligenca, avtomatizirano odločanje in tehnologije strojnega učenja predstavljajo z vidika pravic oseb z oviranostmi.
Možnosti za večjo vključenost in samostojno življenje
Umetna inteligenca ima velik potencial, da z naslavljanjem različnih izzivov in inovativnimi rešitvami pozitivno vpliva na življenje oseb z oviranostmi. Od aplikacij za pretvorbo govora v besedilo do orodij za izboljšanje vida lahko umetna inteligenca odpravi ovire ter zagotovi nove možnosti za komunikacijo in interakcijo. Umetna inteligenca lahko izboljša dostopnost digitalnih platform in storitev. Prepoznavanje glasu, upravljanje z gestami in druge funkcije, ki jih poganja umetna inteligenca, lahko naredijo tehnologijo prijaznejšo do uporabnikov z različnimi sposobnostmi, kar spodbuja vključujoče digitalno okolje. Navigacijski sistemi, ki jih poganja umetna inteligenca, pomagajo posameznikom z okvarami vida ali mobilnosti pri navigaciji v javnih prostorih. Umetna inteligenca lahko učencem z učnimi težavami zagotovi prilagojeno izobraževalno gradivo in podporo. Prilagodljive učne platforme, ki jih poganja umetna inteligenca, lahko prilagodijo tempo in vsebino, da ustrezajo individualnim potrebam, ter spodbujajo bolj vključujoče učno okolje. Tehnologije umetne inteligence lahko ustvarijo tudi bolj vključujoča delovna mesta, saj zagotavljajo orodja, ki so prilagojena različnim sposobnostim. Sistemi z umetno inteligenco lahko prispevajo k boljšim rezultatom za osebe z oviranostmi, če se uporabljajo za diagnosticiranje bolezni in priporočanje zdravljenja. Umetna inteligenca izboljša tudi funkcionalnost protez in eksoskeletov, saj omogoča bolj naravno in intuitivno gibanje. Roboti in druga orodja, ki jih poganja umetna inteligenca, se uvajajo v domove, da bi nudili oskrbo in različne oblike pomoči osebam z oviranostmi, ki želijo živeti samostojno.
To je samo nekaj načinov, kako lahko umetna inteligenca izboljša dostopnost, spodbuja neodvisno življenje in pospešuje vključevanje oseb z oviranostmi.
Izzivi in tveganja
Čeprav umetna inteligenca ponuja priložnosti za napredek na področju pravic oseb z oviranostmi, je povezana tudi s precejšnjimi tveganji zanje. Posebni poročevalec Združenih narodov za pravice oseb z oviranostmi Gerard Quinn je v svojem poročilu izpostavil med drugimi naslednja. V določenih okoliščinah so na primer umetna inteligenca in druge tehnologije postale vratarji za prejemke socialne pomoči. Upravičenost do prejemkov, kot je pomoč za brezposelnost, lahko umetna inteligenca omeji z uporabo pristranskih podatkovnih nizov in diskriminatornih algoritmov. Na področju zaposlovanja, kjer se umetna inteligenca vse pogosteje uporablja, naj bi orodja umetne inteligence povečala učinkovitost postopka iskanja pravega kandidata za delovno mesto in zmanjšala možnost človeške pristranskosti. Vendar dokazi kažejo, da so podatkovni nizi, na katerih se stroj uči, že "okuženi" s pristranskostjo: zgodovinsko premalo zastopane skupnosti, kot so osebe z oviranostmi, verjetno manjkajo v zgodovini uspešnih zaposlitev podjetja, zato jih ni v podatkovnih nizih. To pomeni, da jih stroj ne bo videl kot primerne kandidate za delovna mesta. Nadalje, klepetalni roboti, ki se uporabljajo pri razgovorih, so lahko nedostopni osebam z oviranostmi, ki uporabljajo bralnik zaslona. Posebni poročevalec Gerard Quinn je opozoril na resnost teh tveganj in možnost, da bodo večja od koristi, če ne bodo sprejeti nujni ukrepi.
Kaj je torej mogoče storiti za ublažitev (morebitne) škode in reševanje izzivov, ki jih povečana uporaba umetne inteligence predstavlja za pravice oseb z oviranostmi?
Posebni poročevalec je državam podal več priporočil, kot so vključitev načel človekovih pravic v predpise o umetni inteligenci; izrecna prepoved diskriminatorne in škodljive uporabe umetne inteligence za osebe z oviranostmi; zagotovitev, da se v strategijah digitalnega vključevanja upošteva potreba po orodjih umetne inteligence, skladnih s človekovimi pravicami; proučitev uvedbe moratorija na visoko tvegane sisteme umetne inteligence, zlasti tiste z možnostjo diskriminacije; zagotovitev celovite zakonodaje o skrbnem pregledu človekovih pravic, ki vključuje vidike invalidnosti; in vztrajanje pri obveznosti razumnih prilagoditev pri delovanju sistemov umetne inteligence.
Podjetja in zasebni sektor bi morali med drugim delovati pregledno in zagotavljati informacije o delovanju sistemov umetne inteligence; izvajati ocene učinka umetne inteligence na človekove pravice, ki vključujejo osebe z oviranostmi, da bi ugotovili in odpravili njene negativne učinke na njihove pravice; ter se pri oblikovanju tehničnih rešitev že od najzgodnejših trenutkov poslovnega cikla aktivno posvetovati z osebami z oviranostmi in njihovimi predstavniškimi organizacijami. Sodelovanje z osebami z oviranostmi in njihovimi predstavniškimi organizacijami pri oblikovanju politike ter razvoju, naročanju in uvajanju sistemov umetne inteligence je ključno za doseganje najboljših rezultatov umetne inteligence in izogibanje najslabšim.
Nacionalne institucije za človekove pravice imajo lahko pomembno vlogo pri zagotavljanju, da digitalne tehnologije krepijo človekove pravice in jih ne ogrožajo. Na podlagi svojih pooblastil lahko z različnimi pristopi obravnavajo vplive umetne inteligence na človekove pravice. To vključuje obravnavanje pritožb oziroma pobud, izobraževanje in ozaveščanje o njenih posledicah za človekove pravice, izvajanje preiskav ter svetovanje pri zakonodajnih in procesih na nacionalni in regionalni ravni.
Letos so si ENNHRI in evropske nacionalne institucije za človekove pravice (vključno z Varuhom) prizadevale za na človekovih pravicah temelječ pristop k ureditvi umetne inteligence v okviru dveh glavnih zakonodajnih procesov, ki sta v teku v Evropi - Akta Evropske unije o umetni inteligenci in Okvirne konvencije Sveta Evrope o umetni inteligenci, človekovih pravicah, demokraciji in pravni državi.
