Veštačka inteligencija donosi nove mogućnosti, ali otvara i pitanja o privatnosti, diskriminaciji, transparentnosti i odgovornosti. Razumevanje etičkih principa pomaže kompanijama i pojedincima da koriste AI bezbednije, pravednije i uz odgovarajuću ljudsku kontrolu.

Veštačka inteligencija sve više učestvuje u poslovnim procesima, obrazovanju, komunikaciji i donošenju odluka. AI sistemi mogu da analiziraju podatke, preporučuju sadržaj, generišu tekstove i automatizuju određene zadatke. Međutim, njihove mogućnosti prate važna pitanja: kako se koriste lični podaci, da li su rezultati pravedni, ko je odgovoran za greške i na koji način korisnici mogu da ospore odluke koje utiču na njih.

Etika veštačke inteligencije bavi se principima i pravilima koji usmeravaju razvoj i upotrebu ovih tehnologija. Cilj nije da se zaustavi inovacija, već da se tehnološki napredak uskladi sa ljudskim pravima, bezbednošću, pravičnošću i odgovornošću.

Šta znači etička i odgovorna veštačka inteligencija?

Odgovorna veštačka inteligencija podrazumeva da se AI sistemi razvijaju, testiraju i koriste uz razmatranje njihovih mogućih posledica po ljude i društvo. To uključuje zaštitu privatnosti, sprečavanje diskriminacije, transparentnost, bezbednost i odgovarajući ljudski nadzor.

UNESCO je 2021. godine usvojio Preporuku o etici veštačke inteligencije, međunarodni okvir koji naglašava ljudska prava i dostojanstvo, pravičnost, transparentnost, odgovornost i održivost. OECD takođe promoviše principe pouzdane AI, uključujući poštovanje ljudskih prava, bezbednost, objašnjivost i odgovornost tokom životnog ciklusa sistema.

U praksi, odgovorna primena znači da organizacija pre uvođenja AI alata razume njegovu namenu, proverava kvalitet rezultata, procenjuje rizike i jasno određuje ko nadgleda njegov rad.

AI pristrasnost i rizik od diskriminacije

Jedan od važnih etičkih izazova jeste pristrasnost veštačke inteligencije. AI sistemi uče obrasce iz podataka, a ti podaci mogu sadržati istorijske nejednakosti, nedovoljnu zastupljenost određenih grupa ili greške u prikupljanju i označavanju informacija. Zbog toga sistem može da daje nepovoljnije ili manje tačne rezultate za pojedine korisnike.

Na primer, ako se sistem za selekciju kandidata trenira na podacima koji odražavaju ranije prakse zapošljavanja sa određenim nejednakostima, može da favorizuje slične profile kandidata i zanemari kvalifikovane ljude sa drugačijim iskustvom. Slični problemi mogu se javiti u kreditnom ocenjivanju, proceni rizika ili automatizovanoj obradi zahteva.

Pristrasnost se ne rešava samo uklanjanjem jednog podatka iz modela. Potrebno je pregledati izvore podataka, proveravati rezultate za različite grupe, dokumentovati ograničenja i omogućiti stručnu procenu odluka koje imaju značajan uticaj na pojedinca.

Privatnost i zaštita ličnih podataka

AI sistemi mogu obrađivati velike količine podataka, uključujući informacije o ponašanju, lokaciji, komunikaciji, finansijama ili radnom učinku. Ako se podaci prikupljaju bez odgovarajuće osnove, koriste za neočekivane svrhe ili čuvaju duže nego što je potrebno, mogu nastati ozbiljni problemi sa privatnošću.

Korisnici treba da razumeju koje podatke aplikacija prikuplja i kako ih koristi. Posebnu pažnju treba posvetiti unošenju poverljivih poslovnih dokumenata, zdravstvenih informacija, podataka o klijentima i drugih osetljivih sadržaja u javno dostupne AI alate.

Organizacije treba da ograniče prikupljanje podataka na ono što je neophodno, kontrolišu pristup i proveravaju uslove čuvanja i obrade informacija. U Evropskoj uniji, primena relevantnih pravila o zaštiti podataka, uključujući Opštu uredbu o zaštiti podataka (GDPR), zavisi od konkretne obrade i uloge organizacije.

Transparentnost: kako znati kada se koristi AI?

Transparentnost znači da korisnici treba da dobiju odgovarajuće informacije o tome kada AI učestvuje u usluzi ili odluci, u meri koja je primerena kontekstu. To može biti obaveštenje da razgovaraju sa četbotom, objašnjenje svrhe automatizovanog sistema ili informacija o načinu na koji je rezultat nastao.

Potpuno objašnjenje svakog složenog modela nije uvek jednostavno. Ipak, kada AI utiče na važnu odluku, pogođena osoba treba da dobije razumljive informacije o relevantnim faktorima i mogućnostima da zatraži proveru, u skladu sa primenljivim pravilima.

Transparentnost je važna i za organizacije. Dokumentovanje namene sistema, izvora podataka, testiranja i poznatih ograničenja olakšava praćenje kvaliteta i utvrđivanje uzroka problema.

Ko je odgovoran kada AI napravi grešku?

AI sistem može da generiše netačnu informaciju, preporuči pogrešnu radnju ili proizvede rezultat koji nije primeren situaciji. Činjenica da je odluku podržao algoritam ne znači da odgovornost automatski nestaje.

Odgovornost zavisi od okolnosti, uloge različitih učesnika i primenljivog prava. Organizacija koja koristi AI treba unapred da odredi ko proverava rezultate, ko odobrava važne odluke i kako se greške prijavljuju i ispravljaju.

U oblastima kao što su finansije, zapošljavanje, zdravstvo i javne usluge, naročito je važno da automatizovani rezultat ne bude nekritički prihvaćen. Ljudski nadzor treba da bude stvaran: osoba koja proverava rezultat mora imati dovoljno znanja, informacija i ovlašćenja da interveniše.

Dezinformacije, deepfake sadržaj i manipulacija

Generativna veštačka inteligencija može da stvori tekstove, slike, audio zapise i video-snimke koji deluju uverljivo. Takve mogućnosti imaju legitimnu primenu u kreativnom radu i obrazovanju, ali se mogu zloupotrebiti za prevare, lažno predstavljanje, manipulaciju javnim mnjenjem i širenje dezinformacija.

Deepfake sadržaj može prikazivati osobu kako govori ili radi nešto što se nije dogodilo. Zbog toga nije dovoljno procenjivati autentičnost samo na osnovu toga koliko snimak deluje uverljivo. Važno je proveriti izvor, potražiti nezavisne potvrde i obratiti pažnju na kontekst objave.

Kada poruka navodno dolazi od direktora, člana porodice ili poslovnog partnera i zahteva hitnu uplatu ili poverljive podatke, zahtev treba potvrditi drugim, nezavisnim komunikacionim kanalom.

Kako kompanije mogu da uvedu etička pravila za AI?

Preduzeća ne moraju da razvijaju komplikovan sistem upravljanja da bi počela odgovorno da koriste AI. Važno je da usvoje jasna pravila koja odgovaraju riziku i stvarnoj nameni alata.

• Definišite dozvoljenu upotrebu: navedite za koje zadatke zaposleni mogu da koriste AI i koji podaci ne smeju da se unose.
• Procenite rizik: utvrdite da li greška može da utiče na prava, finansije, bezbednost ili privatnost ljudi.
• Proveravajte rezultate: važne činjenice, izračunavanja i preporuke moraju se proveriti pre upotrebe.
• Ograničite pristup podacima: koristite samo informacije neophodne za zadatak i odgovarajuće kontrole pristupa.
• Dokumentujte odluke: vodite evidenciju o korišćenju AI sistema tamo gde je to potrebno i primereno.
• Obučite zaposlene: objasnite ograničenja AI alata, rizike od grešaka i pravila zaštite podataka.
• Omogućite prijavu problema: uspostavite postupak za ispravku pogrešnih rezultata i reagovanje na incidente.

Regulacija veštačke inteligencije

Regulatorni pristupi veštačkoj inteligenciji razvijaju se kako bi se podstakle inovacije i istovremeno ograničili neprihvatljivi rizici. Evropska unija je usvojila Akt o veštačkoj inteligenciji (AI Act), koji uvodi pravila zasnovana na riziku i različite obaveze za pojedine sisteme i učesnike.

Obaveze zavise od konkretne namene, kategorije sistema i uloge organizacije. Zato nije dovoljno pretpostaviti da svaki AI alat podleže istim pravilima. Organizacije treba da prate zvanične smernice i procene da li se propisi primenjuju na njihove aktivnosti.

Etički principi i zakonske obaveze nisu isto. Ispunjavanje minimalnih zakonskih zahteva ne mora automatski da reši sva pitanja pravičnosti, transparentnosti ili poverenja. Zbog toga je korisno povezati usklađenost sa širim sistemom odgovornog upravljanja tehnologijom.

Budućnost etike veštačke inteligencije

Kako AI sistemi postaju sposobniji i prisutniji u svakodnevnom životu, sve važniji postaju nezavisna procena, bezbednosno testiranje, praćenje rezultata i jasna odgovornost. Etička pitanja neće biti rešena jednom politikom ili tehničkom proverom, već zahtevaju kontinuirano prilagođavanje promenama u tehnologiji i društvu.

Organizacije koje od početka razmatraju privatnost, pravičnost i ljudski nadzor mogu lakše da prepoznaju probleme pre nego što dovedu do ozbiljnih posledica. Istovremeno, informisani korisnici mogu bolje da procene mogućnosti AI alata i da zahtevaju objašnjenje kada automatizovani sistem utiče na njihove interese.

Zaključak

Etika veštačke inteligencije obuhvata privatnost, pravičnost, transparentnost, bezbednost i odgovornost. Ovi principi pomažu da se AI koristi na način koji donosi korist, a istovremeno smanjuje rizik od diskriminacije, grešaka i zloupotrebe podataka.

Odgovorna primena počinje jasnom namenom, procenom rizika, proverom rezultata i odgovarajućim ljudskim nadzorom. Kako AI tehnologije nastavljaju da se razvijaju, poverenje će zavisiti ne samo od njihovih mogućnosti već i od načina na koji se koriste i kontrolišu.