Umjetna inteligencija i praćenje emocija zaposlenika: što dopušta, a što zabranjuje EU Akt o umjetnoj inteligenciji
Dobavljači sustava videonadzora danas sve češće nude kamere s ugrađenom analitikom temeljenom na umjetnoj inteligenciji. Uz uobičajene funkcije poput detekcije pokreta ili čitanja registarskih tablica, pojavljuju se i sustavi koji obećavaju „analizu raspoloženja“ ili „procjenu zadovoljstva“ ljudi u kadru. Za poslodavce je ključno razumjeti gdje je granica — jer su neke od tih funkcija od 2. veljače 2025. na području EU-a izrijekom zabranjene, uz vrlo visoke kazne.
U ovom članku objašnjavamo što konkretno kaže europski Akt o umjetnoj inteligenciji te kako se to odnosi na uobičajene scenarije videonadzora u tvrtkama.
Što točno zabranjuje Akt o umjetnoj inteligenciji
Uredba (EU) 2024/1689 (poznata kao Akt o umjetnoj inteligenciji) u članku 5. stavku 1. navodi popis zabranjenih praksi. Za poslodavce su posebno važne tri točke:
- (f) UI sustavi za zaključivanje o emocijama osobe na radnome mjestu i u obrazovnim ustanovama — zabranjeni su, osim kada se upotrebljavaju iz medicinskih ili sigurnosnih razloga.
- (g) Biometrijska kategorizacija radi zaključivanja o rasi, političkim mišljenjima, članstvu u sindikatu, vjerskim ili filozofskim uvjerenjima, spolnom životu ili spolnoj orijentaciji.
- (e) Neciljano prikupljanje slika lica s interneta ili iz CCTV snimki radi stvaranja ili proširenja baza za prepoznavanje lica.
Konkretno to znači: kamera koja pokušava „čitati“ je li zaposlenik sretan, ljut, pod stresom ili nezainteresiran spada upravo u zabranu iz točke (f). Privola zaposlenika to ne mijenja — pristanak radnika ne čini prepoznavanje emocija na radnom mjestu dopuštenim, jer je riječ o praksi koja je načelno zabranjena, a ne o obradi koja ovisi o pravnoj osnovi.
Ove zabrane primjenjuju se od 2. veljače 2025. (članak 113.). Važno je naglasiti i da kasnija Uredba (EU) 2026/1744 nije mijenjala navedene zabrane — one ostaju na snazi u opisanom obliku.
Što NIJE zabranjeno ovim odredbama
Česta zabluda jest da je „svaka pametna kamera“ ili „svaki videonadzor“ sada protuzakonit. To nije točno. Zabrana se odnosi na vrlo specifične primjene, dok mnoge uobičajene funkcije ostaju dopuštene (uz poštovanje ostalih propisa o zaštiti podataka):
- Prepoznavanje lica za kontrolu pristupa (npr. otključavanje vrata ovlaštenoj osobi) nije obuhvaćeno zabranom iz članka 5.
- Čitanje registarskih tablica vozila na ulazu/izlazu nije zabranjeno tim odredbama.
- Procjena dobi (npr. za kontrolu pristupa) nije sama po sebi obuhvaćena tim zabranama.
- Otkrivanje umora vozača ili detekcija osmijeha ne smatraju se zabranjenim prepoznavanjem emocija u smislu ovih odredbi.
Drugim riječima, granica ide prema tome zaključuje li sustav o emocionalnom stanju radnika na radnom mjestu — a ne prema tome upotrebljava li kamera uopće neki oblik analitike.
Tko je odgovoran i koliko iznose kazne
Prema Aktu, poslodavac koji upotrebljava UI sustav jest subjekt koji ga uvodi (članak 3. točka 4.). To je bitno: odgovornost ne pada samo na proizvođača softvera, nego i na tvrtku koja takav sustav pušta u rad u svojim prostorima. Pozivanje na to da je „dobavljač tako isporučio“ ne oslobađa poslodavca obveza.
Za kršenje zabranjenih praksi iz članka 5. predviđene su najviše kazne iz Uredbe: do 35 milijuna EUR ili 7 % ukupnog godišnjeg svjetskog prometa, ovisno o tome što je veće (članak 99. stavak 3.). Riječ je o gornjoj granici, a ne o fiksnom iznosu — stvarna sankcija ovisi o okolnostima pojedinog slučaja.
Videonadzor zaposlenika i dalje je uređen hrvatskim propisima
Neovisno o Aktu o umjetnoj inteligenciji, snimanje zaposlenika i dalje uređuje Zakon o provedbi Opće uredbe o zaštiti podataka (NN 42/18), u člancima 25.–32., zajedno s općim pravilima o zaštiti osobnih podataka. To znači da i „obični“ videonadzor radnika mora imati jasnu svrhu, zakonitu osnovu, primjerenu informiranost zaposlenika i razmjerno trajanje čuvanja snimki.
Drugim riječima, čak i kada neka funkcija nije zabranjena Aktom, ona i dalje mora proći provjeru kroz prizmu zaštite osobnih podataka. Dvije razine propisa postoje usporedno i obje treba zadovoljiti.
Praktičan savjet za planiranje sustava
Prije nabave „AI kamera“ preporučujemo za svaku analitičku funkciju odvojeno procijeniti:
- Zaključuje li o emocijama radnika na radnom mjestu (osim medicinskih/sigurnosnih razloga)?
- Kategorizira li ljude po osjetljivim značajkama iz točke (g)?
- Gradi li baze lica neciljanim prikupljanjem iz snimki?
- Je li uporaba usklađena s NN 42/18 i općim pravilima zaštite podataka?
Zaključak
Akt o umjetnoj inteligenciji ne zabranjuje videonadzor ni naprednu analitiku u cjelini, ali povlači jasnu crtu kod prepoznavanja emocija zaposlenika i biometrijske kategorizacije prema osjetljivim značajkama. Budući da odgovornost nosi upravo poslodavac koji sustav uvodi, isplati se prije ulaganja provjeriti koje funkcije uključujete i jesu li usklađene s propisima.
Ako planirate novi sustav videonadzora ili niste sigurni je li postojeća analitika usklađena, rado ćemo kroz besplatan obilazak objekta procijeniti vašu konkretnu situaciju. Obilazak je besplatan u Osijeku i okolici (do oko 50 km), a dalje po dogovoru.