Madžarski Nemzeti Adatvédelmi és Információszabadság Hatóság (NAIH) je v letu 2024 fokusiral svojo aktivnost na sisteme AI in skladnost GDPR. NAIH je izdal 15 odločb v zvezi z AI sistemih — vključno s sistemov za avtomatiziran pregled tud CAC sistemih (Completely Automated Computer Systems).
AI in Člen 22 GDPR
Člen 22 GDPR zahteva, da osebe nimajo pravice biti podvržene samo avtomatiziranim odločitvam (ADM), vključno z oblikovanjem profilov (profiling), ki bi imalo za posledico učinke. To pomeni:
- Avtomatizirana odločitev s pravnimi ali ekonomskimi posledicami
- Avtomatizirana odločitev o kreditu
- Avtomatizirana odločitev o zdravstveni oskrbi
- Avtomatizirana odločitev o zaposlenosti
Madžarski NAIH je v letu 2024 odkril, da 60 % rudarskih in proizvajnih podjetij ima avtomatizevane sisteme za odločanje o zaposlovanju brez Člen 22 GDPR varovalke.
Primer: madžarski sistem za ročenje
Madžarsko ministrstvo za delo je v letu 2023 uvedlo avtomatiziran sistem za razdelitev nagrad zaposlenim. Sistem je upošteval:
- Historijo prisotnosti
- Učinkovitost (merjena s številom naročil na dan)
- Rezultate Izhodov (povzročeni zaslužki)
Madžarski NAIH je odločil, da je sistem kršil Člen 22 GDPR, ker:
- Nima možnosti pregleda
- Nima človeške interakcije
- Nima možnosti pritožbe
Kazni: 2,3 milijona forintov (~7.600 evrov).
Kaj je potrebno?
Za skladnost s Členom 22 GDPR morajo avtomatizevani sistemi za odločanje:
- Transparentnost: Morajo razkriti kako se osebni podatki uporabljajo
- Značilnosti podatkov: Razkriti morati mora podatke, na katerih je sistem osnovana
- Možnost pregleda: Biti mora možnost za pregledovanje odločitve
- Možnost pritožbe: Biti mora možnost zatožiti se.