AI pri nábore a v HR: pomocník alebo riziko pre vašu firmu?

Lenka si v pondelok ráno otvorila e-mail a zamrzla. Sťažnosť od uchádzača o prácu. A hneď za ním upozornenie od právnika na možné porušenie nariadenia o ochrane osobných údajov. Celý víkend pritom strávila presvedčená, že nový AI nástroj na triedenie životopisov jej ušetrí hodiny práce. Ušetril. Ale priniesol niečo, na čo nebola pripravená.

Keď AI pomáha príliš ochotne

Lenka vlastní strednú výrobnú firmu so 60 zamestnancami. Nábor nových ľudí ju vždy stál nervy aj čas. Preto keď jej kolegyňa odporučila cloudový AI nástroj na predtriedenie životopisov, neváhala. Nastavenie zabralo hodinu. Nástroj sľuboval, že sám vyhodnotí vhodnosť uchádzačov na základe kľúčových slov a vzorcov z minulých nájmov.

Prvé tri týždne vyzerali skvele. Lenka dostávala prehľadné skóre, zoradené zoznamy, úspora času bola viditeľná. Potom prišiel ten e-mail. Uchádzač, ktorého AI označila ako nevhodného, si všimol, že bol odmietnutý automaticky, bez ľudského posúdenia. A vedel presne, na čo má nárok podľa európskeho práva.

Čo Lenka nevedela a čo ju málem stálo reputáciu

Problém nebol v tom, že AI robí zlé rozhodnutia. Problém bol, že Lenka nevedela, čo AI robí s dátami uchádzačov, kde ich ukladá a na základe akých kritérií hodnotí. Nástroj bol zahraničný, servery mimo EÚ, podmienky v angličtine na 40 stranách.

Právnik jej vysvetlil, že podľa GDPR aj podľa EU AI Act má uchádzač právo na ľudský dohľad pri automatizovaných rozhodnutiach. Automatické odmietnutie bez možnosti odvolania je problém. A nástroje na hodnotenie zamestnancov a uchádzačov patria podľa EU AI Act do vysokorizikových kategórií AI, čo prináša konkrétne povinnosti.

Lenka mala šťastie. Uchádzač chcel len vysvetlenie, nie pokutu. Ale stačilo by trochu viac smoly a firma by čelila správnemu konaniu zo strany Úradu na ochranu osobných údajov SR.

Kde je skutočné riziko pre malé a stredné firmy

AI v HR nie je len módny pojem. Firmy ho dnes využívajú na triedenie životopisov, hodnotenie výkonu, plánovanie zmien aj predikciu odchodov zamestnancov. To všetko sú oblasti, kde sa narába s citlivými osobnými údajmi. A to je presne miesto, kde chyba bolí najviac.

Tri najčastejšie riziká

• Neprehľadné ukladanie dát: AI nástroj posiela životopisy na zahraničné servery bez toho, aby ste o tom vedeli.
• Zaujatosť algoritmu: Nástroj naučený na historických dátach môže diskriminovať určité skupiny uchádzačov, čo je právny problém.
• Chýbajúci ľudský dohľad: Automatické rozhodnutia bez možnosti odvolania porušujú práva uchádzačov podľa GDPR aj EU AI Act.

A tu sa dostávame k jadru problému. Nie je dôležité, či AI použijete. Dôležité je, ako a s akou prípravou to urobíte. Bez toho riskujete nielen pokutu, ale aj reputačný úder, ktorý sa ťažko napravuje.

Ako to Lenka vyriešila a prečo je dnes pokojnejšia

Lenka si nechala urobiť IT audit. Niekoľko hodín práce odborníkov odhalilo, kde firma narába s dátami bez dostatočnej ochrany. Nielen v HR, ale aj v ďalších oblastiach. To, čo predtým vyzeralo ako úspora, sa ukázalo byť ako otvorená brána k problémom.

Výsledok auditu bol konkrétny zoznam opatrení. Nahradili zahraničný AI nástroj riešením s dátami uloženými v EÚ. Nastavili proces, kde AI triedi, ale finálne rozhodnutie robí človek. A zamestnanci aj manažéri prešli krátkym školením, čo je a čo nie je dovolené pri práci s AI nástrojmi.

Lenka dnes hovorí, že neľutuje ani ten nepríjemný e-mail. Donútil ju pozrieť sa na veci, ktoré by inak riešila až keď by bolo neskoro. AI v HR stále používa. Ale tentoraz vie, čo sa deje za oponou. A to je rozdiel, ktorý skutočne rozhoduje.

Mimochodom, ak vás zaujíma, ako AI mení aj iné oblasti bezpečnosti, prečítajte si náš článok o tom, ako deepfake podvody menia phishing a ako sa brániť. Hrozby sa vyvíjajú rýchlejšie, ako si väčšina firiem uvedomuje.

Čo si z toho odniesť, ak uvažujete o AI v HR

AI môže byť skvelý pomocník. Ale nestačí si ho len stiahnuť a zapnúť. Pred nasadením akéhokoľvek AI nástroja v HR sa oplatí položiť si niekoľko otázok. Kde sa ukladajú dáta? Kto má k nim prístup? Je v procese zapojený človek, ktorý vie vysvetliť rozhodnutie? A zodpovedá nástroj požiadavkám EU AI Act?

Ak na niektorú z týchto otázok nepoznáte odpoveď, je čas to zistiť skôr, ako príde e-mail, ktorý vám skomplikuje pondelok. Alebo celý rok. Naše školenia o IT bezpečnosti pomáhajú tímom pochopiť, kde sú hranice a ako s AI nástrojmi pracovať zodpovedne. A ak chcete mať celkovú firemnú správu IT pod kontrolou, o to sa postaráme my.

Čo by vás ešte mohlo zaujímať

Musí každá firma, ktorá používa AI v HR, spĺňať požiadavky EU AI Act?

Áno, ak AI nástroj pomáha rozhodovať o nábore, hodnotení alebo prepúšťaní zamestnancov, zaraďuje sa podľa EU AI Act do vysokorizikovej kategórie. To platí aj pre malé firmy. Nestačí len nástroj používať, firma musí vedieť preukázať, že má nad rozhodovaním ľudský dohľad a že rešpektuje práva dotknutých osôb.

Je AI v nábore vôbec bezpečné používať?

Áno, ale len s dostatočnou prípravou. Kľúčové je vedieť, kde sa dáta ukladajú, či je nástroj v súlade s GDPR a či do finálneho rozhodnutia vstupuje človek. AI môže ušetriť čas a znížiť náklady, ak je nasadený správne a zodpovedne.

Čo konkrétne odhalí IT audit vo firme, ktorá používa AI nástroje?

IT audit zmapuje, aké nástroje firma reálne používa, kde sa spracúvajú a ukladajú dáta, aký je prístup jednotlivých používateľov a kde existujú bezpečnostné alebo právne medzery. Výsledkom je konkrétny zoznam opatrení, nie len všeobecné odporúčania.

Ako zamestnanci reagujú na AI v HR? Treba ich na to pripraviť?

Áno, komunikácia je kľúčová. Zamestnanci aj manažéri by mali vedieť, kde a ako AI vstupuje do procesov, ktoré sa ich týkajú. Školenie pomáha predísť nedorozumeniam aj neúmyselnému porušeniu pravidiel. Napríklad pri zdieľaní osobných údajov cez neoverené AI nástroje, čo je dnes bežná a podceňovaná hrozba.