EU-KI-Verordnung in HR: Auswirkungen auf Personalverantwortliche

Die EU-KI-Verordnung ist ein europäisches Gesetz zur Regulierung von Künstlicher Intelligenz. Der AI Act schafft erstmals einheitliche Regeln für KI-Systeme innerhalb der EU. Damit verfolgt die EU mehrere Ziele, unter anderem:

• Sichere Nutzung von KI gewährleisten
• Grundrechte schützen
• Transparenz erhöhen
• Diskriminierung verhindern
• Vertrauen in KI stärken
• Innovation innerhalb der EU fördern

Die EU stuft grundsätzlich in drei verschiedene Risikostufen ein:

1. Hochrisiko-KI
   Das betrifft Systeme, die großen Einfluss auf Menschen haben. Automatisierte Bewerberauswahl, KI-gestützte Leistungsbewertung und Systeme zur Entscheidung über Beförderungen oder Kündigungen gelten unter anderem dazu.
2. KI mit begrenztem Risiko
   Hier sind besonders Chatbots oder KI-generierte Inhalte betroffen. Unternehmen müssen hier besondere Transparenzpflichten erfüllen. Die Nutzer müssen erkennen, dass sie mit einer KI interagieren.
3. KI mit minimalem Risiko
   Einige Bereiche sind nur sehr gering vom AI Act betroffen. KI zur Rechtschreibprüfung in Stellenanzeigen gilt beispielsweise als risikoarm.
    

Im HR-Bereich sind viele Prozesse im hoch risikoreichen Bereich. Das liegt daran, dass hier besonders viele personenbezogene Daten verarbeitet werden. Unternehmen müssen HR-KI-Systeme deshalb besonders sorgfältig prüfen und dokumentieren.

Die Organisation für wirtschaftliche Zusammenarbeit und Entwicklung definiert ein KI-System folgendermaßen:

"Es ist ein maschinenbasiertes System, das für bestimmte von Menschen definierte Ziele Vorhersagen anstellen, Empfehlungen abgeben oder Entscheidungen treffen kann. Es nutzt maschinelle und/oder von Menschen generierte Inputs, um ein reales und/oder virtuelles Umfeld zu erfassen, davon ausgehend (automatisch, z. B. mithilfe von ML, oder manuell) Modelle zu erstellen und mittels Modellinferenz Informations- oder Handlungsoptionen zu ermitteln. KI-Systeme können mit einem unterschiedlichen Grad an Autonomie ausgestattet sein."
 

Wichtig ist hier die klare Unterscheidung zwischen Automatisierung und KI. Die klassische Automatisierung arbeitet nach festen Regeln. Sie kann weder lernen noch sich eigenständig anpassen. KI-Systeme hingegen erkennen Muster, lernen aus Daten und können Entscheidungen treffen. Die bestehende HR-Software ist dementsprechend nur dann vom AI Act betroffen, wenn sie KI verwendet.

KI kann Entscheidungen im Personalbereich nachhaltig beeinflussen. Einige Beispiele:

• Recruiting Systeme: KI kann bei Bewerbervorauswahl, CV-Parsing, Bewerberranking und automatischen Empfehlungen helfen.
• Bewerberfilterung: KI kann Bewerbungen analysieren und Kandidaten aussortieren.
• Mitarbeiterbewertung: KI kann für Leistungsbewertungen und Produktivitätsanalysen eingesetzt werden.
• Personaleinsatzplanung: KI kann Entscheidungen zu Schichtplanung und Personalentwicklung vorbereiten.

All diese Funktionen sind praktisch, jedoch sind sie risikobehaftet. Wer KI bei diesen Prozessen einsetzt, riskiert mögliche Diskriminierung und intransparente Entscheidungen. Deshalb fallen all diese Bereiche in den Hochrisiko-Bereich der KI-Verordnung in HR. KI ist jedoch nicht grundsätzlich verboten. Sie kann eingesetzt werden, jedoch im Rahmen. Die HR-Prozesse müssen dennoch folgende Eigenschaften erfüllen:

• Datenschutz
• Transparenz
• Nachvollziehbarkeit
• KI-konforme Workforce-Management Lösungen

Mit den Workforce-Management-Lösungen von Protime gestalten Unternehmen HR-Prozesse transparenter, sicherer und effizienter. Bereiten Sie sich mit Protime bestens auf die Anforderungen der KI-Verordnung vor.

Wird HR durch KI ersetzt?

Nein, KI kann und wird HR nicht ersetzen. Gerade in der Personalabteilung sind von Menschen getroffene Entscheidungen sehr relevant. KI dient hier lediglich als Unterstützung statt als Ersatz. Routineaufgaben können beispielsweise durch KI automatisiert werden. Entscheidungen zu Einstellungen oder Beförderungen müssen jedoch weiterhin Menschen treffen. So spiegelt es auch der EU AI Act wieder. Er gibt vor, dass menschliche Kontrolle weiterhin verpflichtend bleibt. Das bedeutet, dass Menschen KI-Systeme überwachen und eingreifen können. Entscheidungen dürfen nicht vollständig automatisiert und unkontrolliert erfolgen. Eine gute HR-Software sollte deshalb Automatisierung, Transparenz und menschliche Entscheidungsfähigkeit kombinieren.

Viele HR-Anwendungen sind laut EU AI Act als Hochrisiko-KI eingestuft. Im Annex III werden alle hochrisikobehafteten Systeme aufgeführt. Die werden so eingestuft, weil sie erhebliche Auswirkungen auf Menschen und die Grundrechte haben können. Dazu zählen vor allem KI-Systeme, die bei folgenden Aufgaben unterstützen:

• Recruiting-Systeme: Bewerber(vor)auswahl, CV-Parsing, Bewerberranking.
• Kandidatenbewertung: Automatisierte Scores von Bewerbungen, Prognosen zur Eignung oder Leistung.
• Kündigungs- und Beförderungsentscheidungen
• Leistungsbewertung: Produktivitätsanalysen, Zielerreichungsbewertungen, Performance-Tracking.
• Mitarbeiterüberwachung: Überwachungssysteme, Verhaltensanalysen, Tracking von Arbeitsleistung oder Aktivitäten

Menschliche Aufsicht: Was bedeutet das in der Praxis?

Bei „Hochrisiko-KI“ verlangt der EU AI Act eine sogenannte „Human Oversight“. Das bedeutet, dass KI-Systeme nicht völlig unbeaufsichtigt entscheiden dürfen. Automatisierte Entscheidungen, die eine KI getroffen hat, müssen von Menschen kontrolliert werden. Diese Kontrolle muss dokumentiert sein, um Entscheidungen nachvollziehbar zu machen. Unternehmen sollten also klar festlegen:

• Wer überwacht die KI-Systeme?
• Wer gibt Entscheidungen frei?
• Wer bewertet Risiken?
• Wer greift bei Problemen ein?
   

Der EU AI Act bringt neue Compliance-Pflichten für Unternehmen und HR-Abteilungen. Wir empfehlen folgende Schritte zur Überprüfung Ihrer Compliance:

• Schritt 1: Eingesetzte KI-Systeme identifizieren
  Überprüfen Sie welche HR-Tools KI nutzen. Identifizieren Sie KI-automatisierte Prozesse und stufen Sie sie entsprechend der Risikostufen ein.
• Schritt 2: Risikomanagement aufbauen
  KI-Risiken für die Compliance müssen systematisch bewertet werden. Überprüfen und dokumentieren Sie regelmäßig das Risikoniveau. Verantwortlichkeiten sollten intern abgestimmt werden.
• Schritt 3: Transparenz sicherstellen
  Mitarbeitende und Bewerbende müssen wissen, wann KI eingesetzt wird. Schaffen Sie Transparenz darüber, wofür sie eingesetzt wird.
• Schritt 4: Dokumentation und Audit Trails
  Dokumentieren Sie Funktionsweise, Datenquellen, Risiken, Kontrollmaßnahmen und Entscheidungsprozesse der KI.
• Schritt 5: Mitarbeitende schulen
  Informieren Sie HR-Teams und Mitarbeitende darüber, wie KI-Systeme funktionieren.

Die KI Verordnung für Unternehmen erweitert somit auch bestehende Datenschutzregeln. Bei Verstößen drohen Bußgelder und arbeitsrechtliche Konflikte. Deshalb wird KI-Compliance zunehmend strategisch wichtig für HR und Unternehmensführung.

Welche Fristen gelten ab 2025 und 2026?

Der EU AI Act wird schrittweise eingeführt. So sieht die KI-Verordnung bis zum aktuellen Stand aus:

• Was gilt ab dem 02.02.2025? KI-Systeme mit inakzeptablen Risiko wurden verboten.
• Was gilt ab dem 02.08.2025? Dokumentationspflichten, Informationspflichten und Transparenzanforderungen wurden relevant. Nutzer müssen erkennen können, wenn Inhalte KI-generiert sind.
• Was gilt ab dem 02.08.2026? Ab diesem Datum wird der Großteil der KI-Verordnung wirksam. Viele HR-Systeme fallen ab diesem Zeitpunkt unter streng regulierte Hochrisiko-Regeln.
   

Die EU AI Act erhöht die Anforderungen an HR-Prozesse und KI-Systeme. Regelkonforme HR Software hilft Unternehmen dabei, Compliance-Anforderungen effizient umzusetzen. Software hilft vor allem bei:

• Transparenz
• Nachvollziehbarkeit
• Audit-Trails
• Dokumentation

Achten Sie bei der Auswahl einer Software besonders auf den KI-Einsatz, um risikoreiche Prozesse zu vermeiden. Protime positioniert sich hier als verlässlicher Partner. Wir unterstützen Unternehmen dabei, HR-Prozesse transparenter, nachvollziehbarer und AI-Act-konform zu gestalten.

Unternehmen müssen sich auf den Wandel der künstlichen Intelligenz vorbereiten. Nicht nur technologisch, sondern auch rechtlich müssen Vorkehrungen getroffen werden. Diese sieben Schritte dienen als kleiner Leitfaden:

1. KI-Inventur durchführen
2. Risiken bewerten
3. KI Governance aufbauen
4. Human Oversight sicherstellen
5. Mitarbeitende schulen
6. Anbieter und Lieferanten prüfen
7. Dokumentation und Audit-Trails aufbauen

Künstliche Intelligenz bietet viele Chancen für das Personalmanagement. Verantwortungsvoller Umgang und Compliance sind jedoch unverzichtbar. Unternehmen müssen sicherstellen, dass wichtige Entscheidungen weiterhin menschlich kontrolliert werden.