Der am 1. August 2024 in Kraft getretene EU AI Act bringt weitreichende Veränderungen für Unternehmen, ihre HR-Abteilungen und HR-Digitalisierungsinitiativen mit sich.
Wir freuen uns daher sehr über unserer Kooperation mit Niederer Kraft Frey, die im Zuge von Transformationsprojekten je nach individuellem Bedarf Compliance sowohl in Bezug auf den EU AI Act als auch bezüglich Datenschutz für Sie prüfen können.
Was ist der EU AI Act?
Der EU AI Act ist ein umfassendes Regelwerk, das die Entwicklung und Nutzung von Künstlicher Intelligenz (KI) in der Europäischen Union reguliert. Ziel ist es, sichere und vertrauenswürdige KI-Systeme zu fördern und gleichzeitig die Grundrechte der EU-Bürger zu schützen (Europäische Kommission 2024).
Risikoklassifikation des EU AI Acts
Der EU AI Act klassifiziert KI-Systeme in vier Risikokategorien:
Unzulässiges Risiko
KI-Systeme, die ein unzulässiges Risiko darstellen, sind verboten. Dazu gehören Systeme, die manipulative Techniken einsetzen oder die Schwächen von Menschen ausnutzen, um deren Verhalten zu beeinflussen.
Beispiele im HR-Bereich: Systeme zur sozialen Bewertung (Social Scoring), die das Verhalten von Mitarbeitern überwachen und bewerten, oder manipulative KI, die Entscheidungen von Mitarbeitern beeinflusst.
Hohes Risiko
Diese Systeme sind erlaubt, unterliegen jedoch strengen Anforderungen und Auflagen. Unternehmen müssen sicherstellen, dass diese Systeme transparent und nachvollziehbar sind und regelmäßigen Prüfungen unterzogen werden.
Beispiele im HR-Bereich: KI-Systeme zur automatisierten Entscheidungsfindung bei Einstellungen, Beförderungen oder Entlassungen. Diese Systeme müssen transparent und fair sein und dürfen keine diskriminierenden Entscheidungen treffen.
Begrenztes Risiko
Systeme mit begrenztem Risiko müssen bestimmte Transparenzanforderungen erfüllen. Nutzer müssen darüber informiert werden, dass sie mit einem KI-System interagieren, wie z.B. bei Chatbots.
Beispiele im HR-Bereich: Chatbots, die für die Beantwortung von Mitarbeiteranfragen verwendet werden, oder Systeme zur automatisierten Terminplanung.
Minimales Risiko
Diese Systeme unterliegen keinen zusätzlichen Vorschriften. Dazu gehören die meisten derzeit auf dem Markt verfügbaren KI-Anwendungen, wie z.B. Spam-Filter oder KI-gestützte Videospiele.
Beispiele im HR-Bereich: KI-gestützte Tools zur Verbesserung der Mitarbeiterproduktivität, wie z.B. Rechtschreib- und Grammatikprüfungen oder einfache Datenanalyse-Tools.
(Future of Life Institute 2024)
Auswirkungen auf HR-Abteilungen und HR-Digitalisierungsinitiativen
Grundsätzlich unterscheidet der EU AI Act Verantwortungen für Entwickler und Nutzer. Während Entwickler für die Konformitätssicherung, Risikobewertung, Dokumentation und Überwachung sowie Wartung verantwortlich sind, stehen auch die reinen Endanwender in der Verantwortung für einen verantwortungsvollen Einsatz, Schulung sowie Bewusstsein der Mitarbeitenden, Feedback sowie Berichterstattung an die Entwickler und die Einhaltung der Vorschriften (Future of Life Institute 2024).
Gerne begleiten wir Sie in diesem Prozess, ob Sie nun Lösungen von Drittanbietern implementieren, diese nach Ihren individuellen Bedürfnissen customizen möchten oder gar eigenständige Applikationen mit uns entwickeln möchten.
Konkrete Auswirkungen auf HR-Abteilungen und HR-Digitalisierungsinitiativen sind somit bereits als Nutzer von KI-Applikationen in jedem Fall folgende:
Datenschutz Compliance: Da KI-Systeme häufig personenbezogene Daten verarbeiten, müssen HR-Abteilungen sicherstellen, dass diese Daten gemäss den anwendbaren Datenschutzbestimmungen bearbeitet werden. Dies umfasst die Einhaltung von Prinzipien wie Datenminimierung, Zweckbindung und Transparenz.
Datenqualität und -sicherheit: Die Qualität der Daten, die für KI-Systeme verwendet werden, muss hoch sein, um Verzerrungen und Diskriminierung zu vermeiden. HR-Abteilungen müssen sicherstellen, dass ihre Datenquellen zuverlässig und aktuell sind.
Schulung und Kompetenzaufbau: HR-Abteilungen müssen sicherstellen, dass ihre Mitarbeiter ausreichend geschult sind, um KI-Systeme verantwortungsvoll zu nutzen. Dies umfasst sowohl technisches Wissen als auch ein Verständnis für die ethischen und rechtlichen Implikationen.
Transparenz und Vertrauen: HR-Digitalisierungsinitiativen, die KI nutzen, müssen sicherstellen, dass die verwendeten Systeme transparent und vertrauenswürdig sind. Unternehmen müssen transparent darüber informieren, wie KI-Systeme Daten verarbeiten und welche Entscheidungen automatisiert getroffen werden. Dies fördert das Vertrauen und die Akzeptanz. KI-Systeme, die in HR-Prozessen eingesetzt werden, wie z.B. bei der Bewerberauswahl oder Leistungsbeurteilung, müssen den neuen Vorschriften entsprechen. Dies bedeutet, dass Transparenz und Nachvollziehbarkeit der Entscheidungen gewährleistet sein müssen.
Menschliche Aufsicht: Trotz der Automatisierung durch KI bleibt die menschliche Aufsicht unerlässlich. HR-Leiter müssen sicherstellen, dass Entscheidungen, die durch KI unterstützt werden, von Menschen überprüft und validiert werden.
Ihr Mehrwert in der Zusammenarbeit
Ganzheitliche Betreuung
Im Rahmen von Transformationsprojekten profitieren Sie von unserer Expertise im HR-Bereich und können sich gleichzeitig auf die juristische Kompetenz von Niederer Kraft Frey verlassen, um alle relevanten Aspekte Ihrer HR-Digitalisierung zu berücksichtigen.
Rechtzeitige Implementierung
Während die am 1. August 2024 in Kraft getretene EU KI Verordnung grundsätzlich per 2. August 2026 anwendbar ist, greifen einige Bestimmungen bereits vorab. Vermeiden Sie böse Überraschungen durch frühzeitige Vorbereitung und behalten Sie bereits jetzt die gesamte Verordnung im Blick.
Wettbewerbsvorteil
Indem Sie die Digitalisierung Ihrer HR-Abläufe vorantreiben, fördern Sie Innovationen und sichern sich einen entscheidenden Wettbewerbsvorteil. Gleichzeitig minimieren Sie durch die Einhaltung neuer Vorschriften und die Integration von Datenschutzprinzipien rechtliche Risiken und stärken das Vertrauen Ihrer Mitarbeitenden und Bewerber.
Digital HR Ecosystem – Stop Stress, Join the Journey to HR -Success!
Follow us #LinkedIn #Facebook #Instagram
Disclaimer
Dieser Blogbeitrag stellt keine verbindliche Rechtsauskunft dar. Eine konkrete Rechtsberatung findet erst nach der Mandatierung der Niederer Kraft Frey statt.
