KI im Unternehmen: Wer kontrolliert eigentlich, was Sie dürfen?

Künstliche Intelligenz ist längst im Arbeitsalltag angekommen. Doch mit ihrem Einsatz wachsen auch die rechtlichen Anforderungen. Neben der europäischen KI-Verordnung (AI Act) spielt insbesondere die Datenschutz-Grundverordnung (DSGVO) eine entscheidende Rolle.
Was viele Unternehmen unterschätzen: Die größten rechtlichen Risiken beim KI-Einsatz liegen häufig nicht in der KI-Verordnung, sondern im Datenschutz.
Bundesnetzagentur übernimmt die KI-Aufsicht
Seit 2026 ist die Bundesnetzagentur als zentrale Marktüberwachungsbehörde für die europäische KI-Verordnung benannt. Sie kontrolliert, ob KI-Systeme die gesetzlichen Anforderungen erfüllen.
Allerdings gibt es Ausnahmen. Für bestimmte Branchen, regulierte Produkte und öffentliche Stellen sind andere Aufsichtsbehörden zuständig.
Für Unternehmen, die KI lediglich im Arbeitsalltag einsetzen, stehen vor allem folgende Anforderungen im Vordergrund:
‼️ Verbotene KI-Praktiken vermeiden
‼️ Mitarbeitende im Umgang mit KI sensibilisieren und schulen
‼️ Kennzeichnungspflichten bei bestimmten KI-Inhalten beachten
‼️ Zusätzliche Anforderungen bei Hochrisiko-KI berücksichtigen
Insbesondere KI-Anwendungen im Personalwesen können strengeren Vorgaben unterliegen.
Das größere Risiko? Die DSGVO!
Während die KI-Verordnung neue Anforderungen schafft, bleiben die bestehenden Datenschutzpflichten unverändert relevant.
Sobald KI-Systeme personenbezogene Daten verarbeiten, müssen Unternehmen und Behörden unter anderem sicherstellen, dass:
✅ eine gültige Rechtsgrundlage für die Datenverarbeitung besteht,
✅ betroffene Personen ausreichend informiert werden,
✅ erforderliche Dokumentationen vorliegen,
✅ gegebenenfalls eine Datenschutz-Folgenabschätzung durchgeführt wird,
✅ angemessene technische und organisatorische Schutzmaßnahmen bestehen.
Wer beispielsweise vertrauliche Kundendaten unkontrolliert in KI-Anwendungen eingibt, riskiert Datenschutzverstöße, unabhängig davon, ob das eingesetzte System als Hochrisiko-KI gilt.
Die Einhaltung dieser Anforderungen wird weiterhin von den zuständigen Datenschutzaufsichtsbehörden kontrolliert.
KI-Governance: Klare Regeln statt unkontrollierter Nutzung
Ein rechtssicherer KI-Einsatz erfordert mehr als die Auswahl geeigneter Anwendungen.
Unternehmen und Behörden sollten verbindlich festlegen, welche KI-Tools genutzt werden dürfen, welche Daten verarbeitet werden können und wer für die Freigabe und Kontrolle verantwortlich ist.
Klare KI-Richtlinien, Mitarbeiterschulungen und technische Sicherheitsmaßnahmen helfen dabei, Datenschutzrisiken frühzeitig zu erkennen und zu minimieren.
Fazit: Neue KI-Regeln, bekannte Verantwortung
Die europäische KI-Verordnung erweitert den rechtlichen Rahmen. Für viele Unternehmen bleiben jedoch die Anforderungen der DSGVO die größere praktische Herausforderung.
Wer KI sicher und rechtskonform einsetzen möchte, muss Datenschutz und Informationssicherheit von Anfang an mitdenken.
Eine durchdachte KI-Governance schafft dafür die notwendige Grundlage.


