KI im Unternehmen: die häufigsten Rechtsfragen zu DSGVO und EU AI Act

Dürfen wir ChatGPT überhaupt einsetzen, brauchen wir einen Auftragsverarbeitungsvertrag, welche Fristen des AI Act gelten bereits? 39 Fragen aus der Praxis, jede Antwort mit Quelle und Stand.

Diese FAQ beantwortet die häufigsten Rechtsfragen bei der Einführung von KI in kleinen und mittleren Unternehmen. Alle Angaben wurden anhand von Primärquellen geprüft (EUR-Lex, EU-Kommission, Europäischer Datenschutzausschuss, Datenschutzkonferenz).

Stand: 20. August 2026. Diese FAQ ist eine allgemeine Information und ersetzt keine Rechtsberatung im Einzelfall.

Grundlagen

Dürfen wir als KMU KI-Tools wie ChatGPT, Claude oder Microsoft Copilot einsetzen?

Ja. Weder die DSGVO noch der EU AI Act verbieten den Einsatz generativer KI. Beide Gesetze regeln nur, wie und wofür Sie KI einsetzen dürfen. Für typische Büroanwendungen (Texte entwerfen, recherchieren, zusammenfassen) sind die Pflichten überschaubar: passenden Unternehmenstarif wählen, Datenschutz klären, Beschäftigte schulen und die seit August 2026 geltenden Transparenzpflichten beachten.

Quellen: KI-Verordnung (EU) 2024/1689 · DSGVO (EU) 2016/679

Welche Regeln gelten, wenn wir KI einführen?

Vier Ebenen sind relevant:

• EU AI Act (KI-Verordnung): Pflichten je nach Risikoklasse des KI-Systems, unabhängig davon, ob Daten personenbezogen sind.
• DSGVO: gilt immer, sobald personenbezogene Daten verarbeitet werden (Namen, E-Mails, Kundendaten, Beschäftigtendaten).
• Nationales Recht: u. a. Betriebsverfassungsgesetz, Geschäftsgeheimnisgesetz, Urheberrecht.
• Verträge: Nutzungsbedingungen und Datenschutzvereinbarungen des KI-Anbieters.

Quellen: KI-Verordnung · DSGVO

Was brauchen wir konkret, um KI wie ChatGPT oder Claude einsetzen zu können?

Für den Einstieg genügen vier Dinge:

• Unternehmenstarif statt Privat-Account: enthält den Auftragsverarbeitungsvertrag, Eingaben werden nicht zum Training verwendet.
• Nutzungsregeln: eine Seite genügt; was hinein darf, was nicht, Prüfpflicht für Ergebnisse.
• Schulung: kurz und dokumentiert, das erfüllt die KI-Kompetenz-Pflicht.
• Datenschutz: Datenschutzerklärung ergänzen, sobald Kunden- oder Beschäftigtendaten verarbeitet werden.

Beispiel Spedition: Claude im Team-Tarif für Angebots-E-Mails, Reklamationsantworten und die Zusammenfassung von Frachtpapieren. Der Auftragsverarbeitungsvertrag ist im Tarif enthalten; damit dürfen auch Ansprechpartner und andere personenbezogene Daten im für die Aufgabe nötigen Umfang eingegeben werden. Die Nutzungsregeln ziehen die Grenze bei Daten ohne Aufgabenbezug, etwa Fahrerdaten oder kompletten Kundenlisten. Dazu zwei Stunden Schulung für die Disposition. Eine Genehmigung, Registrierung oder Zertifizierung ist nicht erforderlich.

Quellen: KI-Verordnung, Art. 4 · DSGVO, Art. 28

Was ist der EU AI Act, und betrifft er uns als kleines Unternehmen?

Der AI Act (Verordnung (EU) 2024/1689) ist das weltweit erste umfassende KI-Gesetz. Er ist seit dem 1. August 2024 in Kraft und gilt stufenweise. Der Ansatz ist risikobasiert: je riskanter der Einsatzzweck, desto strenger die Pflichten. Er betrifft nicht nur Hersteller, sondern auch reine Anwender (im Gesetz „Betreiber“), und zwar unabhängig von der Unternehmensgröße. Für KMU gibt es Erleichterungen, etwa niedrigere Bußgeldobergrenzen.

Quellen: KI-Verordnung, Art. 1 bis 3

Der AI Act unterscheidet „Anbieter“ und „Betreiber“. Was sind wir?

Der AI Act verteilt die Pflichten nach Rollen. Anbieter entwickeln KI-Systeme oder bringen sie unter eigenem Namen auf den Markt (z. B. OpenAI, Anthropic, Microsoft); sie tragen die Hauptlast der Verordnung. Betreiber verwenden KI unter eigener Verantwortung beruflich; das ist die Rolle fast jedes KMU, das ChatGPT, Claude oder Copilot einsetzt. Für Betreiber bleibt ein überschaubarer Pflichtenkatalog. Zum Anbieter wird Ihr Unternehmen erst, wenn es KI-Lösungen unter eigener Marke an Kunden gibt.

Quellen: KI-Verordnung, Art. 3 Nr. 3 und 4

Wir nutzen KI nur intern. Welche Pflichten haben wir als „Betreiber“?

Wer KI unter eigener Verantwortung beruflich einsetzt, ist „Betreiber“ im Sinne des AI Act. Aktuell gelten für Sie drei Pflichtenkreise: keine verbotenen Praktiken (Art. 5), KI-Kompetenz der Beschäftigten (Art. 4) und Transparenzpflichten bei Chatbots und KI-Inhalten (Art. 50). Die umfangreichen Betreiberpflichten für Hochrisiko-KI (Art. 26) greifen erst ab dem 2. Dezember 2027. Unabhängig davon gilt die DSGVO ab dem ersten Tag.

Quellen: KI-Verordnung, Art. 3 Nr. 4, Art. 4, 5, 26, 50

Welche Fristen des AI Act gelten jetzt?

Quellen: KI-Verordnung, Art. 113 · Verordnung (EU) 2026/1744

Was ist der Digital Omnibus?

Die Änderungsverordnung (EU) 2026/1744 („Digital Omnibus on AI“) ist am 27. Juli 2026 in Kraft getreten und ändert die KI-Verordnung an einer Reihe von Stellen. Welche Termine sich dadurch verschoben haben, steht vollständig in der Tabelle oben. Inhaltlich kommen drei Punkte hinzu: Neu verboten sind KI-Systeme zur Erzeugung nicht einvernehmlicher intimer Darstellungen („Nudify“-Apps) und von Missbrauchsdarstellungen. Die Pflicht zur KI-Kompetenz wurde sprachlich abgeschwächt. Die Transparenzpflichten nach Art. 50 blieben im Kern beim ursprünglichen Termin 2. August 2026, mit einer Übergangsfrist für Bestandssysteme.

Quellen: Verordnung (EU) 2026/1744 · KI-Verordnung, Art. 5, 50, 113

Wer beaufsichtigt KI in Deutschland?

Seit dem 29. Juli 2026 gilt das deutsche Durchführungsgesetz (KI-Marktüberwachungs- und Innovationsförderungsgesetz, KI-MIG). Zentrale Marktüberwachungsbehörde für den AI Act ist die Bundesnetzagentur. Sie betreibt ein Koordinierungs- und Kompetenzzentrum (KoKIVO) und einen KI-Service-Desk als Anlaufstelle für Unternehmen. Für die DSGVO bleiben die Landesdatenschutzbehörden und der Bundesdatenschutzbeauftragte zuständig. Auf EU-Ebene beaufsichtigt das AI Office der Kommission die großen KI-Modelle (GPAI).

Quellen: BMDS: Neues KI-Gesetz tritt in Kraft · BMDS: Gesetz zur Durchführung der KI-Verordnung

Der EU AI Act konkret

Welche Risikoklassen kennt der AI Act?

Vier Stufen: Verbotene Praktiken (Art. 5) dürfen gar nicht eingesetzt werden. Hochrisiko-Systeme (Art. 6 mit Anhängen I und III) unterliegen strengen Anforderungen, die ab Dezember 2027 (eigenständige Systeme) bzw. August 2028 (KI in regulierten Produkten) greifen. Begrenztes Risiko löst Transparenzpflichten aus (Art. 50), etwa bei Chatbots und KI-generierten Inhalten. Minimales Risiko (z. B. Spamfilter, Rechtschreibkorrektur) bleibt ohne besondere Pflichten. Daneben gelten eigene Regeln für die zugrunde liegenden Basismodelle (GPAI, Art. 51 ff.), die deren Anbieter treffen.

Quellen: KI-Verordnung, Art. 5, 6, 50, 51

Welche KI-Praktiken sind komplett verboten?

Verboten sind unter anderem: manipulative Techniken, die Menschen erheblich schädigen, das Ausnutzen von Schwächen schutzbedürftiger Personen, Social Scoring, die ungezielte Auswertung von Gesichtsbildern aus dem Internet sowie Emotionserkennung am Arbeitsplatz (außer aus medizinischen oder Sicherheitsgründen). Seit dem Digital Omnibus zusätzlich: Systeme zur Erzeugung nicht einvernehmlicher intimer Darstellungen und von Darstellungen sexuellen Kindesmissbrauchs (Übergangsfrist bis 2. Dezember 2026). Für Geschäftsführer besonders relevant: KI-gestützte Emotionsanalyse von Beschäftigten, etwa in Callcentern oder Bewerbungsgesprächen, ist verboten.

Quellen: KI-Verordnung, Art. 5 · Verordnung (EU) 2026/1744

Müssen wir unsere Beschäftigten schulen (KI-Kompetenz)?

Ja. Seit dem 2. Februar 2025 verpflichtet Art. 4 Unternehmen, KI-Kompetenz ihres Personals zu fördern. Der Digital Omnibus hat die Formulierung abgeschwächt (unterstützen statt sicherstellen), die Pflicht bleibt aber bestehen. Ein bestimmtes Format oder Zertifikat ist nicht vorgeschrieben. Praktisch genügen dokumentierte Schulungen, die zum Kenntnisstand der Beschäftigten und zum eingesetzten Tool passen, plus klare interne Nutzungsregeln. Was Art. 4 im Einzelnen verlangt, steht in unserem Beitrag zur KI-Schulungspflicht.

Quellen: KI-Verordnung, Art. 4 · Verordnung (EU) 2026/1744

Wir setzen einen Chatbot auf der Website ein. Was ist zu beachten?

Nutzer müssen erkennen können, dass sie mit einer KI und nicht mit einem Menschen kommunizieren (Art. 50 Abs. 1). Das gilt seit dem 2. August 2026. Die Gestaltungspflicht trifft den Anbieter des Chatbots; als Betreiber stellen Sie sicher, dass die Kennzeichnung im Einsatz sichtbar bleibt. Eine klare Beschriftung wie „KI-Assistent“ reicht in der Regel; nur wenn der KI-Charakter offensichtlich ist, entfällt die Pflicht. Konkrete Umsetzungsfragen beantworten die finalen Leitlinien der EU-Kommission zu Art. 50 vom 20. Juli 2026, mehr dazu in unserem Beitrag zur KI-Kennzeichnungspflicht. Zusätzlich gilt die DSGVO: Datenschutzerklärung ergänzen und einen Auftragsverarbeitungsvertrag mit dem Chatbot-Anbieter schließen.

Quellen: KI-Verordnung, Art. 50 Abs. 1 · EU-Kommission: Leitlinien zu den Transparenzpflichten nach Art. 50 · DSGVO, Art. 13, 28

Müssen wir KI-generierte Bilder, Videos oder Texte kennzeichnen?

Es kommt auf die Rolle und den Inhalt an. Drei Fälle sind zu trennen, ausführlich erklärt in unserem Beitrag zur KI-Kennzeichnungspflicht.

• Pflicht der Tool-Anbieter, nicht Ihre: die maschinenlesbare Markierung von KI-Ausgaben im Dateiformat (Art. 50 Abs. 2). Für Bestandssysteme gilt eine Übergangsfrist bis zum 2. Dezember 2026.
• Ihre Offenlegungspflicht als Anwender (Art. 50 Abs. 4) in zwei Fällen: bei Deepfakes, also täuschend echten Darstellungen realer Personen, Orte oder Ereignisse, und bei KI-generierten Texten, die Sie veröffentlichen, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Der zweite Fall entfällt, wenn ein Mensch den Text redaktionell geprüft und die Verantwortung dafür übernommen hat.
• Keine Offenlegungspflicht bei gewöhnlichen KI-Illustrationen im Marketing, solange sie keine realen Personen, Orte oder Ereignisse täuschend echt darstellen. Eine freiwillige Kennzeichnung ist trotzdem empfehlenswert.

Zwei Praxishilfen erleichtern die Umsetzung: die finalen Leitlinien der EU-Kommission zu Art. 50 vom 20. Juli 2026 und der freiwillige Verhaltenskodex zur Transparenz KI-generierter Inhalte vom 10. Juni 2026. Kommission und KI-Gremium haben den Kodex als geeignetes Nachweisinstrument bestätigt: Wer ihn unterzeichnet und einhält, weist damit die Erfüllung der Kennzeichnungspflichten nach. Für die Kennzeichnung stellt die EU zudem einen einheitlichen Icon-Satz bereit.

Quellen: KI-Verordnung, Art. 50 Abs. 2 und 4 · EU-Kommission: Leitlinien zu Art. 50 · Verhaltenskodex zur Transparenz KI-generierter Inhalte · EU-Icons zur Kennzeichnung

Wann gilt KI als „Hochrisiko“, und was bedeutet das für uns?

Hochrisiko sind KI-Systeme in den Bereichen aus Anhang III, unter anderem: Personalauswahl und Personalentscheidungen, Kreditwürdigkeitsprüfung, Bildung und Prüfungen, kritische Infrastruktur, Strafverfolgung. Für Anwender solcher Systeme gelten ab dem 2. Dezember 2027 die Pflichten aus Art. 26: Einsatz nur nach Betriebsanleitung, wirksame menschliche Aufsicht durch geschulte Personen, Kontrolle der Eingabedaten, Aufbewahrung der Protokolle und Information der betroffenen Beschäftigten. Die Entwicklungs- und Zertifizierungspflichten treffen die Hersteller.

Quellen: KI-Verordnung, Art. 6, 26 und Anhang III · Verordnung (EU) 2026/1744

Dürfen wir KI im Recruiting einsetzen?

Ja, mit Grenzen. KI darf Bewerbungen vorstrukturieren und Entwürfe liefern. Die Entscheidung über Einstellung oder Ablehnung darf aber, von engen Ausnahmen abgesehen, nicht allein der KI überlassen werden (Art. 22 DSGVO); ein Mensch mit echter Entscheidungsbefugnis muss prüfen. Emotionserkennung in Bewerbungsgesprächen ist verboten (Art. 5 KI-VO). Ab dem 2. Dezember 2027 gelten Recruiting-Tools als Hochrisiko-KI mit den Betreiberpflichten aus Art. 26. Bei Bestehen eines Betriebsrats ist dieser zu beteiligen.

Quellen: KI-Verordnung, Art. 5, 26 und Anhang III Nr. 4 · DSGVO, Art. 22 · EuGH, Urteil C-634/21 (SCHUFA)

Wann werden wir selbst zum „Anbieter“ mit vollen Pflichten?

Wenn Sie ein KI-System unter eigenem Namen oder eigener Marke auf den Markt bringen, gelten Sie als Anbieter, mit deutlich mehr Pflichten. Das passiert schneller als gedacht: etwa wenn Sie einen auf GPT oder Claude aufgesetzten Assistenten als eigenes Produkt an Kunden geben. Bei Hochrisiko-KI werden Sie außerdem zum Anbieter, wenn Sie ein fremdes System wesentlich verändern oder seine Zweckbestimmung in Richtung Hochrisiko ändern (Art. 25). Die bloße Nutzung fremder Tools und normale Konfiguration lösen das nicht aus. Vorsicht bei Eigenentwicklungen: Wer ein selbst entwickeltes System unter eigenem Namen in Betrieb nimmt, gilt auch bei rein internem Einsatz als Anbieter.

Quellen: KI-Verordnung, Art. 3 Nr. 3, Art. 25

Welche Bußgelder drohen nach dem AI Act?

Drei Stufen (Art. 99): bis 35 Mio. Euro oder 7 % des weltweiten Jahresumsatzes für verbotene Praktiken, bis 15 Mio. Euro oder 3 % für Verstöße gegen zentrale Pflichten (u. a. Transparenz nach Art. 50 und Betreiberpflichten nach Art. 26), bis 7,5 Mio. Euro oder 1 % für falsche Angaben gegenüber Behörden. Bei Großunternehmen gilt jeweils der höhere, bei KMU und Start-ups der niedrigere Wert (Art. 99 Abs. 6). Die Behörden müssen zudem die Verhältnismäßigkeit wahren. Parallel bleiben DSGVO-Bußgelder bis 20 Mio. Euro oder 4 % möglich (Art. 83 DSGVO).

Quellen: KI-Verordnung, Art. 99 · DSGVO, Art. 83

DSGVO und KI

Gilt die DSGVO zusätzlich zum AI Act?

Ja, vollständig und parallel. Der AI Act stellt ausdrücklich klar, dass das EU-Datenschutzrecht unberührt bleibt (Art. 2 Abs. 7 KI-VO). Der AI Act regelt das Produkt KI, die DSGVO den Umgang mit personenbezogenen Daten. In der Praxis ist die DSGVO für die meisten KMU die wichtigere Baustelle, denn ihre Pflichten gelten bereits heute in vollem Umfang.

Quellen: KI-Verordnung, Art. 2 Abs. 7 · DSGVO

Dürfen Beschäftigte personenbezogene Daten in KI-Tools eingeben?

Nur unter Voraussetzungen: Es braucht eine Rechtsgrundlage, einen Auftragsverarbeitungsvertrag mit dem Anbieter und eine Lösung für Datentransfers in Drittländer. Praxisregel: In kostenlose Privat-Accounts gehören keine personenbezogenen Daten, denn dort fehlen Vertrag und Kontrolle. In Unternehmenstarifen mit Auftragsverarbeitungsvertrag ist die Eingabe möglich, aber nach dem Grundsatz der Datenminimierung: so wenig Personenbezug wie möglich, anonymisieren oder pseudonymisieren, wo es geht.

Quellen: DSGVO, Art. 5, 6, 28 · DSK-Orientierungshilfe KI und Datenschutz (Mai 2024)

Auf welche Rechtsgrundlage stützen wir die KI-Nutzung?

Meist auf das berechtigte Interesse (Art. 6 Abs. 1 lit. f DSGVO), etwa Effizienz interner Abläufe. Dafür verlangt der Europäische Datenschutzausschuss eine dokumentierte Drei-Stufen-Prüfung: legitimes Interesse benennen, Erforderlichkeit prüfen, Interessen der Betroffenen abwägen. Bei der Abwicklung von Kundenanfragen kann auch die Vertragserfüllung tragen (lit. b). Einwilligungen sind im Unternehmensalltag selten praktikabel, weil sie jederzeit widerrufbar sein müssen und gegenüber Beschäftigten selten als freiwillig gelten.

Quellen: DSGVO, Art. 6 · EDSA, Stellungnahme 28/2024 zu KI-Modellen

Brauchen wir einen Auftragsverarbeitungsvertrag mit dem KI-Anbieter?

Ja, sobald der Anbieter personenbezogene Daten in Ihrem Auftrag verarbeitet, also praktisch bei jeder Cloud-KI im Unternehmenseinsatz (Art. 28 DSGVO). Die Business- und Enterprise-Tarife der großen Anbieter enthalten standardmäßig ein Data Processing Addendum. Prüfen Sie vor der Einführung, ob der Vertrag vorliegt, welche Subunternehmer eingebunden sind und wo die Daten verarbeitet werden.

Quellen: DSGVO, Art. 28

Verwendet der KI-Anbieter unsere Eingaben zum Training seiner Modelle?

In den Unternehmenstarifen der großen Anbieter standardmäßig nein: OpenAI (ChatGPT Business/Enterprise, API), Anthropic (Claude Team/Enterprise, API) und Microsoft (365 Copilot) sichern vertraglich zu, Geschäftsdaten nicht für das Modelltraining zu verwenden. Bei kostenlosen Privatversionen gelten andere Regeln, teils mit Trainingsnutzung je nach Einstellung. Prüfen Sie die aktuellen Anbieterbedingungen vor Vertragsschluss, diese Angaben ändern sich.

Quellen: OpenAI Enterprise Privacy · Anthropic Commercial Terms · Microsoft 365 Copilot: Datenschutz

Dürfen wir US-Anbieter wie OpenAI, Anthropic oder Microsoft nutzen?

Ja. Datentransfers in die USA sind zulässig, wenn der Anbieter unter dem EU-US Data Privacy Framework (DPF) zertifiziert ist; der Angemessenheitsbeschluss der EU-Kommission von 2023 ist weiterhin gültig. Das EU-Gericht hat eine Klage dagegen im September 2025 abgewiesen (Rechtssache T-553/23); ein Rechtsmittel ist noch anhängig. Vorsichtige Unternehmen kombinieren die DPF-Zertifizierung mit Standardvertragsklauseln als Absicherung oder wählen EU-Rechenzentrumsoptionen, die mehrere Anbieter inzwischen anbieten.

Quellen: Angemessenheitsbeschluss (EU) 2023/1795 · EuG, Urteil T-553/23 (Latombe) · DPF-Zertifizierungsliste · DSGVO, Art. 44 bis 49

Brauchen wir eine Datenschutz-Folgenabschätzung (DSFA)?

Häufig ja. Eine DSFA ist Pflicht, wenn die Verarbeitung voraussichtlich ein hohes Risiko für Betroffene birgt (Art. 35 DSGVO), insbesondere bei neuen Technologien und systematischer Bewertung persönlicher Aspekte. Der Einsatz von KI auf Beschäftigten- oder Kundendaten erfüllt diese Kriterien oft. Faustregel: KI ohne Personenbezug (z. B. Textentwürfe ohne echte Namen) braucht keine DSFA; KI, die Personen bewertet oder umfangreiche personenbezogene Daten verarbeitet, in der Regel schon.

Quellen: DSGVO, Art. 35 · DSK-Orientierungshilfe KI und Datenschutz

Müssen wir Kunden und Beschäftigte über die KI-Nutzung informieren?

Ja, sobald deren Daten mit KI verarbeitet werden. Die Datenschutzerklärung muss den Einsatz, die Zwecke und die Empfänger (den KI-Anbieter) nennen (Art. 13, 14 DSGVO). Beschäftigte informieren Sie am besten über die interne KI-Richtlinie. Bei automatisierten Entscheidungen müssen Sie zusätzlich aussagekräftig über die involvierte Logik und die Tragweite informieren.

Quellen: DSGVO, Art. 13, 14, 22

Darf eine KI allein über Menschen entscheiden?

Grundsätzlich nein. Entscheidungen mit rechtlicher Wirkung oder ähnlich erheblicher Beeinträchtigung (Einstellung, Kündigung, Kredit, Vertragsablehnung) dürfen nicht ausschließlich automatisiert getroffen werden (Art. 22 DSGVO). Der EuGH legt das streng aus: Schon ein automatisch erstellter Score kann eine solche Entscheidung sein, wenn er das Ergebnis maßgeblich bestimmt (SCHUFA-Urteil). Ein Mensch muss die Entscheidung inhaltlich prüfen und abweichen können; reines Abnicken genügt nicht.

Quellen: DSGVO, Art. 22 · EuGH, Urteil C-634/21 (SCHUFA)

Was gilt, wenn eine KI falsche Informationen über eine Person ausgibt?

Die DSGVO verlangt sachlich richtige Daten (Art. 5 Abs. 1 lit. d); Betroffene haben ein Recht auf Berichtigung und Löschung (Art. 16, 17). Sprachmodelle können aber „halluzinieren“, also Falsches erfinden. Für Sie heißt das: KI-Ausgaben über reale Personen niemals ungeprüft verwenden oder veröffentlichen; für Fehler in Ihren Veröffentlichungen haften Sie selbst. Beschwerden über das Modell selbst richten Betroffene an den Anbieter; der EDSA hat die Anforderungen an Modelle in seiner Stellungnahme 28/2024 konkretisiert.

Quellen: DSGVO, Art. 5, 16, 17 · EDSA, Stellungnahme 28/2024

Was tun wir, wenn über ein KI-Tool personenbezogene Daten abfließen?

Es gilt dasselbe Verfahren wie bei jeder anderen Datenschutzverletzung. Eine solche liegt vor, wenn personenbezogene Daten unbeabsichtigt offengelegt, verändert oder vernichtet werden oder Unbefugte Zugang erhalten (Art. 4 Nr. 12 DSGVO). Typische Auslöser im KI-Umfeld: Kundendaten in einem privaten Account ohne Auftragsverarbeitungsvertrag, ein zu weit berechtigter KI-Assistent, der Dokumente auswertet, die der Nutzer selbst nicht sehen dürfte, oder ein Sicherheitsvorfall beim Anbieter.

Vier Pflichten greifen dann:

1. Meldung an die Aufsichtsbehörde binnen 72 Stunden nach Bekanntwerden (Art. 33 Abs. 1), außer ein Risiko für die Betroffenen ist unwahrscheinlich. Die Frist läuft ab Kenntnis, nicht ab abgeschlossener Aufklärung; fehlende Angaben dürfen nachgereicht werden (Art. 33 Abs. 4).
2. Benachrichtigung der Betroffenen, unverzüglich und in klarer Sprache, wenn ein hohes Risiko für deren Rechte und Freiheiten besteht (Art. 34).
3. Dokumentation jedes Vorfalls, auch der nicht gemeldeten, mit Bewertung und ergriffenen Maßnahmen (Art. 33 Abs. 5).
4. Meldung des Anbieters an Sie: Verarbeitet der KI-Anbieter in Ihrem Auftrag, muss er Sie unverzüglich informieren (Art. 33 Abs. 2). Welche Meldewege und Fristen dafür gelten, steht im Auftragsverarbeitungsvertrag; prüfen Sie das vor Vertragsschluss und nicht im Ernstfall.

Für die Praxis heißt das: Die 72 Stunden sind Kalenderstunden und laufen auch über das Wochenende. Legen Sie vorab fest, wer meldet, bei welcher Behörde und über welches Formular, und nehmen Sie den Fall „Beschäftigter hat Daten in ein nicht freigegebenes KI-Tool eingegeben“ ausdrücklich in den Ablauf auf. Der AI Act kennt daneben eine eigene Meldepflicht für schwerwiegende Vorfälle, sie betrifft aber Hochrisiko-KI: Anbieter melden an die Marktüberwachungsbehörde (Art. 73), Betreiber informieren den Anbieter (Art. 26 Abs. 5). Für den normalen Bürobetrieb mit Standardwerkzeugen ist die DSGVO-Meldepflicht die einschlägige.

Quellen: DSGVO, Art. 4 Nr. 12, Art. 33, 34 · KI-Verordnung, Art. 26 Abs. 5, Art. 73

Welche Hilfestellungen bieten die deutschen Datenschutzbehörden?

Die Datenschutzkonferenz (DSK) hat drei praxisnahe Papiere veröffentlicht: die Orientierungshilfe „KI und Datenschutz“ (Mai 2024) für Unternehmen, die KI einsetzen, die Orientierungshilfe zu technischen und organisatorischen Maßnahmen bei Entwicklung und Betrieb von KI-Systemen (Juni 2025) und eine Orientierungshilfe zu generativen KI-Systemen mit RAG-Methode (Oktober 2025), relevant, wenn Sie KI mit eigenen Dokumenten oder Wissensdatenbanken verknüpfen. Die Checklisten daraus eignen sich direkt für die interne Umsetzung.

Quellen: DSK-OH KI und Datenschutz (2024) · DSK-OH KI-Systeme (2025) · DSK-OH RAG (2025)

KI-Einführung in der Praxis

Wie starten wir die KI-Einführung rechtssicher?

Üblich sind sechs Schritte:

1. Bestandsaufnahme: Welche KI wird bereits genutzt, auch inoffiziell?
2. Anwendungsfälle festlegen: Wo bringt KI Nutzen, welche Daten sind betroffen?
3. Tool auswählen: Unternehmenstarif mit Auftragsverarbeitungsvertrag, kein Training mit Ihren Daten, möglichst EU-Hosting.
4. KI-Richtlinie erlassen: klare Regeln für alle; besteht ein Betriebsrat, ist er zu beteiligen.
5. Schulen: dokumentiert, rollenbezogen (Art. 4 KI-VO).
6. Verantwortung und Review festlegen: eine zuständige Person, jährliche Überprüfung.

Quellen: KI-Verordnung, Art. 4 · DSK-OH KI und Datenschutz

Was gehört in eine interne KI-Richtlinie?

Sechs Kernelemente: erlaubte Tools und Accounts (nur die geprüften Unternehmenszugänge), verbotene Eingaben (Gesundheitsdaten und andere besondere Kategorien, Geschäftsgeheimnisse, Kundendaten ohne Grundlage), Pflicht zur menschlichen Prüfung aller Ergebnisse vor Verwendung, Kennzeichnungsregeln für KI-Inhalte, Zuständigkeiten und Ansprechpartner sowie Folgen bei Verstößen. Kurz halten: eine Richtlinie, die niemand liest, schützt nicht.

Quellen: KI-Verordnung, Art. 4, 50 · DSGVO, Art. 5, 9, 32

Beschäftigte nutzen private KI-Accounts. Warum ist das riskant?

Bei dieser „Schatten-KI“ fließen Unternehmensdaten ohne Vertrag, ohne Kontrolle und je nach Kontoeinstellung in das Training öffentlicher Modelle. Es fehlen Auftragsverarbeitungsvertrag, Löschkontrolle und Zugriffsschutz; Geschäftsgeheimnisse können ihren rechtlichen Schutz verlieren. Verbote allein helfen erfahrungsgemäß wenig. Wirksamer ist ein offizielles, gutes Angebot: Unternehmenslizenzen plus klare Regeln, was hinein darf und was nicht. Ausführlicher steht das Risiko in unserem Beitrag zu KI und Arbeitsmarkt.

Quellen: DSGVO, Art. 28, 32 · GeschGehG, § 2

Dürfen wir Geschäftsgeheimnisse in KI-Tools eingeben?

Nur mit Vorsicht. Der Schutz als Geschäftsgeheimnis setzt „angemessene Geheimhaltungsmaßnahmen“ voraus (§ 2 GeschGehG). Wer Kalkulationen, Quellcode oder Kundenlisten in unkontrollierte KI-Dienste eingibt, riskiert diesen Schutz. In Enterprise-Umgebungen mit vertraglicher Vertraulichkeit, ohne Trainingsnutzung und mit Zugriffskontrollen ist die Verarbeitung vertretbar; die interne Richtlinie sollte festlegen, welche Informationsklassen in welche Tools dürfen.

Quellen: GeschGehG, § 2

Müssen wir den Betriebsrat einbinden?

Ja, falls vorhanden. Bei der Planung von KI-Einsatz ist der Betriebsrat rechtzeitig zu unterrichten und zu beraten (§ 90 Abs. 1 Nr. 3 BetrVG nennt KI ausdrücklich). Kann das System Verhalten oder Leistung der Beschäftigten überwachen, was bei den meisten KI-Tools technisch möglich ist, besteht echte Mitbestimmung (§ 87 Abs. 1 Nr. 6 BetrVG); üblich ist eine Betriebsvereinbarung. Für die Bewertung darf der Betriebsrat einen Sachverständigen hinzuziehen (§ 80 Abs. 3 BetrVG).

Quellen: § 90 BetrVG · § 87 BetrVG · § 80 BetrVG

Wem gehören die Ergebnisse der KI?

Rein KI-generierte Inhalte sind in Deutschland nicht urheberrechtlich geschützt, denn das Urheberrecht verlangt eine persönliche geistige Schöpfung eines Menschen (§ 2 Abs. 2 UrhG). Jeder könnte identische Inhalte frei verwenden. Erst substanzielle menschliche Bearbeitung kann Schutz begründen. Vertraglich räumen die großen Anbieter ihren Kunden die Rechte am Output ein. Restrisiko: KI-Ausgaben können Rechte Dritter verletzen (z. B. übernommene geschützte Passagen); vor kommerzieller Nutzung prüfen.

Quellen: § 2 UrhG · OpenAI Terms of Use · Anthropic Commercial Terms

Wer haftet, wenn die KI Fehler macht?

Im Regelfall Ihr Unternehmen. Wer KI-Ergebnisse ungeprüft gegenüber Kunden verwendet, haftet nach den allgemeinen Regeln (Vertrag, Delikt), wie für Fehler eines Mitarbeiters. Eine KI-spezifische Haftungsregel gibt es nicht; die geplante EU-KI-Haftungsrichtlinie wurde 2025 zurückgezogen. Die neue EU-Produkthaftungsrichtlinie (EU) 2024/2853 bezieht Software und KI ausdrücklich ein; die Mitgliedstaaten müssen sie bis zum 9. Dezember 2026 umsetzen; sie betrifft vor allem Hersteller. Wichtigste Absicherung im Alltag: menschliche Prüfung vor jeder Verwendung mit Außenwirkung.

Quellen: Produkthaftungsrichtlinie (EU) 2024/2853

Brauchen wir einen KI-Beauftragten?

Nein, weder AI Act noch DSGVO schreiben einen KI-Beauftragten vor. Sinnvoll ist trotzdem eine klar benannte verantwortliche Person, die Tools freigibt, die Richtlinie pflegt und Fristen im Blick behält. Der Datenschutzbeauftragte, sofern Ihr Unternehmen einen benötigt, ist bei jedem KI-Projekt frühzeitig einzubinden (Art. 38, 39 DSGVO).

Quellen: DSGVO, Art. 37 bis 39

Wo finden wir offizielle Unterstützung?

Die EU-Kommission betreibt seit Oktober 2025 den AI Act Service Desk mit einer zentralen Informationsplattform, inklusive Compliance Checker zur Selbsteinschätzung, auch auf Deutsch. Zu den Transparenzpflichten gibt es seit Sommer 2026 zwei konkrete Umsetzungshilfen: die finalen Leitlinien der Kommission zu Art. 50 (20. Juli 2026) und den Verhaltenskodex zur Transparenz KI-generierter Inhalte (10. Juni 2026) samt EU-Icon-Satz für die Kennzeichnung. In Deutschland ist die Bundesnetzagentur mit ihrem KI-Service-Desk Anlaufstelle für Unternehmen und bietet KI-Reallabore zum Erproben von Anwendungen. Für Datenschutzfragen sind die Orientierungshilfen der DSK ein guter Startpunkt.

Quellen: EU-Kommission: AI Act Service Desk und Single Information Platform · Leitlinien zu Art. 50 · Verhaltenskodex zur Transparenz KI-generierter Inhalte · Bundesnetzagentur · BMDS: Neues KI-Gesetz tritt in Kraft

Über den Autor

Stephan Hannach ist zertifizierter Atlassian- und KI-Trainer und begleitet Unternehmen bei der Einführung von Claude und Atlassian-Werkzeugen.

Hinweis

Diese FAQ wurde mit Stand 20. August 2026 erstellt. Rechtslage und Anbieterbedingungen ändern sich; prüfen Sie die verlinkten Primärquellen vor wichtigen Entscheidungen. Dieser Beitrag ordnet die Rechtslage ein und ist keine Rechtsberatung im Einzelfall.