KI-Kompetenz & AI Act.
KI verantwortungsvoll einsetzen.

Im Alltag gehen drei Begriffe oft durcheinander.

KI-Modell nennt man den trainierten Kern: ein mathematisches Modell, das aus sehr vielen Beispielen Muster gelernt hat. Große Sprachmodelle sind solche Modelle. Besonders vielseitige Modelle bezeichnet die KI-Verordnung als „KI-Modelle mit allgemeinem Verwendungszweck“.

KI-System ist der Begriff, auf den es rechtlich ankommt. Gemeint ist ein maschinengestütztes System, das mit einem gewissen Grad an Eigenständigkeit arbeitet und aus Eingaben ableitet, wie es Ausgaben erzeugt – etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen. Ein Chat-Assistent auf Basis eines Sprachmodells ist ein KI-System.

KI-Anwendung ist kein Rechtsbegriff, sondern das, was du tatsächlich öffnest: das Chatfenster im Browser, die Schreibhilfe im Textprogramm, die Übersetzungsfunktion im Kundenportal.

Nicht jede Software ist KI. Ein Programm, das nur von Menschen festgelegte Regeln abarbeitet – eine Tabellenformel, ein Datenbankfilter, eine klassische Abwesenheitsnotiz –, fällt nach Auffassung der Europäischen Kommission nicht unter die Definition. Eine automatische Einordnung gibt es nicht. Ob ein Produkt KI-Funktionen enthält, erkennst du nicht immer am Namen; im Zweifel klärt das die zuständige Stelle.

Generative KI erzeugt neue Inhalte: Texte, Bilder, Audio, Video oder Programmcode. Sie hat im Training Muster aus vorhandenen Daten gelernt und setzt daraus etwas Neues zusammen, das diesen Mustern folgt.

Daneben arbeiten viele andere KI-Funktionen unauffällig im Hintergrund: Spamfilter sortieren E-Mails, Spracherkennung macht aus Gesprochenem Text, Prognosemodelle schätzen Verbräuche, Empfehlungssysteme schlagen passende Artikel vor. Sie schreiben keine Texte, treffen aber Einschätzungen, die Folgen haben können.

Eine KI-Antwort speist sich aus bis zu drei Quellen:

1. Trainingsdaten. Das Modell hat Muster aus Daten bis zu einem bestimmten Zeitpunkt gelernt. Es ist kein Nachschlagewerk mit geprüften Fakten und weiß nichts über spätere Ereignisse.
2. Deine aktuelle Eingabe. Alles, was du eintippst oder hochlädst, wird Teil der Verarbeitung. Das System kennt deinen Kontext nur, soweit du ihn mitgibst.
3. Angebundene Wissensquellen. Manche Anwendungen durchsuchen das Internet oder Unternehmensdokumente. Ob das so ist, hängt vom Produkt und seiner Einrichtung ab – nicht davon, wie du fragst. Angebundene Quellen bringen eigene Risiken mit, etwa manipulierte Inhalte (dazu Modul 7).

Fehlt eine aktuelle Quelle, formuliert das System trotzdem flüssige Antworten zu aktuellen Themen. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) beschreibt, dass Modelle dabei Inhalte erfinden können, die weder in der Eingabe noch in den Trainingsdaten standen. Man spricht von Halluzinationen.

Entscheide für vier Aufgaben aus dem Büroalltag, ob sich ein freigegebener Chat-Assistent dafür eignet.

Die KI-Verordnung soll vertrauenswürdige, am Menschen ausgerichtete KI fördern und zugleich Gesundheit, Sicherheit und Grundrechte schützen. Als EU-Verordnung gilt sie unmittelbar in allen Mitgliedstaaten. In Deutschland regelt seit dem 29. Juli 2026 das KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG), welche Behörden zuständig sind – im Grundsatz die Bundesnetzagentur, in bestimmten Bereichen andere Stellen.

Die Verordnung arbeitet risikobasiert: Je höher das Risiko eines Einsatzes, desto strenger die Anforderungen. Nach Einschätzung der Bundesnetzagentur geht von den meisten KI-Systemen kein oder nur ein geringes Risiko aus. Für bestimmte Einsätze gelten dagegen Verbote oder umfangreiche Pflichten. Daneben gelten weiter andere Gesetze – etwa Datenschutz-, Arbeits- und Wettbewerbsrecht.

Die Verordnung verteilt Pflichten nach Rollen.

• Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen auf den Markt bringt oder in Betrieb nimmt – kostenlos oder gegen Geld.
• Betreiber ist, wer ein KI-System in eigener Verantwortung verwendet. Rein private Nutzung ist ausgenommen.

Nutzt dein Unternehmen einen lizenzierten Chat-Assistenten, ist es in der Regel Betreiber. Du handelst dabei für dein Unternehmen; nach Auffassung der Kommission bist du nicht selbst ein eigenständiger Betreiber. Entwickelt dein Unternehmen einen eigenen Chatbot und setzt ihn unter eigenem Namen ein, ist es Anbieter und Betreiber zugleich.

Rollen hängen an der Tätigkeit, nicht am Produktnamen – und sie können sich ändern. Wer ein Hochrisiko-KI-System unter eigenem Namen anbietet, es wesentlich verändert oder den Zweck eines Systems so ändert, dass es hochriskant wird, gilt als Anbieter und trägt dessen Pflichten. Entscheidend ist die Zweckbestimmung: wofür ein System laut Anbieter gedacht ist. Deshalb setzt du ein Werkzeug nicht eigenmächtig für einen neuen Zweck ein.

Für die meisten Büroanwendungen gelten keine Sonderregeln der KI-Verordnung – wohl aber allgemeine Pflichten wie der Datenschutz. Vier Bereiche verdienen besondere Aufmerksamkeit:

1. Verbotene Praktiken (Art. 5) – etwa Emotionserkennung am Arbeitsplatz. Seit 2. Februar 2025 verboten; zwei weitere Verbote gelten ab 2. Dezember 2026.
2. Hochrisiko-KI-Systeme (Art. 6 mit Anhängen I und III) – etwa KI zur Auswahl von Bewerbenden oder zur Bewertung von Beschäftigten. Die zugehörigen Pflichten gelten ab 2. Dezember 2027 (Anhang III) bzw. 2. August 2028 (Anhang I).
3. Transparenzpflichten (Art. 50) – etwa für Chatbots und Deepfakes. Sie gelten seit 2. August 2026.
4. KI-Modelle mit allgemeinem Verwendungszweck (Kapitel V) – Pflichten der Modellanbieter seit 2. August 2025; die Aufsicht liegt beim KI-Büro der Kommission.

Das sind keine starren Schubladen. Ein Chatbot kann Transparenzpflichten auslösen und zugleich hochriskant oder sogar verboten sein. Eine erfüllte Transparenzpflicht macht einen verbotenen Einsatz nicht erlaubt.

1. Ist das System für diesen Zweck freigegeben?
Freigegeben ist ein System, wenn dein Unternehmen es geprüft und für bestimmte Zwecke erlaubt hat: die freigegebenen KI-Werkzeuge deines Unternehmens für die dafür erlaubten Zwecke. Dazu gehört meist ein betrieblicher Account mit geprüften Einstellungen – etwa dass Eingaben nicht zum Training verwendet und Verläufe nicht dauerhaft gespeichert werden. Die Datenschutzaufsichtsbehörden empfehlen, dass Arbeitgeber Accounts und Geräte bereitstellen, damit niemand mit privaten Zugängen arbeiten muss. Wird ein externer Cloud-Dienst genutzt, braucht es häufig einen Vertrag zur Auftragsverarbeitung. Das klärt dein Unternehmen, nicht du.

2. Welche Daten gibst du ein?
Je sensibler die Daten, desto enger die Grenzen. Das Risiko betrifft alles, was du dem System gibst – Text, Anhänge und bei verbundenen Postfächern auch E-Mails. Für personenbezogene Daten braucht es außerdem eine Rechtsgrundlage, und die betroffenen Personen müssen transparent informiert sein.

• „Wir zahlen dafür, also ist es erlaubt.“ Ein Bezahl-Account sagt nichts über Vertrag, Einstellungen und erlaubten Zweck.
• „Die Server stehen in der EU, also ist alles DSGVO-konform.“ Die DSGVO fragt nach Rechtsgrundlage, Grundsätzen, Auftragsverarbeitung und Sicherheit – nicht nur nach dem Standort.
• „Ohne Namen ist es anonym.“ Nach Einschätzung der Datenschutzaufsicht reicht es regelmäßig nicht, Namen und Anschriften zu entfernen. Personen lassen sich oft aus dem Zusammenhang erkennen: „die einzige Kundenberaterin unserer Filiale in X“.
• „Das Modell läuft lokal, also ist es risikofrei.“ Auch lokale Systeme müssen die üblichen Sicherheitsanforderungen erfüllen – Zugriffsschutz, Updates, klare Regeln.
• „Das Training ist abgeschaltet, also passiert nichts mit den Daten.“ Eingaben werden trotzdem übertragen, verarbeitet und je nach Einstellung gespeichert, etwa im Verlauf.

Jeder dieser Punkte ist ein einzelner Faktor. Keiner macht eine Nutzung für sich allein zulässig oder risikofrei.

Die meisten Aufgaben gelingen auch ohne echte Personen- oder Kundendaten:

• Abstrahieren: „Kunde mit Zahlungsrückstand von zwei Monaten“ statt Name und Kundennummer.
• Platzhalter nutzen: [NAME], [VERTRAGSNUMMER] – die echten Werte setzt du danach selbst ein, außerhalb des KI-Systems.
• Nur Relevantes angeben: Für eine freundliche Antwort auf eine Beschwerde braucht die KI weder Adresse noch Zählernummer.
• Mit erfundenen Beispielen arbeiten: Für Vorlagen genügen fiktive Werte.

Wichtig: Platzhalter verringern das Risiko, machen Daten aber nicht in jedem Fall anonym. Verrät der Rest der Eingabe, um wen es geht, bleibt der Personenbezug. Und auch eine Ausgabe kann personenbezogene Daten enthalten, obwohl deine Eingabe keine hatte.

Arbeite eine problematische Eingabe so um, dass die Aufgabe gelingt und keine unnötigen Daten das Haus verlassen.

1. Ziel: Was soll am Ende vorliegen – und wofür?
2. Kontext: Für wen ist das Ergebnis, welche Rahmenbedingungen gelten?
3. Zugelassene Ausgangsinformationen: Womit soll das System arbeiten? Nur mit dem, was du mitgibst und mitgeben darfst.
4. Einschränkungen: Was darf nicht passieren? Zum Beispiel: keine neuen Zahlen, keine Zusagen, Unklares markieren.
5. Format: Länge, Aufbau, Tonalität.
6. Prüfkriterien: Woran erkennst du ein brauchbares Ergebnis? Lass Annahmen und Unsicherheiten offen ausweisen.

Diese Struktur ist eine Empfehlung, keine Rechtsvorschrift. Sie verbessert die Ergebnisse und erleichtert die Prüfung.

Prüfe umso gründlicher, je größer die möglichen Folgen sind.

1. Original öffnen. Vergleiche jede relevante Aussage mit der Quelle. Gibt es eine genannte Quelle nicht, ist die Aussage unbrauchbar.
2. Zahlen nachrechnen. Preise, Summen, Fristen, Mengen – selbst nachrechnen oder mit dem Original abgleichen.
3. Vollständigkeit prüfen. Fehlen Bedingungen, Ausnahmen, Fristen?
4. Kontext vergleichen. Passt das Ergebnis zu dem, was du über den Fall, die Kundin oder den Kunden und interne Absprachen weißt?
5. Freigeben lassen. Hat das Ergebnis rechtliche, finanzielle oder persönliche Folgen – etwa ein Angebot, eine Kundenauskunft, eine Aussage über eine Person –, lässt du es fachlich freigeben, bevor es rausgeht.

Die Datenschutzaufsicht betont: Ergebnisse mit Personenbezug müssen vor der Weiterverarbeitung überprüft werden. Und Ergebnisse können diskriminierend wirken, auch wenn man es dem Einzelergebnis nicht ansieht. Auffällig einseitige Ergebnisse löschst du deshalb nicht nur, sondern meldest sie.

Eine KI-Zusammenfassung soll in ein Kundenangebot einfließen. Finde die Fehler, bevor das Angebot rausgeht.

Verboten sind bestimmte Praktiken, die die KI-Verordnung als unvereinbar mit Grundrechten ansieht. Hier gibt es nichts zu optimieren: Solche Systeme werden nicht eingesetzt.

Hochriskant sind KI-Systeme in bestimmten sensiblen Bereichen, etwa Personalwesen oder Kreditwürdigkeit. Sie sind erlaubt, aber mit umfangreichen Pflichten verbunden. Für Anhang-III-Systeme gelten diese Pflichten ab 2. Dezember 2027.

Sonstiger rechtlicher Prüfbedarf besteht schon heute – unabhängig von der KI-Verordnung: Datenschutzrecht, Gleichbehandlungsrecht, betriebliche Mitbestimmung, Verbraucherrecht.

Eine menschliche Endentscheidung macht einen Einsatz nicht automatisch zulässig. Verbote gelten unabhängig davon. Und bei Entscheidungen über Menschen kommt es darauf an, dass tatsächlich und sachkundig geprüft wird.

Nicht jede Stimmungsanalyse ist Emotionserkennung im Sinne der Verordnung. Gemeint sind Systeme, die Emotionen oder Absichten aus biometrischen Daten ableiten – aus Gesicht, Stimme, Körperhaltung oder Tippverhalten. Die Auswertung der Stimmung in geschriebenem Text fällt nach Auffassung der Kommission nicht unter das Verbot.

Beispiele aus den Leitlinien der Kommission:

• Ein Callcenter erfasst per Webcam und Stimmanalyse, ob Beschäftigte verärgert sind – verboten.
• Emotionserkennung in Vorstellungsgesprächen – verboten; auch Bewerbende zählen zum Arbeitsplatz.
• Ein System erkennt die Stimmung von Kundinnen und Kunden am Telefon – fällt nicht unter dieses Verbot. Es kann aber als Emotionserkennungssystem hochriskant sein, verlangt eine Information der Betroffenen (Art. 50 Abs. 3) und wirft Datenschutzfragen auf.

Auch eine erlaubte Text-Stimmungsanalyse ist nicht automatisch unproblematisch. Wer damit Beschäftigte beobachtet oder bewertet, braucht eine sorgfältige Prüfung.

Anhang III der Verordnung nennt Bereiche, in denen KI-Systeme als hochriskant gelten. Für viele Unternehmen sind besonders relevant:

• Beschäftigung: Systeme zur Einstellung oder Auswahl – etwa um Bewerbungen zu sichten, zu filtern oder Bewerbende zu bewerten – sowie Systeme für Entscheidungen über Beförderung, Kündigung, Aufgabenzuweisung oder zur Leistungs- und Verhaltensbewertung.
• Kreditwürdigkeit: Systeme zur Bonitätsbewertung natürlicher Personen, ausgenommen Betrugserkennung.
• Emotionserkennung, soweit sie nicht ohnehin verboten ist.

Nicht jedes System in diesen Bereichen ist automatisch hochriskant: Für eng begrenzte Verfahrensaufgaben oder rein vorbereitende Aufgaben kann eine Ausnahme greifen – nie aber, wenn Profiling von Personen stattfindet. Diese Einschätzung dokumentiert der Anbieter. Endgültige Leitlinien der Kommission zur Einstufung lagen am 29.09.2026 nicht vor, nur ein Entwurf.

Für Betreiber gilt ab 2. Dezember 2027 unter anderem: menschliche Aufsicht durch kompetente, befugte Personen, Information der Arbeitnehmervertretung und der betroffenen Beschäftigten vor dem Einsatz am Arbeitsplatz sowie Information der Personen, über die mit Hilfe des Systems entschieden wird. Und wer den Zweck eines Werkzeugs so ändert, dass es hochriskant wird, wird selbst zum Anbieter.

Unabhängig von der KI-Verordnung gilt: Niemand soll einer ausschließlich automatisierten Entscheidung mit rechtlicher oder ähnlich erheblicher Wirkung unterworfen werden, soweit keine gesetzliche Ausnahme greift (Art. 22 DSGVO). Der Europäische Gerichtshof hat 2023 entschieden, dass schon ein automatisch erstellter Wert zur Zahlungsfähigkeit eine solche Entscheidung sein kann, wenn ein Unternehmen den Vertragsschluss maßgeblich davon abhängig macht.

Die Datenschutzaufsicht betont: Der Mensch muss einen echten Entscheidungsspielraum haben; eine nur formale Beteiligung genügt nicht. Eine KI, die Bewerbungen auswertet und selbstständig Einladungen verschickt, verstößt danach gegen Art. 22 DSGVO.

Nach dem Allgemeinen Gleichbehandlungsgesetz dürfen Beschäftigte – dazu zählen auch Bewerbende – nicht wegen Geschlecht, Alter, ethnischer Herkunft, Religion, Behinderung oder sexueller Identität benachteiligt werden. Das gilt auch, wenn eine KI die Benachteiligung vorschlägt.

Zwei Aufgaben aus dem Personalbereich – scheinbar ähnlich, rechtlich sehr verschieden.

Die Information muss spätestens bei der ersten Interaktion oder Wahrnehmung erfolgen – klar, eindeutig und barrierefrei. Für generative Systeme, die schon vor dem 2. August 2026 auf dem Markt waren, haben Anbieter bis 2. Dezember 2026 Zeit für die maschinenlesbare Markierung. Transparenzpflichten aus anderen Gesetzen bleiben unberührt.

Die Pflicht nach Art. 50 Abs. 1 trifft den Anbieter des Chatbots. Ob dein Unternehmen Anbieter ist – etwa bei einem selbst entwickelten Chatbot –, klärt die zuständige Stelle. Für dich ist wichtig, woran ein ausreichender Hinweis zu erkennen ist:

• Er erscheint im Gespräch selbst, spätestens zu Beginn, klar und verständlich – etwa „Sie schreiben mit einem KI-Assistenten.“
• Ein Hinweis nur in den AGB, in einer Dokumentation, hinter einem Link oder als pauschaler Satz „Diese Website nutzt KI“ genügt nach Auffassung der Kommission allein nicht.
• Die Ausnahme „offensichtlich“ ist eng. Dass es Chatbots gibt, weiß jeder – das macht die konkrete Unterhaltung nicht offensichtlich. Ist der Chatbot für die Allgemeinheit zugänglich, zu der auch schutzbedürftige Menschen gehören, scheidet die Ausnahme nach Auffassung der Kommission aus.

Anders liegt es, wenn dir ein KI-Assistent im Kundenservice Antworten vorschlägt, die du prüfst und selbst absendest. Dann interagiert die Kundin nach Auffassung der Kommission nicht direkt mit der KI. Werden KI-Antworten dagegen ohne ordentliche menschliche Prüfung in das Gespräch gemischt, brauchen diese Antworten einen Hinweis.

Ein Deepfake ist ein KI-erzeugter oder -manipulierter Bild-, Ton- oder Videoinhalt, der echten Personen, Gegenständen, Orten oder Ereignissen ähnelt und fälschlich als echt erscheinen würde. Nach Auffassung der Kommission genügt es, wenn das Dargestellte realistisch existiert oder existieren könnte – auch ein realistischer KI-Avatar oder eine nachgeahmte Stimme kann darunterfallen. Auf eine Täuschungsabsicht kommt es nicht an.

Setzt dein Unternehmen solche Inhalte beruflich ein, muss es offenlegen, dass sie künstlich erzeugt oder manipuliert sind. Bei offensichtlich künstlerischen, satirischen oder fiktionalen Werken genügt ein Hinweis, der den Genuss nicht stört.

Die Kennzeichnung löst nicht alle Fragen. Bildnisse einer Person dürfen grundsätzlich nur mit ihrer Einwilligung verbreitet werden, und das Datenschutzrecht gilt zusätzlich. Manche Darstellungen sind ab 2. Dezember 2026 ohnehin verboten (Modul 5).

Nicht jeder KI-unterstützte Text muss gekennzeichnet werden. Die Pflicht nach Art. 50 Abs. 4 Unterabs. 2 greift nur, wenn drei Dinge zusammenkommen: Der Text wird veröffentlicht, er soll die Öffentlichkeit informieren, und es geht um Angelegenheiten von öffentlichem Interesse – etwa Gesundheit, Verbrauchersicherheit, Umwelt, Politik oder wirtschaftliche Entwicklungen von öffentlicher Bedeutung.

Nach Auffassung der Kommission sind E-Mails an einzelne Kundinnen und Kunden und interne Texte nicht „veröffentlicht“. Werbetexte und Produktbeschreibungen informieren in der Regel nicht über Angelegenheiten von öffentlichem Interesse – anders, wenn sie etwa Aussagen zu Gesundheit, Sicherheit oder Nachhaltigkeit enthalten.

Auch bei einem veröffentlichten Informationstext entfällt die Kennzeichnung, wenn er inhaltlich von Menschen geprüft oder redaktionell kontrolliert wurde und eine Person oder das Unternehmen die redaktionelle Verantwortung trägt. Eine Rechtschreibkontrolle oder ein flüchtiger Blick reicht nicht; eine Faktenprüfung gehört mindestens dazu.

Ein Chatbot soll morgen live gehen. Du testest ihn vorher – und dir fällt etwas auf.

Ein Sprachmodell unterscheidet nicht zuverlässig zwischen deinem Auftrag und dem Text, den es bearbeiten soll. Steht in einem Dokument ein Satz wie „Ignoriere alle bisherigen Anweisungen und …“, kann das System ihn als Befehl behandeln.

Das BSI nennt das Indirect Prompt Injection: Die manipulierende Anweisung stammt nicht von dir, sondern aus einer fremden Quelle – einer Webseite, einer E-Mail, einem PDF. Sie kann versteckt sein: in weißer Schrift, in unsichtbaren Zeichen, in Kommentaren oder Metadaten. Die Folgen reichen von verfälschten Zusammenfassungen über Datenabfluss bis zu ungewollten Aktionen.

Das BSI hält fest, dass es derzeit keine zuverlässige Gegenmaßnahme gibt, die das Problem vollständig beseitigt. Technische Schutzmaßnahmen verringern das Risiko; deine Aufmerksamkeit bleibt nötig.

Merke: Der Inhalt eines Dokuments ist keine Handlungsbefugnis. Deinen Auftrag bekommst du von deinem Unternehmen – nicht aus einer Datei.

Ein KI-Werkzeug, das dir einen Text vorschlägt, wirkt erst, wenn du ihn übernimmst. Ein Werkzeug mit Ausführungsrechten handelt selbst: Es kann E-Mails senden oder löschen, Dateien teilen, Bestellungen auslösen. Das BSI beschreibt genau diesen Fall: Manipulierte Eingaben können dann zu unautorisierten Aktionen führen.

Das BSI empfiehlt deshalb unter anderem,

• die Aktionen eines KI-Systems auf das nötige Minimum zu beschränken,
• Datenzugriffe auf das zu begrenzen, was die jeweilige Person sehen darf,
• kritische Aktionen vorher von einem Menschen bestätigen zu lassen.

Für dich heißt das: Erteile einem KI-Werkzeug keine zusätzlichen Berechtigungen auf eigene Faust – etwa Zugriff auf Postfach, Kalender oder Laufwerke –, wenn das nicht ausdrücklich freigegeben ist. Und bestätige eine vorgeschlagene Aktion nur, wenn du sie verstanden hast und selbst genauso handeln würdest.

Du lässt ein Dokument zusammenfassen. Das Ergebnis enthält etwas, das nicht zu deinem Auftrag passt.

Fachlich prüfen lassen musst du Ergebnisse, bevor sie Folgen haben: rechtliche (Vertrag, Kündigung, Auskunft), finanzielle (Preis, Rabatt, Zahlung) oder persönliche (Bewertung, Entscheidung über eine Person). Wer prüft, braucht Fachkenntnis, Zeit und die Befugnis, das Ergebnis zu verwerfen. Eine Unterschrift unter etwas, das man nicht verstanden hat, ist keine Kontrolle – die Datenschutzaufsicht verlangt einen echten Entscheidungsspielraum. Für Hochrisiko-Systeme schreibt die KI-Verordnung ab Dezember 2027 ausdrücklich vor, dass Betreiber die Aufsicht Personen mit Kompetenz, Ausbildung und Befugnis übertragen.

Unterbrich die Nutzung, wenn

• ein Werkzeug wiederholt falsche oder verzerrte Ergebnisse liefert,
• es Aktionen ausführt, die du nicht veranlasst hast,
• du vertrauliche Daten versehentlich eingegeben hast,
• du einen Manipulationsversuch vermutest,
• ein Einsatz über den freigegebenen Zweck hinausgeht.

Der interne Meldeweg funktioniert auch dann, wenn noch niemand weiß, wie ein Vorfall rechtlich einzuordnen ist. Das ist Absicht: Du meldest, die zuständigen Stellen ordnen ein.

Meldeweg: das interne Meldeverfahren deines Unternehmens – bei Sicherheitsfragen die IT deines Unternehmens, bei Datenschutzfragen die Datenschutzstelle deines Unternehmens.

Das gehört in eine Meldung:

• Was ist passiert, und wann hast du es bemerkt?
• Welches System, welche Funktion, welcher Account?
• Welche Daten oder Inhalte sind betroffen (Art, ungefährer Umfang)? Beschreibe sie, ohne sie erneut zu verbreiten.
• Wer ist betroffen oder könnte betroffen sein (intern, Kundschaft, Dritte)?
• Was hast du bereits getan, z. B. die Nutzung gestoppt?
• Wie bist du erreichbar?

Nicht tun: Spuren löschen, den Vorfall selbst „untersuchen“, das Problem mit derselben KI klären wollen, Betroffene ohne Abstimmung informieren.

Ein Kollege wollte schnell helfen und hat dabei einen Fehler gemacht. Was jetzt?

Die KI-Verordnung und das Datenschutzrecht setzen den Rahmen. Wie er in deinem Betrieb ausgefüllt wird, legt dein Unternehmen fest: welche Werkzeuge freigegeben sind, für welche Zwecke, mit welchen Daten, wer freigibt und wohin du dich wendest. Diese Angaben sind in dieser Schulung als Platzhalter markiert.

Hat dein Unternehmen sie ausgefüllt, gelten sie als konkrete Regeln für deinen Arbeitsplatz. Fehlen sie noch, gilt: Du nutzt nichts, was nicht ausdrücklich freigegeben ist, und fragst im Zweifel deine Führungskraft, wer zuständig ist. Regeln ändern sich, wenn neue Werkzeuge hinzukommen oder sich die Rechtslage ändert. Prüfe deshalb bei neuen Aufgaben kurz, ob deine drei Sätze noch stimmen.

Wer nicht weiß, welche KI-Systeme im Haus genutzt werden, kann weder Kompetenz gezielt aufbauen noch Risiken steuern. Artikel 4 der KI-Verordnung verlangt Maßnahmen, die sich an den eingesetzten Systemen, am Einsatzkontext und an den betroffenen Menschen orientieren. Die Datenschutz-Grundverordnung verlangt zusätzlich, dass das Unternehmen die Einhaltung der Datenschutzgrundsätze nachweisen kann. Beides setzt Überblick voraus.

Eine schlanke Einsatzübersicht enthält je System:

• Bezeichnung, Anbieter, Version bzw. Tarif und betriebliche Accounts
• freigegebene Zwecke und ausdrücklich ausgeschlossene Zwecke
• Nutzergruppen – auch externe Personen, die in eurem Auftrag damit arbeiten
• Datenkategorien, die verarbeitet werden dürfen
• eure Rolle nach der KI-Verordnung (Betreiber, Anbieter oder beides)
• Berührung besonderer Bereiche: verbotene Praktiken, Anhang III, Transparenzpflichten nach Art. 50
• Stand von Auftragsverarbeitungsvertrag, Datenschutz-Folgenabschätzung und Sicherheitsprüfung
• Beteiligung der Beschäftigtenvertretung, soweit erforderlich
• verantwortliche Person und nächster Überprüfungstermin

Die Übersicht ist kein Selbstzweck. Sie ist die Grundlage für Freigaben, Schulungsplanung und die Reaktion auf Vorfälle.

Die KI-Verordnung verteilt Pflichten an Organisationen, nicht an einzelne Beschäftigte. Intern muss trotzdem klar sein, wer was entscheidet. Ein bewährtes Muster – als Vorschlag, nicht als gesetzliche Vorgabe:

Einen „KI-Beauftragten“ schreibt die KI-Verordnung nicht vor. Wenn ihr eine koordinierende Rolle schafft, ist das eine organisatorische Entscheidung. Wichtig ist, dass Beschäftigte eine erreichbare Anlaufstelle haben und dass jemand die Übersicht aktuell hält.

Artikel 4 verlangt Maßnahmen zur Unterstützung der KI-Kompetenz, die zu Vorkenntnissen, Erfahrung, Aus- und Fortbildung, Einsatzkontext und betroffenen Personen passen. Ein bestimmtes Niveau muss nicht garantiert werden, und Format, Umfang und Wiederholungsintervall legt das Gesetz nicht fest.

Die Kommission nennt als Mindestüberlegungen: ein allgemeines Verständnis von KI in der Organisation, die eigene Rolle als Anbieter oder Betreiber, die Risiken der eingesetzten Systeme und darauf aufbauende Maßnahmen. Die Bundesnetzagentur schlägt drei Grundsteine vor: klären, wer welche Systeme wofür nutzt; Rolle, Vorkenntnisse, Kontext und Risiko berücksichtigen und Ziele festlegen; dokumentieren, evaluieren und bedarfsorientiert auffrischen.

In der Praxis heißt das:

• Zielgruppen bilden: alle Nutzenden (Grundkurs), Rollen mit besonderen Risiken (Personal, Vertrieb, IT), Führungskräfte, Personen mit Aufsichtsaufgaben.
• Systemspezifisch ergänzen: Einweisung in das konkrete Werkzeug, seine Einstellungen und Grenzen.
• Externe einbeziehen: Auch Dienstleister oder Freelancer, die in eurem Auftrag mit KI arbeiten, brauchen nach Auffassung der Kommission die für ihre Aufgabe angemessenen Kenntnisse – etwa über Vertragsklauseln oder eigene Einweisungen.
• Dokumentieren: welche Maßnahme, welcher Inhalt in welcher Version, für wen, wann. Ein Zertifikat ist dafür nicht nötig; eine interne Dokumentation genügt nach Auffassung der Kommission.
• Auffrischen, wenn sich etwas ändert: neues Werkzeug, neuer Zweck, neue Rechtslage, Vorfall.

Für den Einstieg verweist die Bundesnetzagentur auf kostenlose Angebote, etwa des KI-Büros der Kommission, der European Digital Innovation Hubs und der Mittelstand-Digital Zentren.

Die Datenschutzaufsicht empfiehlt, klar und dokumentiert zu regeln, ob, unter welchen Voraussetzungen und für welche Zwecke welche KI-Anwendungen genutzt werden dürfen – am besten mit Beispielen für erlaubte und untersagte Einsätze. Ohne solche Regeln nutzen Beschäftigte KI erfahrungsgemäß eigenmächtig. Eine praxistaugliche Richtlinie ist kurz und konkret. Mögliche Bausteine (Vorschlag):

1. Geltungsbereich: Wer ist gemeint – auch Auszubildende, Aushilfen, externe Dienstleister?
2. Freigegebene Werkzeuge und Zwecke: Liste mit Beispielen; Hinweis, dass alles andere erst freigegeben werden muss.
3. Datenregeln: Welche Datenkategorien sind in welchem Werkzeug erlaubt, welche nie?
4. Prüfpflichten: Was muss vor Übernahme oder Versand geprüft und von wem freigegeben werden?
5. Tabus: etwa Emotionserkennung bei Beschäftigten, automatische Entscheidungen über Menschen, eigenmächtige neue Zwecke.
6. Transparenz: gesetzliche Kennzeichnungspflichten und eure freiwilligen Regeln – klar unterschieden.
7. Sicherheit: keine eigenmächtigen Berechtigungen und Anbindungen; Umgang mit verdächtigen Inhalten.
8. Meldewege: wer bei Fragen, Fehlern und Vorfällen zuständig ist, mit Vertretung.
9. Qualifizierung: welche Maßnahmen für welche Gruppe vorgesehen sind.
10. Überprüfung: wann und durch wen die Richtlinie angepasst wird.

Gibt es einen Betriebsrat, ist zu prüfen, ob die Regeln mitbestimmungspflichtig sind; eine Betriebsvereinbarung kann sinnvoll sein. Die Platzhalter dieser Schulung (siehe Konfigurationsblatt) entsprechen weitgehend diesen Bausteinen.

Regeln wirken nur, wenn sie verstanden und akzeptiert werden. Bewährt hat sich:

• Erklären statt nur verbieten: Wer weiß, warum Kundendaten nicht in beliebige Werkzeuge gehören, hält sich eher daran.
• Gute Alternativen anbieten: Ein freigegebenes Werkzeug mit klaren Regeln verhindert mehr Schattennutzung als jedes Verbot.
• Ansprechbar sein: Kurze Wege für Fragen und für Vorschläge neuer Einsatzfälle.
• Fehlerkultur pflegen: Meldungen würdigen, nicht bestrafen – sonst erfahrt ihr von Problemen zu spät.

Wenn ihr den Fortschritt messen wollt, wählt Kennzahlen, die die Organisation beschreiben, nicht einzelne Personen: Anteil der Nutzenden mit abgeschlossenem Grundkurs, Zahl freigegebener Werkzeuge und offener Freigabeanfragen, gemeldete Vorfälle und ihre Bearbeitungszeit, Aktualität der Einsatzübersicht. Personenbezogene Ranglisten, detaillierte Klickprofile oder Einzelantworten aus Tests sind dafür weder nötig noch sinnvoll und werfen eigene Datenschutz- und Mitbestimmungsfragen auf.

Ein Freigabeprozess muss nicht bürokratisch sein. Er muss sicherstellen, dass die richtigen Fragen gestellt werden, bevor Daten fließen. Ein möglicher Ablauf:

1. Anfrage: Wer möchte welches Werkzeug wofür nutzen? Welche Daten, welche Nutzergruppe?
2. Vorprüfung: Ist das überhaupt ein KI-System? Welche Rolle hätten wir? Berührt der Zweck verbotene Praktiken, Anhang III oder Art. 50? Führt eine Änderung des Zwecks dazu, dass wir selbst Anbieter würden?
3. Datenschutz: Rechtsgrundlage, Auftragsverarbeitungsvertrag, Einstellungen zu Training und Speicherung, Datenschutz-Folgenabschätzung. Die Datenschutzaufsicht geht davon aus, dass eine Folgenabschätzung beim Einsatz von KI-Anwendungen vielfach erforderlich sein wird.
4. Informationssicherheit: Berechtigungen, Anbindungen, Protokollierung, Schutz gegen manipulierte Eingaben.
5. Mitbestimmung: Gibt es einen Betriebsrat, sind seine Rechte zu beachten – etwa bei technischen Einrichtungen, die zur Überwachung von Verhalten oder Leistung bestimmt sind (§ 87 Abs. 1 Nr. 6 BetrVG), bei der Unterrichtung über den Einsatz von KI in Arbeitsabläufen (§ 90 Abs. 1 Nr. 3 BetrVG), bei Auswahlrichtlinien, auch wenn KI dabei eingesetzt wird (§ 95 Abs. 2a BetrVG), und bei der Hinzuziehung eines Sachverständigen zur Beurteilung von KI (§ 80 Abs. 3 BetrVG).
6. Transparenz: Welche Offenlegungspflichten entstehen, wer setzt sie um?
7. Entscheidung und Dokumentation: Freigabe mit Zweck, Datengrenzen, Nutzergruppen und Überprüfungstermin – oder begründete Ablehnung.
8. Einweisung und Start: systemspezifische Einweisung, Aufnahme in die Einsatzübersicht.

Ab 2. Dezember 2027 kommen für Betreiber von Hochrisiko-Systemen nach Anhang III weitere Pflichten hinzu – unter anderem menschliche Aufsicht durch kompetente Personen, Information der Arbeitnehmervertretung und der betroffenen Beschäftigten sowie für bestimmte Betreiber eine Grundrechte-Folgenabschätzung.

Eine bedarfsorientierte Planung lässt sich in einer einfachen Übersicht festhalten. Das folgende Beispiel für einen fiktiven Dienstleister mit 80 Beschäftigten ist ein Vorschlag, keine Vorgabe:

Die Spalte „Auffrischung“ zeigt Anlässe, keine gesetzlichen Fristen. Dokumentiert, welche Maßnahme in welcher Version wann für wen stattgefunden hat – datensparsam und ohne personenbezogene Ranglisten.

Plant euer Unternehmen, ab Dezember 2027 ein KI-System in einem Anhang-III-Bereich einzusetzen – etwa zur Bewerbungsauswahl, Leistungsbewertung oder Bonitätsprüfung –, lohnt sich eine frühzeitige Vorbereitung. Die Betreiberpflichten, die dann gelten, brauchen Vorlauf:

• Menschliche Aufsicht: Wer das System beaufsichtigt, braucht Kompetenz, Ausbildung und Befugnis sowie die nötige Unterstützung. Plant Personen, Zeit und eine systemspezifische Qualifizierung ein.
• Information der Beschäftigten: Vor dem Einsatz am Arbeitsplatz sind die Arbeitnehmervertretung und die betroffenen Beschäftigten zu informieren.
• Information der Betroffenen: Personen, über die das System Entscheidungen trifft oder vorbereitet, sind über den Einsatz zu informieren.
• Protokolle: Automatisch erzeugte Protokolle, soweit sie eurer Kontrolle unterliegen, sind grundsätzlich mindestens sechs Monate aufzubewahren.
• Folgenabschätzungen: Die Informationen des Anbieters fließen in die Datenschutz-Folgenabschätzung ein. Bestimmte Betreiber – öffentliche Stellen, private Einrichtungen, die öffentliche Dienste erbringen, und Betreiber von Systemen zur Kreditwürdigkeitsprüfung oder zur Risiko- und Preisbewertung bei Lebens- und Krankenversicherungen – müssen zusätzlich eine Grundrechte-Folgenabschätzung durchführen.
• Rollenwechsel vermeiden oder bewusst eingehen: Eigenes Branding, wesentliche Änderungen oder ein neuer Zweck können euch zum Anbieter machen.

Die endgültigen Kommissionsleitlinien zur Einstufung lagen am 29.09.2026 nicht vor. Plant deshalb eine erneute Prüfung ein, sobald sie veröffentlicht sind.

Prüfung braucht Zeit. Wer Beschäftigte verpflichtet, KI-Ergebnisse gründlich zu prüfen, muss ihnen diese Zeit geben – sonst wird die Prüfung zur Formalie. Die Datenschutzaufsicht weist ausdrücklich darauf hin, dass knappe Personalressourcen und Zeitdruck nicht dazu führen dürfen, dass KI-Vorschläge ungeprüft übernommen werden.

Plane deshalb:

• Zeit für Prüfung und Freigabe in den Prozessen, in denen KI-Ergebnisse Folgen haben;
• erreichbare Ansprechpersonen für Datenschutz, IT und Freigaben, mit Vertretung;
• ein Budget für Einweisungen und Auffrischungen;
• einen Meldeweg, der auch nachts und am Wochenende funktioniert, wenn ihr personenbezogene Daten verarbeitet;
• eine Kultur, in der Meldungen erwünscht sind. Wer einen Fehler meldet, verhindert oft einen größeren.

Wenn eine Meldung eingeht, entscheidet die erste Stunde oft darüber, ob aus einem Fehler ein großer Schaden wird. Als Führungskraft sorgst du dafür, dass

• die Meldung ernst genommen wird – ohne Schuldzuweisung. Wer Angst vor Konsequenzen hat, meldet beim nächsten Mal nicht.
• die richtigen Stellen sofort eingebunden sind: Datenschutz bei möglicher Verletzung personenbezogener Daten, IT bei Sicherheitsverdacht, Fachverantwortliche bei fehlerhaften Ergebnissen mit Außenwirkung.
• die Frist des Unternehmens im Blick bleibt: Eine meldepflichtige Datenschutzverletzung muss der Verantwortliche unverzüglich und möglichst binnen 72 Stunden nach Bekanntwerden der Aufsichtsbehörde melden. Ob sie meldepflichtig ist, entscheidet die zuständige Stelle – dafür braucht sie die Informationen früh.
• Schaden begrenzt wird: Nutzung stoppen, Zugänge sperren, fehlerhafte Ergebnisse zurückholen, soweit möglich.
• Spuren erhalten bleiben: nichts löschen, was zur Aufklärung nötig ist.
• gelernt wird: Ursache klären, Regeln, Einstellungen oder Schulungen anpassen, die Einsatzübersicht aktualisieren.

Für Hochrisiko-Systeme gelten ab Dezember 2027 zusätzliche Informationspflichten der Betreiber gegenüber Anbieter und Behörden. Eine allgemeine 72-Stunden-Frist für „KI-Vorfälle“ gibt es in der KI-Verordnung nicht.

Setze feste Anlässe für eine Überprüfung von Freigaben und Schulungen:

• Änderungen am Werkzeug: neue Funktionen, neue Anbindungen, neuer Anbieter oder Tarif;
• Änderungen am Einsatz: neuer Zweck, neue Nutzergruppe, neue Datenkategorie;
• Vorfälle und Beinahe-Vorfälle;
• Rechtliche Stichtage: 2. Dezember 2026 (neue Verbote, Ende der Übergangsfrist für die maschinenlesbare Markierung bei Altsystemen), 2. Dezember 2027 (Hochrisiko nach Anhang III), 2. August 2028 (Hochrisiko nach Anhang I);
• Leitlinien: Die endgültigen Kommissionsleitlinien zur Hochrisiko-Einstufung lagen am 29.09.2026 noch nicht vor.

Zur Einordnung von Sanktionen: Verstöße gegen die Verbote in Artikel 5 können mit bis zu 35 Mio. Euro oder bis zu 7 % des weltweiten Jahresumsatzes geahndet werden, Verstöße gegen Transparenzpflichten nach Artikel 50 und bestimmte Betreiberpflichten mit bis zu 15 Mio. Euro oder bis zu 3 % – jeweils der höhere Betrag; für KMU gilt jeweils der niedrigere Betrag. Artikel 4 ist weder in Art. 99 Abs. 3–5 KI-VO noch in § 15 KI-MIG ausdrücklich als Bußgeldtatbestand genannt. Daraus folgt nicht, dass Artikel 4 folgenlos wäre: Die Bundesnetzagentur weist darauf hin, dass fehlende KI-Kompetenz als Verletzung der Sorgfaltspflicht angesehen werden kann, insbesondere wenn ein Schaden entsteht. Wie Aufsichtsbehörden Artikel 4 durchsetzen, ist für den Einzelfall rechtlich zu prüfen.

Eine Abteilungsleitung will schnell handeln – mit einem teuren Kursangebot.

Ein Team nutzt seit Wochen einen Dienst, von dem die IT nichts weiß.

Bevor ein KI-Werkzeug produktiv geht, sollte klar sein, wohin Daten fließen. Eine einfache Skizze beantwortet:

• Eingänge: Nutzereingaben, hochgeladene Dateien, angebundene Postfächer, Dokumentenablagen, Websuche, Schnittstellen zu Fachsystemen.
• Verarbeitung: Wo läuft das Modell (eigene Umgebung, Anbieter-Cloud, Region)? Welche Zwischenschichten gibt es – Orchestrierung, Vektordatenbank, Plugins?
• Speicherung: Verläufe, Protokolle, Zwischenspeicher, Einbettungen – wie lange, wo, wer hat Zugriff?
• Weitergaben: Unterauftragsverarbeiter, Drittanbieter-Erweiterungen, Telemetrie.
• Ausgänge: Wohin gehen Antworten und Aktionen – Bildschirm, E-Mail, Ticketsystem, externe Links?

Das BSI weist darauf hin, dass bei Diensten über das Internet Ein- und Ausgaben abfließen können und der Betreiber des Dienstes – je nach Nutzungsbedingungen – auf Daten zugreifen und sie gegebenenfalls für Training nutzen kann. Übernimmt ein System zusätzliche Aufgaben wie E-Mail-Verwaltung, erstreckt sich das Risiko auch darauf. Datenschutzrechtlich braucht ein externer Dienst in der Regel einen Auftragsverarbeitungsvertrag, und die Sicherheitsmaßnahmen müssen dem Risiko angemessen sein.

Die wichtigste Stellschraube ist, was ein KI-System darf. Das BSI empfiehlt unter anderem:

• Minimale Ausführungsrechte: Aktionen, die das Modell auslösen kann, auf das Notwendige begrenzen und im Berechtigungsprofil der auslösenden Person ausführen.
• Nutzerbezogene Datenzugriffe: Jede Person erreicht über das System nur, was sie ohnehin sehen darf. Das begrenzt auch den Schaden durch ein kompromittiertes Dokument.
• Menschliche Bestätigung kritischer Aktionen: etwa vor dem Versand einer E-Mail, dem Löschen oder Teilen von Dateien, dem Auslösen einer Bestellung.
• Monitoring, Logging und Sandboxing: Verhalten nachvollziehbar machen und nicht vertrauenswürdige Inhalte isoliert verarbeiten.

Für dokumentbasierte Chats nennt das BSI fünf Basismaßnahmen gegen Indirect Prompt Injection: Eingabe-Bereinigung, Trennung von Vertrauensbereichen, gehärteter System-Prompt, bewusste Modellauswahl und Egress-Filter. Das BSI betont zugleich: Diese Maßnahmen ersetzen weder anwendungsspezifisches Red Teaming noch eine individuelle Sicherheitsbewertung, und eine zuverlässige Gegenmaßnahme, die das Problem vollständig beseitigt, gibt es derzeit nicht. Plane deshalb so, dass eine erfolgreiche Manipulation möglichst wenig Schaden anrichten kann.

Viele Unternehmensanwendungen verbinden ein Sprachmodell mit eigenen Dokumenten: Richtlinien, Handbücher, Verträge, Tickets. Das Verfahren heißt Retrieval Augmented Generation (RAG). Es verbessert die Antworten – und bringt eigene Risiken mit:

• Vergiftete Wissensbasis: Das BSI beschreibt, dass Angreifende manipulierte Inhalte in eine Wissensbasis einschleusen können, damit das Modell auf bestimmte Fragen gezielt falsche Antworten gibt. Wer darf Dokumente in die Wissensbasis bringen? Werden sie geprüft?
• Datenabfluss über die Wissensbasis: Angriffe können darauf zielen, System-Prompts, Gesprächsinhalte anderer Nutzender oder Inhalte der Wissensbasis herauszulösen – oft mit Hilfe versteckter Anweisungen.
• Berechtigungen: Eine Wissensbasis darf nicht zur Hintertür werden. Wer ein Dokument im Original nicht sehen darf, darf es auch nicht über die KI erfragen können.
• Aktualität: Veraltete oder widersprüchliche Dokumente führen zu falschen Antworten, die umso glaubwürdiger wirken, weil sie „aus dem eigenen Haus“ stammen.

Praktisch heißt das: Quellen kuratieren, Schreibrechte auf die Wissensbasis eng fassen, Dokumentberechtigungen im Retrieval durchsetzen, Quellen in Antworten anzeigen, damit Nutzende nachprüfen können, und Inhalte regelmäßig bereinigen.

KI-Agenten planen mehrere Schritte selbst und rufen dabei Werkzeuge auf: Suche, Datenbankabfragen, E-Mail-Versand, Ticketaktionen, Code-Ausführung. Damit steigt der mögliche Schaden einer Manipulation erheblich, denn eine eingeschleuste Anweisung kann direkt zu Aktionen führen.

Gestalte Agenten so, dass

• jeder Werkzeugaufruf im Berechtigungsprofil der auslösenden Person läuft und nur die nötigen Aktionen erlaubt sind,
• Aktionen mit Außenwirkung – versenden, löschen, bezahlen, freigeben, Rechte ändern – eine menschliche Bestätigung brauchen,
• Inhalte aus E-Mails, Dokumenten und Webseiten als Daten behandelt werden, nicht als Anweisungen,
• ausgehende Verbindungen und Links begrenzt und überwacht sind,
• alle Schritte protokolliert werden, damit sich im Nachhinein nachvollziehen lässt, was der Agent warum getan hat.

Interagiert ein Agent mit Menschen, gilt die Transparenzpflicht: Nach Auffassung der Kommission soll er sich als KI zu erkennen geben, offenlegen, in wessen Auftrag er handelt, und sich auch gegenüber den anweisenden Personen an wichtigen Schritten ausweisen.

Teste neue KI-Funktionen in einer Umgebung, die von Produktivdaten getrennt ist, und mit synthetischen oder freigegebenen Testdaten. Ein sinnvoller Freigabetest umfasst:

• Funktion: Liefert das System für typische Aufgaben brauchbare Ergebnisse? Wo liegen Grenzen?
• Missbrauch und Manipulation: Verhält sich das System bei präparierten Dokumenten, versteckten Anweisungen und ungewöhnlichen Eingaben robust? Werden Aktionen nur nach Bestätigung ausgeführt?
• Datenschutz: Welche Daten landen in Protokollen, Verläufen, Einbettungen? Greifen die Voreinstellungen zu Training und Speicherung?
• Transparenz: Gibt sich ein Chatbot oder Agent gegenüber Menschen klar als KI zu erkennen?
• Dokumentation: Ergebnisse, Restrisiken, Entscheidung und verantwortliche Person festhalten.

Die Freigabe durch IT ersetzt nicht die Prüfungen durch Datenschutz, Fachbereich und gegebenenfalls Beschäftigtenvertretung. Sie ist ein Baustein im Freigabeprozess des Unternehmens.

KI-Systeme verändern sich, oft ohne Zutun des Unternehmens: Anbieter aktualisieren Modelle, fügen Funktionen hinzu oder ändern Voreinstellungen. Ausgaben generativer Modelle sind zudem nicht zwingend reproduzierbar. Deshalb:

• Änderungen beobachten: Release-Hinweise und Vertragsänderungen der Anbieter verfolgen; neue Funktionen standardmäßig deaktivieren, bis sie geprüft sind.
• Änderungen steuern: Eigene Konfigurationsänderungen – System-Prompts, Anbindungen, Berechtigungen – über das normale Change-Management mit Test und Freigabe.
• Protokollieren, aber datensparsam: Protokolle helfen bei der Aufklärung von Vorfällen, enthalten aber oft personenbezogene Daten. Aufbewahrungsdauer und Zugriff festlegen. Betreiber von Hochrisiko-Systemen müssen ab Dezember 2027 automatisch erzeugte Protokolle, soweit sie ihrer Kontrolle unterliegen, grundsätzlich mindestens sechs Monate aufbewahren.
• Vorfälle bearbeiten: Meldungen von Nutzenden ernst nehmen, Spuren sichern, Datenschutz und gegebenenfalls Anbieter einbeziehen. Für Hochrisiko-Systeme gelten ab Dezember 2027 besondere Informationspflichten der Betreiber gegenüber Anbieter und Behörden.

Programmierassistenten und Chat-Werkzeuge schreiben Skripte, Abfragen und Konfigurationen in Sekunden. Das BSI warnt: Von Sprachmodellen erzeugter Code oder codeähnliche Inhalte – etwa Filterregeln für eine Firewall – können bekannte oder unbekannte Sicherheitslücken oder schadhafte Bestandteile enthalten und veraltete Bibliotheken verwenden.

Behandle generierten Code deshalb wie Code einer unbekannten Person:

• Lies und verstehe ihn, bevor du ihn ausführst – besonders Befehle mit Administratorrechten, Löschoperationen und Netzwerkregeln.
• Prüfe vorgeschlagene Bibliotheken und Pakete: Gibt es sie wirklich, sind sie gepflegt, stammen sie aus vertrauenswürdigen Quellen?
• Führe ihn zuerst in einer Testumgebung aus.
• Nutze die üblichen Prüfungen: Code-Review, statische Analyse, Tests.
• Gib keine Geheimnisse wie Zugangsdaten, Schlüssel oder interne Adressen in Eingaben an Programmierassistenten, sofern das nicht ausdrücklich geregelt ist.
• Dokumentiere, wo KI-generierter Code in produktive Systeme übernommen wurde.

Leistungsfähige Modelle werden meist von wenigen spezialisierten Anbietern entwickelt und betrieben. Das BSI beschreibt die Folge: Verfügbarkeit und Weiterentwicklung sind für nutzende Unternehmen oft nicht kontrollierbar, und die bereitgestellten Informationen reichen häufig nicht für eine fundierte Risikobeurteilung.

Praktische Konsequenzen für den Betrieb:

• Ausfall einplanen: Prozesse, die von KI abhängen, brauchen einen Rückfallweg ohne KI.
• Verhaltensänderungen erwarten: Nach Modellwechseln können sich Qualität, Tonalität oder Filterverhalten ändern. Wichtige Anwendungsfälle regelmäßig mit festen Testfällen prüfen.
• Portabilität prüfen: System-Prompts, Konfigurationen und Wissensdaten so ablegen, dass sie bei einem Anbieterwechsel übertragbar sind.
• Informationen einfordern: Fehlende Angaben zu Datenverarbeitung, Sicherheitsmaßnahmen und Grenzen des Systems schriftlich beim Anbieter anfragen und das Ergebnis in die Freigabeentscheidung einbeziehen.

Ohne Protokolle lässt sich ein Vorfall kaum aufklären. Gleichzeitig enthalten Protokolle von KI-Systemen oft genau das, was geschützt werden soll: Eingaben mit Kundendaten, Dokumentinhalte, Namen von Beschäftigten. Finde eine Balance:

• Zweck festlegen: Protokolle dienen der Sicherheit, der Fehleranalyse und gegebenenfalls gesetzlichen Pflichten – nicht der Leistungskontrolle einzelner Beschäftigter.
• Umfang begrenzen: Aktionen, Werkzeugaufrufe, Fehler und Sicherheitsereignisse protokollieren; vollständige Eingaben und Ausgaben nur, wenn und solange sie nötig sind.
• Zugriff beschränken: Nur wenige, benannte Personen dürfen Protokolle einsehen; Zugriffe selbst werden protokolliert.
• Aufbewahrung regeln: Fristen festlegen und automatisch löschen. Für Betreiber von Hochrisiko-Systemen gilt ab Dezember 2027 grundsätzlich eine Mindestaufbewahrung von sechs Monaten für automatisch erzeugte Protokolle, soweit sie ihrer Kontrolle unterliegen.
• Mitbestimmung beachten: Protokolle und Auswertungen, die Rückschlüsse auf Verhalten oder Leistung von Beschäftigten zulassen, können eine technische Einrichtung im Sinne von § 87 Abs. 1 Nr. 6 BetrVG betreffen. Kläre das mit Personal und Betriebsrat, bevor du auswertest.
• Nachweisen können: Die DSGVO verlangt geeignete Schutzmaßnahmen und dass das Unternehmen die Einhaltung der Grundsätze nachweisen kann. Dokumentiere deshalb, was protokolliert wird, warum und wie lange.

Solange ihr ein fertiges Werkzeug im Rahmen seiner Zweckbestimmung nutzt, seid ihr in der Regel Betreiber. Das kann sich durch eigene Entwicklung schnell ändern:

• Eigene Systeme unter eigenem Namen: Wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen in Betrieb nimmt – auch nur für die eigene Nutzung –, ist Anbieter. Die Kommission nennt als Beispiel einen selbst entwickelten Chatbot. Auch wer ein bestehendes generatives System verändert, etwa mit neuen Trainingsdaten, und unter eigenem Namen einsetzt, wird Anbieter des neuen Systems.
• Hochrisiko-Bereich: Wer ein Hochrisiko-System mit eigenem Namen versieht, es wesentlich verändert oder den Zweck eines Systems so ändert, dass es hochriskant wird, trägt ab Dezember 2027 die Anbieterpflichten.
• Transparenz: Als Anbieter eines interaktiven Systems müsst ihr seit August 2026 dafür sorgen, dass Menschen erfahren, dass sie mit einer KI interagieren. KI-Agenten sollen sich nach Auffassung der Kommission als KI zu erkennen geben, offenlegen, für wen sie handeln, und sich auch gegenüber den anweisenden Personen an wichtigen Schritten ausweisen. Ob ihr zusätzlich die maschinenlesbare Markierung nach Art. 50 Abs. 2 umsetzen müsst, hängt von eurer Rolle und den Ausnahmen ab und ist im Einzelfall zu klären.
• Modelle mit allgemeinem Verwendungszweck: Die Pflichten aus Kapitel V treffen die Modellanbieter. Wer ein fremdes Modell nur per Schnittstelle nutzt, entwickelt dadurch kein eigenes Modell. Wer ein Modell selbst verändert, etwa durch umfangreiches Nachtrainieren, und weitergibt, sollte seine Rolle gesondert prüfen lassen.
• Open Source: Quelloffene Systeme sind nur ausgenommen, solange sie nicht hochriskant sind und nicht unter Art. 5 oder Art. 50 fallen.

Ein Sprachmodell soll per Schnittstelle in das eigene Kundenportal eingebaut werden.

Ein KI-Agent soll Kundentickets selbstständig beantworten und schließen.

Im Personalwesen liegen harmlose und hochsensible KI-Anwendungen oft nah beieinander.

Meist unkritisch – mit freigegebenem Werkzeug und ohne personenbezogene Daten: Stellenanzeigen formulieren, Interviewleitfäden gliedern, Onboarding-Texte vereinfachen, allgemeine Fragen zu Prozessen sammeln. Das Ergebnis prüfst du trotzdem, etwa auf benachteiligende Formulierungen.

Hochsensibel – immer erst nach Freigabe: alles, was Bewerbende oder Beschäftigte bewertet, sortiert, filtert, einstuft oder Entscheidungen über sie vorbereitet. Anhang III der KI-Verordnung nennt ausdrücklich Systeme, die Bewerbungen sichten oder filtern und Bewerbende bewerten, sowie Systeme für Entscheidungen über Beförderung, Kündigung, Aufgabenzuweisung und die Leistungs- und Verhaltensbewertung. Solche Systeme gelten ab 2. Dezember 2027 als hochriskant, sofern keine Ausnahme greift – und bei Profiling greift keine.

Schon heute gilt Art. 22 DSGVO: Niemand soll einer ausschließlich automatisierten Entscheidung mit erheblicher Wirkung unterworfen werden, soweit keine Ausnahme greift. Nach Auffassung der Datenschutzaufsicht verstößt ein System, das Bewerbungen auswertet und selbstständig Einladungen verschickt, gegen diese Vorschrift.

Bewerbungsunterlagen, Zeugnisse, Gesprächsnotizen, Leistungsdaten und Krankmeldungen sind personenbezogene Daten, teils besonders sensible. Für sie gilt:

• Nur in freigegebenen Systemen und für freigegebene Zwecke verarbeiten; private Accounts sind tabu.
• Gesundheitsdaten und andere besondere Kategorien nicht eingeben, außer die Verarbeitung ist ausdrücklich geregelt.
• Namen zu entfernen reicht oft nicht. Aus Stelle, Standort, Alter und Werdegang lässt sich eine Person häufig erkennen.
• Die Datenschutzaufsicht nennt ein Beispiel: Schon die Eingabe „Entwirf ein Arbeitszeugnis im befriedigenden Bereich für einen Kundenberater im Autohaus X“ kann personenbezogen sein, wenn erkennbar ist, aus welchem Unternehmen sie zu welchem Zeitpunkt kommt.
• Werden Bewerbungs- oder Leistungsdaten mit KI ausgewertet, ist häufig eine Datenschutz-Folgenabschätzung nötig. Die Rechtsgrundlage klärt der Datenschutz, nicht der Fachbereich allein.

KI-Werkzeuge können beim Formulieren von Arbeitszeugnissen, Beurteilungen oder Gesprächsprotokollen helfen. Gerade hier geht es aber um Aussagen über Menschen mit erheblichen Folgen.

• Datensparsam arbeiten: Für einen Formulierungsvorschlag genügen oft Stichworte zu Aufgaben und Leistungsniveau ohne Namen, Daten und besondere Umstände. Die Datenschutzaufsicht weist darauf hin, dass schon eine scheinbar allgemeine Eingabe personenbezogen sein kann, wenn erkennbar ist, aus welchem Unternehmen sie zu welchem Zeitpunkt kommt.
• Inhalt bleibt Sache der Führungskraft: Die Bewertung selbst trifft der Mensch, der die Person und ihre Arbeit kennt. Die KI formuliert nur, was vorher feststeht.
• Richtigkeit prüfen: Ergebnisse mit Personenbezug müssen vor der Verwendung geprüft werden. Achte auf Übertreibungen, Abschwächungen und Formulierungen, die du so nicht gemeint hast.
• Benachteiligung vermeiden: Prüfe, ob Formulierungen an Geschlecht, Alter, Herkunft oder Behinderung anknüpfen.
• Keine Gesundheitsangaben: Krankheiten, Fehlzeiten mit Diagnosen oder ähnliche Angaben gehören nicht in Eingaben, sofern das nicht ausdrücklich geregelt ist.

Nutze für diese Aufgaben nur Werkzeuge, die ausdrücklich für Personalzwecke freigegeben sind.

KI-Systeme lernen aus Daten der Vergangenheit – und damit auch aus ihren Schieflagen. Waren in einem Unternehmen bisher vor allem jüngere Männer in bestimmten Rollen erfolgreich, kann eine KI genau dieses Muster als „Erfolgsfaktor“ vorschlagen.

Das Allgemeine Gleichbehandlungsgesetz verbietet, Beschäftigte – dazu zählen Bewerbende – wegen der ethnischen Herkunft, des Geschlechts, der Religion oder Weltanschauung, einer Behinderung, des Alters oder der sexuellen Identität zu benachteiligen. Die Datenschutzaufsicht nennt das Beispiel einer KI-Empfehlung, bevorzugt männliche Bewerber auszuwählen: Wer das umsetzt, verstößt gegen das AGG, und die zugrunde liegende Datenverarbeitung wird unzulässig.

Achte besonders auf:

• scheinbar neutrale Merkmale, die mit geschützten Merkmalen zusammenhängen (etwa Lücken im Lebenslauf, Wohnort, Namen, Hobbys, Berufserfahrung in Jahren);
• Formulierungen in Stellenanzeigen, die bestimmte Gruppen abschrecken;
• Empfehlungen ohne nachvollziehbare Begründung.

Melde auffällige Ergebnisse, statt sie still zu korrigieren – nur so lässt sich die Ursache beheben.

Besteht ein Betriebsrat, sind seine Rechte beim Einsatz von KI im Personalbereich regelmäßig berührt. Das Betriebsverfassungsgesetz nennt KI ausdrücklich:

• Der Arbeitgeber muss den Betriebsrat über die Planung von Arbeitsverfahren und -abläufen einschließlich des Einsatzes von KI rechtzeitig unterrichten (§ 90 Abs. 1 Nr. 3 BetrVG).
• Muss der Betriebsrat die Einführung oder Anwendung von KI beurteilen, gilt die Hinzuziehung eines Sachverständigen insoweit als erforderlich (§ 80 Abs. 3 BetrVG).
• Bei Auswahlrichtlinien bleibt die Mitbestimmung bestehen, auch wenn bei ihrer Aufstellung KI eingesetzt wird (§ 95 Abs. 2a BetrVG).
• Bei technischen Einrichtungen, die dazu bestimmt sind, Verhalten oder Leistung der Beschäftigten zu überwachen, hat der Betriebsrat mitzubestimmen (§ 87 Abs. 1 Nr. 6 BetrVG).

Ab 2. Dezember 2027 kommt aus der KI-Verordnung hinzu: Vor dem Einsatz eines Hochrisiko-Systems am Arbeitsplatz informieren Arbeitgeber die Arbeitnehmervertretung und die betroffenen Beschäftigten. Welche Rechte im Einzelfall bestehen, klären Personalleitung und Rechtsberatung – ohne Betriebsrat gelten die Informationspflichten gegenüber den Beschäftigten trotzdem.

Verboten seit Februar 2025: KI-Systeme, die Emotionen am Arbeitsplatz ableiten – außer aus medizinischen oder Sicherheitsgründen. Nach den Leitlinien der Kommission gehören dazu ausdrücklich Emotionserkennung im Bewerbungsverfahren und in der Probezeit sowie Systeme, die in Videokonferenzen die Stimmung von Teams aus Stimme und Bild ableiten. Maßgeblich ist, dass biometrische Daten wie Gesicht, Stimme oder Tippverhalten ausgewertet werden. Die Stimmungsanalyse geschriebener Texte fällt nach Auffassung der Kommission nicht unter das Verbot – wird sie zur Bewertung von Beschäftigten eingesetzt, bleibt sie trotzdem prüfbedürftig.

Hochriskant ab Dezember 2027: die oben genannten Auswahl- und Bewertungssysteme aus Anhang III Nr. 4.

Die Reihenfolge der Prüfung: Erst klären, ob eine Funktion verboten ist; dann, ob sie in einen Anhang-III-Bereich fällt; dann die Anforderungen aus Datenschutz, Gleichbehandlung und Mitbestimmung. Diese Prüfung nimmst du nicht allein vor, du stößt sie an.

„Am Ende entscheidet ja ein Mensch“ ist nur dann ein Schutz, wenn der Mensch tatsächlich entscheidet. Das bedeutet:

• Die entscheidende Person kennt die Kriterien, die Stärken und Grenzen des Systems und hat die Unterlagen selbst gesehen.
• Sie hat Zeit und die Befugnis, von einer KI-Empfehlung abzuweichen, und muss das nicht aufwendig rechtfertigen.
• Die Entscheidung und ihre Gründe werden nachvollziehbar festgehalten.

Die Datenschutzaufsicht betont, dass Zeitdruck oder knappes Personal nicht dazu führen dürfen, KI-Vorschläge ungeprüft zu übernehmen. Wie weit das geht, zeigt die Rechtsprechung: Nach dem Europäischen Gerichtshof kann schon ein automatisch berechneter Wert eine automatisierte Entscheidung sein, wenn eine andere Stelle maßgeblich darauf baut. Betroffene können verlangen, dass ihnen die Verfahren und Grundsätze einer automatisierten Entscheidung verständlich erläutert werden. Für Hochrisiko-Systeme verlangt die KI-Verordnung ab Dezember 2027 menschliche Aufsicht durch Personen mit Kompetenz, Ausbildung und Befugnis.

Ein Werkzeug verspricht, die Leistung im Kundenservice objektiv zu messen.

Ein KI-Assistent gibt eine Empfehlung für die Besetzung einer Stelle.

Angebote, Kalkulationen, Kundenlisten, Verhandlungsstände und Vertragsentwürfe sind häufig Geschäftsgeheimnisse – eure eigenen oder die eurer Kundschaft. Rechtlich geschützt sind Geschäftsgeheimnisse nur, wenn ihr Inhaber angemessene Geheimhaltungsmaßnahmen trifft. Gib solche Informationen deshalb nur in Systeme ein, die dein Unternehmen dafür ausdrücklich freigegeben hat.

Denke auch an vertragliche Pflichten: Viele Kundenverträge und Geheimhaltungsvereinbarungen regeln, an wen Informationen weitergegeben werden dürfen. Ein externer KI-Dienst kann ein solcher Empfänger sein. Betreut dein Unternehmen Kundschaft mit Berufsgeheimnissen – etwa Kanzleien oder Praxen –, gelten zusätzlich strenge gesetzliche Verschwiegenheitspflichten dieser Berufe.

Praktisch heißt das: Für Textarbeit an Angeboten die Kundendaten durch Platzhalter ersetzen, vertrauliche Konditionen erst im eigenen System einsetzen und bei Zweifeln vorher fragen.

KI-Werkzeuge versprechen, Kundensegmente zu bilden, Abwanderung vorherzusagen oder Kampagnen zu personalisieren. Dabei werden fast immer personenbezogene Daten verarbeitet – oft in großer Menge.

• Solche Auswertungen brauchen eine Rechtsgrundlage und einen festgelegten Zweck; die betroffenen Personen müssen transparent informiert sein.
• Werden externe Dienste genutzt, braucht es in der Regel einen Auftragsverarbeitungsvertrag und eine Freigabe durch dein Unternehmen.
• Der Serverstandort allein macht eine Auswertung nicht zulässig.
• Eine Kundenliste gehört nie in einen nicht freigegebenen Dienst – auch nicht „nur zum Ausprobieren“. Ist das doch passiert, meldest du es sofort an die Datenschutzstelle deines Unternehmens.
• Entscheidet ein Werkzeug automatisch über Konditionen für einzelne Personen – etwa ob jemand ein Angebot oder eine Ratenzahlung bekommt –, sind die Grenzen für automatisierte Entscheidungen zu prüfen.

Was du an Kundinnen und Kunden sendest, verantwortest du – auch wenn eine KI es formuliert hat. Sprachmodelle können Fakten, Zahlen und Quellen erfinden, und das oft überzeugend.

Das Wettbewerbsrecht zieht hier eine klare Grenze: Unlauter handelt, wer irreführende geschäftliche Handlungen vornimmt, die Menschen zu Entscheidungen veranlassen können, die sie sonst nicht getroffen hätten. Irreführend sind unter anderem unwahre Angaben über wesentliche Merkmale einer Ware oder Dienstleistung. Ob der Fehler von einer KI stammt, spielt für die Kundschaft keine Rolle.

Prüfe deshalb vor jedem Versand:

• Preise, Rabatte, Laufzeiten und Fristen gegen die gültige Preisliste oder das Angebot;
• Leistungsbeschreibungen gegen die tatsächlichen Leistungen;
• Aussagen zu Verfügbarkeit, Reaktionszeiten, Garantien und Zertifizierungen gegen die verbindlichen Unterlagen;
• Zusagen, die du nicht machen darfst – etwa Kulanz oder Sonderkonditionen ohne Freigabe.

Chatbots im Kundenkontakt müssen seit 2. August 2026 so gestaltet sein, dass Menschen erfahren, dass sie mit einer KI sprechen – es sei denn, das ist offensichtlich. Die Pflicht trifft den Anbieter; ob das euer Unternehmen ist, klärt die zuständige Stelle. Für euch im Marketing und Service ist wichtig:

• Der Hinweis gehört in den Chat selbst, spätestens zu Beginn. AGB, Datenschutzhinweise oder ein allgemeiner Satz auf der Website genügen nach Auffassung der Kommission allein nicht.
• Vermeidet menschlich wirkende Namen und Profilbilder ohne klaren KI-Hinweis – sie können in die Irre führen.
• KI-Agenten, die in eurem Auftrag Kundschaft kontaktieren, sollen sich nach Auffassung der Kommission als KI zu erkennen geben und offenlegen, für wen sie handeln.
• Schlägt euch ein Assistent im Service Antworten vor, die ihr prüft und selbst absendet, liegt nach Auffassung der Kommission keine direkte Interaktion der Kundschaft mit der KI vor. Werden KI-Antworten ungeprüft eingemischt, brauchen sie einen Hinweis.

Viele Serviceteams arbeiten mit Antwortvorschlägen, Wissensdatenbanken und automatischen Zusammenfassungen von Anfragen. Damit das hilft und nicht schadet:

• Vorschläge prüfen, nicht durchwinken. Du bleibst Absenderin oder Absender. Prüfe besonders Zusagen, Fristen, Beträge und Aussagen zu Rechten der Kundschaft.
• Keine Zusagen über deine Befugnisse hinaus. Kulanz, Gutschriften oder Vertragsänderungen nur nach den internen Regeln – auch wenn die KI sie vorschlägt.
• Wissensquellen kennen. Vorschläge sind nur so gut wie die angebundenen Inhalte. Veraltete Artikel in der Wissensdatenbank meldest du, statt sie zu umgehen.
• Beschwerden und Sonderfälle erkennen. Bei Kündigungsandrohungen, rechtlichen Einwänden, Gesundheits- oder Härtefallangaben übernimmst du selbst und nutzt die dafür vorgesehenen Wege.
• Datensparsam arbeiten. Für Formulierungshilfen braucht die KI keine vollständigen Kundendaten.
• Transparenz beachten. Sendest du geprüfte Vorschläge selbst, liegt nach Auffassung der Kommission keine direkte Interaktion der Kundschaft mit der KI vor. Laufen Antworten ohne menschliche Prüfung automatisch hinaus, braucht es einen KI-Hinweis.

KI macht Werbung passgenauer. Die KI-Verordnung zieht eine harte Grenze, wo Beeinflussung zum Schaden führt. Seit Februar 2025 ist es verboten, KI-Systeme zu verwenden, die

• unterschwellige, absichtlich manipulative oder täuschende Techniken einsetzen und das Verhalten von Menschen so wesentlich verändern, dass ihnen erheblicher Schaden entsteht oder wahrscheinlich entsteht, oder
• Schwächen von Menschen wegen ihres Alters, einer Behinderung oder einer bestimmten sozialen oder wirtschaftlichen Lage ausnutzen, um ihr Verhalten in schädigender Weise wesentlich zu verändern.

Für Vertrieb und Marketing heißt das: Kampagnen, die mit KI gezielt Menschen in finanziellen Notlagen, ältere Menschen oder andere schutzbedürftige Gruppen ansprechen, um sie zu für sie schädlichen Entscheidungen zu drängen, können unter diese Verbote fallen – sie gehören nicht in euer Repertoire. Verstöße gegen die Verbote können mit den höchsten Geldbußen der Verordnung geahndet werden.

Die meisten Personalisierungen erreichen diese Schwelle nicht. Dann gelten weiter das Wettbewerbs- und das Datenschutzrecht. Ob eine konkrete Kampagne unter ein Verbot fällt, beurteilst du nicht allein; bei Zweifeln gilt das Freigabeverfahren deines Unternehmens.

Deepfakes offenlegen: Setzt euer Unternehmen KI-erzeugte oder -manipulierte Bilder, Videos oder Tonaufnahmen ein, die echten Personen, Orten, Gegenständen oder Ereignissen ähneln und fälschlich als echt erscheinen würden, müsst ihr das offenlegen. Nach Auffassung der Kommission gilt das auch für realistische KI-Avatare und nachgeahmte Stimmen; eine Täuschungsabsicht ist nicht nötig. Bei offensichtlich künstlerischen, satirischen oder fiktionalen Inhalten genügt ein zurückhaltender Hinweis.

Echte Personen: Bildnisse dürfen grundsätzlich nur mit Einwilligung verbreitet werden. Stimme und Bild von Beschäftigten, Kundinnen oder Prominenten nutzt ihr nicht ohne ausdrückliche Einwilligung und Freigabe. Realistische intime Darstellungen bestimmbarer Personen ohne deren ausdrückliche Zustimmung zu erzeugen, ist ab 2. Dezember 2026 als KI-Praxis verboten.

Texte: Werbetexte und Produktbeschreibungen sind nach Auffassung der Kommission in der Regel keine Texte über Angelegenheiten von öffentlichem Interesse – anders etwa bei Aussagen zu Gesundheit, Sicherheit oder Nachhaltigkeit. Veröffentlicht ihr KI-Informationstexte von öffentlichem Interesse, kennzeichnet ihr sie oder lasst sie inhaltlich prüfen und ordnet die redaktionelle Verantwortung klar zu; eine Rechtschreibprüfung reicht nicht.

In sozialen Netzwerken verschwimmen Werbung, Information und Gespräch. Für den Einsatz von KI gilt dort:

• KI-Bots offenlegen: Die Kommission nennt KI-Bots in sozialen Netzwerken ausdrücklich als Beispiel interaktiver Systeme, die sich als KI zu erkennen geben müssen. Ein Account, der automatisch mit KI auf Kommentare antwortet, braucht deshalb einen klaren Hinweis.
• Antwortvorschläge prüfen: Schlägt dir ein Werkzeug Antworten vor, die du prüfst und selbst veröffentlichst, gelten die Regeln für geprüfte Vorschläge. Achte auf Tonalität, Fakten und Zusagen – öffentliche Antworten sind sofort für viele sichtbar.
• Bilder und Videos: Realistische KI-Darstellungen von Personen, Orten oder Ereignissen legst du als KI-Inhalt offen. Kein Bild einer realen Person ohne Einwilligung.
• Informationsbeiträge: Beiträge zu Themen von öffentlichem Interesse – etwa Energiepreise, Gesundheit, Sicherheit – kennzeichnest du, sofern sie nicht inhaltlich geprüft sind und jemand die redaktionelle Verantwortung trägt.
• Keine erfundenen Fans: KI-generierte Kommentare oder Bewertungen, die als echte Stimmen von Kundinnen und Kunden erscheinen, sind tabu.
• Krisen und Beschwerden: Heikle Situationen beantwortest du nicht mit ungeprüften KI-Texten, sondern nach euren Eskalationsregeln.

KI-Werkzeuge ergänzen Texte gern um das, was „typischerweise“ in Angeboten steht: Referenzkunden, Auszeichnungen, Garantien, Kennzahlen. Solche Ergänzungen sind besonders gefährlich, weil sie plausibel klingen.

Feste Regeln für euren Alltag:

• Keine Referenz ohne Beleg und Freigabe. Nenne nur Kundinnen und Kunden, die einer Nennung zugestimmt haben und in eurer freigegebenen Referenzliste stehen.
• Keine Kennzahl ohne Quelle. Verfügbarkeiten, Einsparungen, Zufriedenheitswerte nur aus verbindlichen internen Unterlagen.
• Keine Garantie ohne Vertrag. Zusagen zu Reaktionszeiten, Laufzeiten oder Ergebnissen nur, wenn sie vertraglich vorgesehen und freigegeben sind.
• Keine erfundenen Kundenstimmen. KI-generierte „Testimonials“ als echte Erfahrungsberichte auszugeben, kann irreführend sein.
• Einschränkung in die Aufgabe schreiben: „Füge keine Referenzen, Kennzahlen, Garantien oder Preise hinzu, die nicht im Ausgangstext stehen.“

Ein Angebotsassistent hat euren Text überarbeitet – und dabei einiges ergänzt.

Das Social-Media-Team hat ein überzeugendes Video erstellt.