Vertrauliche Daten im Prompt: Was Unternehmen niemals eingeben sollten

Künstliche Intelligenz kann Texte zusammenfassen, E-Mails formulieren, Daten strukturieren und Arbeitsabläufe beschleunigen. Gleichzeitig entsteht bei jeder Eingabe eine wichtige Frage: Welche Informationen dürfen überhaupt in einen Prompt gelangen?

Viele Risiken entstehen nicht durch spektakuläre Hackerangriffe, sondern durch alltägliche Unachtsamkeit. Ein Mitarbeiter kopiert eine Kundenmail in ein KI-Tool, lädt einen Vertragsentwurf hoch oder bittet um eine Zusammenfassung interner Finanzdaten. Was praktisch wirkt, kann datenschutzrechtliche, vertragliche und wirtschaftliche Folgen haben.

Der verantwortungsvolle Umgang mit KI beginnt deshalb vor der Eingabe. Unternehmen benötigen klare Regeln für vertrauliche Daten in der KI, einen bewussten Umgang mit personenbezogenen Informationen und technische sowie organisatorische Schutzmaßnahmen. Dieser Artikel zeigt, welche Inhalte nicht in Prompts gehören, warum Geschäftsgeheimnisse besonders sensibel sind und wie sich KI sicher im Arbeitsalltag einsetzen lässt.

Warum vertrauliche Daten im Prompt ein Risiko darstellen

Ein Prompt ist nicht einfach nur eine Frage an ein digitales Werkzeug. Je nach Anbieter, Produkt, Kontoart und Konfiguration kann die Eingabe verarbeitet, protokolliert, gespeichert oder zur Verbesserung von Diensten verwendet werden. Die konkreten Bedingungen unterscheiden sich und sollten immer anhand der aktuellen Vertrags- und Datenschutzinformationen des jeweiligen Anbieters geprüft werden.

Besonders relevant ist, dass Nutzer häufig nicht genau wissen, welche Datenflüsse im Hintergrund stattfinden. Eine Eingabe kann beispielsweise in einem Verlauf erscheinen, an weitere Systeme übermittelt oder für administrative Zwecke gespeichert werden. Selbst wenn ein Anbieter Sicherheitsmaßnahmen verspricht, bleibt die Verantwortung des Unternehmens bestehen, nur zulässige Informationen zu verarbeiten.

Risiken betreffen mehrere Ebenen:

• Datenschutz: Personenbezogene Daten können ohne ausreichende Rechtsgrundlage oder entgegen interner Vorgaben verarbeitet werden.
• Geschäftsgeheimnisse: Strategien, Preise, Quellcode oder Produktideen können ihre wirtschaftliche Schutzwirkung verlieren.
• Vertragspflichten: Kunden- und Lieferantenverträge können die Weitergabe oder Verarbeitung von Informationen durch Dritte einschränken.
• Informationssicherheit: Zugangsdaten, interne Systemdetails oder Sicherheitskonzepte können missbraucht werden.
• Reputation: Ein Datenabfluss kann Vertrauen bei Kunden, Beschäftigten und Geschäftspartnern beschädigen.

Eine sichere KI-Nutzung bedeutet daher nicht, generative KI vollständig zu vermeiden. Entscheidend ist, die richtigen Inhalte im richtigen Werkzeug mit den richtigen Schutzmaßnahmen zu verarbeiten.

Diese vertraulichen Daten gehören nicht in einen Prompt

Personenbezogene Daten und identifizierbare Kundendetails

Besondere Vorsicht gilt bei Namen, E-Mail-Adressen, Telefonnummern, Anschriften, Kundennummern und anderen Angaben, durch die eine Person direkt oder indirekt identifiziert werden kann. Auch Kombinationen scheinbar harmloser Informationen können einen Personenbezug herstellen.

Zu den besonders sensiblen Informationen zählen unter anderem Gesundheitsdaten, Angaben zu finanziellen Verhältnissen, Bewerbungsunterlagen, Leistungsbeurteilungen und private Kommunikationsinhalte. Solche Daten sollten nicht ungeprüft in ein öffentlich zugängliches oder nicht freigegebenes KI-System kopiert werden.

Für viele Aufgaben reicht eine anonymisierte Version. Aus „Frau Anna Schneider, Kundennummer 48152, hat am 12. März eine Beschwerde eingereicht“ kann beispielsweise „Eine Kundin meldet eine Lieferverzögerung“ werden. Wichtig ist, nicht nur Namen zu entfernen, sondern auch eindeutige Kombinationen aus Ort, Datum, Rolle, Vorgang oder Vertragsnummer zu prüfen.

Geschäftsgeheimnisse und strategische Informationen

Geschäftsgeheimnisse KI anzuvertrauen, kann besonders problematisch sein. Dazu gehören Informationen, die wirtschaftlichen Wert besitzen, nicht allgemein bekannt sind und vom Unternehmen durch angemessene Geheimhaltungsmaßnahmen geschützt werden.

Beispiele sind:

• nicht veröffentlichte Produktentwicklungen und technische Konzepte,
• interne Preislisten, Margen und Kalkulationsmodelle,
• Verhandlungsstrategien und geplante Akquisitionen,
• Marketing- und Vertriebsplanungen vor ihrer Veröffentlichung,
• interne Marktanalysen und Wettbewerbsbewertungen,
• Quellcode, proprietäre Algorithmen und Systemarchitekturen,
• Informationen aus laufenden Rechtsstreitigkeiten oder Prüfungen.

Auch ein einzelner Auszug kann wertvoll sein. Es ist nicht erforderlich, den vollständigen Businessplan oder das gesamte Repository hochzuladen. Schon wenige konkrete Zahlen, Formulierungen oder technische Zusammenhänge können Rückschlüsse auf die Strategie eines Unternehmens erlauben.

Passwörter, Schlüssel und Zugangsdaten

Passwörter, API-Schlüssel, Tokens, privaten Zertifikate und Zugangsdaten dürfen niemals in einen Prompt eingegeben werden. Das gilt auch für scheinbar abgelaufene oder nur zu Testzwecken verwendete Zugangsinformationen. Testdaten werden häufig länger verwendet als geplant, und die Wiederverwendung von Passwörtern erhöht das Risiko zusätzlich.

Ebenfalls kritisch sind interne IP-Adressen, VPN-Konfigurationen, Firewall-Regeln, Geheimhaltungsdateien und detaillierte Beschreibungen von Sicherheitslücken. Für technische Hilfestellungen sollten Beispiele vollständig bereinigt und auf das notwendige Minimum reduziert werden.

Verträge, Rechtsdokumente und interne Untersuchungen

Vertragsentwürfe enthalten oft Namen, Preise, Haftungsregelungen, exklusive Konditionen und Informationen über die Verhandlungsposition eines Unternehmens. Bei Arbeitsverträgen, Abmahnungen oder Untersuchungsakten kommen regelmäßig personenbezogene und besonders vertrauliche Angaben hinzu.

Eine KI kann zwar bei der Strukturierung allgemeiner Vertragsklauseln helfen. Ein vollständiges Dokument sollte jedoch nur in einer dafür freigegebenen Umgebung und nach Prüfung der rechtlichen, technischen und organisatorischen Rahmenbedingungen verarbeitet werden. Die Ausgabe eines KI-Systems ersetzt außerdem keine juristische Prüfung.

Interne Personal- und Bewerbungsdaten

Lebensläufe, Arbeitszeugnisse, Krankheitsinformationen, Gehaltsdaten und Beurteilungen gehören zu den Informationen, bei denen besondere Zurückhaltung erforderlich ist. Auch anonymisierte Bewerbungsprofile können durch seltene Berufserfahrungen, Orte oder Zeitangaben identifizierbar bleiben.

Wer KI im Recruiting einsetzen möchte, sollte vorher klären, welche Zwecke zulässig sind, wer Zugriff erhält und wie die Daten verarbeitet werden. Für Textvorschläge können neutrale Platzhalter verwendet werden, etwa „Kandidat A“ oder „Position im technischen Vertrieb“, sofern die Aufgabe keine realen Personendaten benötigt.

Datenschutz im Prompt: Die wichtigsten Grundprinzipien

Datenminimierung statt vollständiger Kopie

Der sicherste Prompt enthält nur die Informationen, die für die Aufgabe tatsächlich erforderlich sind. Wenn eine KI einen Text stilistisch verbessern soll, braucht sie in der Regel keine Kundennummer, private Signatur oder vollständige Vorgangshistorie.

Vor dem Einfügen sollten Nutzer prüfen:

• Welche konkrete Aufgabe soll gelöst werden?
• Welche Angaben sind dafür zwingend notwendig?
• Kann ich Namen, Zahlen oder Orte durch Platzhalter ersetzen?
• Benötigt das System den vollständigen Text oder nur einen relevanten Ausschnitt?
• Würde ich diese Information auch einem externen Dienstleister geben?

Diese kurze Prüfung reduziert die Datenmenge und erleichtert die spätere Kontrolle.

Anonymisieren und pseudonymisieren

Anonymisierung bedeutet, dass ein Personenbezug dauerhaft ausgeschlossen ist. Bei einer Pseudonymisierung werden identifizierende Angaben durch Kennzeichen ersetzt, die sich unter bestimmten Voraussetzungen wieder zuordnen lassen. Pseudonymisierte Daten bleiben deshalb in vielen Fällen personenbezogene Daten.

In der Praxis sollten Platzhalter konsistent, aber nicht aussagekräftig sein. Aus Namen werden etwa „Person A“ und „Person B“, aus konkreten Beträgen gerundete Werte oder relative Größen. Bei technischen Beispielen werden echte Domains, Dateipfade, Kundennummern und Schlüssel durch neutrale Muster ersetzt.

Die Rückübersetzung sollte nicht im KI-Tool stattfinden. Eine separate, geschützte Zuordnungsliste gehört nicht in denselben Prompt und sollte nur den Personen zugänglich sein, die sie für ihre Arbeit benötigen.

Kontext begrenzen

Ein häufiger Fehler ist, mehr Kontext als nötig bereitzustellen. Nutzer kopieren den gesamten E-Mail-Verlauf, obwohl nur ein Absatz sprachlich überarbeitet werden soll. Oder sie laden ein komplettes Dokument hoch, obwohl eine allgemeine Erklärung zur Struktur genügt.

Eine bessere Vorgehensweise besteht darin, die Aufgabe in kleine Schritte zu teilen. Zuerst lässt sich eine allgemeine Gliederung erstellen. Danach werden einzelne, bereinigte Abschnitte bearbeitet. So bleibt die Eingabe überschaubar und sensible Zusammenhänge werden seltener offengelegt.

KI-Tools im Unternehmen sicher auswählen

Die Auswahl eines KI-Tools sollte nicht allein von Funktionsumfang, Preis oder Benutzerfreundlichkeit abhängen. Unternehmen müssen auch prüfen, wie Daten verarbeitet werden und welche Kontrolle sie über die Nutzung behalten.

Wichtige Prüffragen vor der Freigabe

• Wer ist Anbieter und Vertragspartner?
• In welchen Regionen werden Eingaben und Ausgaben verarbeitet?
• Wie lange werden Prompts, Dateien und Ergebnisse gespeichert?
• Werden Inhalte für Training oder Produktverbesserung genutzt?
• Gibt es eine Möglichkeit, Verlauf und Speicherung zu deaktivieren?
• Welche Unterauftragnehmer sind beteiligt?
• Welche Sicherheitszertifizierungen und Nachweise liegen vor?
• Gibt es Rollen, Rechte, Protokollierung und zentrale Administrationsfunktionen?
• Kann das Unternehmen Daten löschen und Zugriffe kontrollieren?
• Existieren passende Vertrags- und Datenschutzvereinbarungen?

Antworten sollten nicht aus Werbeaussagen allein abgeleitet werden. Maßgeblich sind die zum jeweiligen Produkt und Vertrag gehörenden Dokumente. Da sich Funktionen und Bedingungen ändern können, ist eine regelmäßige Neubewertung sinnvoll.

Öffentliche, geschäftliche und speziell abgesicherte Umgebungen unterscheiden

Nicht jede Version eines KI-Dienstes bietet dieselben Kontrollmöglichkeiten. Öffentliche Angebote können für allgemeine, nicht vertrauliche Aufgaben geeignet sein. Für interne Informationen kommen je nach Risiko eher geschäftliche oder speziell abgesicherte Umgebungen infrage.

Auch ein Unternehmenskonto ist jedoch kein Freibrief. Es ersetzt weder eine Datenschutzprüfung noch klare Berechtigungskonzepte und Mitarbeiterschulungen. Entscheidend ist die Kombination aus Anbieterbedingungen, Konfiguration, internen Richtlinien und tatsächlichem Nutzerverhalten.

Erfahrungen aus der Praxis

Im Arbeitsalltag treten bestimmte Anwendungssituationen besonders häufig auf. Dazu gehört die Überarbeitung von Kundenmails. Für die Optimierung von Tonalität und Verständlichkeit genügt meist eine anonymisierte Nachricht ohne Namen, Kontaktdaten, Auftragsnummern und konkrete Produktdetails.

Ein weiterer typischer Fall ist die Zusammenfassung von Besprechungen. Statt ein vollständiges Protokoll mit Teilnehmernamen und vertraulichen Entscheidungen zu übertragen, kann zunächst eine neutrale Strukturvorlage erstellt werden. Die eigentliche Zusammenfassung sollte nur in einer freigegebenen Umgebung und nach Prüfung der enthaltenen Informationen erfolgen.

Auch bei Programmieraufgaben zeigt sich der Nutzen der Datenminimierung. Für die Erklärung eines Fehlers reicht häufig ein gekürzter Codeausschnitt mit generischen Variablennamen. Zugangsschlüssel, interne URLs, Kundendaten und proprietäre Geschäftslogik müssen entfernt werden.

Bei Bewerbungen oder Leistungsbeurteilungen ist eine direkte Eingabe realer Unterlagen besonders riskant. Für allgemeine Formulierungshilfen können neutrale Beispieldaten verwendet werden. Sobald eine Entscheidung über eine konkrete Person vorbereitet oder unterstützt wird, sind zusätzlich die geltenden rechtlichen und internen Anforderungen zu beachten.

Aus diesen Situationen lassen sich überprüfbare praktische Grundsätze ableiten: Je genauer ein Inhalt eine Person, ein Unternehmen oder ein internes System beschreibt, desto höher ist sein Schutzbedarf. Je weniger Daten für die Aufgabe erforderlich sind, desto geringer fällt das Risiko einer unbeabsichtigten Offenlegung aus. Und je sensibler die Verarbeitung, desto wichtiger sind Freigabe, Protokollierung und eine kontrollierte Umgebung.

Interne Regeln für eine sichere KI-Nutzung

Eine klare Datenklassifizierung einführen

Unternehmen sollten festlegen, welche Datenkategorien in welchem KI-System verarbeitet werden dürfen. Eine einfache Einteilung kann zwischen öffentlich, intern, vertraulich und besonders geschützt unterscheiden. Für jede Kategorie werden zugelassene Werkzeuge und erforderliche Freigaben definiert.

Beispielhaft könnten öffentliche Inhalte in allgemein zugänglichen Tools bearbeitet werden, während interne Informationen nur in freigegebenen Unternehmenskonten verwendet werden dürfen. Besonders geschützte Daten bleiben grundsätzlich außerhalb generativer KI, sofern keine ausdrückliche Prüfung und Freigabe vorliegt.

Verbindliche Prompt-Regeln formulieren

Eine Richtlinie sollte nicht nur Verbote enthalten, sondern konkrete Alternativen anbieten. Dazu gehören Hinweise zum Anonymisieren, Beispiele für sichere Prompts und ein Meldeweg für versehentlich eingegebene Daten.

Hilfreich ist eine kurze Checkliste vor jeder Eingabe:

1. Ist das verwendete Tool für diese Daten freigegeben?
2. Enthält der Prompt personenbezogene oder geschäftlich vertrauliche Informationen?
3. Kann die Aufgabe mit Platzhaltern oder Beispieldaten gelöst werden?
4. Ist der Kontext auf das notwendige Minimum begrenzt?
5. Muss die Ausgabe vor einer Weiterverwendung fachlich geprüft werden?

Mitarbeitende sensibilisieren

Technische Sperren können viel bewirken, aber sie lösen nicht jedes Problem. Mitarbeitende benötigen verständliche Schulungen, die konkrete Alltagssituationen abbilden. Dazu gehören der Umgang mit E-Mails, Dokumenten, Quellcode, Kundendaten und internen Präsentationen.

Ebenso wichtig ist eine offene Fehlerkultur. Wenn eine vertrauliche Information versehentlich in ein nicht freigegebenes Tool gelangt, sollte der Vorfall unverzüglich an die zuständige interne Stelle gemeldet werden. Schnelles Handeln kann die Bewertung und Begrenzung möglicher Folgen erleichtern.

Was tun, wenn vertrauliche Daten versehentlich eingegeben wurden?

Zunächst sollte die weitere Nutzung des betreffenden Chats oder Dokuments gestoppt werden. Anschließend sind Zeitpunkt, Inhalt, verwendetes Konto und Tool zu dokumentieren. Die zuständige Datenschutz-, IT-Sicherheits- oder Compliance-Stelle sollte ohne unnötige Verzögerung informiert werden.

Je nach Situation können weitere Schritte notwendig sein, etwa das Löschen eines Verlaufs, das Sperren oder Ersetzen kompromittierter Zugangsdaten sowie die Prüfung von Protokollen. Bei personenbezogenen Daten muss das Unternehmen bewerten, ob eine meldepflichtige Datenschutzverletzung vorliegt. Diese Bewertung sollte durch die dafür verantwortlichen Fachstellen erfolgen.

Wichtig ist, nicht eigenmächtig Beweise zu löschen oder den Vorfall zu verschweigen. Eine nachvollziehbare Dokumentation unterstützt die sachgerechte Bearbeitung und hilft, Wiederholungen zu vermeiden.

Fazit

Vertrauliche Daten im Prompt sind ein vermeidbares Risiko. Personenbezogene Informationen, Geschäftsgeheimnisse, Zugangsdaten, Vertragsinhalte und interne Sicherheitsdetails gehören grundsätzlich nicht in ungeprüfte KI-Dienste. Für viele Aufgaben reichen anonymisierte, gekürzte oder vollständig fiktive Angaben aus.

Sichere KI-Nutzung entsteht durch das Zusammenspiel aus Datenminimierung, geeigneten Tools, klaren internen Regeln, geschulten Mitarbeitenden und regelmäßiger Prüfung der Anbieterbedingungen. Wer vor jeder Eingabe kurz innehält und Schutzbedarf, Zweck sowie Datenmenge bewertet, schafft eine verlässliche Grundlage für produktiven und verantwortungsvollen KI-Einsatz.

FAQ: Vertrauliche Daten und Datenschutz im Prompt

Darf ich Kundennamen in einen KI-Prompt eingeben?

Grundsätzlich sollten Kundennamen nicht in ein ungeprüftes KI-Tool eingegeben werden. Für viele Aufgaben reichen Platzhalter wie „Kunde A“ aus. Ob eine Verarbeitung in einer freigegebenen Unternehmensumgebung zulässig ist, hängt vom konkreten Zweck, den Vertragsbedingungen und den geltenden Datenschutzvorgaben ab.

Sind anonymisierte Daten automatisch sicher?

Nein. Eine Information ist nur dann anonymisiert, wenn eine Identifizierung dauerhaft nicht oder nur mit unverhältnismäßigem Aufwand möglich ist. Seltene Berufe, genaue Orte, Zeitpunkte oder Vorgangskombinationen können auch ohne Namen einen Rückschluss auf eine Person erlauben.

Kann ich vertrauliche Inhalte in einem Unternehmenskonto verwenden?

Ein Unternehmenskonto kann zusätzliche Sicherheits- und Administrationsfunktionen bieten, erlaubt aber nicht automatisch jede Verarbeitung. Vor der Nutzung sollten Datenverarbeitung, Speicherung, Zugriff, Löschung und vertragliche Regelungen geprüft werden. Außerdem müssen interne Freigaben und Richtlinien eingehalten werden.

Warum gehören Passwörter niemals in einen Prompt?

Passwörter, API-Schlüssel und Tokens sind unmittelbare Zugangsmittel. Gelangen sie in einen Chatverlauf, ein Protokoll oder ein anderes System, können unbefugte Personen oder Prozesse darauf zugreifen. Für technische Hilfe sollten Geheimnisse entfernt und bei einer versehentlichen Offenlegung sofort ersetzt werden.

Darf eine KI interne Verträge zusammenfassen?

Das hängt von der Umgebung, dem Vertrag, dem Zweck und den enthaltenen Daten ab. In nicht freigegebenen Tools sollten vollständige Verträge nicht verarbeitet werden. Eine sichere Alternative ist eine anonymisierte Zusammenfassung oder die Nutzung einer vom Unternehmen geprüften Lösung. Rechtliche Bewertungen sollte weiterhin eine qualifizierte Fachperson vornehmen.

Welche Daten eignen sich für öffentliche KI-Tools?

Geeignet sind Inhalte, die bereits öffentlich zugänglich sind oder deren Offenlegung keine Nachteile verursacht. Dazu können allgemeine Themen, neutrale Textentwürfe oder fiktive Beispiele gehören. Interne, personenbezogene oder wirtschaftlich sensible Informationen sollten dagegen nicht verwendet werden.

Was ist bei Quellcode in KI-Tools zu beachten?

Quellcode kann Geschäftsgeheimnisse, Zugangsdaten und Hinweise auf die interne Infrastruktur enthalten. Vor einer Eingabe sollten Codeabschnitte gekürzt, Variablen anonymisiert und Geheimnisse entfernt werden. Proprietäre Logik sollte nur in einer dafür freigegebenen und angemessen abgesicherten Umgebung verarbeitet werden.

Was sollte ich bei einer versehentlichen Eingabe vertraulicher Daten tun?

Beenden Sie die weitere Verarbeitung, dokumentieren Sie den Vorfall und informieren Sie umgehend die zuständige Datenschutz-, IT-Sicherheits- oder Compliance-Stelle. Je nach Inhalt können Löschung, Zugangssperren, Schlüsselwechsel oder eine formelle Datenschutzbewertung erforderlich sein. Verheimlichen oder eigenständiges Löschen von Protokollen sollte vermieden werden.