Aktuell freie Kapazitäten — Projektstart ab sofort möglich040 28557868
DSGVO-konforme KI im Unternehmen: Cloud und lokalen Betrieb prüfen
Wer KI mit Kundenanfragen, Bestellungen oder internen Dokumenten nutzt, muss mehr prüfen als den Serverstandort. Dieser Leitfaden zeigt, welche Fragen zu Daten, Anbietern und Betrieb vor dem Einsatz geklärt sein sollten und was es bedeutet, KI lokal zu betreiben.
Was bedeutet DSGVO-konforme KI?
DSGVO-konform ist ein konkreter Umgang mit personenbezogenen Daten, nicht pauschal ein Modell oder ein Server. Für Unternehmen gehören dazu ein festgelegter Zweck, eine passende Rechtsgrundlage und die Prüfung, welche Daten erforderlich sind. Auch Eingaben, Ausgaben und die weitere Nutzung müssen berücksichtigt werden. Die Datenschutzkonferenz beschreibt diese Anforderungen in ihrer Orientierungshilfe zu KI und Datenschutz.
„Kein Training mit Ihren Daten“ beantwortet nur eine Teilfrage. Ebenso wenig reichen ein EU-Standort oder ein Auftragsverarbeitungsvertrag allein. Je nach Verarbeitung sind unter anderem Informationspflichten, Betroffenenrechte, Drittlandübermittlungen und eine Datenschutz-Folgenabschätzung zu prüfen. Diese Einordnung gehört in die Hände der zuständigen Datenschutzfachleute.
Lassen Sie neben dem Datenschutz auch weitere Pflichten für Ihren Anwendungsfall prüfen, etwa aus der KI-Verordnung.
Welche Daten sieht die KI tatsächlich?
Nehmen Sie einen konkreten Vorgang und zeichnen Sie seinen Weg nach. Bei einer Bestellung könnte er so aussehen: E-Mail-Postfach → Dokumentenverarbeitung → KI-Modell → Prüfansicht → Warenwirtschaft. Daneben entstehen möglicherweise Protokolle, zwischengespeicherte Dateien und Sicherungen.
Eine Bestellung kann Namen, Lieferadressen, Telefonnummern und Unterschriften enthalten. Auch eine geschäftliche E-Mail kann personenbezogene Daten enthalten. Für Ihre technische Bestandsaufnahme helfen diese Fragen:
- Welche Datei wird tatsächlich übertragen: der einzelne Anhang oder der gesamte Nachrichtenverlauf?
- Welche Angaben braucht das Modell für seine Aufgabe, und welche könnten vorher entfernt werden?
- Wohin gelangen der Antworttext und die erkannten Felder?
- Was speichert die Anwendung bei Erfolg, bei einem Fehler und bei einem erneuten Versuch?
- Welche Mitarbeiter und Dienstleister können Originale, Ergebnisse und Protokolle einsehen?
Beschreiben Sie für den Pilot zuerst einen einzelnen Beispieldurchlauf einschließlich Fehlerfall. Vergleichen Sie die Beschreibung anschließend mit der tatsächlichen Konfiguration und den gespeicherten Daten. So können Sie zusätzliche Kopien erkennen und in die Speicher- und Löschregeln aufnehmen.
KI lokal betreiben oder einen Cloud-Dienst nutzen?
Lokal bedeutet hier: Das Modell verarbeitet Anfragen auf Infrastruktur, die Ihr Unternehmen selbst kontrolliert. Das kann ein eigener Server sein. Ein Server bei einem externen Hoster ist ebenfalls selbst administrierbar, bezieht aber einen weiteren Dienstleister ein. Entscheidend ist, welche Beteiligten tatsächlich auf Daten zugreifen können.
| Frage | KI als Cloud-Dienst | Modell auf eigener Infrastruktur |
|---|---|---|
| Wohin gehen Eingaben? | An den vereinbarten Anbieter; Verarbeitung und weitere Empfänger prüfen | An den eigenen Modelldienst; ausgehende Verbindungen trotzdem prüfen |
| Wer hält das Modell verfügbar? | Anbieter betreibt den Modelldienst, Ihr Unternehmen die Anbindung | Ihr Unternehmen oder ein beauftragter Betreiber |
| Was verursacht Kosten? | Nutzung, zusätzliche Dienste und Betreuung | Rechenkapazität, Installation, Wartung und Betreuung |
| Was muss getestet werden? | Qualität, Speicherregeln und Konfiguration des gewählten Dienstes | Qualität, Geschwindigkeit und Kapazität der eigenen Installation |
| Was bleibt Ihre Aufgabe? | Zweck, erlaubte Daten, Rechte, Freigaben und Löschung | Dieselben Fragen, zusätzlich der technische Modellbetrieb |
Ein lokaler Betrieb kann sinnvoll sein, wenn Inhalte die kontrollierte Umgebung nicht verlassen dürfen und Sie den Betrieb leisten können. Vergleichen Sie beide Varianten mit denselben freigegebenen Testfällen: Ergebnisqualität, Bearbeitungszeit, Wartungsaufwand und Kosten bei Ihrer tatsächlichen Nutzung.
Was Sie bei einem KI-Anbieter prüfen sollten
Fordern Sie Angaben zur konkreten Leistung an, die Sie einsetzen wollen. Ein privates Chatkonto, ein Unternehmenskonto und eine Schnittstelle desselben Anbieters können unterschiedliche Bedingungen haben.
Für die technische Auswahl empfehle ich, mindestens Folgendes schriftlich festzuhalten:
- Dienst und Modell: Welches Produkt, welches Modell und welche Funktionen werden genutzt?
- Verarbeitung und Zugriff: In welchen Regionen erfolgt die Verarbeitung? Welche weiteren Anbieter oder Supportstellen sind beteiligt?
- Speicherung: Welche Ein- und Ausgaben bleiben wie lange erhalten? Gibt es eine Missbrauchsprüfung oder menschliche Einsicht?
- Weitere Nutzung: Werden Inhalte für Training oder andere Zwecke verwendet, und welche Einstellung gilt tatsächlich?
- Änderungen: Wer prüft neue Modelle, Funktionen und Vertragsbedingungen, bevor sie im Ablauf eingesetzt werden?
Ein Beispiel für die notwendige Genauigkeit ist Amazon Bedrock: AWS dokumentiert unterschiedliche Modi zur Datenaufbewahrung. Ob Daten gespeichert werden, hängt unter anderem vom Modell und der wirksamen Einstellung ab. Eine Konfiguration ohne Aufbewahrung kann den Aufruf eines Modells verhindern, das Speicherung voraussetzt. Die Einstellung muss deshalb zur konkreten Nutzung passen; der Anbietername allein beantwortet die Speicherfrage nicht.
Die rechtlichen Rollen, erforderliche Verträge und mögliche Drittlandübermittlungen lassen Sie anhand dieser Informationen prüfen. Die DSK-Orientierungshilfe ist dafür eine Grundlage.
Was beim lokalen Betrieb zusätzlich zu klären ist
Eine lokal installierte Oberfläche beweist noch nicht, dass auch das Modell lokal rechnet. Sie kann Anfragen an einen externen Dienst weiterreichen. Prüfen Sie daher die gesamte Kette einschließlich Texterkennung, Dokumentensuche, Telemetrie und Fehlerberichten.
Halten Sie freigegebene Netzwerkziele, Benutzerrollen, Aktualisierungen, Sicherungen, Protokolle und die Wiederherstellung nach einem Ausfall in einer technischen Prüfliste fest. Benennen Sie jeweils eine verantwortliche Person. Testen Sie auch, was passiert, wenn das Modell nicht verfügbar ist: Können Mitarbeiter den Vorgang weiter bearbeiten, oder bleibt die Bestellung liegen?
Technische und organisatorische Maßnahmen müssen über den Lebenszyklus eines KI-Systems berücksichtigt werden. Dazu zählen Datenminimierung, Sicherheit und nachvollziehbare Dokumentation. Die Datenschutzkonferenz behandelt diese Aufgaben in ihrer Orientierungshilfe zu technischen und organisatorischen Maßnahmen bei KI-Systemen. Lokaler Betrieb verlagert Arbeit in Ihre Organisation; er beseitigt diese Aufgaben nicht.
Internes Wissen: Zugriffsrechte bis zur Antwort durchsetzen
Bei einer internen Wissenssuche werden passende Dokumentstellen gesucht und einem Sprachmodell für die Antwort bereitgestellt. Dieses Verfahren heißt häufig RAG, kurz für „Retrieval-Augmented Generation“.
Die Suche darf dem Modell nur Inhalte liefern, die der fragende Mitarbeiter sehen darf. Eine Aufforderung im Text, vertrauliche Informationen nicht auszugeben, ersetzt keine Zugriffskontrolle. Löschungen und Änderungen müssen auch in der Suchdatenbank berücksichtigt werden. Die DSK-Orientierungshilfe zu RAG erläutert insbesondere Berechtigungen, Zweckbindung und den Umgang mit gespeicherten Referenzdokumenten.
Testen Sie die Zugriffskontrolle mit zwei Benutzerrollen: Beide stellen dieselbe Frage, haben aber unterschiedliche Dokumentrechte. Prüfen Sie, welche Quellen tatsächlich abgerufen werden und was in der Antwort erscheint. Wiederholen Sie den Test nach einem Rechteentzug und nach dem Löschen eines Dokuments. Halten Sie die Ergebnisse für die weitere technische und datenschutzrechtliche Prüfung fest.
So bereiten Sie einen KI-Pilot vor
Stellen Sie vor der Umsetzung eine kurze Arbeitsunterlage zusammen:
- Aufgabe: Was soll die KI vorbereiten, und wer entscheidet über das Ergebnis?
- Datenweg: Woher kommen die Daten, welche Stationen durchlaufen sie und welche Kopien entstehen?
- Freigabe: Welche Daten und Dienste sind geprüft und dürfen verwendet werden?
- Betrieb: Wer betreut Berechtigungen, Änderungen und Fehlerfälle?
- Test: Wie prüfen Sie Ergebnisqualität, unerlaubte Zugriffe und Löschung?
Für einen ersten technischen Versuch können erfundene Beispieldaten helfen, den Ablauf zu testen, ohne echte Kundenunterlagen zu übertragen. Ob die Lösung im Alltag funktioniert, muss später mit zulässigen, repräsentativen Beispielen geprüft werden. Entfernte Namen allein machen einen Datensatz nicht zwingend anonym; andere Angaben können weiterhin eine Person erkennbar machen.
Wenn der passende Anwendungsfall noch offen ist, beginnen Sie mit dem Leitfaden KI für Unternehmen: Beispiele und Einführung. Für Datenfluss, technische Schutzmaßnahmen und Umsetzung unterstütze ich Sie mit KI-Beratung und Automatisierung.
Häufige Fragen zu KI und DSGVO
Ist KI auf einem deutschen Server automatisch DSGVO-konform?
Nein. Der Standort beantwortet nur einen Teil der Fragen. Zweck, Rechtsgrundlage, Zugriffe, Speicherung und die Beteiligung weiterer Dienste müssen ebenfalls zum konkreten Einsatz passen.
Ist Open-Source-KI automatisch datenschutzkonform?
Nein. Die Verfügbarkeit von Code oder Modellgewichten ersetzt weder die Prüfung der Datenverarbeitung noch sichere Einstellungen. Auch Herkunft und Eigenschaften eines Modells gehören zur Auswahlprüfung.
Reicht es, das Training mit Unternehmensdaten abzuschalten?
Nein. Eingaben können trotzdem verarbeitet oder vorübergehend gespeichert werden. Prüfen Sie zusätzlich die Speicherregeln, beteiligten Dienste und Zugriffe für das tatsächlich genutzte Produkt.
Bleiben Daten bei selbst gehostetem n8n automatisch im Unternehmen?
Nein. Ein Workflow auf Ihrem Server kann ein externes KI-Modell aufrufen und dabei Inhalte übertragen. Prüfen Sie jeden beteiligten Dienst. Wie n8n und KI zusammenarbeiten, beschreibt die Seite zur KI-Automatisierung mit n8n.