KI ohne US-Cloud: DSGVO- und EU-AI-Act-Checkliste für selbst gehostete LLMs (Stand Dezember 2026) | ComputeBox
KI & GPU
KI ohne US-Cloud: DSGVO- und EU-AI-Act-Checkliste für selbst gehostete LLMs (Stand Dezember 2026)
Der AI Act ist nicht verschoben, nur die Hochrisiko-Pflichten. Diese Checkliste zeigt, was du für ein selbst gehostetes LLM bis zum 2. Dezember 2026 erledigen musst: Fristen, DSGVO-Bausteine, Art. 50 und eine souveräne Architektur.
Der AI Act ist nicht verschoben. Verschoben sind nur die Hochrisiko-Pflichten. Die Transparenzregeln gelten seit August, und am 2. Dezember 2026 läuft die nächste Frist ab. Diese Checkliste zeigt dir, was du für ein selbst gehostetes LLM jetzt erledigen musst.
Kurzfassung
Art. 50 AI Act gilt seit dem 2. August 2026: Chatbots müssen sich als KI zu erkennen geben, Deepfakes müssen gekennzeichnet sein.
Am 2. Dezember 2026 endet die Übergangsfrist für die maschinenlesbare Kennzeichnung bei generativen Bestandssystemen (Art. 50 Abs. 2). Am selben Tag greifen zwei neue Verbote.
Die Hochrisiko-Pflichten starten erst am 2. Dezember 2027 (Anhang III) und am 2. August 2028 (Anhang I).
Für die DSGVO brauchst du drei Dinge: einen AV-Vertrag mit dem Hoster, einen Datenstandort in der EU und ein Löschkonzept für Chats und Logs.
Ein Open-Weight-Modell auf einer eigenen GPU in einem deutschen Rechenzentrum erspart dir die Drittland-Prüfung für Prompts und Antworten.
Hinweis: Dieser Artikel ist keine Rechtsberatung. Details dazu am Ende.
Deutsche Unternehmen wollen KI aus dem eigenen Land. Laut einer Bitkom-Befragung vom 2. November 2026 würden 96 % bevorzugt KI von deutschen Anbietern nutzen. 87 % achten bei der Auswahl auf das Herkunftsland. US-Anbieter kommen nur noch für 41 % in Frage, ein Jahr zuvor waren es 51 %.
Dieselbe Umfrage zeigt aber auch die Grenze: 64 % würden für die Herkunft keine Abstriche bei Preis oder Funktionen machen. Souveräne KI muss sich also rechnen und im Alltag funktionieren.
Dazu kommt der Kalender. Seit dem Digital-Omnibus liest man oft, der AI Act sei "verschoben". Das stimmt nur für einen Teil. Wer deshalb die Transparenzpflichten liegen lässt, ist seit August im Verzug.
Der Digital-Omnibus zur KI ist die Verordnung (EU) 2026/1744. Sie wurde am 24. Juli 2026 im Amtsblatt veröffentlicht und gilt seit dem 27. Juli 2026. Sie verschiebt Kapitel III, also die Hochrisiko-Regeln. Alles andere behält sein Datum (ITMR, Cooley).
Datum
Was gilt
Stand
seit 2. August 2026
Transparenzpflichten nach Art. 50: KI-Hinweis bei Chatbots, Offenlegung von Deepfakes und von KI-Texten zu Themen von öffentlichem Interesse. Neue generative Systeme müssen ihre Ausgaben ab dem ersten Tag maschinenlesbar kennzeichnen.
Gilt. Nicht verschoben.
2. Dezember 2026
Ende der viermonatigen Übergangsfrist für Art. 50 Abs. 2 bei generativen Systemen, die vor dem 2. August 2026 in Verkehr gebracht wurden. Dazu zwei neue Verbote in Art. 5: KI-Systeme für nicht einvernehmliche intime Darstellungen und für Missbrauchsdarstellungen von Kindern.
Neu durch den Omnibus.
2. Dezember 2027
Hochrisiko-Pflichten für eigenständige Systeme nach Anhang III, zum Beispiel Personalauswahl, Bildung, Kreditwürdigkeit, Biometrie.
Verschoben vom 2. August 2026.
2. August 2028
Hochrisiko-Pflichten für KI in regulierten Produkten nach Anhang I, zum Beispiel Medizinprodukte und Maschinen.
Verschoben vom 2. August 2027.
Schon länger in Kraft sind die ursprünglichen Verbote und die KI-Kompetenz nach Art. 4 (seit Februar 2025) sowie die Regeln für KI-Modelle mit allgemeinem Verwendungszweck (seit August 2025). Die KI-Kompetenz hat der Omnibus entschärft: Du musst die Kompetenz deiner Mitarbeitenden fördern, aber kein bestimmtes Niveau mehr garantieren.
Ein interner Chat-Assistent ist in der Regel kein Hochrisiko-System. Die Verschiebung auf 2027 und 2028 betrifft dich dann gar nicht. Deine Pflichten kommen aus Art. 50 und der DSGVO, und beide gelten heute.
Achte auf den Einsatzzweck. Sortiert dein LLM Bewerbungen vor oder bewertet es Mitarbeitende, landest du in Anhang III. Dann läuft für dich die Frist bis Dezember 2027.
Die Dezember-Frist trifft Bestandssysteme. Läuft dein generatives System schon seit vor dem 2. August 2026, muss die maschinenlesbare Kennzeichnung bis zum 2. Dezember 2026 stehen. Für Systeme, die später gestartet sind, gab es keine Schonfrist.
Die neuen Verbote gelten auch für Bestandssysteme. Betreibst du Bildmodelle, prüfe vor Dezember die Schutzfilter. Bei Open-Weight-Modellen bist du selbst dafür verantwortlich, dass sie aktiv sind.
Self-Hosting löst das Transferproblem, aber nicht die DSGVO. Sobald Namen, Kundendaten oder Mitarbeiterdaten in Prompts landen, verarbeitest du personenbezogene Daten. Vier Bausteine brauchst du.
Dein Server steht bei einem Dienstleister. Der verarbeitet die Daten in deinem Auftrag, auch wenn er nie in deine Chats schaut. Dafür verlangt Art. 28 DSGVO einen Vertrag zur Auftragsverarbeitung.
AV-Vertrag mit dem Hoster abgeschlossen und abgelegt
Unterauftragsverarbeiter geprüft, vor allem den Betreiber des Rechenzentrums
Technische und organisatorische Maßnahmen (TOM) des Hosters liegen vor
Verarbeitung im Verzeichnis nach Art. 30 DSGVO eingetragen
Bei einem US-Anbieter brauchst du eine Grundlage für den Drittland-Transfer. Aktuell ist das meist das EU-US Data Privacy Framework. Es gilt, wird aber gerade vom EuGH überprüft: Das Rechtsmittel im Fall Latombe läuft unter dem Aktenzeichen C-703/25 P (HÄRTING). Zwei Vorgänger-Abkommen hat der EuGH schon gekippt.
Steht dein Modell auf einem Server in Deutschland bei einem deutschen Anbieter, stellt sich diese Frage für Prompts und Antworten nicht.
Serverstandort steht im Vertrag, nicht nur auf der Website
Backups und Snapshots liegen ebenfalls in der EU
Keine externen APIs im Stack aktiv, die Prompts weiterreichen (Websuche, Cloud-Modelle, externe Embeddings)
Baustein 3: Chats und Prompt-Speicherung in Open WebUI#
Open WebUI speichert jeden Chat serverseitig in der Datenbank. Im Standard ist das eine SQLite-Datei im Daten-Volume, für den Produktivbetrieb empfiehlt die Doku PostgreSQL. Hochgeladene Dateien und die Vektordatenbank für RAG liegen daneben.
Wichtig für dein Datenschutzkonzept: Admins können in der Standardkonfiguration die Chats aller Nutzer lesen. Die Open-WebUI-Doku sagt es deutlich: Geh davon aus, dass jeder Admin jeden Chat lesen kann.
So schränkst du das ein:
Die ersten beiden Schalter sperren nur die Oberfläche. Wer Zugriff auf Datenbank, Host oder Backups hat, kommt weiter an die Inhalte. Halte diesen Kreis klein und dokumentiere ihn.
Für sensible Gruppen kannst du temporäre Chats erzwingen. Dann speichert der Server keinen Verlauf:
Admin-Zugriff auf Chats abgeschaltet oder begründet und dokumentiert
Löschfrist für Chats festgelegt und technisch umgesetzt. Verlass dich nicht auf eine automatische Löschung.
Auskunft und Löschung pro Nutzer getestet (Art. 15 und 17 DSGVO)
Daten-Volume verschlüsselt, zum Beispiel mit LUKS
Betriebsrat eingebunden, falls vorhanden. Ein System, das Mitarbeiter-Chats auswertbar macht, ist in der Regel mitbestimmungspflichtig.
Prompts stehen nicht nur in der Datenbank. Sie können auch in Logs landen.
Open WebUI kennt mehrere Stufen für das Audit-Log. METADATA protokolliert, wer wann was aufgerufen hat. REQUEST und REQUEST_RESPONSE schreiben zusätzlich die Inhalte mit.
Audit-Log auf METADATA begrenzt
Inferenzserver geprüft: Schreibt Ollama oder vLLM im Debug-Modus Prompts ins Log?
Reverse-Proxy-Logs berücksichtigt. Sie enthalten IP-Adressen.
Aufbewahrungsfrist für alle Logs festgelegt, Rotation eingerichtet
Zentrale Log-Sammlung läuft auf eigener Infrastruktur, nicht bei einem US-Dienst
Ob du zusätzlich eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO brauchst, hängt vom Einsatzzweck ab. Das klärst du mit deinem Datenschutzbeauftragten.
Art. 50 verlangt zwei Dinge: Menschen müssen wissen, dass sie mit einer KI sprechen, und generierte Inhalte müssen als solche erkennbar sein. Wer was tun muss, hängt von der Rolle ab.
Absatz
Wer
Pflicht
Ausnahme
Abs. 1
Anbieter
Nutzer erfahren, dass sie mit einem KI-System interagieren.
Die KI ist für eine aufmerksame Person offensichtlich.
Abs. 2
Anbieter
Generierte Texte, Bilder, Audio und Videos sind maschinenlesbar markiert.
Reine Assistenzfunktionen, die den Inhalt nicht wesentlich verändern.
Abs. 4
Betreiber
Deepfakes offenlegen. KI-Texte zu Themen von öffentlichem Interesse offenlegen.
Texte mit menschlicher Prüfung und redaktioneller Verantwortung.
Abs. 5
beide
Der Hinweis ist klar, barrierefrei und kommt spätestens beim ersten Kontakt.
Beim Self-Hosting bist du oft beides. Wer ein Open-Weight-Modell mit einer Oberfläche zu einem eigenen Assistenten zusammenbaut und unter eigenem Namen in Betrieb nimmt, kann als Anbieter dieses KI-Systems gelten. Dann treffen dich auch die Absätze 1 und 2. Klär diese Einordnung früh, denn an ihr hängt die Dezember-Frist.
Für einen Kunden-Chatbot auf deiner Website oder einen Telefonassistenten ist die Sache klar: Der Hinweis steht vor der ersten Nachricht. Nicht im Footer und nicht erst in der Datenschutzerklärung.
Ein Satz reicht:
Bei einem internen Assistenten wissen deine Mitarbeitenden meist, dass sie eine KI nutzen. Die Ausnahme für offensichtliche Fälle liegt dann nahe. Ein Banner kostet dich trotzdem nur zwei Minuten und erspart die Diskussion.
Assistent heißt erkennbar nach KI, zum Beispiel über WEBUI_NAME
Banner in Open WebUI gesetzt (Admin-Einstellungen, Bereich Interface)
System-Prompt weist das Modell an, sich auf Nachfrage als KI zu erkennen zu geben
Externe Chatbots und Sprachassistenten zeigen oder sagen den Hinweis vor der ersten Interaktion
Das ist der Teil mit der Frist am 2. Dezember 2026. Die Verordnung sagt, was erreicht werden muss, aber nicht wie. Die Lücke füllt der freiwillige Verhaltenskodex der EU-Kommission vom 10. Juni 2026. Er sieht mindestens zwei Schichten vor, typischerweise signierte Metadaten plus ein unsichtbares Wasserzeichen. Für freien Text genügt laut Kodex eine Schicht, weil Text keine Metadaten transportiert (Freshfields).
Was das für deinen Stack bedeutet:
Bilder, Audio, Video: Schreib Herkunftsdaten in die Metadaten, zum Beispiel nach dem C2PA-Standard, und ergänze ein Wasserzeichen. Prüf, ob dein Export die Metadaten wieder entfernt.
Text: Das ist im Open-Source-Stack der schwierigste Teil. Ollama und vLLM markieren Text nicht von sich aus. Leg fest, welche Technik du einsetzt, und führe ein Erzeugungsprotokoll.
Ausnahmen: Korrigiert dein Assistent nur Rechtschreibung oder formuliert leicht um, greift die Assistenz-Ausnahme. Die Leitlinien der Kommission vom 20. Juli 2026 nehmen laut it-blue außerdem Quellcode, sehr kurze Zeichenfolgen und reine Maschine-zu-Maschine-Ausgaben aus.
Liste aller generativen Systeme erstellt, mit Datum der Inbetriebnahme (vor oder nach dem 2. August 2026)
Pro System entschieden: Anbieter-Rolle ja oder nein
Markierungstechnik pro Inhaltstyp festgelegt und getestet
Entscheidung dokumentiert, auch wenn du dich auf eine Ausnahme stützt
Dieser Punkt trifft vor allem Agenturen und Redaktionen. Veröffentlichst du Deepfakes, also täuschend echte Bilder, Stimmen oder Videos, musst du sie sichtbar kennzeichnen. Der Kodex liefert dafür ein EU-Icon. Ein gleichwertiges Label mit dem Kürzel "AI" geht auch (Bird & Bird).
Bei Texten zu Themen von öffentlichem Interesse entfällt die Kennzeichnung, wenn ein Mensch den Text geprüft hat und jemand die redaktionelle Verantwortung trägt. Halte diesen Freigabeprozess schriftlich fest.
Freigabeprozess für KI-Texte dokumentiert: Wer prüft, wer verantwortet?
Verstöße gegen Art. 50 können bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes kosten. Für KMU gilt der niedrigere der beiden Werte. Zuständig ist in Deutschland die Bundesnetzagentur. Das Durchführungsgesetz KI-MIG gilt seit dem 29. Juli 2026 (IHK).
Architektur "souverän": Modell, GPU und Daten in einer Hand#
Souverän ist dein Setup, wenn drei Dinge zusammenkommen: ein Modell, das du selbst betreibst, eine GPU, die nur dir gehört, und Daten, die den Server nicht verlassen.
Die Gewichte lädst du einmal herunter, danach läuft das Modell lokal. Prompts und Antworten gehen an keinen Modell-Anbieter. Nur der Download selbst kontaktiert die Modell-Registry.
Lizenz geprüft: Erlaubt sie kommerzielle Nutzung? Apache 2.0 und MIT sind unkritisch, andere Lizenzen haben Auflagen.
Modellversion und Bezugsquelle dokumentiert
Bei Bildmodellen: Schutzfilter aktiv, siehe neue Verbote ab 2. Dezember 2026
Bei geteilten GPUs laufen deine Anfragen im Wechsel mit denen anderer Kunden auf derselben Karte. Eine dedizierte GPU ohne Time-Slicing gehört für die Mietdauer nur dir. VRAM und Rechenleistung teilst du mit niemandem. Das macht die Antwortzeiten planbar und die Mandantentrennung leicht zu erklären, wenn dein Datenschutzbeauftragter nachfragt.
Der Server allein reicht nicht. Entscheidend ist, was er nach außen schickt.
Ausgehende Verbindungen per Firewall auf das Nötige begrenzt (Updates, Modell-Download)
Websuche, externe Modell-APIs und Cloud-Embeddings in Open WebUI deaktiviert
Embeddings für RAG laufen lokal auf derselben GPU
Zugriff nur über HTTPS und Login, am besten zusätzlich über VPN oder IP-Freigabe
Monitoring, Backups und Fehler-Tracking laufen ebenfalls in der EU
Wie du Ollama und Open WebUI aufsetzt, zeigt unser Tutorial LLM selbst hosten mit Ollama. Für viele gleichzeitige Nutzer lohnt sich der Umstieg auf vLLM: vLLM für produktive Inferenz.
Für ein Team ist die RTX 6000 Ada mit 48 GB die richtige Wahl, für einen Piloten oder eine einzelne Abteilung reicht die L4 mit 24 GB. Der VRAM entscheidet, welches Modell du laden kannst.
NVIDIA L4
RTX 6000 Ada (Team-Instanz)
VRAM
24 GB
48 GB
Modellgröße
13B bis 14B mit 8 Bit, etwa 30B mit 4-Bit-Quantisierung
bis 70B quantisiert (ca. 42 GB)
Passt zu
Pilotprojekt, einzelne Abteilung, RAG mit Embeddings, Agentur mit wenigen parallelen Nutzern
Team-Assistent für das ganze Unternehmen, große Kontextfenster, mehrere Modelle parallel, Fine-Tuning
Beide Instanzen bringen mit, was die Checkliste oben verlangt:
Deutsches Rechenzentrum. Dein Server steht in Deutschland. Der Datenstandort ist damit geklärt.
Dedizierte GPU ohne Time-Slicing. Die Karte gehört für die Mietdauer nur dir.
Monatlich kündbar. Du startest mit einem Piloten und bindest dich nicht für Jahre. Keine Einrichtungsgebühr.
Pauschalpreis pro Monat. Keine Abrechnung pro Token oder Sekunde. Das ist wichtig, wenn KI aus Deutschland nicht mehr kosten darf als die US-Alternative.
In Minuten startklar. Root-Zugriff per SSH, danach installierst du Ollama oder vLLM.
Unser Tipp: Starte mit der L4, wenn du erst prüfen willst, ob ein 14B-Modell für deine Aufgaben reicht. Wechsle auf die RTX 6000 Ada, sobald mehrere Teams gleichzeitig arbeiten oder du ein 70B-Modell brauchst.
Nein. Verschoben sind nur die Hochrisiko-Pflichten: auf den 2. Dezember 2027 für Anhang III und auf den 2. August 2028 für Anhang I. Die Transparenzpflichten nach Art. 50 gelten seit dem 2. August 2026.
Gilt der AI Act auch für ein rein internes LLM?
Ja. Ein interner Assistent ist aber meist kein Hochrisiko-System. Relevant bleiben die KI-Kompetenz, die Verbote und Art. 50, soweit du Inhalte erzeugst oder veröffentlichst.
Brauche ich einen AV-Vertrag, obwohl der Hoster nie in meine Daten schaut?
Ja. Hosting gilt als Auftragsverarbeitung, sobald personenbezogene Daten auf dem Server liegen.
Ist ein Modell aus den USA auf einem deutschen Server ein Drittland-Transfer?
Nein. Die Herkunft des Modells ist nicht der Datenfluss. Ein Open-Weight-Modell läuft lokal und sendet keine Prompts an seinen Hersteller.
Muss ich jeden KI-Text sichtbar kennzeichnen?
Nein. Die sichtbare Kennzeichnung betrifft Deepfakes und Texte zu Themen von öffentlichem Interesse ohne redaktionelle Prüfung. Die maschinenlesbare Markierung ist eine eigene Pflicht und trifft den Anbieter des Systems.
Dieser Artikel ist eine technische Orientierung und keine Rechtsberatung. Er gibt den Stand vom Dezember 2026 wieder. Ob dein System ein Hochrisiko-System ist, ob du Anbieter oder Betreiber bist und welche Ausnahmen für dich gelten, hängt vom Einzelfall ab.
Sprich deshalb mit deinem Datenschutzbeauftragten, bevor du ein LLM mit personenbezogenen Daten produktiv nimmst. Hast du keinen, hol dir eine externe Datenschutzberatung oder eine Fachkanzlei dazu. Verbindlich sind allein die Verordnungstexte im Amtsblatt der EU und die Auskünfte der zuständigen Behörden.