Lokale KI: Ihre Daten bleiben im Betrieb

Das Wichtigste in Kürze

• Lokale KI läuft auf einem Rechner oder Server in Ihrem Betrieb. Ihre Daten verlassen das Haus nicht.
• Sie gewinnen Kontrolle über vier Dinge: Daten, Recht, Abhängigkeit und Ausfallsicherheit.
• Amerikanische Anbieter müssen US-Behörden Daten herausgeben – auch aus europäischen Rechenzentren.
• Datensicherheit, Schulung und Betriebsrat bleiben trotzdem Ihre Aufgabe.
• Der beste Weg ist meist eine Mischung: Vertrauliches lokal, Unkritisches darf in die Cloud.

Jede Eingabe in ChatGPT, Copilot und Co. verlässt Ihren Betrieb. Das Angebot, das Sie zusammenfassen lassen. Die Kundenmail. Die Kalkulation.

Das ist nicht automatisch falsch. Cloud-KI ist oft stark und bequem. Aber Sie geben damit ein Stück Kontrolle ab.

Lokale KI dreht das um: Das Modell kommt zu den Daten – nicht die Daten zum Modell.

Was Souveränität heißt

Souveränität heißt nicht, alles selbst zu machen. Sie heißt, selbst entscheiden zu können. Vier Fragen zeigen den Unterschied:

Frage	Cloud-KI	Lokale KI
Wo liegen meine Daten?	Beim Anbieter	Bei Ihnen
Welches Recht gilt?	Auch das Recht des Anbieterlandes	Österreichisches und EU-Recht
Wer bestimmt Preis und Funktionen?	Der Anbieter	Sie
Läuft es ohne Internet?	Nein	Ja, im Firmennetz

Was das Recht sagt

Lokale KI macht vieles rechtlich einfacher. Drei Punkte zeigen, warum.

Datenschutz. Nutzen Sie Cloud-KI, verarbeitet ein fremdes Unternehmen Ihre Daten. Dafür brauchen Sie einen Vertrag zur Auftragsverarbeitung (Art. 28 DSGVO) und müssen wissen, wo die Daten landen. KI DSGVO-konform einsetzen erklärt die rechtlichen Schritte im Detail. Läuft die KI bei Ihnen, fällt das für die KI weg.

US-Anbieter. Amerikanische Firmen müssen US-Behörden Daten herausgeben, egal wo diese gespeichert sind (CLOUD Act) – mehr dazu im Kontext souveräner IT-Infrastruktur. Microsoft konnte 2025 vor dem französischen Senat nicht garantieren, dass europäische Kundendaten nie an US-Behörden gehen.

Geheimnisse. Steuerberater, Anwälte und Ärzte sind zur Verschwiegenheit verpflichtet (mehr dazu am Beispiel Steuerberatung). Und für jeden Betrieb gilt: Ein Geschäftsgeheimnis ist nach § 26b UWG nur geschützt, wenn Sie es aktiv schützen. Wer Kalkulationen oder Rezepturen in öffentliche Chatbots kopieren lässt, schwächt diesen Schutz.

Was lokal nicht erledigt

Lokal heißt: Die Verantwortung liegt bei Ihnen. Drei Dinge bleiben auf jeden Fall.

• Datensicherheit. Ein KI-Rechner, der ohne Passwort im Netzwerk erreichbar ist, ist riskanter als ein guter Cloud-Dienst.
• Schulung. Wer KI im Betrieb nutzt, muss das Team dafür fit machen (Art. 4 KI-Verordnung) – egal, wo die KI läuft.
• Betriebsrat. Verarbeitet die KI Mitarbeiterdaten oder kann sie Leistung kontrollieren, kann eine Betriebsvereinbarung nötig sein (Details hier).

Die Datenampel

Nicht alles muss lokal laufen. Entscheidend ist, welche Daten im Spiel sind.

Stufe	Beispiele	Wohin damit
Grün – öffentlich	Website-Texte, allgemeine Recherche	Cloud-KI mit Firmenkonto
Gelb – intern	Vorlagen, Abläufe ohne Personenbezug	Europäischer Anbieter oder lokal
Rot – vertraulich	Kunden- und Mitarbeiterdaten, Kalkulationen	Nur lokal

Schreiben Sie diese Ampel, bevor Sie Hardware kaufen – nicht danach.

Fazit

Lokale KI ist kein Statement gegen die Cloud. Sie ist eine Versicherung für Ihre vertraulichsten Daten.

Für den Start reichen ein Rechner, eine klare Aufgabe und saubere Regeln. Wie das konkret aussieht, zeigt der Artikel Lokale KI einführen: 7 Punkte vor dem Start.

Nächster Schritt: Welche Ihrer Daten wohin gehören und ob sich lokale KI für Ihren Betrieb rechnet, klären wir in der IT-Sprechstunde von Strukturaflow IT – vor Ort oder online, 45 Minuten, ohne Angebotszwang.