Lokale KI

Lokale KI oder EU-Cloud? Datenschutz, Qualität und Kosten

Lesezeit
7 Minuten
Veröffentlicht
Themenleitfaden
Lokale KI
Verfasst von
Redaktion modernagentsmodernagents ist eine KI-Automatisierungsagentur für KMU.
Illustration: eine Waage mit einem Server auf der einen und einer Wolke auf der anderen Seite

Wählen Sie lokale KI, wenn erlaubte Datenflüsse, geprüfte Aufgabenqualität und verfügbare Betriebsverantwortliche dafür sprechen. Wählen Sie eine EU-Cloud-Konfiguration, wenn sie dieselben Anforderungen mit einem für Ihr Unternehmen tragbaren Betrieb erfüllt. Entscheiden Sie anhand der konkreten Anwendung: Weder Serveradresse noch Tokenpreis allein klären Datenschutz, Nutzbarkeit oder Gesamtkosten.

Das Wichtigste in Kürze

  • Trennen Sie Ressourcenstandort und Verarbeitungsort. Bedrock-Inferenzprofile und Azure-Bereitstellungstypen beeinflussen den Ort der Ausführung.
  • Eine Zusage gegen Trainingsnutzung ist keine Zusage gegen Speicherung. Prüfen Sie Modell, Funktionen, Protokolle und Missbrauchsprüfung.
  • Vergleichen Sie Antworten anhand derselben erlaubten Aufgaben, bevor Sie einen Qualitätsunterschied zwischen lokalen und Cloud-Modellen unterstellen.
  • Berücksichtigen Sie Hardwareverteilung, Betriebsarbeit und Wiederherstellung im Budget. Das Beispiel unten ist eine unvollständige Planungsrechnung und kein Preisangebot.

01 / 08

Welche Anforderungen sollten die Wahl bestimmen?

Beginnen Sie mit der Aufgabe und ihren Informationsgrenzen. Beschreiben Sie Quellen, erlaubte Empfänger, erwartete Ausgabe und notwendige Prüfung durch Mitarbeitende. Klären Sie anschließend, wer die Anwendung betreut und nach einem Fehler wiederherstellt. Diese Anforderungen sollten beim Vergleich der Betriebsvarianten unverändert bleiben.

Vergleichen Sie die Varianten anhand der Tabelle mit Ihren Anforderungen.

Kriterium Lokaler Kandidat EU-Cloud-Kandidat Benötigter Nachweis
Sensibilität der Daten Lokale Kopien, Zugriffe und Anbindungen prüfen Erlaubte Weitergabe, Verträge und Verarbeitung prüfen Freigegebene Datenflussbeschreibung
Aufgabenqualität Gewähltes Modell und Konfiguration testen Gewähltes Modell und Bereitstellung testen Gleiche Aufgaben und Abnahmekriterien
Nachfrage Dauerlast und gleichzeitige Anfragen messen Menge, Spitzen und konfigurierte Grenzen erfassen Repräsentative Arbeitslast
Budget Hardware, Strom, Arbeit und Wiederherstellung Nutzung, Arbeit, Speicher und Wiederherstellung Vergleichbarer Kostenzeitraum
IT-Kapazität Hardware- und Anwendungsverantwortung zuweisen Cloud-Konfiguration und Anwendungsverantwortung zuweisen Benannte Zuständigkeit und Vertretung

Trennen Sie zwingende Bedingungen von Präferenzen. Ist ein Zielort nicht erlaubt, löst ein geringerer Preis diese Bedingung nicht. Bestehen beide Kandidaten die notwendigen Kontrollen, können Sie Betriebsaufwand sowie Prüf- und Korrekturzeit der Mitarbeitenden vergleichen.

02 / 08

Was belegt eine EU-Region tatsächlich?

In typischen EU-Projekten nutzen wir für Mandantendaten Modelle über AWS Bedrock und Azure OpenAI in EU-Regionen. Prüfen Sie Ressourcenstandort und tatsächlichen Verarbeitungsort für die gewählte Dienstkonfiguration getrennt.

AWS dokumentiert, dass ein geografisches Bedrock-Inferenzprofil innerhalb seiner Geografie bleibt, aber über die Ausgangsregion hinaus weiterleiten kann. Erfassen Sie das gewählte Profil und seine Zielregionen, statt nur die Region des Anfrageeingangs zu betrachten.

Ein dokumentiertes Beispiel ist das EU-Profil für Claude Haiku 4.5: eu.anthropic.claude-haiku-4-5-20251001-v1:0. AWS unterscheidet bedarfsabhängigen Zugriff über Geo-/Global-Profile am Runtime-Endpunkt von regionalem Zugriff, der für den Mantle-Endpunkt dokumentiert ist. Prüfen Sie deshalb den Endpunkt zusammen mit der Modellkennung.

Azure trennt ebenfalls Ressource und Inferenzbereich. Globale Bereitstellungen können weltweit verarbeiten; geografische und Data-Zone-Bereitstellungen haben andere Grenzen. Der Bereitstellungsleitfaden schließt EFTA-Standorte in die EU-Zone ein. Erfassen Sie den Bereitstellungstyp und nicht nur die Ressourcenregion.

Microsofts EU Data Boundary umfasst EU und EFTA und besitzt dokumentierte Ausnahmen. Sie ist keine Zusage einer ausschließlichen Verarbeitung in EU-Mitgliedstaaten.

Hinzu kommt ein ungeklärter Dokumentationswiderspruch: Die Azure-Datenschutzseite verwendet für Data Zone eine Formulierung zu EU-Mitgliedstaaten, während der Bereitstellungsleitfaden EFTA einschließt. Lassen Sie Vertragsumfang und Zielliste bestätigen, bevor Sie eine Verarbeitung ausschließlich in EU-Mitgliedstaaten zusagen. Nehmen Sie diese Bestätigung in die Projektnachweise auf.

03 / 08

Bedeutet „kein Training“ auch keine Aufbewahrung?

AWS erklärt, dass Bedrock-Eingaben und -Ausgaben nicht zum Training von AWS-Modellen oder Modellen Dritter verwendet werden. Das betrifft Trainingsnutzung, nicht jede Form von Speicherung oder Zugriff.

Die Dokumentation zur Missbrauchserkennung beschreibt modellabhängige Aufbewahrung, darunter bis zu 30 Tage für bestimmte genannte Modelle. Aufbewahrter regionsübergreifender Verkehr wird in Zielregionen gespeichert. Übertragen Sie diesen Zeitraum nicht auf alle Modelle und leiten Sie daraus keine vollständige Aufbewahrungsregel für Haiku ab.

Microsoft erklärt, dass Eingaben und Ausgaben ohne Erlaubnis oder Anweisung des Kunden nicht zum Training von Basismodellen genutzt werden. Zustandsbehaftete Funktionen und Missbrauchsprüfung können dennoch Speicherung umfassen. Prüfen Sie die tatsächlich aktivierten Funktionen und anwendbaren Prüfverfahren.

Zeichnen Sie den vollständigen Datenweg auf: Quelle, Prompt, abgerufene Passagen, Antwort, Ablaufprotokoll und Sicherung. Erfassen Sie Aufbewahrung und Zugriff für jede Kopie, auch für Kopien Ihrer eigenen Anwendung. Der Leitfaden zum Datenschutz bei der Dokumentenverarbeitung hilft bei dieser Bestandsaufnahme. Lassen Sie unbekannte Aufbewahrungsregeln offen, bis die ausgewählte Konfiguration geprüft wurde.

04 / 08

Welche Datenschutzprüfungen bleiben bei beiden Varianten?

Lokales Hosting beseitigt die Anforderungen an Zweck, rechtmäßige Verarbeitung, Datenminimierung und Aufbewahrung nicht. Nutzen Sie die Datenschutzgrundlagen des EDSA und dessen Hinweise zur rechtmäßigen Verarbeitung als Rahmen. Sammeln Sie mit der folgenden Prüfliste die Nachweise für Ihre Prüfung.

Prüfung Zu sammelnde Nachweise Primärquelle
Zweck und Rechtsgrundlage Aufgabe, notwendige Daten und Verarbeitungsgrundlage EDSA zur rechtmäßigen Verarbeitung
Minimierung und Aufbewahrung Kopien, Löschplan und Ausnahmen EDSA-Grundlagen
Rollen und Verträge Verantwortliche, Auftragsverarbeiter, Weisungen und Verzeichnis EDSA-FAQ
Standorte und Übermittlungen Verarbeitung, Speicherung, Support und administrative Zugriffe EDSA zu internationalen Übermittlungen
Sicherheit und Risikoprüfung Zugriffe, Updates, Wiederherstellung und Entscheidung zur Folgenabschätzung EDSA zur Sicherheit
Betroffenenrechte Verfahren für Auskunft, Berichtigung und Löschung EDSA zu Rechten

AWS weist dem Kunden ebenfalls Aufgaben zur Sicherheitskonfiguration und Verwaltung zu. Ein verwalteter Modelldienst ersetzt die Absicherung der umgebenden Anwendung nicht. Weisen Sie jeden offenen Prüfpunkt einer Person zu, die vor der Freigabe einen Nachweis liefern kann.

Berufliche Verschwiegenheit ist gesondert zu prüfen. Für deutsche Steuerberater enthält § 62a StBerG vertragliche Anforderungen bei Dienstleistungen; die österreichische Verschwiegenheitspflicht behandelt § 80 WTBG. EU-Hosting allein klärt diese Pflichten nicht. Der Beitrag zur Verschwiegenheit in Steuerkanzleien und die Leistungsseite für Rechtsanwälte liefern den zugehörigen Projektkontext.

Haben Sie so einen Workflow?

Erzählen Sie uns davon: ehrliche Einschätzung und ein grober Preis, meist innerhalb eines Tages.

Lokale KI →

05 / 08

Wie sollten Sie die Antwortqualität vergleichen?

Unterstellen Sie keinen Qualitätsrückstand lokaler Modelle. Bereiten Sie typische Aufgaben und erwartete Ergebnisse vor und führen Sie lokale und Cloud-Kandidaten mit denselben erlaubten Informationen aus. Halten Sie Versionen und Einstellungen fest und bewahren Sie Ergebnisse auf. Lassen Sie Fachverantwortliche Richtigkeit, Belege und nötige Nacharbeit bis zur nutzbaren Antwort bewerten.

Nehmen Sie schwierige Fälle, fehlende Informationen und Berechtigungsgrenzen auf. Eine hilfreiche Antwort mit einer verbotenen Quelle sollte den Vergleich nicht bestehen. Messen Sie erfolgreich abgeschlossene Aufgaben neben der Antwortzeit, statt erzeugten Text als erledigte Arbeit zu zählen. Der Abnahmeleitfaden für Wissensassistenten bietet dafür eine vorhandene Grundlage.

Trennen Sie Qualitäts- und Kapazitätsurteile. Eine richtige Antwort bei einem Einzeltest belegt noch kein akzeptables Verhalten während einer erwarteten Lastspitze. Ebenso beweist eine schnelle Antwort nicht, dass Mitarbeitende ihren Inhalt verwenden können. Vereinbaren Sie die Abnahmebedingungen vor der Bewertung der Kandidaten.

06 / 08

Was kostet eine beispielhafte Monatslast?

Stand: Oktober 2026. Die folgenden Annahmen wurden für dieses Planungsbeispiel am 4. Oktober 2026 gewählt. Sie sind keine Messungen, Personalempfehlungen oder Markttarife. Ersetzen Sie die Werte vor einer Ausgabenfreigabe durch Ihre eigenen Beobachtungen.

Planungsgröße Angenommener Wert
Abgeschlossene Anfragen 10.000 pro Monat
Durchschnittliche Gesamteingabe einschließlich Quelltext 2.000 Token je Anfrage
Durchschnittliche abgerechnete Ausgabe 500 Token je Anfrage
Zusätzliche Wiederholungen, Werkzeugaufrufe und Cache-Rabatte Keine in dieser vereinfachten Rechnung
Verteilungszeitraum der Hardware 36 Monate, nur Kostenplanung
Lokale Einschaltzeit 160 Stunden im Monat; sonst ausgeschaltet
Mittlere lokale Leistungsaufnahme an der Steckdose 0,100 kW, ungemessene Annahme
Strom 0,30 EUR/kWh, angenommener Tarif
Lokale Betriebsarbeit 2 Stunden × 60 EUR monatlich
Cloud-Betriebsarbeit 1 Stunde × 60 EUR monatlich
Sicherung und sonstige Rückstellung 10 EUR monatlich für jede Variante

Die angenommene Last ergibt 20 Millionen Eingabe-Token und 5 Millionen Ausgabe-Token monatlich. Anthropics öffentliche Liste (Seite 6) mit Gültigkeit ab 27. Mai 2026 nennt für Claude Haiku 4.5 auf Bedrock Standard, In-Region & Geo Cross Region, 1,10 USD Eingabe und 5,50 USD Ausgabe je Million Token, im Kontextpreisband bis 200K. Das ist ein datierter Rechenwert und kein bestätigter Oktobertarif.

Unter diesen Annahmen beträgt die Inferenz 20 × 1,10 USD + 5 × 5,50 USD = 49,50 USD monatlich. Mit angenommener Cloud-Arbeit und Rückstellung entstehen 49,50 USD + 70 EUR monatlich. Lassen Sie die Währungen getrennt, bis ein datierter Wechselkurs und die Steuergrundlage vorliegen.

Als lokaler Kaufwert dient der Einstiegspreis des Mac Studio M5 Max von 2.999 EUR einschließlich deutscher Mehrwertsteuer aus Apples Ankündigung vom 25. August 2026. Das ist kein aktuelles Warenkorbangebot.

07 / 08

Was fehlt in dieser Rechnung?

Mit den genannten Annahmen ergibt die Hardwareverteilung gerundet 2.999 EUR / 36 = 83,31 EUR monatlich. Energie: 0,100 kW × 160 Stunden = 16 kWh, beim angenommenen Tarif also 4,80 EUR. Zusammen mit 120 EUR Arbeit und 10 EUR Rückstellung entsteht eine unvollständige lokale Zwischensumme von 218,11 EUR monatlich. Der Verteilungszeitraum ist keine Aussage zur steuerlich vorgeschriebenen Abschreibung.

Beide Zwischensummen enthalten weder anfängliche Integration und Sicherheitseinrichtung noch Suchspeicher und Embeddings, Redundanz, Ausfallzeit oder Anwendungslizenzen. Für den lokalen Rechner wurde nicht nachgewiesen, dass er die angenommene Last innerhalb akzeptabler Antwortzeiten erledigt. Der Kaufwert enthält deutsche Mehrwertsteuer, die Cloud-Steuerbehandlung ist ungeklärt. Die Beträge sind keine vergleichbaren Endangebote und belegen keinen Preisvorteil.

Prüfen Sie auf der Azure-Preisseite die aktuellen Preise für Modell, Bereitstellung, Region, Währung und Steuergrundlage, bevor Sie eine Azure-Rechnung ergänzen. Behandeln Sie einen Platzhalter nicht als Preis von null.

Der RAG-Kostenleitfaden behandelt Suche und Wissenspflege. Der Vergleich zum selbst gehosteten Betrieb hilft bei der Zuordnung von Betriebs- und Wiederherstellungsarbeit. Berücksichtigen Sie diese Aufgaben auch dann, wenn die eigentliche Modellnutzung preislich gering erscheint.

08 / 08

Was gehört in die abschließende Entscheidung?

Dokumentieren Sie freigegebene Aufgabe, Datenfluss, Modell und Bereitstellung, bestätigten Verarbeitungsbereich, Aufbewahrungsregeln, Verträge, Prüfergebnisse und vergleichbare Kostenannahmen. Benennen Sie Verantwortliche für offene Punkte. Behaupten Sie keine Kostenschwelle, bevor Steuern, Wechselkurs, erfolgreicher Durchsatz und Betriebsarbeit auf gemeinsamer Grundlage stehen.

Geben Sie einen begrenzten Anwendungsfall frei und bewerten Sie ihn bei geänderten Quellen, Berechtigungen, Modellen oder Diensteinstellungen neu. Schulung gehört zum Projekt: Mitarbeitende müssen erlaubte Eingaben, Antwortprüfung und den Ersatzablauf bei Ausfall verstehen. Halten Sie diese Regeln in der KI-Richtlinie des Unternehmens fest. Weitere Orientierung bietet unsere Übersicht zu lokaler KI.

TeilenE-Mail

Weiterlesen

Lokale KI

Haben Sie so einen Workflow?

Erzählen Sie uns davon: ehrliche Einschätzung und ein grober Preis, meist innerhalb eines Tages.

Robert Van Ysendyck · Gründer und Geschäftsführer