KI-Lexikon für KMU

Lokales Modell

Ein lokales Modell ist ein KI-Sprachmodell, das auf der eigenen Hardware betreiben wird, das heisst auf einem Server im Unternehmen oder einem lokalen Computer . Im Unterschied zu externen Cloud-Diensten verlassen lokale Modelle das Unternehmensnetzwerk nie: Alle Anfragen und alle verarbeiteten Daten bleiben im eigenen Haus. Das hat Vorteile in Bezug auf den Datenschutz, aber erfordert Fachkenntnis im Aufsetzen solcher Systeme und laufende Pflege.

Was bedeutet das für Ihr KMU?

Für Branchen mit sensiblen Daten — Medizin, Recht, Steuerberatung, Fertigung mit Betriebsgeheimnissen — sind lokale Modelle die einzige Option, wenn keine Daten konsequent an externe Anbieter übertragen werden dürfen. Der Preis für diese Datensouveränität ist höher: Sie brauchen geeignete Hardware, IT-Know-how für Betrieb und Updates sowie mehr Aufwand beim Modell-Auswahlprozess, da Sie öffentlich verfügbare Open-Source-Modelle selbst evaluieren müssen. Ein pragmatischer Ansatz für viele KMU: nicht-sensible Aufgaben über Cloud-Dienste abwickeln, für kritische Daten ein lokales Modell vorhalten. Natürlich lohnt es sich, die Bestimmungen der jeweiligen Dienste genau zu lesen. Ein AV-Vertrag (Auftragsdatenverarbeitung) sollte dabei am besten immer vorliegen.


Autor:

Tilman Möller, zertifizierter KI-Berater, Fachdozent HAW Hamburg, INTEGRI KMU-Beratung seit 2012