LLM-Sicherheit: Die Risiken von Sprachmodellen und wie Unternehmen sie kontrollieren
Large Language Models (LLMs) sind leistungsfähig, aber sie bringen eigene Sicherheitsrisiken mit, die klassische IT-Security nur teilweise abdeckt. Wer LLMs im Unternehmen einsetzt, sollte die wichtigsten Risikoklassen kennen – und wissen, welche davon der Anbieter adressieren muss und welche im eigenen Haus liegen.
Eine gute Orientierung bietet die OWASP-Top-10-Liste für LLM-Anwendungen, die die häufigsten Schwachstellen systematisiert.
Datenabfluss: Das größte Alltagsrisiko
Das wahrscheinlichste Sicherheitsproblem ist kein raffinierter Angriff, sondern Alltag: Vertrauliche Daten werden in Tools eingegeben, die sie speichern, weiterverwenden oder in Drittstaaten verarbeiten. Die Gegenmaßnahmen sind organisatorisch und vertraglich – zentrale Plattform statt privater Accounts, kein Training mit Eingaben, Datenhaltung in der EU oder der Schweiz, klare Datenklassen in der KI-Richtlinie.
Prompt Injection: Wenn Dokumente Anweisungen enthalten
Bei einer Prompt Injection werden Anweisungen in Inhalte eingeschleust, die das Modell verarbeitet – etwa in einem hochgeladenen Dokument oder einer angebundenen Webseite. Das Modell kann so zu unerwünschtem Verhalten verleitet werden, zum Beispiel zur Preisgabe von Kontextinformationen.
Wirksame Gegenmaßnahmen kombinieren technische Härtung durch den Plattformanbieter (Trennung von Anweisungen und Inhalten, restriktive Werkzeugrechte) mit gesunder Praxis: KI-Ausgaben mit Folgewirkung – etwa in Workflows – gehören hinter menschliche Freigaben.
Halluzinationen: Überzeugend, aber falsch
Sprachmodelle erzeugen plausible Texte – auch dann, wenn die Faktenlage dünn ist. Im Unternehmenskontext hilft dreierlei: Antworten auf die eigene, kuratierte Wissensbasis stützen statt auf das freie Modellwissen, Quellenangaben anzeigen, und den Grundsatz „prüfen vor verwenden“ in der KI-Richtlinie verankern. Für kritische Dokumente bleibt die fachliche Prüfung Pflicht.
Zugriff und Nachvollziehbarkeit
LLM-Sicherheit ist auch Zugriffssicherheit: Wer darf welche Assistenten, Quellen und Workflows nutzen? Eine Unternehmensplattform sollte dafür Rollen und Rechte, SSO-Anbindung und Audit-Logs mitbringen. So bleibt nachvollziehbar, wer wann was mit welchen Daten getan hat – die Grundlage für jede Sicherheitsanalyse und jede Compliance-Prüfung.
Häufige Fragen
Was ist der Unterschied zwischen Prompt Injection und Jailbreak?
Ein Jailbreak versucht, die Schutzmechanismen eines Modells direkt im Dialog auszuhebeln. Prompt Injection schleust Anweisungen über verarbeitete Inhalte ein – etwa Dokumente oder Webseiten – und ist damit besonders relevant, sobald KI mit externen Datenquellen arbeitet.
Können Halluzinationen vollständig verhindert werden?
Nein. Sie lassen sich durch gute Wissensanbindung, Quellenangaben und geeignete Modelle deutlich reduzieren, aber nicht ausschließen. Deshalb gehört die fachliche Prüfung von KI-Ausgaben in jede KI-Richtlinie.
Wer ist für LLM-Sicherheit verantwortlich – Anbieter oder Unternehmen?
Beide. Der Anbieter verantwortet Infrastruktur, Härtung und Datenverträge; das Unternehmen verantwortet Datenklassen, Zugriffe, Schulung und die Prüfung der Ausgaben. Sicherheitslücken entstehen meist dort, wo diese Verantwortungsteilung unklar ist.
Weiterführende Inhalte
Bringen Sie KI sicher in Ihr Unternehmen.
Testen Sie Vidimas mit Ihrem Team – und erleben Sie, wie schnell sichere KI produktiv wird.
- Mit dem ganzen Team testen
- In Minuten eingerichtet
- Sofort produktiver arbeiten