KI-Sicherheit im Unternehmen: Risiken verstehen, bevor KI handeln darf
Generative KI kann Wissen zugänglich machen, Prozesse beschleunigen und Mitarbeitende entlasten. Sobald sie jedoch vertrauliche Daten verarbeitet, interne Quellen durchsucht oder als Agent selbst Aktionen ausführt, entstehen neue Angriffs- und Fehlermöglichkeiten. Dieser Leitfaden erklärt sie verständlich – für Unternehmen und für Menschen, die KI privat einsetzen.
Was Sie in diesem Beitrag lernen
KI-Sicherheit im Unternehmen 2026: Die größten Risiken – und wie Sie sich wirksam schützen
Wie Unternehmen ChatGPT, Claude, Gemini, Copilot, KI-Agenten und eigene KI-Anwendungen sicher einsetzen.
Generative KI ist in vielen Unternehmen längst angekommen. Mitarbeitende formulieren E-Mails mit ChatGPT, analysieren Dokumente mit Claude, erstellen Präsentationen mit Microsoft Copilot, recherchieren mit Gemini und lassen sich von Coding Agents bei der Softwareentwicklung unterstützen.
Der nächste Entwicklungsschritt geht noch weiter: KI-Systeme beantworten nicht mehr nur Fragen. Sie lesen E-Mails, durchsuchen Unternehmensdaten, bearbeiten Dateien, rufen APIs auf, schreiben Quellcode, erstellen Tickets und führen mehrstufige Aufgaben selbstständig aus.
Damit steigt nicht nur der Nutzen. Auch das mögliche Schadensausmaß verändert sich. Ein Chatbot, der eine falsche Antwort gibt, verursacht möglicherweise eine fehlerhafte Entscheidung. Ein KI-Agent mit Zugriff auf E-Mail, CRM, Dateisystem und Zahlungsprozesse kann dagegen Daten offenlegen, falsche Änderungen durchführen oder durch manipulierte Inhalte zu unerwünschten Aktionen verleitet werden.
KI-Sicherheit ist deshalb mehr als Datenschutz. Sie umfasst den Schutz vertraulicher Unternehmensdaten, die Integrität von Informationen und Entscheidungen, die Absicherung von KI-Modellen und Wissensquellen, die Kontrolle autonomer Agenten, die sichere Auswahl von Anbietern und Komponenten, die Vermeidung rechtlicher und wirtschaftlicher Schäden sowie die Vorbereitung auf KI-bezogene Sicherheitsvorfälle.
Warum dieses Thema so wichtig ist
Viele Menschen unterschätzen KI-Risiken, weil sie KI vor allem als hilfreiches Text- oder Recherchewerkzeug erleben. Das ist verständlich. Gerade deshalb ist Aufklärung so wichtig: Dieselben Systeme, die produktiver machen, können ohne passende Kontrollen vertrauliche Daten offenlegen, falsche Schlüsse ziehen, manipuliert werden oder durch zu weitreichende Rechte selbst Schäden auslösen.
Wer das versteht, trifft bessere Entscheidungen – im Unternehmen genauso wie privat. Genau darin liegt der eigentliche Mehrwert von KI-Sicherheit: nicht Angst vor KI, sondern ein klarerer, souveränerer und verantwortungsvollerer Umgang mit ihr.
Das Wichtigste in 90 Sekunden
1. KI als Werkzeug für Angreifer
Kriminelle nutzen generative KI für überzeugendere Phishing-Nachrichten, automatisierte Täuschung, Deepfake-Audio, gefälschte Videokonferenzen und die Skalierung klassischer Social-Engineering-Angriffe.
2. KI als Angriffsziel
KI-Anwendungen selbst können angegriffen werden – etwa durch Prompt Injection, manipulierte Wissensquellen, Modell- und Datenextraktion, missbräuchliche Tool-Aufrufe oder Schwächen in der Lieferkette.
3. KI als betrieblicher Risikofaktor
Auch ohne externen Angreifer entstehen Schäden: durch Halluzinationen, ungeprüften KI-Code, vertrauliche Eingaben, schlecht konfigurierte Agenten, fehlende Verantwortlichkeiten oder falsches Vertrauen in scheinbar plausible Antworten.
Ein KI-System darf niemals allein deshalb eine kritische Aktion ausführen, weil ein Sprachmodell sie für sinnvoll hält.
Sicherheitskritische Entscheidungen brauchen zusätzliche Kontrollen: technische Berechtigungsprüfungen, definierte Geschäftsregeln, Freigaben, Tool-Validierung, Protokollierung und klar begrenzte Ziele und Aktionen.Warum klassische IT-Sicherheit allein nicht genügt
Viele traditionelle Sicherheitsprinzipien bleiben gültig: Identitäts- und Zugriffsmanagement, Netzwerksegmentierung, Verschlüsselung, Patchmanagement, sichere Softwareentwicklung, Protokollierung, Lieferantenprüfung und Incident Response.
KI-Systeme bringen jedoch zusätzliche Eigenschaften mit. Sie verarbeiten natürliche Sprache nicht nur als Daten, sondern auch als mögliche Anweisung. Sie erzeugen probabilistische Ergebnisse. Sie können unrichtige Aussagen sehr überzeugend formulieren. Sie kombinieren Informationen aus verschiedenen Quellen. Und Agenten können auf Basis dieser Ergebnisse selbstständig Werkzeuge auswählen und Aktionen durchführen.
Deshalb kann ein Dokument gleichzeitig zwei Funktionen besitzen:
- Es enthält Informationen, die ein Agent auswerten soll.
- Es enthält Text, den das Modell fälschlicherweise als Handlungsanweisung interpretiert.
Genau daraus entsteht beispielsweise die Gefahr indirekter Prompt Injection. Das ist einer der wichtigsten Gründe, warum KI-Sicherheit als eigenes Thema ernst genommen werden muss.
Welche Unternehmenswerte müssen geschützt werden?
KI-Sicherheit sollte nicht bei der Frage beginnen, welches Modell eingesetzt wird. Sie sollte mit den zu schützenden Unternehmenswerten beginnen. Erst wenn klar ist, was schützenswert ist, lässt sich sinnvoll entscheiden, welche Kontrollen erforderlich sind.
| Schutzziel | Möglicher KI-bezogener Schaden |
|---|---|
| Vertraulichkeit | Geschäftsgeheimnisse, personenbezogene Daten oder Quellcode werden offengelegt. |
| Integrität | Wissensdaten, Zusammenfassungen, Empfehlungen oder Entscheidungen werden manipuliert. |
| Verfügbarkeit | KI-Dienste fallen aus oder verursachen unkontrollierte Kosten. |
| Authentizität | Deepfakes imitieren Geschäftsführung, Kunden oder Lieferanten. |
| Nachvollziehbarkeit | Entscheidungen und Tool-Aufrufe können später nicht rekonstruiert werden. |
| Rechtskonformität | Datenschutz-, Urheber-, Arbeits- oder AI-Act-Anforderungen werden verletzt. |
| Reputation | Falsche oder diskriminierende KI-Ausgaben gelangen zu Kunden oder in die Öffentlichkeit. |
| Geschäftsfortführung | Kritische Prozesse hängen von einem einzelnen Modell oder Anbieter ab. |
Fragen, die für jeden KI-Anwendungsfall beantwortet werden sollten
- Welche Daten verarbeitet das System?
- Welche Entscheidungen beeinflusst es?
- Auf welche Systeme darf es zugreifen?
- Welche Aktionen kann es auslösen?
- Wer trägt die Verantwortung?
- Wie hoch wäre der maximale Schaden bei einem Fehlverhalten?
- Wie schnell könnte das System gestoppt werden?
Die 11 wichtigsten KI-Risiken für Unternehmen
Die Risiken lassen sich am besten verstehen, wenn man sie als reale Unternehmenssituationen betrachtet – nicht als abstrakte Schlagworte.
Shadow AI und unkontrollierte Dateneingaben
Worum geht es? Mitarbeitende nutzen nicht freigegebene KI-Dienste, Browser-Plugins oder private Accounts und geben dabei interne Informationen ein.
Beispiel: Ein Vertriebsmitarbeiter lädt eine unveröffentlichte Preiskalkulation in einen privaten KI-Account.
- klare geschäftliche KI-Zugänge bereitstellen
- Datenklassifizierung definieren
- SSO und MFA nutzen
- Schulungen an realen Arbeitsbeispielen ausrichten
Direkte und indirekte Prompt Injection
Worum geht es? Manipulative Anweisungen beeinflussen das Modell – direkt im Chat oder indirekt über E-Mails, Webseiten, PDFs oder Wissensquellen.
Beispiel: Eine präparierte E-Mail veranlasst einen Agenten dazu, vertrauliche Informationen in eine externe Anfrage einzubauen.
- externe Inhalte als untrusted behandeln
- Tool-Rechte minimieren
- kritische Tool-Aufrufe validieren
- realistische Angriffsversuche testen
Übermäßige Handlungsbefugnisse von KI-Agenten
Worum geht es? Agenten erhalten zu weitreichende Rechte und dürfen Aktionen auslösen, die über ihren sinnvollen Aufgabenbereich hinausgehen.
Beispiel: Ein Einkaufsagent darf Stammdaten ändern und Zahlungen vorbereiten, obwohl er nur Rechnungen vorsortieren sollte.
- Least Privilege und Least Functionality
- Human in the Loop
- Zwei-Personen-Freigaben
- Kill Switch und Reversibilität
Manipulierte Wissensquellen und Data Poisoning
Worum geht es? Interne Dokumente, Trainingsdaten oder RAG-Quellen werden so verändert, dass das Modell falsche Schlüsse zieht.
Beispiel: Mehrere manipulierte Defect Reports führen dazu, dass ein kritisches Zahlungsrisiko als „unkritisch“ bewertet wird.
- Schreibrechte auf Wissensquellen begrenzen
- Versionierung und Freigabestatus pflegen
- Quelle und Herkunft dokumentieren
- kritische Aussagen gegen zweite Quellen prüfen
Halluzinationen und überzeugend falsche Antworten
Worum geht es? Modelle erzeugen plausible, aber falsche Aussagen, erfundene Quellen oder unzulässige Verallgemeinerungen.
Beispiel: Ein System erfindet eine nicht existente Quelle oder gibt eine falsche rechtliche Auskunft mit hoher sprachlicher Sicherheit.
- Risikostufen definieren
- Quellenprüfung und Fachfreigabe
- verbindliche Belegpflicht
- keine Blindvertrauen-Workflows
Offenlegung sensibler Informationen
Worum geht es? Vertrauliche Daten gelangen über Eingaben, Connectoren, Protokolle, Outputs oder fehlerhafte Berechtigungen an die falsche Stelle.
Beispiel: Ein Connector stellt mehr interne Dokumente bereit, als der Benutzer sehen dürfte.
- Datenminimierung und Maskierung
- Connectoren gruppenspezifisch einschränken
- Secrets nie direkt in Prompts geben
- Output- und Zugriffstests durchführen
Unsichere KI-Lieferketten
Worum geht es? Risiken entstehen durch Modelle, APIs, Frameworks, Plugins, Skills, MCP-Server, Bibliotheken oder Unterauftragnehmer.
Beispiel: Ein unsicheres Plugin oder eine kompromittierte Open-Source-Komponente gefährdet die gesamte KI-Anwendung.
- Anbieterprüfung standardisieren
- AI Bill of Materials pflegen
- Drittanbieter inventarisieren
- Notfallpläne für Ausfälle vorhalten
Unsicherer KI-generierter Code
Worum geht es? Coding Assistants liefern funktionierenden, aber sicherheitsanfälligen Code oder umgehen Schutzmechanismen.
Beispiel: Ein Datei-Upload funktioniert, prüft aber Dateitypen, Dateinamen oder gefährliche Inhalte nicht sauber.
- Sicherheitsanforderungen explizit formulieren
- isolierte Entwicklungsumgebungen nutzen
- SAST, DAST und Secret Scanning einsetzen
- sicherheitskritische Änderungen menschlich prüfen
Deepfakes, Identitätsbetrug und Social Engineering
Worum geht es? Stimmen, Videos, Texte oder Identitäten werden täuschend echt gefälscht, um Vertrauen auszunutzen.
Beispiel: Ein Deepfake-Anruf veranlasst eine dringende Auszahlung oder eine Änderung von Lieferantendaten.
- Zahlungsänderungen nie nur per Video bestätigen
- Rückruf über bekannte Kontaktdaten
- Zwei-Personen-Prinzip
- Mitarbeitende mit echten Szenarien sensibilisieren
Unkontrollierter Ressourcenverbrauch und Abhängigkeit
Worum geht es? Agenten geraten in Schleifen, verursachen hohe API-Kosten oder Unternehmen hängen zu stark von einem Anbieter ab.
Beispiel: Ein Agent führt immer neue Schleifen aus und verursacht unerwartet hohe API- und Infrastrukturkosten.
- Budgets, Rate Limits und Schrittlimits
- Abbruchbedingungen und Circuit Breaker
- Fallback-Prozesse ohne KI
- Versionen kontrolliert testen
Fehlende Nachvollziehbarkeit
Worum geht es? Unternehmen können später nicht mehr rekonstruieren, welches Modell, welche Daten, welche Prompt-Version oder welche Tools zum Ergebnis führten.
Beispiel: Nach einem Vorfall ist unklar, warum ein Agent eine bestimmte Aktion ausführte und wer sie freigegeben hat.
- Modell-, Prompt- und Tool-Logging
- Freigaben dokumentieren
- Änderungen nachvollziehbar versionieren
- Protokollierung mit Datenschutz abstimmen
Warum KI-Agenten das Schadenspotenzial verändern
Bei einem klassischen Chatbot kann der Nutzer eine Antwort kontrollieren, bevor er handelt. Bei Agenten können Wahrnehmung, Entscheidung und Aktion in einem automatisierten Ablauf zusammenfallen:
Eingangsdaten → Interpretation durch das Modell → Auswahl eines Werkzeugs → Aktion → Auswertung des Ergebnisses → nächste Aktion
Jeder dieser Schritte ist eine mögliche Fehler- oder Angriffsstelle. Das Modell kann ein Ziel falsch interpretieren. Es kann eine manipulierte externe Quelle zu stark gewichten. Es kann das falsche Tool auswählen. Oder es kann zwar das richtige Tool auswählen, aber mit falschen Parametern arbeiten.
Besondere Risiken agentischer Systeme
- manipulierte Ziele
- falsche Planung
- Tool-Missbrauch
- unzureichend geprüfte Tool-Ausgaben
- Identitäts- und Rechteübertragung
- unerwartete Interaktion mehrerer Agenten
- Verlust des ursprünglichen Auftrags bei langen Abläufen
- Weitergabe sensibler Daten zwischen Agenten
- schädliche oder kompromittierte Skills
- fehlende Stopbedingungen
Ebene 1: Sprachmodell
Das Sprachmodell interpretiert den Auftrag, verarbeitet Daten und schlägt eine Aktion vor. Genau darin liegt seine Stärke – aber auch seine Unsicherheit. Ein Sprachmodell ist kein Ersatz für harte Sicherheitslogik.
Ebene 2: Deterministische Kontrollschicht
Diese Schicht prüft unabhängig vom Modell, ob der Agent ein Tool verwenden darf, ob Ziel und Betrag erlaubt sind, ob Pflichtfelder vorhanden sind, ob eine Freigabe erteilt wurde und ob sensible Daten betroffen sind.
Der wichtigste Grundsatz lautet: Das Modell darf die Kontrollschicht nicht selbst überschreiben können.
AI Act, DSGVO, NIS2 und Standards
KI-Sicherheit ist nicht mit rechtlicher Compliance gleichzusetzen. Beide Bereiche überschneiden sich, sind aber nicht identisch. Ein technisch sicheres System kann rechtswidrig eingesetzt werden. Ein formal dokumentiertes System kann zugleich technisch schlecht abgesichert sein.
EU AI Act
Der EU AI Act trat am 1. August 2024 in Kraft. Die Vorgaben zu verbotenen Praktiken und KI-Kompetenz gelten seit dem 2. Februar 2025. Weitere zentrale Regelungen – darunter Transparenzpflichten für bestimmte KI-generierte oder manipulierte Inhalte – werden ab dem 2. August 2026 relevant. Unternehmen sollten hier immer den jeweils aktuellen Rechtsstand prüfen.
Besonders wichtig ist die Pflicht zur AI Literacy: Organisationen, die KI-Systeme bereitstellen oder verwenden, müssen angemessene Maßnahmen treffen, damit beteiligte Personen über ausreichende KI-Kompetenz verfügen.
DSGVO
Sobald personenbezogene Daten verarbeitet werden, bleiben Rechtsgrundlage, Zweckbindung, Datenminimierung, Transparenz, Betroffenenrechte, Auftragsverarbeitung, internationale Übermittlungen und technische sowie organisatorische Maßnahmen relevant. Bei hohem Risiko kann außerdem eine Datenschutz-Folgenabschätzung erforderlich sein.
NIS2
Für von NIS2 erfasste Einrichtungen gelten Anforderungen an das Cyberrisikomanagement. KI-Systeme sollten deshalb nicht isoliert als Innovationsthema behandelt, sondern in bestehende Cybersecurity-, Lieferketten- und Vorfallprozesse eingebunden werden.
Standards als Managementgrundlage
- ISO/IEC 42001 für KI-Managementsysteme
- ISO/IEC 23894 für KI-Risikomanagement
- ISO/IEC 42005 für AI Impact Assessments
Ein Schutzprogramm für Unternehmen in 12 Schritten
Vollständiges KI-Inventar erstellen
Erfassen Sie nicht nur offiziell beschaffte Systeme, sondern auch Chatbots, Copilots, Browser-Erweiterungen, KI-Funktionen in SaaS-Produkten, APIs, interne RAG-Systeme, lokale Modelle, Coding Assistants, Agenten und MCP-Server.
Anwendungsfälle statt Produktnamen bewerten
„Wir verwenden Copilot“ ist keine Risikobeschreibung. Der gleiche Dienst kann harmlose Formulierungshilfe oder hochkritische Vertragsanalyse unterstützen.
Risikoklassen definieren
Unterscheiden Sie mindestens zwischen niedrig, mittel, hoch und kritisch – und koppeln Sie daran konkrete Mindestkontrollen.
Freigegebene KI-Werkzeuge bereitstellen
Ein reines Verbot fördert oft Schattennutzung. Mitarbeitende brauchen sichere, funktionierende und verwaltbare Alternativen.
Verbindliche Datenregeln erstellen
Legen Sie anhand klarer Beispiele fest, welche Daten zulässig, nur in geschäftlichen Systemen erlaubt oder ohne Sonderfreigabe grundsätzlich tabu sind.
Identity und Access Management integrieren
SSO, MFA, rollenbasierte Rechte, kurzlebige Tokens und separate Agentenidentitäten sind Pflicht, sobald KI Zugriff auf Unternehmenssysteme bekommt.
Secure by Design entwickeln
Bedrohungsmodellierung, Lieferkettensicherheit, Infrastrukturabsicherung und Betriebskontrollen müssen über den gesamten KI-Lebenszyklus mitgedacht werden.
Vor dem Einsatz evaluieren
Testen Sie nicht nur Idealfälle, sondern auch unvollständige Eingaben, widersprüchliche Dokumente, Prompt Injection, Datenextraktionsversuche und Tool-Missbrauch.
Menschliche Freigaben risikobasiert einsetzen
Kritische Vorgänge wie Zahlungen, Berechtigungsänderungen, Veröffentlichungen, Löschungen oder externe Kommunikation mit rechtlicher Wirkung dürfen nicht vollautomatisch laufen.
Laufend überwachen
Überwachen Sie ungewöhnliche Eingabemuster, neue externe Ziele, ungewöhnliche Tool-Aufrufe, steigende Kosten, Antwortqualitätsänderungen und Modellwechsel.
KI-Incident-Response vorbereiten
Ein KI-Vorfall kann Cybersecurity-, Datenschutz-, Lieferketten- und Kommunikationsaspekte gleichzeitig berühren. Entsprechend breit muss der Notfallplan aufgestellt sein.
KI-Kompetenz nach Rollen aufbauen
Geschäftsführung, Einkauf, Datenschutz, Informationssicherheit, Entwicklung und Fachanwender brauchen unterschiedliche, aber jeweils ausreichende KI-Kompetenz.
Was tun bei einem vermuteten KI-Sicherheitsvorfall?
Phase 1: Sofort eindämmen
- Agent deaktivieren
- API-Schlüssel und Tokens widerrufen
- Connector trennen
- Schreibrechte entfernen
- ausgehenden Netzwerkzugriff blockieren
- verdächtige Skill- oder Modell-Version sperren
Phase 2: Beweise sichern
- relevante Logs sichern
- Modell- und Prompt-Version dokumentieren
- verwendete Dokumente erhalten
- Tool-Aufrufe und Zielsysteme erfassen
- Zeitablauf rekonstruieren
- nachträgliche Veränderungen vermeiden
Phase 3: Schaden bestimmen
- Welche Daten waren erreichbar?
- Welche Daten wurden übertragen?
- Welche Aktionen wurden durchgeführt?
- Welche Personen oder Systeme sind betroffen?
- Wurden weitere Agenten beeinflusst?
Phase 4 bis 6: Prüfen, lernen, regressionssicher machen
- Meldepflichten prüfen
- Ursache und Kontrollversagen analysieren
- nicht nur die Eingabe, sondern auch die Architektur bewerten
- jeden bestätigten Vorfall als dauerhaften Testfall ergänzen
Ein realistischer Umsetzungsplan für die ersten 90 Tage
Tage 1 bis 30: Transparenz schaffen
- KI-Inventar beginnen
- besonders riskante Schattennutzung identifizieren
- Sofortregel für vertrauliche Daten veröffentlichen
- Verantwortliche benennen
- kritische Agenten und Connectoren prüfen
- freigegebenes Werkzeug festlegen
Tage 31 bis 60: Kontrollen etablieren
- Anwendungsfälle klassifizieren
- Anbieterprüfung standardisieren
- SSO, Rollen und Aufbewahrung konfigurieren
- Datenklassen konkretisieren
- Freigabepunkte definieren
- Logging und Kostenalarme aktivieren
Tage 61 bis 90: Wirksamkeit testen
- Red-Team-Übung durchführen
- Deepfake- und Zahlungsbetrugsszenario proben
- Incident-Response-Prozess testen
- mindestens einen kritischen Anwendungsfall evaluieren
- Kennzahlen an die Geschäftsführung berichten
- Erkenntnisse in Regeln und Schulungen übertragen
Woran man Fortschritt erkennt
- mehr Transparenz über eingesetzte Systeme
- klarere Datenregeln
- weniger Schattennutzung
- kontrollierte Agentenrechte
- bessere Nachvollziehbarkeit
- schnellere Reaktion auf Vorfälle
Was auch Privatpersonen daraus lernen können
Warum KI-Sicherheit nicht nur Unternehmen betrifft
Auch privat ist KI-Sicherheit wichtig. Viele Menschen nutzen KI für Bewerbungen, E-Mails, Recherchen, Lernhilfe, private Finanzen oder Gesundheitsfragen. Sobald dabei persönliche, vertrauliche oder sensible Informationen ins Spiel kommen, entstehen ähnliche Grundprobleme wie in Unternehmen – nur im kleineren Maßstab.
Wichtige Grundregeln für den privaten Alltag
- Geben Sie keine Passwörter, TANs, Ausweisdaten oder Gesundheitsdaten leichtfertig in frei verfügbare KI-Tools ein.
- Verwechseln Sie überzeugende Sprache nicht mit Wahrheit. Prüfen Sie besonders bei Recht, Medizin, Finanzen und Sicherheit immer nach.
- Seien Sie bei Audio- und Videonachrichten skeptisch, wenn Geld, Dringlichkeit oder Druck im Spiel sind.
- Nutzen Sie unterschiedliche Konten für private und geschäftliche Zwecke.
- Lesen Sie Datenschutzhinweise und prüfen Sie, ob Inhalte zu Trainingszwecken verwendet werden könnten.
- Misstrauen Sie Aussagen wie „Das hat die KI gesagt, also wird es stimmen“.
Der wichtigste Lerneffekt ist derselbe wie im Unternehmen: KI ist nützlich, aber sie braucht Grenzen, Prüfung und gesunden Menschenverstand.
Häufig gestellte Fragen zur KI-Sicherheit
Ist ChatGPT für Unternehmen sicher?
Das hängt vom konkreten Produkt, den Einstellungen und dem Anwendungsfall ab. Geschäftliche Angebote können zusätzliche Datenschutz-, Identitäts- und Administrationskontrollen bereitstellen. Trotzdem müssen Unternehmen Datenarten, Connectoren, Benutzerrechte, Aufbewahrung und den konkreten Einsatz prüfen. Ein Enterprise-Tarif ersetzt keine interne Risikobewertung.
Darf man personenbezogene Daten in eine KI eingeben?
Das lässt sich nicht pauschal mit Ja oder Nein beantworten. Entscheidend sind unter anderem Zweck, Rechtsgrundlage, Datenminimierung, Anbieterrolle, Vertrag, Speicherort, Schutzmaßnahmen und Betroffenenrechte. Bei hohem Risiko kann eine Datenschutz-Folgenabschätzung erforderlich sein.
Was ist der Unterschied zwischen Prompt Injection und Jailbreak?
Bei einem Jailbreak versucht ein Benutzer typischerweise, Sicherheitsregeln eines Modells bewusst zu umgehen. Prompt Injection ist weiter gefasst und kann auch indirekt über Dokumente, Webseiten oder E-Mails erfolgen. Gerade für Agenten ist die indirekte Variante besonders relevant.
Kann Prompt Injection vollständig verhindert werden?
Nicht durch eine einzelne Promptformulierung. Das Risiko muss durch mehrere Ebenen reduziert werden: minimale Berechtigungen, Isolation, Tool-Validierung, Freigaben, Netzwerkkontrollen, Überwachung und realistische Tests.
Ist RAG automatisch sicherer als ein allgemeines Sprachmodell?
Nicht automatisch. RAG kann Antworten stärker an Unternehmensquellen binden. Gleichzeitig entstehen neue Risiken durch manipulierte Dokumente, falsche Berechtigungen, veraltete Quellen und indirekte Prompt Injection.
Müssen kleine Unternehmen ein KI-Managementsystem einführen?
Nicht jedes kleine Unternehmen braucht sofort eine formale ISO-Zertifizierung. Aber auch kleine Organisationen sollten Systeme inventarisieren, Datenregeln festlegen, Anbieter prüfen, Verantwortlichkeiten benennen und kritische Aktionen absichern.
Reicht eine KI-Richtlinie aus?
Nein. Eine Richtlinie beschreibt erwartetes Verhalten. Technische Kontrollen begrenzen tatsächliche Möglichkeiten. Für kritische Risiken werden beide benötigt: klare Regeln und wirksame Umsetzung.
Ist KI-Sicherheit Aufgabe der IT?
Nicht allein. Informationssicherheit, Datenschutz, Recht, Einkauf, Entwicklung, Fachbereiche und Geschäftsführung tragen unterschiedliche Verantwortlichkeiten. Genau deshalb braucht KI-Sicherheit Governance und keine Einzellösung.
Fazit: KI-Sicherheit beginnt nicht beim Modell
Die wichtigste Frage lautet nicht: Ist ChatGPT, Claude, Gemini oder Copilot sicher?
Die wichtigere Frage lautet: Für welche Aufgabe, mit welchen Daten, unter welchen Berechtigungen und mit welchen Kontrollen wird das System eingesetzt?
Ein harmloser Chatbot ohne interne Daten besitzt ein anderes Risikoprofil als ein Agent mit Zugriff auf E-Mail, CRM und ERP. Dass beide möglicherweise dasselbe Basismodell verwenden, ist für das tatsächliche Unternehmensrisiko zweitrangig.
KI-Sicherheit = Governance + technische Kontrollen + menschliche Kompetenz + kontinuierliche Prüfung
Unternehmen müssen KI nicht verhindern, um sie sicher einzusetzen. Sie müssen sichtbar machen, wo sie eingesetzt wird, welche Werte betroffen sind, welche Aktionen möglich sind und wer die Verantwortung trägt.Der gefährlichste KI-Agent ist nicht zwingend der technisch leistungsfähigste. Es ist der Agent, dessen Rechte, Datenzugriffe und Entscheidungen niemand vollständig überblickt.
Quellen und weiterführende Standards
Die folgenden Quellen bilden die fachliche Grundlage dieses Beitrags. Sie sind bewusst so gewählt, dass sowohl Unternehmen als auch interessierte Privatpersonen sehen können, worauf sich die wichtigsten Aussagen stützen.
OWASP
EU, Datenschutz und Standards
Die wichtigsten KI-Sicherheitsrisiken im Überblick
Die Grafik fasst die zentralen Risiken kompakt zusammen. Ein Klick auf das Bild öffnet die Originalgröße in einem neuen Tab.
Brauchen Sie Unterstützung beim sicheren Einsatz von KI?
Wir unterstützen Unternehmen dabei, KI nicht nur produktiv, sondern kontrolliert, nachvollziehbar und sicher einzusetzen.
Gemeinsam klären wir, welche KI-Systeme und Anwendungsfälle tatsächlich genutzt werden, welche Daten und Prozesse betroffen sind und welche organisatorischen sowie technischen Maßnahmen sinnvoll sind.