Titelbild: Sicherheit in KI: Was vor der Skalierung auditiert werden sollte
IA

Sicherheit in KI: Was vor der Skalierung auditiert werden sollte

Fünf Bereiche, ein 30-Tage-Plan und die Mythen, die teuer zu stehen kommen. Was vor der Skalierung des Einsatzes von KI im Unternehmen auditiert werden sollte.

Por Agência Kaizen6 Min. Lesezeit

Compartilhar

Die Sicherheit in der KI ist die Gesamtheit der Kontrollen, die verhindert, dass ein Modell sensible Daten preisgibt, Informationen als Fakten erfindet oder durch bösartigen Text manipuliert wird. Die minimale Prüfung hat fünf Bereiche: welche Daten eingegeben werden, wer sieht, was herauskommt, welche Werkzeuge das Modell aktivieren kann, wie jede Antwort protokolliert wird und wer vor der Veröffentlichung überprüft. Ein Unternehmen, das diesen Schritt überspringt, skaliert ein unsichtbares Risiko — und das ist zu Beginn leicht zu lösen.

Die Frage hat sich von "Werden wir KI nutzen?" zu "Mit welchen Grenzen?" gewandelt. Im Jahr 2026 hat fast jeder Geschäftsbetrieb einen Assistenten, der E-Mails schreibt, WhatsApp-Gespräche analysiert oder CRM ausfüllt. Das Risiko liegt nicht darin, dass das Modell dumm ist; es liegt darin, dass es einer Anweisung folgt, die von jemandem gegeben wurde, der es nicht hätte tun sollen.

Die fünf Risiken, die wirklich auftreten

  1. Datenleck. Jemand fügt einen Vertrag, eine CPF oder die Margenübersicht in einen öffentlichen Assistenten ein. Die Information entzieht sich Ihrer Kontrolle und kehrt nicht zurück.
  2. Injektionsanweisung. Ein Text von außen — Webseite, E-Mail, Kundenbotschaft — enthält Befehle, denen das Modell folgt und dabei die Regeln des Systems ignoriert.
  3. Halluzination mit Vertrauen. Das Modell antwortet mit erfundenen Zahlen und Quellen, im gleichen Ton wie die Wahrheit. In öffentlichen Inhalten zerstört dies die Autorität.
  4. Automatisierung ohne Bremsen. Der Agent sendet Nachrichten, erstellt Rabatte oder löscht Aufzeichnungen ohne menschliche Genehmigung.
  5. Nicht vorhandene Spur. Es gibt keinen Nachweis darüber, wer was angefordert hat, was das Modell geantwortet hat und was veröffentlicht wurde.

Minimale Prüfung, Block für Block

Bereich Kontrollfrage Erwarteter Nachweis
DatenWelche Kategorien gelangen in das Prompt?Liste mit markierten persönlichen und finanziellen Daten
ZugriffWer kann welches Werkzeug nutzen?Profil mit minimalen Berechtigungen
AusgabeWas sieht der Benutzer von der Argumentation?Bildschirm ohne interne Daten
AktionWas kann die KI selbst ausführen?Liste mit dem, was menschliche Genehmigung erfordert
ProtokollWas wird aufgezeichnet und wie lange?Log mit Datum, Autor und Inhalt

1. Klassifizieren Sie die Daten, bevor Sie das Prompt schreiben

Trennen Sie, was in ein externes Modell gehen kann, von dem, was nicht kann. Persönliche Daten von Kunden, Vertragsinformationen, Margen und strategische Planung gehören in die zweite Gruppe. Aus dieser Liste entscheiden Sie, wo jeder Assistent läuft: öffentliche Version, Unternehmensversion mit deaktivierter Speicherung oder internes Modell.

2. Behandeln Sie Texte von Dritten als feindlichen Eingang

Webseite, Anhang, Kommentar und WhatsApp-Nachricht sind unzuverlässige Eingaben. Das Modell sollte diesen Inhalt als Daten empfangen, niemals als Anweisung. In der Praxis: separater Block im Prompt, explizite Regel, dass darin keine gültigen Befehle enthalten sind, und menschliche Überprüfung, wenn die Antwort das Veröffentlichen, Senden oder Ändern von Aufzeichnungen betrifft.

3. Menschliche Genehmigung für jede externe Aktion

Einfache Regel, die den Großteil löst: Die KI kann recherchieren, entwerfen und vorschlagen; das Veröffentlichen, Senden, Planen, Verbinden und Ändern sensibler Daten erfordert Genehmigung. Das ist der Unterschied zwischen einem Assistenten und einem Praktikanten mit dem Passwort für die Bank.

4. Protokollieren Sie jede relevante Interaktion

Log mit Datum, Benutzer, zusammengefasstem Prompt, Antwort und was danach gemacht wurde. Ohne Protokoll gibt es keine Möglichkeit, Vorfälle zu untersuchen oder die Konformität zu beweisen, wenn ein Kunde fragt.

5. Kombinieren Sie die rechtliche Grundlage, improvisieren Sie nicht

Wer persönliche Daten von Kunden verarbeitet, muss die rechtliche Grundlage, die Aufbewahrungsfrist und den Kanal zur Antwort an den Betroffenen kennen. Generative KI schafft keine Ausnahme: Die Daten bleiben Daten — siehe Datenschutz im Marketing.

Nutzen Sie KI im Kundenservice und wissen nicht, was aufgezeichnet wird? Machen Sie die kostenlose Diagnose mit der Agentur Kaizen.

Ein 30-Tage-Plan

  • Woche 1: Inventar. Listen Sie alle verwendeten Assistenten auf, auch diejenigen, die jemand eigenständig geöffnet hat.
  • Woche 2: Klassifizierung. Markieren Sie, was jeder erhält und generiert; sperren Sie, was nicht sein sollte.
  • Woche 3: Regeln. Menschliche Genehmigung für externe Aktionen, Protokollierung von Interaktionen, Vorfallskanal.
  • Woche 4: Test. Simulieren Sie einen Injektionsfall und einen Leckfall. Wenn die Antwort ohne Barriere herauskommt, gibt es keine Kontrolle.

Beispiel aus dem Sektor

Ein Kundenservice mit automatisiertem WhatsApp erhielt Nachrichten von Kunden mit Links zu einer Seite. Die Seite enthielt versteckte Anweisungen, die den Assistenten aufforderten, das Verkaufsskript offenzulegen und einen Rabatt anzubieten. Da der externe Text als Anweisung behandelt wurde, folgte der Agent. Die Korrektur bestand im Design: Externer Inhalt wurde in einen isolierten Block eingefügt, und jeder Rabatt musste nun von einem Menschen genehmigt werden. Das Modell änderte sich nicht; der Prozess änderte sich.

Wie man Reife misst, ohne es kompliziert zu machen

Geben Sie jeder Kategorie — Daten, Zugriff, Ausgabe, Aktion und Protokoll — eine Note von 0 bis 2. Eine Summe unter 6 ist ein Betrieb ohne Kontrolle; zwischen 6 und 8 erfordert einen Plan mit Frist; über 9 ist bereit zu wachsen. Wiederholen Sie dies jedes Quartal, da jedes neue Werkzeug das Design ändert.

Das Modell ist nicht das einzige Risiko

Die Hälfte der Vorfälle, die in der Praxis auftreten, stammt nicht vom Modell, sondern von der Erweiterung: Plugin, das das gesamte E-Mail-Postfach liest, Agent, der mit Administratorberechtigung mit dem CRM verbunden ist, Integration, die den Zugriffsschlüssel im Code als Text speichert.

Bevor Sie das Prompt prüfen, prüfen Sie die Verbindung:

Verbindung Risiko Minimale Kontrolle
E-Mail-Postfachliest Nachrichten von Dritten als AnweisungLeseberechtigung auf einen Ordner beschränkt
CRMÄndern oder Exportieren der gesamten DatenbankZugriff schrittweise, nicht als Administrator
Schlüssel und TokenLeck in Log oder RepositoryGeheimnis im Tresor, vierteljährliche Rotation
SpeicherungKopie eines Dokuments ohne Fristdefinierte Aufbewahrung und automatische Löschung

Dieses Schema ist der mühsame Teil und der, der am meisten Kopfschmerzen vermeidet: Jede Berechtigung, die der Agent nicht benötigt, ist ein Unfall, der nicht passiert.

Mythen, die teuer sind

  • "Wir verwenden nur die Unternehmensversion, also sind wir sicher." Die Unternehmensversion verhindert nicht, dass jemand Daten einfügt, die er nicht sollte.
  • "Das Modell ist gut, es macht keine Fehler." Jedes Modell macht Fehler und das mit Überzeugung.
  • "Protokollierung ist Bürokratie." Protokollierung ist das, was es ermöglicht, am selben Tag auf den Kunden und die Prüfung zu antworten.
  • "Sicherheit ist nur die Aufgabe der IT." Wer den Alltag betreibt, definiert die Daten, die eingegeben werden.

FAQ

Brauche ich eine schriftliche KI-Nutzungsrichtlinie?

Ja, und kurz. Eine Seite mit dem, was erlaubt ist und was nicht, wo die menschliche Genehmigung erforderlich ist und an wen Vorfälle gemeldet werden, ist mehr wert als ein 40-seitiges Handbuch, das niemand liest.

Kann ich ChatGPT oder Gemini mit Kundendaten verwenden?

Nur wenn der Vertrag des Tools die Nichtnutzung für Training und die festgelegte Speicherung garantiert und die Daten innerhalb der von Ihrer Richtlinie erlaubten Kategorie liegen. Im Zweifel anonymisieren.

Wie verhindere ich, dass der Agent alleine Mist baut?

Minimale Berechtigung und Genehmigung durch externe Aktionen. Beginnen Sie damit, dass der Agent Vorschläge macht und der Mensch klickt.

Ist Sicherheit in der KI teuer?

Das Design kostet Wochen, nicht die Lizenz des Anbieters. Teuer ist der Vorfall: offengelegte Verträge, unrechtmäßige Rabatte, veröffentlichte Beiträge mit Kundendaten. Siehe auch KI-Governance und KI im Kundenservice.

Wo anfangen, wo es am meisten schmerzt

Beginnen Sie mit den Daten. Wenn Sie nicht wissen, welche Informationen heute in Ihren Assistenten eingegeben werden, ist dies der einzige Punkt auf der Liste, den Sie diese Woche lösen sollten. Danach menschliche Genehmigung für alle externen Aktionen. Diese beiden zusammen lösen den Großteil des Risikos, das Angst macht, und können ohne einen Werkzeugwechsel umgesetzt werden.

Lesen Sie auch:

Die Agentur Kaizen implementiert KI-Agenten mit Datenkontrolle, menschlicher Genehmigung und Interaktionsprotokoll. Sprechen Sie mit uns für eine Diagnose dessen, was heute läuft.

Lesen Sie auch: 6 ELEMENTE, DIE NICHT FEHLEN DÜRFEN.

Quer Aprender Mais?

Junte-se à Universidade Kaizen e tenha acesso a cursos gratuitos, trilhas de aprendizado completas e conteúdo exclusivo para profissionais que querem dominar as melhores práticas do mercado.