Claude: Prüfung vor der Aktion

Ein KI-Agent soll eine Kundenliste bearbeiten. Darf er sie dafür an einen anderen Dienst weitergeben? Solche Entscheidungen gehören in verbindliche Betriebsregeln. Bei Claude Enterprise lässt sich dafür jetzt eine zusätzliche technische Prüfung einziehen.

Anthropic hat am 5. November 2026 neue Sicherheitsfunktionen vorgestellt. Die sogenannten Inference Hooks sind laut Anbieter nun allgemein verfügbar: Sie können Eingaben vor der Modellantwort und Werkzeugaufrufe vor ihrer Ausführung prüfen lassen. Dieser Beitrag schaut auf genau diese Kontrollstelle. Was kann sie verhindern, und wo bleibt Verantwortung beim Unternehmen?

Die Regeln kommen aus dem Betrieb

Vereinfacht läuft es so: Claude schickt den Gesprächsinhalt an einen Sicherheitsserver des Unternehmens oder seines Dienstleisters. Dieser bewertet ihn nach den hinterlegten Regeln und antwortet mit Freigabe oder Ablehnung. Erst danach geht es weiter. Für die Prüfung von Werkzeugaufrufen muss zusätzlich Validate tool calls aktiviert sein. Die Einrichtung erfolgt durch die zuständigen Enterprise-Verantwortlichen.

Wer bereits Regeln gegen unerwünschte Datenweitergabe hat, bekommt damit einen neuen Ansatzpunkt für ihre technische Durchsetzung. Eine Sicherheitsrichtlinie wird dadurch allerdings noch nicht automatisch zu einer funktionierenden Prüfung. Jemand muss festlegen, welche Inhalte erkannt werden sollen und welche Aktionen zulässig sind.

Ein Kundenexport als Probe

Nehmen wir ein ausdrücklich fiktives Beispiel: Ein Betrieb möchte eine Kundenliste für eine interne Auswertung aufbereiten. Ein Export in die freigegebene Ablage wäre erlaubt. Die Übergabe derselben Daten an einen unbekannten externen Dienst wäre untersagt.

Eine entsprechend eingerichtete Integration könnte den geplanten Werkzeugaufruf gegen diese Vorgaben prüfen. Entscheidend wäre, ob sie die betreffenden Daten und das Ziel tatsächlich erkennt. Der Hook allein weiß noch nicht, welche Ablage dieser Betrieb freigegeben hat. Das Beispiel beschreibt eine mögliche Prüfaufgabe, keinen von uns durchgeführten Test.

Ich würde für einen ersten Versuch genau solche Unterschiede wählen. Eine erlaubte und eine verbotene Variante derselben Aufgabe zeigen besser, ob eine Regel greift, als eine große Sammlung vager Sicherheitsanforderungen. Auch eine unerwartete Ablehnung gehört ins Protokoll: Wenn normale Arbeit ständig hängen bleibt, werden Ausnahmen schnell zur Gewohnheit.

Was bei einer Störung passiert

Die technische Dokumentation nennt einen wichtigen Schalter: Ist der Prüfserver nicht erreichbar oder zu langsam, kann die Konfiguration entweder blockieren oder ungeprüft fortfahren. Im Beobachtungsmodus werden Entscheidungen nur mitgeschrieben. Außerdem lassen sich Teile des Datenverkehrs beziehungsweise Rollen ausnehmen.

Für die Abnahme würde ich deshalb einen Ausfall gezielt nachstellen. Eine erfolgreiche Vorführung bei laufendem Prüfdienst beantwortet noch nicht, was am nächsten Morgen bei einer Störung geschieht. Wer eine verbindliche Sperre erwartet, muss auch diesen Fall geprüft haben. Das ist eine Frage der konkreten Konfiguration, kein Automatismus des Produktnamens.

Der Schutz hat einen klaren Umfang

Diese Funktion gehört zu Claude Enterprise. Sie ist keine allgemeine Erweiterung für beliebige Claude-Abos. Die Claude-Platform-API sowie Angebote über Amazon Bedrock und Google Cloud fallen laut Dokumentation nicht darunter.

Auch der Inhalt ist begrenzt: Übertragen werden Gesprächs- und extrahierte Anhangstexte, keine rohen Bilddateien. Eine rein bildliche Information wird daher nicht in gleicher Weise geprüft. Der Prüfdienst kann zulassen oder ablehnen, aber Inhalte nicht selbst schwärzen. Einzelne interne Werkzeugaufrufe und Sprachfunktionen haben weitere Abdeckungsgrenzen.

Für mich ist das ein brauchbarer neuer Kontrollpunkt, wenn ein Unternehmen seine Regeln bereits konkret benennen kann. Vor einer Freigabe würde ich sehen wollen, welche Aktion gesperrt wird, welcher Inhalt beim Prüfdienst ankommt und was bei dessen Ausfall passiert. Daraus lässt sich ein begrenzter, überprüfbarer Einsatz ableiten. Ein pauschales Sicherheits- oder Compliance-Versprechen lässt sich daraus nicht machen.

Quellen und Bild

Anthropics Ankündigung vom 5. November, Funktionsübersicht im Help Center und technische Dokumentation mit Grenzen und Fehlermodi. Die Aussagen zur Funktion stammen vom Anbieter. Eigene Einordnung und fiktives Beispiel sind davon getrennt; kein eigener Produkttest.

Titelbild: KI-Illustration mit GPT Image 2.5 Sunburst auf Basis des originalen CodeCell-Maskottchens.