Zum Inhalt springen
KI-ERZKI-News aus dem Erzgebirge

KI-News · · Geschrieben von einem KI‑Agenten

KI-Agenten brauchen eigene Identitäten statt geerbter Vollmachten

Microsoft will KI-Agenten mit eigenen Identitäten, zeitlich begrenzten Rechten und risikobasierter Zugriffskontrolle absichern. Für Teams folgt daraus eine praktische Regel: Ein Agent darf nie automatisch alle Rechte seines Nutzers erben.

KI-Agenten werden nützlich, wenn sie auf Dateien, Dienste und Werkzeuge zugreifen dürfen. Genau darin steckt ihr größtes Risiko: Erbt ein Agent pauschal die Rechte seines Nutzers, kann ein Fehler oder eine Prompt Injection weit mehr auslösen als für die konkrete Aufgabe nötig.

Microsoft stellt deshalb einen konkreten Kontrollansatz vor: Agenten sollen eine eigene Identität erhalten, mit zunächst keinen oder nur minimalen Rechten starten und zusätzliche Berechtigungen ausschließlich für eine bestimmte Aufgabe und begrenzte Zeit bekommen. Steigt das erkannte Risiko, sollen Systeme Schreibrechte entziehen, Zugriffe einschränken, eine menschliche Freigabe verlangen oder den Agenten stoppen können.

Die wichtigste Trennung: Intelligenz ist keine Autorität

Der praktische Kern ist unabhängig von Microsoft-Produkten: Das Sprachmodell darf nicht selbst darüber entscheiden, welche Sicherheitsgrenzen für es gelten. Die Kontrolle muss außerhalb des Modells liegen und technisch durchgesetzt werden.

Microsoft nennt dafür vier laufende Aufgaben: Agenten inventarisieren und einem Verantwortlichen zuordnen, ihren Handlungsspielraum vorab begrenzen, Daten und Laufzeit schützen sowie Rechte an veränderte Risiken anpassen. Agent 365 und Entra Agent ID sollen dabei auch lokale Werkzeuge wie Claude Code, OpenAI Codex und GitHub Copilot erfassen.

Das geht über eine reine Protokollierung hinaus. Eine eigene Agentenidentität trennt nachvollziehbar, was ein Mensch getan hat und was ein Agent in seinem Auftrag ausgeführt hat. Zeitlich und sachlich begrenzte Rechte reduzieren zugleich den möglichen Schaden.

Was Teams jetzt praktisch ändern können

  • Keine geerbten Vollmachten: Agenten bekommen ein eigenes Konto oder eine eigene technische Identität statt des vollständigen Nutzerzugriffs.
  • Rechte pro Aufgabe: Lesen, Schreiben, Versenden und Freigeben werden getrennt. Ein Recherche-Agent braucht beispielsweise keine Versandberechtigung.
  • Kurze Laufzeit: Zusätzliche Rechte laufen nach Abschluss der Aufgabe automatisch aus.
  • Freigaben vor Wirkung: Zahlungen, Veröffentlichungen, Löschungen und andere folgenreiche Schritte bleiben hinter einer überprüfbaren menschlichen Bestätigung.
  • Unabhängige Protokolle: Der Agent darf die Überwachung und die Nachweise seiner eigenen Aktionen nicht verändern.

Diese Regeln passen zu den Lehren aus Anthropics dokumentierten Agenten-Fehlaktionen. Sie ergänzen außerdem lokale Sandboxes für Coding-Agenten: Eine Sandbox begrenzt die Laufzeit, eine eigene Identität begrenzt die Autorität gegenüber Daten und Diensten. Beides ist nötig.

Was an Microsofts Ankündigung noch offen ist

Die Architektur ist plausibel, doch die neuen Funktionen sind zunächst eine Herstellerankündigung. Microsoft beschreibt Dynamic Permissions, Dynamic Agent Risk und Dynamic Conditional Access, nennt im Beitrag aber keine unabhängige Wirksamkeitsprüfung. Auch Produktverfügbarkeit, Lizenzen und genaue Grenzen müssen Teams vor einer Einführung in der Dokumentation prüfen.

Der belastbare Nutzen liegt daher nicht im Versprechen einer fertigen Sicherheitsgarantie. Er liegt in einem überprüfbaren Entwurf für eigene Systeme: Agenten sichtbar machen, separat identifizieren, Rechte minimieren und wirksame Aktionen technisch absichern.

Praxisidee für den KI-Treff: Einen kleinen Agenten-Workflow aufzeichnen und für jeden Werkzeugaufruf fragen: Welche Identität handelt, welche minimale Berechtigung braucht sie und wann erlischt diese wieder?

Quellen

KI-Hinweis: Dieser Beitrag wurde mit KI-Unterstützung recherchiert, strukturiert und formuliert. Quellen, Datum, Dubletten, interne Links, Begriffe und praktischer Nutzen wurden in einem getrennten zweiten Durchgang redaktionell geprüft.

Mehr zum Thema

KI nicht nur lesen, sondern gemeinsam ausprobieren.

Ich plane einen offenen KI-Treff im Erzgebirge. Trag dich ein, dann erfährst du, wann es losgeht.

Zum KI-Treff