Ein Kunde möchte einen Servicetermin verschieben. Im Gespräch klingt das einfach. Im Hintergrund muss das System klären, wer anfragt, die richtige Buchung finden, freie Termine prüfen, eine Bestätigung einholen und den Kalender aktualisieren. Bricht dabei die Verbindung ab, muss feststellbar sein, ob die Änderung tatsächlich erfolgt ist.
Genau hier beginnt die Architekturarbeit. Die Auswahl des Modells ist eine von mehreren Entscheidungen.
Für Unternehmen mit Microsoft-Infrastruktur bietet Azure Bausteine für den gesamten Dienst: Identität, Anwendungshosting, Suche, Integration und Monitoring. Entscheidend ist, wie diese Komponenten einen konkreten Geschäftsprozess gemeinsam unterstützen.
Das folgende Terminbeispiel ist ein illustrativer Entwurf und beschreibt kein abgeschlossenes RZK-Kundenprojekt. Die Empfehlungen sind an die Systeme, Risiken und betrieblichen Anforderungen des jeweiligen Unternehmens anzupassen.
Mit den erlaubten Aufgaben beginnen
Definieren Sie das zulässige Ergebnis, bevor Sie Dienste auswählen. Ein Terminassistent könnte allgemeine Fragen ohne Anmeldung beantworten, nach einer Identitätsprüfung eine Kundenbuchung abrufen und sie erst nach ausdrücklicher Bestätigung ändern. Eine Vertragskündigung könnte außerhalb seines Aufgabenbereichs bleiben.
Daraus ergeben sich drei getrennte Abläufe: öffentliche Informationen, berechtigter Datenabruf und kontrollierte Änderungen. Jeder benötigt eigene Regeln.
Wählen Sie die einfachste geeignete Orchestrierung. Microsoft unterscheidet zwischen direkten Modellaufrufen, einem einzelnen Agenten mit Werkzeugen und der Zusammenarbeit mehrerer Agenten. Jeder zusätzliche Agent erhöht den Abstimmungsaufwand und bringt weitere Latenzen und Fehlermöglichkeiten mit sich. Für einen klar begrenzten Buchungsablauf können ein Agent und wenige APIs ausreichen. [1]
Definieren Sie dafür beispielsweise Werkzeuge wie „verfügbare Termine abrufen“ und „diese Buchung verschieben“. Die Geschäftsregeln gehören in die Anwendung und den Buchungsdienst, wo sie unabhängig vom Gespräch getestet werden können.
Jede Schicht braucht eine klare Aufgabe
Microsofts Foundry-Referenzarchitektur für Unternehmens-Chats bietet eine hilfreiche Orientierung. Sie verbindet Benutzeranwendung, Agentenlaufzeit, Modell, Datendienste und Netzwerkkontrollen. Nutzen Sie sie als Ausgangspunkt für Architekturentscheidungen. Welche Komponenten erforderlich sind, ergibt sich aus Ihrem Anwendungsfall. [2]
| Schicht | Aufgabe im Terminbeispiel |
|---|---|
| Gesprächskanal | Sprache oder Text entgegennehmen, Antworten ausgeben und eine Übergabe anbieten. |
| Anwendung und Orchestrierung | Sitzungskontext verwalten, Ablaufregeln anwenden und freigegebene Werkzeuge aufrufen. |
| Identität und Autorisierung | Den zulässigen Zugriff bestimmen und jede sensible Operation autorisieren. |
| Wissen und Geschäfts-APIs | Relevante Informationen liefern und geprüfte Buchungsänderungen ausführen. |
| Betrieb | Ergebnisse dokumentieren, Fehler erkennen und Untersuchung sowie Wiederherstellung unterstützen. |
Die Hosting-Entscheidung richtet sich nach Laufzeit, Netzwerk und Betriebsanforderungen. Ein verwalteter Agentendienst kann Infrastrukturarbeit reduzieren; eine selbst verantwortete Orchestrierung kann mehr unmittelbare Kontrolle bieten. In beiden Fällen braucht der gesamte Nutzerablauf einen klaren Verantwortlichen.
Nutzerberechtigung und Anwendungsidentität trennen
Eine Anwendung benötigt Zugangsdaten, um andere Dienste aufzurufen. Die Person, die sie nutzt, besitzt davon getrennte Rechte auf bestimmte Datensätze und Aktionen.
Verwaltete Identitäten ermöglichen unterstützten Azure-Workloads, Microsoft-Entra-Token ohne gespeicherte Anwendungszugangsdaten abzurufen. Für den Zugriff auf nachgelagerte Ressourcen müssen weiterhin ausdrücklich Berechtigungen vergeben werden. [3]
Darf eine Anwendungsidentität eine Buchungsdatenbank lesen, darf deshalb nicht jeder Anrufer jede Buchung einsehen. Beziehen Sie den geprüften Nutzer- und Mandantenkontext in die Zugriffskontrollen ein. Legen Sie für Telefonkontakte ein geeignetes Prüfverfahren fest; eine Rufnummer oder ein genannter Name allein kann unzureichend sein.
Ein sinnvoller Testfall: Ein authentifizierter Kunde nennt die Buchungsreferenz einer anderen Person. Der Dienst muss den Zugriff verweigern, bevor sensible Angaben an das Modell gelangen.
Wissen innerhalb derselben Zugriffsgrenzen abrufen
Retrieval-Augmented Generation, kurz RAG, stellt dem Modell bei einer Anfrage relevante Inhalte bereit. Das garantiert weder eine korrekte Antwort noch die Berechtigung, diese Inhalte zu verwenden.
Azure AI Search unterstützt anwendungsseitige Sicherheitsfilter und mehrere native Verfahren für Dokumentberechtigungen. Die Dokumentation kennzeichnet native ACL/RBAC-, Purview-Label- und SharePoint-ACL-Verfahren derzeit als Vorschau. Prüfen Sie Unterstützung und Produktionseignung für den gewählten Connector sowie die API- und SDK-Version. [4]
Erstellt die Anwendung die Filter, müssen diese serverseitig aus einem vertrauenswürdigen Identitätskontext entstehen. Testen Sie mandantenübergreifende Anfragen, Gruppenänderungen, entzogene Rechte und veraltete Indexinhalte. Bewahren Sie Quellenkennungen auf, damit die Grundlage einer Antwort nachvollziehbar bleibt.
Im Terminbeispiel liefert freigegebenes Wissen die Öffnungszeiten und Vorbereitungshinweise. Aktuelle Verfügbarkeit kommt aus der Buchungs-API. Ein Kalenderexport vom Vortag wird durch die Aufnahme in einen Suchindex nicht zum verbindlichen Buchungssystem.
Geschäftsaktionen über kontrollierte APIs ausführen
Azure API Management kann APIs über ein Gateway bereitstellen, auch für Dienste außerhalb von Azure. Die verfügbaren Funktionen hängen vom gewählten Tarif und der Konfiguration ab. [5]
Setzen Sie ein Gateway dort ein, wo ein gemeinsamer Kontrollpunkt sinnvoll ist. Fachliche Autorisierung und Validierung bleiben im Dienst, der die Transaktion verantwortet. Ein gültiges Token allein belegt nicht, dass eine Terminänderung zulässig ist.
Der Buchungsdienst prüft beispielsweise die Zuordnung zum Kunden, erlaubte Zeiträume und aktuelle Verfügbarkeit. Er nimmt eine eng definierte Anfrage entgegen und liefert ein strukturiertes Ergebnis. Dieses kann der Agent dem Kunden erläutern.
Auch externe Inhalte benötigen Grenzen. Prompt Shields können bestimmte Angriffe über Prompts und Dokumente erkennen. Sie bestätigen jedoch weder sachliche Richtigkeit noch fachliche Berechtigungen. [6] Behandeln Sie abgerufene Dokumente und Werkzeugantworten als Daten. Ein Satz in einem Dokument darf keine neue Berechtigung erteilen.
Netzwerk und Datenstandort getrennt planen
Private Endpunkte ermöglichen Verbindungen über private IP-Adressen zu unterstützten Azure-Diensten. Sie ersetzen keine Identitätsprüfung. Planen Sie DNS, Routing und die dienstspezifischen Einstellungen für öffentlichen Zugriff gemeinsam. Prüfen Sie die Verbindungen anschließend aus der bereitgestellten Anwendung heraus. [7]
Der Datenstandort ist eine eigenständige Entscheidung. Für unterstützte Foundry-Modellbereitstellungen unterscheidet Microsoft zwischen globaler, Datenzonen- und geografiebasierter Verarbeitung. Der Standort einer Ressource allein bestimmt nicht, wo die Inferenz stattfindet. Gleichen Sie das konkrete Modell und den Bereitstellungstyp mit Ihren Anforderungen ab. [8]
Betrachten Sie den vollständigen Datenweg: Prompts, abgerufene Textpassagen, Gesprächszustand, Aufzeichnungen, Traces und Sicherungen. Microsofts Datenschutzhinweise beschreiben funktionsabhängige Speicherung und Verarbeitung, einschließlich dauerhaftem Zustand und Missbrauchsüberwachung. Eine pauschale Zusage, ein Azure-Agent speichere nichts, wäre daher unangebracht. [9]
Dokumentieren Sie, welche Daten jeder Dienst erhält, wo Verarbeitung und Speicherung stattfinden können, wer Zugriff besitzt und wie Aufbewahrungsfristen umgesetzt werden. Beziehen Sie externe CRM- und Telefonieanbieter ein.
Sprache als eigenen Kanal gestalten
Sprachinteraktionen bringen Unterbrechungen, Stille, Erkennungsunsicherheit und Verbindungsabbrüche mit sich. Eine Pause, die im Chat akzeptabel ist, kann am Telefon störend wirken.
Die Voice Live API von Azure bietet eine verwaltete Schnittstelle für Spracherkennung, generative KI und Sprachausgabe. Sie ist eine mögliche Umsetzung. Prüfen Sie die unterstützten Sprachen, Regionen, Modelle und Integrationsanforderungen für Ihre geplante Bereitstellung. [10]
Testen Sie vollständige Gespräche auf Deutsch und Englisch, einschließlich Namen, Adressen, Datumsangaben und Hintergrundgeräuschen. Lassen Sie wichtige Angaben vor einer Änderung bestätigen. Legen Sie fest, was bei Unterbrechungen, aufgelegten Anrufen und dem Wunsch nach einem persönlichen Gespräch geschieht.
Eine Übergabe sollte eine geeignete Zusammenfassung und den bestätigten Transaktionsstatus enthalten. Für den Fall, dass kein Mitarbeitender erreichbar ist, braucht es einen praktikablen Ersatzablauf.
Unklare Ergebnisse vor einer Wiederholung klären
Ein Timeout beweist nicht, dass ein Schreibvorgang gescheitert ist. Das Buchungssystem könnte den Termin bereits geändert haben, während die Antwort verloren ging.
Microsofts Retry-Muster betont die Bedeutung von Idempotenz und den Folgen wiederholter Operationen. [11] Begrenzen Sie Wiederholungen bei geeigneten vorübergehenden Fehlern. Verwenden Sie für Schreibvorgänge eine Vorgangskennung oder einen anderen vom empfangenden Dienst unterstützten Schutz gegen Duplikate.
Im Terminbeispiel wird der Änderungsversuch dokumentiert und sein Status geprüft, bevor er erneut gesendet wird. Lässt sich das Ergebnis nicht feststellen, erhält der Kunde den Hinweis, dass die Bestätigung aussteht. Der Fall geht zur Klärung weiter. Das Modell darf keine erfolgreiche Buchung erfinden.
Definieren Sie Wiederherstellungsziele über alle Abhängigkeiten hinweg. Eine zweite Anwendungsinstanz hilft nicht, wenn die einzige Buchungs-API ausfällt. Microsofts KI-Entwurfsprinzipien empfehlen, Fehlerfälle zu analysieren und die Zuverlässigkeit der beteiligten Komponenten aufeinander abzustimmen. [12]
Abschluss, Qualität und Kosten beobachten
Ein erreichbarer Modellendpunkt kann Teil eines fehlerhaften Geschäftsprozesses sein. Überwachen Sie, ob Buchungen korrekt abgeschlossen wurden, wiederholte Rückfragen nötig waren und Übergaben tatsächlich einen Menschen erreichten.
Foundry verbindet Evaluierung, Monitoring und Tracing mit Azure Monitor Application Insights. Nutzen Sie die unterstützte Instrumentierung für Ihre Laufzeit und prüfen Sie, welche Informationen tatsächlich erfasst werden. [13]
Vergeben Sie je Interaktion eine Korrelationskennung. Dokumentieren Sie Werkzeugergebnisse und relevante Konfigurationsversionen, während sensible Nutzdaten auf das erforderliche Maß begrenzt bleiben. Traces zeigen aufgezeichnete Ausführungsschritte. Sie bilden die internen Überlegungen eines Modells nicht vollständig ab.
Vereinbaren Sie vor dem Start Abnahmekriterien. Berücksichtigen Sie verweigerte Zugriffe, realistische Sprachbeispiele, Ausfälle von Abhängigkeiten und doppelte Aktionsversuche. Bewerten Sie automatisierte Ergebnisse und eine repräsentative, von Menschen geprüfte Stichprobe.
Ermitteln Sie die Gesamtkosten einer gelösten Anfrage: Modellnutzung, Sprache, Hosting, Suche, Netzwerk, Telemetrie und menschliche Nachbearbeitung. Budgets in Azure Cost Management lösen Benachrichtigungen aus; sie stoppen den Verbrauch nicht automatisch. [14] Sind feste Verbrauchsgrenzen erforderlich, implementieren und testen Sie Anwendungslimits sowie einen sinnvollen Ersatzablauf.
Was muss vor dem Start feststehen?
Die Architektur sollte Umsetzung und Betrieb eine konkrete Entscheidungsgrundlage hinterlassen:
| Entscheidung | Aufzubewahrender Nachweis |
|---|---|
| Was darf der Agent tun? | Freigegebener Ablauf, Werkzeugschnittstellen und Eskalationsgrenzen. |
| Wessen Daten darf er nutzen? | Identitätskonzept, Berechtigungstests und Abrufbeschränkungen. |
| Was passiert bei Fehlern? | Wiederholungsregeln, Transaktionsabgleich und getestete Übergabe. |
| Wie werden Änderungen veröffentlicht? | Versionierte Konfiguration, Evaluierungsergebnisse und Rücksetzverfahren. |
| Wer betreibt den Dienst? | Benannte Verantwortliche, Monitoring, Störungsprozess und Kostenkontrollen. |
Eine tragfähige Azure-Architektur lässt sich anhand ihrer Aufgaben, durchgesetzten Grenzen und Wiederherstellungsverfahren erklären. Beginnen Sie mit einem begrenzten Ablauf, prüfen Sie ihn unter realistischen Bedingungen und erweitern Sie ihn auf Basis der Ergebnisse.
Besprechen Sie Ihre Azure-KI-Architektur mit RZK — verbinden Sie die Agentenentwicklung mit Ihrer vorhandenen Identitäts-, Cloud-, System- und Betriebsumgebung.
Quellen
Technische Quellen geprüft am 21. Oktober 2026. Dienstverfügbarkeit und Vorschaustatus sind bei der Umsetzung erneut zu prüfen. Die folgenden Quellen verweisen auf die englischen Originalfassungen von Microsoft.
- Microsoft — AI agent orchestration patterns
- Microsoft — Baseline Microsoft Foundry chat reference architecture
- Microsoft — Managed identities for Azure resources
- Microsoft — Document-level access control in Azure AI Search
- Microsoft — Azure API Management overview
- Microsoft — Prompt Shields
- Microsoft — Private endpoints
- Microsoft — Deployment types for Microsoft Foundry Models
- Microsoft — Data, privacy, and security for Models sold by Azure
- Microsoft — Voice Live API overview
- Microsoft — Retry pattern
- Microsoft — Design principles for AI workloads on Azure
- Microsoft — Observability in generative AI
- Microsoft — Create and manage budgets