Mit API Kontrol Manager haben wir die Serviceüberwachung in unseren Agent-Workflow integriert

Bei X Mind Solutions haben wir unsere KI-Agent-Architektur um API Kontrol Manager erweitert, um die Ankündigungen zu den von uns genutzten API-Diensten zu verfolgen. Anlass dafür war unsere Erfahrung bei der Abschaltung der API-Version GPT-4.5, die wir in einem Projekt aktiv einsetzten. Dass wir eine zuvor angekündigte Änderung übersehen hatten, zeigte ganz konkret: Neben der Bereitstellung alternativer Systeme ist auch die regelmäßige Beobachtung von Anbieterankündigungen für die betriebliche Kontinuität wichtig.

OpenAI hatte die Abschaltung der betreffenden Version drei Monate im Voraus angekündigt. Diese Mitteilung war uns jedoch entgangen. Als der Dienst nicht mehr verfügbar war, arbeiteten wir etwa zwei Stunden lang mit GPT-3.5-turbo weiter. Dank der im Voraus vorbereiteten Alternative liefen unsere Prozesse ohne Unterbrechung weiter. Entscheidend war, dass eine einsatzbereite Ausweichlösung vorhanden war, statt erst nach Auftreten des Problems nach einer Lösung suchen zu müssen. Zugleich machte diese Erfahrung deutlich, dass wir die Lücke bei der Überwachung von Ankündigungen schließen mussten.

API Kontrol Manager prüft kontinuierlich die Anbieterwebsites der von uns genutzten API-Dienste und verfolgt Informationen zu geplanten Wartungen, möglichen Ausfällen und Notfällen. Erkannte Meldungen leitet er per E-Mail an unser Team weiter. Damit automatisieren wir die Aufgabe, die von den Dienstanbietern veröffentlichten Informationen einzeln zu prüfen. Ziel ist nicht, noch nicht angekündigte Probleme vorherzusagen, sondern das Risiko zu verringern, verfügbare Warnungen und Änderungsmitteilungen zu übersehen.

Unsere Überwachung umfasst mehr als 50 APIs und über 150 Unterdienste. In diesem Umfang ist die regelmäßige Beobachtung von Ankündigungen eine eigenständige Aufgabe, die von der Prüfung der Funktionsfähigkeit technischer Integrationen zu unterscheiden ist. Auch wenn ein Dienst heute erreichbar ist, kann er künftig eingestellt werden oder eine geplante Wartung durchlaufen. Mit API Kontrol Manager haben wir die Verfolgung dieser Mitteilungen in unseren Agent-Workflow integriert, sodass unser Team per E-Mail über relevante Entwicklungen informiert wird.

Diese Erfahrung hat gezeigt, dass die Kontinuität LLM-basierter Systeme nicht allein von der Modellauswahl abhängt. Während der Anbieter den Lebenszyklus des Modells und die Zugangsbedingungen bestimmt, liegt es in unserer Verantwortung, Alternativen vorzubereiten und Ankündigungen zu verfolgen. Bei X Mind Solutions betrachten wir diese beiden Anforderungen gemeinsam: Prozesse mithilfe von Ausweichlösungen fortzuführen und veröffentlichte Warnungen mit API Kontrol Manager zu überwachen. Die Beobachtung von Ankündigungen verstehen wir nicht als Ersatz für die Vorbereitung alternativer Systeme, sondern als ergänzende Maßnahme.