KI-Aufrufe mit Kostengrenze: ein Gateway statt privater Einzelkonten

Eine Kostengrenze für KI-Aufrufe lässt sich nur dort ziehen, wo alle Aufrufe einer Anwendung vorbeikommen. Solange Sprachmodelle über persönliche Zugänge einzelner Mitarbeiter angesprochen werden, gibt es diese Stelle nicht. Ein Gateway schafft sie: Es weiß, welche Anwendung fragt, schreibt jeden Aufruf mit und sagt nein, bevor ein Fehler im Ablauf teuer wird.

Wie Sprachmodelle ohne gemeinsame Stelle in den Betrieb wandern

Der Weg ist in vielen Unternehmen derselbe. Jemand im Vertrieb bezahlt ein Abo mit der eigenen Karte, weil Angebote damit schneller geschrieben sind. In der Buchhaltung steckt ein Kollege den Schlüssel für eine Modell-Schnittstelle in ein Skript, das Belege sortiert. Die IT probiert einen Agenten aus, der Tickets vorsortiert. Jede dieser Lösungen funktioniert für sich, und keine davon ist falsch gedacht.

Schwierig wird es bei den Fragen, die eine Geschäftsführung früher oder später stellt: Welche Daten sind an welches Modell gegangen? Was kostet das im Monat, und wo steht die Zahl? Was passiert, wenn ein Skript nachts in einer Schleife hängt und bis zum Morgen Anfragen schickt? Solange jeder Zugang an einer Person hängt, beantwortet diese Fragen niemand mit Überblick. Der Zustand hat einen Namen – Schatten-KI –, und er entsteht nicht aus Nachlässigkeit, sondern weil die Werkzeuge nützlich sind.

Was ein Gateway mit Kostengrenze bei jedem Aufruf prüfen sollte

Entscheidend ist, dass eine gemeinsame Stelle bei jedem Aufruf vier Fragen beantwortet:

• Wer fragt. Jeder Aufruf gehört zu einer bekannten Anwendung mit einer verantwortlichen Person. Ein Skript, das niemand kennt, bekommt keine Antwort.
• Wofür. Zusammenfassung, Übersetzung oder Entwurf: Erst die Aufgabe zeigt, welches Modell angemessen ist und ob die Daten dorthin dürfen.
• Wie viel noch geht. Eine Grenze je Anwendung und Zeitraum, mit einer Warnschwelle davor. Ist sie erreicht, wird abgelehnt, statt dass erst die Monatsrechnung den Fehler zeigt.
• Was geschehen ist. Ein Protokoll je Aufruf: Anwendung, Aufgabe, Modell, verbrauchte Tokens und Kosten.

Eine Absprache dahinter ist wichtiger als jede Einzelfunktion: Die Grenze gilt auch für wichtige Anwendungen. Wer Ausnahmen zulässt, sobald es eilt, hat am Ende wieder Einzelkonten mit Umweg. Und die Stelle hilft nur, wenn Anwendungen sie tatsächlich nutzen.

Warum eine Kostengrenze in Geld allein nicht reicht

Die naheliegende Grenze ist ein Betrag pro Tag. Sie greift aber nur dort, wo pro Aufruf abgerechnet wird. Viele Unternehmen nutzen Modelle auch über Pauschaltarife mit einem Nutzungskontingent; dort kostet der einzelne Aufruf nichts zusätzlich, und eine Grenze in Geld greift dort nicht. Ein Agent, der in einer Schleife hängt, scheitert an einer reinen Geldgrenze nie. Er verbraucht stattdessen das Kontingent, und am Morgen stehen alle anderen Anwendungen ohne Modell da.

Deshalb braucht es eine zweite Grenze: die Zahl der beantworteten Anfragen pro Anwendung und Tag. Sie ist die eigentliche Bremse gegen Schleifen.

Wer Abrechnung in Geld und Verbrauch von Kontingent nicht trennt, liest außerdem das Protokoll falsch. Eine Anwendung mit Kosten null ist nicht automatisch sparsam – sie hängt womöglich nur an einem Pauschaltarif. Woraus sich KI-Kosten tatsächlich zusammensetzen, lohnt sich deshalb aufzuschreiben, bevor die erste Kostengrenze eingetragen wird.

Was ein Gateway nicht abdeckt

Ein Gateway sieht, was Anwendungen im Betrieb an Sprachmodelle schicken. Was eine Person in ein Chatfenster im Browser tippt, sieht es nicht, und so zu tun, als wäre das anders, wäre die bequemste Unwahrheit dieses Beitrags. Für diesen Teil bleibt eine Regel, die jemand kennt und vertritt: welche Werkzeuge zugelassen sind, welche Daten dort hineindürfen und wen man fragt, wenn man unsicher ist.

Auch ein Gateway entscheidet nur so gut wie seine Liste. Welche Modelle es wählen darf, gehört in eine gepflegte Freigabeliste und nicht in eine Anleitung: Ein dort gesperrtes Modell erreicht keine Anwendung mehr. Eine Regel, die nur auf Papier steht, hält bis zur ersten Ausnahme.

Grenze, Protokoll, Regel: so gehen wir in der Beratung vor

In einer Beratung zu KI-Tools im Unternehmen beginnen wir nicht mit der Technik, sondern mit einer Liste: Welche Werkzeuge, Skripte und Agenten rufen heute Sprachmodelle auf, über welchen Zugang, mit welchen Daten, und wer verantwortet sie? Aus der Liste folgt je Eintrag eine von drei Entscheidungen. Anwendungen, die im Betrieb laufen, ziehen hinter eine gemeinsame Stelle mit Grenze und Protokoll. Persönliche Werkzeuge bleiben, mit einer schriftlichen Regel. Was niemand mehr verantwortet, wird abgeschaltet.

Was Sie dabei verlangen können, nehmen wir ins Angebot auf: welche Anwendungen hinter die gemeinsame Stelle ziehen, welche Kostengrenze und welche Anfragegrenze je Anwendung gelten, was das Protokoll festhält und wie lange es aufbewahrt wird, welche Daten ein Sprachmodell oder ein externer Dienst sieht. Anwendungen, die bei uns im Betrieb Sprachmodelle nutzen, rufen sie über ein eigenes Gateway auf. Ergebnis der Beratung sind die im Angebot vereinbarten Unterlagen – die Liste, die Entscheidungen, die Regel –, nicht ein Versprechen über eingesparte Beträge.