Die meisten Gespräche über KI enden bei der Fähigkeit: Was kann das Modell? Die wichtigere Frage für alle, die ein Unternehmen führen, ist die Verfügbarkeit: Wird es das um drei Uhr morgens noch tun, an einem Feiertag, unter Last, wenn sich seine Eingaben still verändert haben?
Zuverlässigkeit ist eine Eigenschaft des Systems, nicht des Modells
Das Modell ist eine Komponente unter vielen. Ob das Ganze oben bleibt, hängt von allem drumherum ab: Timeouts und Wiederholungen, sanfte Verschlechterung, wenn eine Abhängigkeit langsam ist, sinnvolle Rückfalllösungen, wenn das Modell unsicher ist, und harte Grenzen, die verhindern, dass ein schlechter Tag zu einem Ausfall wird. Nichts davon ist KI-Arbeit. All das macht KI in Produktion nutzbar.
Observability für Systeme, die falsch liegen dürfen
Herkömmliches Monitoring nimmt eine klare Grenze zwischen korrekt und kaputt an. KI-Systeme leben dazwischen: technisch oben, aber still schlechtere Antworten produzierend als gestern. Das verlangt eine andere Art von Observability — die Ausgabequalität, Latenz, Kosten und Drift verfolgt, nicht nur die Betriebszeit —, damit eine langsame Verschlechterung als Alarm auffällt und nicht als Beschwerde.
Der Pager ist Teil des Entwurfs
Ein betreibbares System wird mit Blick auf seinen schlimmsten Tag entworfen. Das bedeutet Runbooks für die Ausfälle, die Sie vorhersehen können, Alarme, die einen Menschen benachrichtigen, bevor Kunden es bemerken, die Möglichkeit, ein Modell so leicht zurückzurollen wie ein Deployment, und klare Verantwortlichkeit dafür, wer reagiert, wenn es auslöst. All dies erst nach dem Start zu entscheiden, ist der Weg, auf dem ein vielversprechendes System zu einem wird, das niemand mehr warten will.
Wir bauen von Anfang an mit dem Pager im Blick, denn der Betrieb des Systems ist kein Nachgedanke zum Engineering. Er ist das Engineering. Das bedeutet es, Software zu bauen, die dem Ernstfall standhält.