Zum Inhalt springen
← Einblicke

Einblick

Wenn KI die falsche Antwort ist

Der wertvollste Satz, den ein technischer Partner sagen kann, lautet oft: „Dafür brauchen Sie keine KI." Er wird selten ausgesprochen, denn ihn zu sagen bedeutet, Arbeit abzulehnen. Wir halten ihn für genau den Satz, der sein Geld wert ist --- also lohnt es sich, genau zu benennen, wann er zutrifft.

Die Demo ist nicht das Problem

Eine überzeugende Demo beweist, dass ein Modell einmal, unter von Ihnen gewählten Bedingungen, eine plausible Ausgabe erzeugen kann. Sie sagt wenig darüber, ob derselbe Ansatz gegen echte Eingaben, echte Grenzfälle und ein Unternehmen bestehen wird, das die Antwort meistens richtig braucht. Beides zu verwechseln ist der teuerste Fehler, den wir sehen --- und er beginnt meist damit, KI zu wählen, weil sie beeindruckt, und nicht, weil sie das beste Werkzeug für die Aufgabe ist.

Anzeichen, dass Sie zum falschen Werkzeug greifen

KI passt oft schlecht, wenn eines davon zutrifft:

  • Das Problem ist deterministisch. Wenn eine Regel, eine Abfrage oder eine Formel bereits die korrekte Antwort liefert, fügt ein probabilistisches Modell tendenziell Kosten und Unsicherheit hinzu, ohne im Gegenzug viel zu bringen.
  • Sie können falsche Antworten nicht tolerieren und nicht prüfen. Wenn ein Fehler teuer ist und es keinen günstigen Weg gibt, die Ausgabe zu verifizieren, handeln Sie sich meist Risiko statt Hebelwirkung ein.
  • Sie haben weder die Daten noch den Feedback-Loop. Ein Modell ohne nützliche Daten als Grundlage und ohne Feedback-Loop, der Drift meldet, ist oft eine als Vermögenswert verkleidete Verbindlichkeit.

Was stattdessen zu tun ist

Manchmal ist die ehrliche Empfehlung eine langweilige: eine gut platzierte Regel, eine sauberere Data Pipeline, eine bessere Schnittstelle oder schlicht die Korrektur des Prozesses, der das Problem überhaupt erst erzeugt.

Wir haben erlebt, wie ein Unternehmen zu einem LLM griff, um eingehende E-Mails in ein Dutzend feste Kategorien einzuordnen --- eine Aufgabe, die ein paar Keyword-Regeln und ein kleiner Klassifikator seit Jahren erledigt hatten, zu einem Bruchteil der Latenz und Kosten und ohne einen Prompt, den man ständig nachjustieren muss. Das LLM war in der Demo beeindruckender und in Produktion schlechter: langsamer, teurer und gelegentlich kreativ auf eine Weise, die eine feste Taxonomie nicht zulassen kann.

Wenn KI wirklich das richtige Werkzeug ist --- und oft ist sie es --- übersteht der Business Case diese Art der Prüfung mühelos. Gutes Engineering beginnt damit, das Einfachste zu wählen, das das Problem löst, und es zu wählen, weil es sich lohnt, nicht weil es neu ist. Genau das ist der Sinn eines Discovery-Workshops: herauszufinden, wo KI ihren Platz verdient, und ebenso klar zu benennen, wo nicht.