ABBYY warnt, dass sinkende Token-Preise die Ausgaben für Unternehmens-KI nicht automatisch senken. Entscheidend sind Architektur, Governance und die tatsächliche Nutzung. Welche versteckten Kosten entstehen, bleibt oft unklar
Der Einsatz von KI-Systemen in Unternehmen führt zu einer grundlegenden Veränderung der Kostenstruktur. Während klassische Software meist über feste Lizenzen abgerechnet wurde, entstehen bei KI-Diensten variable Kosten, die direkt von der Nutzung abhängen. ABBYY weist darauf hin, dass sinkende Preise pro Token nicht zwangsläufig zu geringeren Gesamtausgaben führen. Vielmehr steigen die Kosten mit der Intensität der Nutzung und der Komplexität der eingesetzten Systeme.
Architektur und Nutzung bestimmen die Ausgaben
Die technische Architektur eines KI-Systems hat erheblichen Einfluss auf die Kosten. Der Wechsel von einfachen Chatbots zu agentenbasierten Anwendungen kann den Token-Verbrauch pro Aufgabe um ein Vielfaches erhöhen. Moderne Modelle ermöglichen komplexere Abläufe, die zusätzliche Werkzeuge und Verarbeitungsschritte erfordern. Besonders bei der Verarbeitung von unstrukturierten Daten wie PDF-Dateien entstehen hohe Zusatzkosten, da das Modell zunächst das Layout rekonstruieren muss, bevor es Inhalte extrahieren kann. Dadurch werden oft nur ein Bruchteil der generierten Tokens tatsächlich für die gewünschte Ausgabe genutzt.
Ein Großteil der Kosten entsteht nicht durch die eigentliche Modellnutzung, sondern durch unnötig erzeugte Tokens im Rahmen der Orchestrierung und Datenaufbereitung. Maßnahmen wie kürzere Prompts, gezielte Zwischenspeicherung oder die Auswahl effizienterer Modelle bieten zwar Einsparpotenzial, reichen aber häufig nicht aus, um die Gesamtkosten nachhaltig zu senken.
Versteckte Kosten durch Governance und Prüfprozesse
Unternehmen unterschätzen häufig die indirekten Kosten, die durch Governance-Maßnahmen und menschliche Prüfprozesse entstehen. Die Kontrolle und Freigabe von KI-Ergebnissen erfordert oft erheblichen personellen Aufwand, der die Einsparungen durch niedrigere Token-Kosten schnell aufzehren kann. Wenn Prüfprozesse intensiviert werden, ohne die technische Architektur zu optimieren, verlagern sich die Kosten lediglich von der KI-Nutzung auf teurere menschliche Tätigkeiten.
Ein weiteres Problem entsteht, wenn Metadaten zu Herkunft und Compliance während der Verarbeitungskette verloren gehen. In solchen Fällen müssen Informationen nachträglich rekonstruiert werden, was zusätzliche Ressourcen bindet. Governance-Maßnahmen sollten daher so gestaltet sein, dass sie die Daten entlang des gesamten Prozesses begleiten und nicht wiederholt aufgebaut werden müssen.
Modellwechsel und technische Optimierung
Der Wechsel zu günstigeren oder quelloffenen Modellen kann die Kosten pro Aufgabe reduzieren, doch der Effekt bleibt oft hinter den Erwartungen zurück. Untersuchungen zeigen, dass die Optimierung der technischen Umgebung rund um das Modell größere Einsparungen ermöglicht als der reine Modellwechsel. So konnte durch Anpassungen der Infrastruktur der Token-Verbrauch um bis zu 38 Prozent und die Ausführungskosten um 41 Prozent gesenkt werden, während der Wechsel zum günstigsten Modell lediglich rund 36 Prozent Ersparnis brachte.
Die nachhaltigste Strategie besteht darin, die Wirtschaftlichkeit nicht von einem einzelnen Modell abhängig zu machen. Offene Standards auf Dokumentenebene erleichtern den Wechsel zwischen Modellen, ohne dass die gesamte Infrastruktur neu aufgebaut werden muss. Unternehmen, die strukturierte Eingaben bereitstellen, können auch mit kleineren und günstigeren Modellen vergleichbare Ergebnisse erzielen.
Strukturierte Daten als Schlüssel zur Kostensenkung
Die Aufbereitung von Dokumenten in KI-native, strukturierte Formate reduziert den Token-Verbrauch erheblich. Unstrukturierte Formate wie PDFs verursachen nicht nur höhere Kosten, sondern erhöhen auch die Latenz und das Risiko von Fehlinterpretationen. Erste Benchmarks von ABBYY zeigen, dass sich die Token-Kosten durch strukturierte Dokumente je nach Modell um den Faktor vier bis über dreißig senken lassen.
Unternehmen, die deterministische Fakten bereits vor der Modellverarbeitung extrahieren, benötigen für viele Aufgaben kein teures Reasoning-Modell mehr. Das Sprachmodell wird dann nur noch für tatsächlich anspruchsvolle Beurteilungen eingesetzt. Diese Herangehensweise unterscheidet sich deutlich von der verbreiteten Praxis, bei der große Modelle für einfache Extraktionsaufgaben genutzt werden.
Die Diskussion um die Kosten von Unternehmens-KI ist eng mit der Frage verbunden, wie technische Architektur, Governance und Datenaufbereitung zusammenspielen. Auch andere Anbieter und Analysten, wie im Zusammenhang mit der Einführung neuer Workflow-Funktionen bei Claude Cowork berichtet (siehe Analyse zu Workflow-Aufzeichnung bei Claude Cowork), betonen die Bedeutung effizienter Prozesse für die Wirtschaftlichkeit von KI-Anwendungen.
Die zentrale Herausforderung bleibt, die Kosten pro erfolgreiches Ergebnis zu messen und nicht allein den Token-Verbrauch zu minimieren. Unternehmen sollten ihre KI-Ausgaben wie ein Portfolio steuern und den Wertbeitrag jeder Investition kritisch prüfen.
Die tatsächlichen Kosten von KI-Anwendungen in Unternehmen hängen maßgeblich von der technischen Architektur, der Qualität der Eingabedaten und der Gestaltung der Governance ab. Sinkende Preise pro Token können steigende Gesamtausgaben nicht kompensieren, wenn ineffiziente Prozesse und unstrukturierte Daten den Ressourcenverbrauch erhöhen. Eine konsequente Ausrichtung auf strukturierte Daten und effiziente Abläufe ist daher entscheidend für die Wirtschaftlichkeit von Unternehmens-KI.
Der Begriff "Token" bezeichnet in der KI-Infrastruktur die kleinste abrechenbare Einheit bei der Nutzung von Sprach- und Basismodellen. Ein Token entspricht meist einem Wortfragment oder einer Silbe. Die Abrechnung erfolgt in der Regel pro verarbeitetem Token, wobei sowohl Eingabe- als auch Ausgabetokens berücksichtigt werden. Die tatsächlichen Kosten einer KI-Anwendung ergeben sich jedoch nicht allein aus dem Preis pro Token, sondern aus der Gesamtzahl der verarbeiteten Tokens und dem Aufwand für Orchestrierung, Datenaufbereitung und Governance. Effiziente technische Architektur und strukturierte Daten können den Token-Verbrauch und damit die Kosten deutlich senken.
