Trotz sinkender Tokenpreise steigen die Ausgaben für KI in Unternehmen deutlich. Warum hybride KI-Architekturen als Lösungsweg gelten und welche Herausforderungen bei Kosten, Datenschutz und Hardware bestehen, analysiert dieser Beitrag
Die Ausgaben für künstliche Intelligenz in Unternehmen wachsen weiterhin, obwohl die Preise für einzelne Token und Modellanfragen zuletzt gesunken sind. Verantwortlich dafür ist vor allem die zunehmende Komplexität der KI-Anwendungen: Immer mehr Arbeitsabläufe werden automatisiert, Modelle werden häufiger aufgerufen und der Kontextumfang steigt. Das führt dazu, dass Budgets schneller ausgeschöpft werden und die vorhandene Hardware an ihre Leistungsgrenzen stößt.
Hybride KI-Architekturen im Fokus
Ein zentraler Ansatz zur Steuerung der Kosten und zur Erhöhung der Effizienz ist die Kombination aus lokaler und cloudbasierter KI. Moderne Endgeräte, sogenannte AI PCs, verfügen über spezialisierte Neural Processing Units (NPUs), die es ermöglichen, bestimmte KI-Anwendungen direkt auf dem Gerät auszuführen. Dadurch können Aufgaben wie Dokumentenanalyse, Meeting-Nachbereitung oder die Suche in persönlichen Dateien ohne Umweg über die Cloud bearbeitet werden. Für Unternehmen bedeutet das: Standardisierte oder besonders sensible Prozesse lassen sich lokal abwickeln, während rechenintensive Analysen und komplexes Reasoning weiterhin in der Cloud verbleiben.
Kosten entlang des Workflows bewerten
Die tatsächlichen Kosten von KI-Anwendungen ergeben sich nicht allein aus dem Preis pro Anfrage, sondern aus dem gesamten Arbeitsablauf. Bei agentischen Systemen entstehen oft Ketten von Modellaufrufen und dauerhaft laufenden Prozessen, die den Ressourcenbedarf erhöhen. Unternehmen sind daher gefordert, ihre Workflows regelmäßig zu analysieren und zu entscheiden, welche Aufgaben lokal und welche in der Cloud ausgeführt werden sollten. Die gezielte Verteilung der Workloads kann nicht nur Kosten senken, sondern auch die Planbarkeit verbessern.
Datenschutz und Compliance als Kostenfaktor
Ein weiterer Aspekt ist der Umgang mit sensiblen Daten. Wenn vertrauliche Informationen wie Verträge oder Personaldaten auf dem Endgerät verbleiben, reduziert sich der Aufwand für Freigaben, Prüfungen und Nachbesserungen. Dies erleichtert die Einhaltung von Datenschutzvorgaben wie der DSGVO und des EU AI Act. Gleichzeitig sinken die Risiken, dass Daten das Unternehmen unkontrolliert verlassen. Die Auswahl der Hardware sollte sich dabei am tatsächlichen Bedarf orientieren: Geräte ohne ausreichende KI-Leistung können den Lebenszyklus verkürzen, während Überdimensionierung unwirtschaftlich bleibt.
Praxisbeispiele und offene Fragen
Die Entwicklung hin zu hybriden KI-Architekturen ist Teil eines breiteren Trends, der auch in anderen Bereichen der Unternehmensdigitalisierung zu beobachten ist. So hat etwa Anthropic für Claude Cowork eine Funktion zur Aufzeichnung von Arbeitsabläufen angekündigt, die neue Möglichkeiten für die Automatisierung eröffnet. Welche technischen und wirtschaftlichen Folgen solche Innovationen für den KI-Einsatz im Unternehmen haben, bleibt jedoch vielfach offen. Ein Überblick zu diesen Entwicklungen findet sich unter anderem in diesem Beitrag: Neue Funktionen für KI-gestützte Arbeitsprozesse bei Claude Cowork.
Hybride KI-Modelle bieten Unternehmen die Möglichkeit, Produktivität und Kostenkontrolle miteinander zu verbinden. Die konkrete Ausgestaltung hängt jedoch von den jeweiligen Anwendungsfällen, regulatorischen Anforderungen und der vorhandenen Infrastruktur ab. Offen bleibt, wie sich die Balance zwischen lokaler Verarbeitung und Cloud-Nutzung in den kommenden Jahren weiterentwickeln wird.
Der Begriff "hybride KI-Architektur" bezeichnet die Kombination aus lokaler und cloudbasierter Ausführung von KI-Anwendungen. Während On-Device-KI Aufgaben direkt auf dem Endgerät verarbeitet, werden komplexere Berechnungen und Analysen in der Cloud durchgeführt. Diese Aufteilung ermöglicht es Unternehmen, Datenschutzanforderungen besser zu erfüllen, Kosten zu steuern und die Leistungsfähigkeit der eingesetzten Hardware optimal zu nutzen. Die Herausforderung besteht darin, für jede Aufgabe die technisch und wirtschaftlich sinnvollste Verarbeitungsform zu wählen.
