KI-Sicherheit & Betrieb

50 Artikel
KI-Sicherheit & Betrieb richtet den Blick auf zuverlässige, kontrollierbare und dauerhaft betreibbare KI-Systeme. Themen sind Modellüberwachung, Datenzugriffe, Schutz vor manipulierten Eingaben, Qualitätssicherung, Protokollierung, Ausfallsicherheit, Störungsmanagement und interne Richtlinien. Anders als die allgemeine KI-Sicherheitsdebatte konzentriert sich die Kategorie auf produktive Anwendungen und darauf, wie technische Kontrollen, klare Verantwortlichkeiten und laufende Prüfungen Risiken im Betrieb begrenzen.

Flower Labs stellt mit Endeavor 1.0 KI-Modell für lokale Nutzung vor

Das Spin-off Flower Labs der Universität Cambridge bringt mit Endeavor 1.0 ein KI-Modell auf den Markt, das laut Unternehmen mit US-Spitzenmodellen konkurrieren soll und lokale Datenverarbeitung ermöglicht

Weiterlesen

xorlab erhält 5 Millionen Euro für Ausbau seiner E-Mail-Sicherheitsplattform

Das Schweizer Unternehmen xorlab sammelt 5 Millionen Euro ein, um seine KI-basierte E-Mail-Sicherheitsplattform in Europa weiterzuentwickeln und auszubauen. Welche Ziele verfolgt die Finanzierung und welche Herausforderungen bleiben offen

Weiterlesen

EU stuft ChatGPT, Reddit und Roblox als besonders regulierte Plattformen ein

Die Europäische Union hat ChatGPT, Reddit und Roblox offiziell unter den Digital Services Act gestellt. Welche neuen Pflichten und Unsicherheiten für die Plattformen und Nutzerinnen entstehen, bleibt im Detail offen

Weiterlesen

REWE digital steuert Logistikprozesse mit Camunda-Plattform unter KRITIS-Anforderungen

REWE digital setzt Camunda als zentrale Plattform für die Orchestrierung von Warenwirtschaft und Logistik ein. Welche technischen und regulatorischen Herausforderungen dabei bestehen, bleibt differenziert.

Weiterlesen

Künstliche Intelligenz verändert Softwareentwicklung und erhöht Kontrollbedarf

Der Einsatz von KI in der Softwareentwicklung beschleunigt Prozesse, bringt aber neue Risiken und organisatorische Herausforderungen für Unternehmen mit sich

Weiterlesen

Deutsche Telekom warnt vor KI-Angriffen ohne ethische Kontrolle

Thomas Tschersich von der Deutschen Telekom sieht in KI-gesteuerten Cyberangriffen ein wachsendes Risiko. Warum Geschwindigkeit und fehlende Moral der Systeme neue Herausforderungen für Unternehmen schaffen, bleibt umstritten

Weiterlesen

KI-Agenten werden zur kritischen Schwachstelle in Unternehmensnetzwerken

Die zunehmende Verbreitung von KI-Agenten in Unternehmen stellt neue Herausforderungen für die Cybersicherheit dar. Ein aktueller Vorfall bei Hugging Face zeigt, wie schwer kontrollierbar diese Systeme sind und welche Risiken entstehen können

Weiterlesen

KidsHustle startet als Plattform für sichere Nebenjobs von Jugendlichen im Vereinigten Königreich

Mit KidsHustle will der 14-jährige Sasha Bagrov eine digitale Plattform für Nebenjobs von Jugendlichen etablieren. Die App setzt auf elterliche Kontrolle und KI-gestützte Sicherheit, bleibt aber in ihrer Wirkung und Reichweite noch begrenzt

Weiterlesen

KI-Agenten: Unternehmen stehen vor neuen Herausforderungen bei Zugriffskontrolle

KI-Agenten überschreiten in Unternehmen häufig ihre vorgesehenen Berechtigungen. Warum dies ein Sicherheitsrisiko darstellt und welche Kontrollmechanismen jetzt gefordert sind, bleibt umstritten

Weiterlesen

Velatir erhält 5 Millionen Euro für Ausbau seiner KI-Infrastruktur in Europa

Das dänische Unternehmen Velatir sammelt 5 Millionen Euro ein, um seine KI-Infrastrukturplattform in Europa auszuweiten. Welche Ziele verfolgt die Finanzierung und wie positioniert sich Velatir im europäischen Markt

Weiterlesen

DeepL kooperiert mit Harvey für KI-gestützte Übersetzung juristischer Dokumente

DeepL und das US-Unternehmen Harvey haben eine Partnerschaft zur Übersetzung juristischer Dokumente angekündigt. Was die Kooperation für regulierte Branchen und den KI-Markt bedeutet, bleibt noch offen

Weiterlesen

KI-Integration in bestehende IT-Systeme bleibt für Unternehmen herausfordernd

Viele Unternehmen stehen vor der Aufgabe, KI-Lösungen in ihre gewachsenen IT-Landschaften einzubinden. Warum die technische Integration oft zum Engpass wird und welche Risiken und Chancen sich daraus ergeben, bleibt umstritten

Weiterlesen

Napier AI und Delta Capita kooperieren für KI-gestützte AML-Lösungen

Napier AI und Delta Capita bündeln ihre Kompetenzen, um KYC- und AML-Prozesse mit KI-Technologie zu verbessern. Welche Chancen und Herausforderungen ergeben sich für Finanzinstitute und den europäischen Markt

Weiterlesen

KI-Projekte im Unternehmen: Warum Produktivbetrieb oft an Wirtschaftlichkeit scheitert

Trotz Milliardeninvestitionen erzielen generative KI-Anwendungen selten messbare Gewinne. Welche Faktoren bestimmen, ob KI im Unternehmen zum Vorteil wird - und wo die größten Risiken liegen

Weiterlesen

OpenAI-CEO Sam Altman warnt vor Risiken durch KI-Entwicklung

Sam Altman, CEO von OpenAI, spricht im Videopodcast mit Handelsblatt über die Herausforderungen und Unsicherheiten bei Künstlicher Intelligenz und betont, dass Zwischenfälle nicht ausgeschlossen werden können

Weiterlesen

Cyberangriffe auf deutsche Unternehmen und GenAI-Risiken nehmen deutlich zu

Die Zahl der Cyberangriffe auf Unternehmen in Deutschland ist im Juli 2026 stark gestiegen. Besonders Ransomware und Risiken durch generative KI-Tools rücken in den Fokus. Was Unternehmen jetzt beachten müssen

Weiterlesen

KI-Tools überfordern Bug-Bounty-Programme und gefährden Sicherheitsarbeit

Offene Bug-Bounty-Programme geraten durch KI-generierte Schwachstellenberichte unter Druck. Unternehmen und Open-Source-Projekte müssen ihre Sicherheitsstrategien überdenken, um die Kontrolle zu behalten

Weiterlesen

Cytix erhält 7 Millionen US-Dollar für Plattform zur KI-Risikoüberwachung

Das Cybersicherheitsunternehmen Cytix hat eine Series-A-Finanzierung in Höhe von 7 Millionen US-Dollar erhalten. Ziel ist die Weiterentwicklung einer Plattform, die Risiken durch KI-gestützte Softwareänderungen adressiert

Weiterlesen

Vier Architekturstrategien senken Token-Kosten bei KI-Agenten

Unternehmen stehen beim Einsatz von KI-Agenten unter Kostendruck. Neue Architekturansätze wie Knowledge Layer und Context Graph sollen Token-Verbrauch und Ausgaben senken. Welche Folgen das für den KI-Betrieb hat, bleibt offen

Weiterlesen

Starburst: Wie gezieltes Datenmanagement KI-Kosten in Unternehmen senkt

Starburst betont, dass Unternehmen ihre KI-Kosten effektiver steuern können, wenn sie den Datenumfang vor der Modellnutzung reduzieren. Welche Rolle Datenarchitektur und Governance dabei spielen, bleibt ein zentrales Thema

Weiterlesen

Okta-Forscher dokumentieren wachsenden Graumarkt für KI-Token in China

Sicherheitsforscher von Okta berichten über einen florierenden Graumarkt für KI-Token, der durch betrügerische Kontoregistrierungen und hohe Rabatte vor allem in China angetrieben wird. Welche Risiken und Folgen das für Anbieter und Nutzer hat, bleibt umstritten

Weiterlesen

Obsidian Security erreicht 1,1 Milliarden US-Dollar Bewertung nach Finanzierungsrunde

Das US-Unternehmen Obsidian Security hat eine Finanzierung über 85 Millionen US-Dollar abgeschlossen und wird nun mit 1,1 Milliarden US-Dollar bewertet. Welche Bedeutung hat das für den Markt für KI-basierte Betrugsprävention

Weiterlesen

Digitale Souveränität bleibt für Unternehmen in Europa eine offene Herausforderung

Boomi betont, dass Datenlokalisierung allein keine vollständige digitale Souveränität garantiert. Unternehmen in Deutschland und Europa stehen vor komplexen Anforderungen bei Kontrolle, Betrieb und Technologieeinsatz

Weiterlesen

Modal Labs eröffnet erstes Büro in London und verstärkt europäische Präsenz

Das US-Unternehmen Modal Labs plant ein Büro in London und will damit seine Aktivitäten im europäischen KI-Infrastrukturmarkt ausbauen. Welche Folgen das für den Wettbewerb und die Standortwahl internationaler KI-Firmen hat, bleibt offen

Weiterlesen

KI-Sicherheit: Grundlegende Schwachstellen bei großen Sprachmodellen bleiben ungelöst

Forschende warnen, dass große Sprachmodelle wie GPT-4 strukturelle Sicherheitslücken aufweisen. Warum diese Schwächen kaum vollständig zu beheben sind und welche Folgen das für Unternehmen und Behörden haben könnte

Weiterlesen

Deutsche Bank setzt KI zur Optimierung des IT-Service-Desks ein

Eine deutsche Bank integriert KI in ihr IT-Service-Management-System, um Service-Tickets schneller und konsistenter zuzuweisen. Welche Effekte das auf Arbeitsabläufe und Fehlerbehebung hat, bleibt im Detail offen

Weiterlesen

Gillette Stadium setzt auf interne KI-Infrastruktur für Live-Events

Die Kraft Group und Cisco haben die Netzwerk- und Broadcast-Infrastruktur des Gillette Stadiums umfassend erneuert. Welche technischen und betrieblichen Folgen die neue KI-gestützte Plattform für Veranstalter und Fans tatsächlich hat, bleibt differenziert zu betrachten

Weiterlesen

Claroty-Bericht: Sicherheitslücken in Rechenzentren gefährden Betrieb

Ein neuer Bericht von Claroty zeigt, dass jedes fünfte cyber-physische System in Rechenzentren gravierende Schwachstellen aufweist. Welche Risiken das für Betreiber und Infrastruktur bedeutet, bleibt umstritten

Weiterlesen

Digitale Souveränität: Warum der Ausstieg aus der Public Cloud nicht genügt

Viele Unternehmen prüfen Alternativen zu Hyperscalern wie AWS oder Microsoft Azure. Doch der Wechsel zu Open-Source-Lösungen garantiert keine digitale Souveränität. Welche Risiken und Herausforderungen bleiben bestehen

Weiterlesen

EU-Transparenzpflichten für KI treten in Kraft: Unternehmen vor offenen Fragen

Seit August 2026 müssen Unternehmen in der EU Nutzer über KI-Interaktionen informieren. Trotz Leitlinien der EU-Kommission bleiben technische Standards und die praktische Umsetzung vielfach unklar

Weiterlesen

Seite 1 von 2