US-Kongress prüft strengere KI-Regulierung nach Forscherwarnung zu Anthropic und OpenAI

Die Warnung eines ehemaligen Forschers von OpenAI und Anthropic vor den Risiken autonomer KI-Systeme hat in Washington für Bewegung gesorgt. Mehrere Mitglieder des US-Kongresses sprechen sich inzwischen für strengere Regeln im Umgang mit Künstlicher Intelligenz aus. Im Mittelpunkt steht die Sorge, dass Unternehmen wie Anthropic und OpenAI mit selbstlernenden KI-Modellen Risiken eingehen, deren gesellschaftliche Folgen kaum kontrollierbar sind.

Forscher verlässt Anthropic und kritisiert KI-Strategie

Jacob Coxon, der zuvor bei OpenAI und zuletzt bei Anthropic gearbeitet hat, ist öffentlich zurückgetreten. In seiner Erklärung wirft Coxon führenden Entwicklern der Branche vor, das Risiko eines katastrophalen Scheiterns durch KI-Systeme zu unterschätzen. Er warnt, dass die aktuellen Entwicklungen dazu führen könnten, dass KI-Modelle bis zum Ende des Jahrzehnts eine reale Gefahr für die Menschheit darstellen. Seine Aussage, Unternehmen würden "mit unserem Leben spielen", hat die politische Debatte in den USA verschärft.

Die Reaktionen auf Coxons Rücktritt kamen aus beiden politischen Lagern. Demokratische und republikanische Abgeordnete äußerten sich besorgt über das Tempo, mit dem Unternehmen wie Anthropic und OpenAI an autonomen, lernfähigen Systemen arbeiten. Sie fordern neue gesetzliche Vorgaben, weil die bisherigen Regeln aus ihrer Sicht nicht ausreichen, um die Risiken fortschrittlicher KI-Modelle zu adressieren. Laut Reuters forderten mehrere US-Senatoren öffentlich strengere Regeln, nachdem Coxons Beitrag auf X über 150 Millionen Mal aufgerufen wurde und so die Aufmerksamkeit auf die Risiken von KI-Systemen deutlich erhöhte.

Politischer Druck auf KI-Unternehmen wächst

Im Vorfeld der US-Zwischenwahlen im November wird der Ton gegenüber großen KI-Anbietern schärfer. Die öffentliche Debatte dreht sich zunehmend um Arbeitsplatzverluste, den steigenden Energiebedarf von Rechenzentren und die fehlende Transparenz bei der Entwicklung autonomer Systeme. Unternehmen wie OpenAI und Anthropic stehen unter Beobachtung, da sie nach Einschätzung von Beobachtern kurz davor stehen, KI-Modelle mit weitreichender Autonomie zu veröffentlichen.

OpenAI hat am 9. September 2026 explizit verpflichtende nationale Sicherheitsanforderungen für KI gefordert und betont, dass die Entwicklung von KI durch KI mehr als freiwillige Selbstverpflichtungen erfordert. Die USA benötigen laut OpenAI eine verpflichtende, fähigkeitsbasierte nationale Regulierung.OpenAIUnternehmensstatement

Im Kongress wird diskutiert, verbindliche Standards für die Entwicklung und den Einsatz von KI-Systemen einzuführen. Zur Debatte stehen Meldepflichten für kritische Vorfälle, Transparenzanforderungen bei Trainingsdaten und Algorithmen sowie Kontrollmechanismen für besonders leistungsfähige Modelle. Bisher gibt es in den USA keine einheitliche Gesetzgebung, die den Umgang mit generativer oder agentischer KI umfassend regelt. Laut Reuters wird im US-Senat über eine Regelung beraten, die KI-Unternehmen verpflichtet, bekannte erhebliche Risiken zu mindern und Bundesgerichten die Möglichkeit gibt, die Veröffentlichung unsicherer Modelle zu blockieren.

Internationale und wirtschaftliche Implikationen

Die Entwicklungen in den USA sind auch für europäische Unternehmen und Regulierungsbehörden relevant. Während die EU mit dem AI Act einen umfassenden Rechtsrahmen für Künstliche Intelligenz vorbereitet, bleibt die US-Regulierung fragmentiert. Für global agierende Anbieter wie Anthropic und OpenAI entsteht dadurch ein Spannungsfeld zwischen unterschiedlichen regulatorischen Anforderungen. Die Unsicherheit über künftige US-Vorgaben erschwert Investitionsentscheidungen und die Planung internationaler Kooperationen. In Deutschland verweist das Bundesamt für Sicherheit in der Informationstechnik (BSI) auf die Notwendigkeit, KI-Systeme nach DIN EN ISO/IEC 27001 und branchenspezifischen BSI-Standards abzusichern, um Risiken für kritische Infrastrukturen zu minimieren. Weitere Informationen zu aktuellen BSI-Empfehlungen finden sich im offiziellen BSI-Portal.

Die wirtschaftlichen Folgen betreffen nicht nur die KI-Unternehmen selbst, sondern auch Zulieferer, Rechenzentrumsbetreiber und Branchen, die auf automatisierte Systeme setzen. Wie die Entwicklung von KI-Chips für Rechenzentren zeigt - berichtete Glocalist Press - können regulatorische Unsicherheiten erhebliche Auswirkungen auf Investitionen und Marktstrategien haben.

Bewertung der Risiken und offene Fragen

Ob die von Jacob Coxon beschriebenen Risiken tatsächlich eintreten, ist unter Fachleuten umstritten. Einige warnen vor einer unkontrollierten Entwicklung autonomer KI-Systeme, andere verweisen auf die bislang fehlenden empirischen Belege für eine unmittelbare Gefährdung der Menschheit. Klar ist, dass das Thema politisch an Bedeutung gewinnt und Unternehmen ihre Entwicklungsprozesse transparenter gestalten müssen.

Die Forderung nach strengeren Regeln spiegelt auch ein wachsendes Misstrauen gegenüber der Selbstregulierung der Branche wider. Ohne verbindliche Vorgaben besteht die Gefahr, dass wirtschaftliche Interessen die Risikobewertung bestimmen. In den kommenden Monaten wird sich zeigen, ob der US-Kongress konkrete Gesetzesinitiativen auf den Weg bringt oder ob die Debatte erneut bei Appellen bleibt. Fest steht, dass die Zeit der weitgehend unregulierten KI-Entwicklung in den USA zu Ende geht. Unternehmen wie Anthropic und OpenAI müssen sich auf eine Phase erhöhter regulatorischer Unsicherheit einstellen, die auch den internationalen Wettbewerb und die Innovationsdynamik beeinflussen dürfte.

Künstliche Intelligenz (KI) bezeichnet Systeme, die Aufgaben übernehmen, die bisher menschliche Intelligenz erforderten. Moderne KI-Modelle, insbesondere sogenannte Foundation Models, werden mit großen Datenmengen trainiert und können eigenständig lernen. Autonome, agentische KI-Systeme sind in der Lage, komplexe Entscheidungen zu treffen und sich an neue Situationen anzupassen. Die Regulierung solcher Systeme stellt Gesetzgeber weltweit vor die Aufgabe, Innovation zu ermöglichen und gleichzeitig Risiken für Gesellschaft und Wirtschaft zu begrenzen.