Am 10. Juni 2026 veröffentlichte Dario Amodei, CEO des KI-Unternehmens Anthropic, seinen Aufsatz 'Policy on the AI Exponential'. Darin warnt er, dass die Künstliche Intelligenz schneller voranschreitet als die Regierungen regulieren können. Er schlägt ein FAA-inspiriertes Regulierungsmodell, wirtschaftliche Maßnahmen gegen Arbeitsplatzverluste und eine globale Koalition der Demokratien vor.

Ein Weckruf angesichts der KI-Beschleunigung

Am 10. Juni 2026 veröffentlichte Dario Amodei, CEO des KI-Unternehmens Anthropic, einen ausführlichen Aufsatz mit dem Titel 'Policy on the AI Exponential' (Politik zur exponentiellen KI). Darin vergleicht er die Situation mit einer Szene aus Der Herr der Ringe, in der die Hobbits versuchen, den Ent Baumwirt aufzuwecken, um ihren Wald zu verteidigen: Die KI schreitet mit atemberaubender Geschwindigkeit voran, während politische und legislative Prozesse nahezu unüberwindbar langsam sind.

Der Aufsatz kommt zu einem kritischen Zeitpunkt: Laut Amodei haben KI-Modelle in nur vier Jahren den Sprung von einer einzigen korrekten Codezeile zum Schreiben des Großteils des Codes in führenden KI-Unternehmen geschafft. Auch in Biologie, Physik, Mathematik, Finanzen, Recht und Übersetzung sind die Fortschritte bemerkenswert. Die Skalierungsgesetze der KI, die einen exponentiellen Anstieg allgemeiner kognitiver Fähigkeiten mit mehr Rechenleistung vorhersagen, verfügen bereits über mehr als ein Jahrzehnt empirischer Evidenz.

„Wenn diese Skalierungsgesetze nur ein oder zwei Jahre weiter gelten, erhalten wir wahrscheinlich das, was ich als mächtige KI bezeichnet habe – ein Land voller Genies in einem Rechenzentrum“, schrieb Amodei.

Konkrete Risiken: Cybersicherheit und mehr

Amodei betont, dass die Beweise für die Macht und die Risiken der KI in den letzten Monaten unbestreitbar geworden sind. Das bekannteste Beispiel ist Claude Mythos Preview, das zeigte, dass Grenzmodelle sehr reale Risiken für die Cybersicherheit darstellen, mit Potenzial, den Finanzsektor, kritische Infrastrukturen und die nationale Sicherheit zu verändern. „Mythos Preview hat die globale Cybersicherheitslandschaft revolutioniert“, sagt er und fügt hinzu, dass biologische Risiken bald folgen könnten, ebenso wie Risiken durch KI-Autonomie.

Vorschläge in fünf Schlüsselbereichen

Der Aufsatz gliedert sich in fünf Politikbereiche, die in einer Welt mit KI neu überdacht werden müssen:

  • Regulierung und öffentliche Sicherheit: Amodei schlägt ein Regulierungsmodell vor, das an die Federal Aviation Administration (FAA) der USA angelehnt ist. KI-Modelle oberhalb einer bestimmten Rechenleistungsschwelle sollten verpflichtenden Tests durch Dritte in vier Bereichen unterzogen werden: Cybersicherheit, biologische Waffen, Kontrollverlust über KI-Systeme und automatisierte Forschung und Entwicklung, die diese Risiken beschleunigen könnte. Die Regierung sollte die Befugnis haben, die Bereitstellung von Modellen mit inakzeptablen Risiken zu blockieren oder abzuschrecken.
  • Makroökonomie und Fiskalpolitik: Amodei warnt, dass KI extrem schnelles Wirtschaftswachstum, aber auch massive und dauerhafte Arbeitsplatzverluste verursachen könnte. Er schlägt Messung und Überwachung der Verdrängung vor, beschäftigungsfreundliche Anreize (wie Lohnversicherungen, Steueranreize gegen Entlassungen, Umschulung) und langfristige makroökonomische Unterstützung, einschließlich Mechanismen wie ein bedingungsloses Grundeinkommen, finanziert durch Steuern auf relevante Unternehmen oder auf erhöhte Kapitalgewinne.
  • Beschleunigung der positiven Wirkung von KI: In Bereichen wie Biomedizin befürchtet Amodei, dass Regulierungssysteme (FDA, EMA) nicht auf die Flut neuer Produkte vorbereitet sind. Er schlägt Reformen vor, um KI-Simulationen in klinischen Studien zu akzeptieren, Modelle für Pharmakodynamik und Pharmakokinetik, Toxikologievorhersagen, synthetische Kontrollarme und mehr.
  • Der Staat und die Bürgerrechte: Amodei warnt, dass KI das ultimative Werkzeug für Autokratien sein könnte. Er schlägt Haftungsregeln für autonome Waffen vor, ein Verbot des Inlandseinsatzes vollautonomer Waffen, die Schließung der Lücke bei der massiven Datenerfassung durch Unternehmen und die Gewährleistung, dass Bürger Zugang zu KI-Beratung haben, die mindestens so leistungsfähig ist wie die der Regierung bei nachteiligen Maßnahmen.
  • Sicherung der Führungsrolle der Demokratien: Amodei fordert die Bildung einer globalen Koalition der Demokratien, die sich auf den Aufbau von KI nach ihren gemeinsamen Werten konzentriert, die Lieferkette für Chips und Halbleiterausrüstung verwaltet, Reaktionen auf Risiken koordiniert, Vorteile teilt, gegenseitige Verteidigung bietet und KI-gestützte Unterdrückung ablehnt.

Anthropic legt konkrete Gesetzesvorschläge vor

Zusammen mit dem Aufsatz veröffentlichte Anthropic einen Gesetzesvorschlag zu Tests von Grenzmodellen und einen politischen Rahmen für Arbeitsplatzverluste mit erheblicher finanzieller Unterstützung. Amodei betonte, dies seien „erste Schritte, um unsere Ernsthaftigkeit zu zeigen“.

Ein Fenster der Gelegenheit

Amodei zeigt sich optimistisch: „Das Zusammentreffen von klaren und gegenwärtigen Beweisen für die Risiken der KI, ein erster Vorgeschmack auf das Potenzial der KI zur Schaffung wirtschaftlichen Werts und zur Störung sowie eine bemerkenswerte öffentliche Ablehnung unregulierter Ansätze haben eine Situation geschaffen, in der politische Entscheidungsträger ungewöhnlich offen für zukunftsweisende Maßnahmen sind.“

Der vollständige Aufsatz ist auf der Website von Anthropic verfügbar. Amodei dankte Allan Dafoe, Mariano-Florentino Cuéllar, Richard Fontaine, Buddy Shah, Vas Narasimhan, Matt Yglesias, Nick Beckstead, Jason Matheny, Brad Carson und vielen anderen für ihre Kommentare.

Quelle: Original-Essay von Dario Amodei