Tech-Chefs von Nvidia, OpenAI und Anthropic haben am Dienstag ein Versprechen des Weißen Hauses unterzeichnet, ihre KI unter Kontrolle zu halten, ohne dass dahinter eine rechtliche Kraft steckt. In der EU drohen denselben Unternehmen Geldstrafen von bis zu 3 % des weltweiten Umsatzes, wenn sie gegen die Regeln verstoßen.
Die mächtigsten Köpfe der Technologiebranche verließen am Dienstag ein Gipfeltreffen im Weißen Haus mit US-Präsident Donald Trump, nachdem sie versprochen hatten, ihre eigenen Kreationen in Schach zu halten.
Trump sagte, die Führungskräfte, darunter Jensen Huang von Nvidia, Greg Brockman von OpenAI und Dario Amodei von Anthropic, hätten eine „moralisch verbindliche“ Verpflichtung unterzeichnet, Schutzmaßnahmen in die künstliche Intelligenz (KI) einzubauen.
Der Pakt hat keine Rechtskraft und sieht keine klaren Strafen für den Bruch vor.
„Sie werden sich selbst überwachen“, sagte Trump nach dem Treffen gegenüber Reportern.
An dem Mittagessen nahmen 31 Gäste teil, darunter Mark Zuckerberg von Meta, Elon Musk, Amazon-Gründer Jeff Bezos, Satya Nadella von Microsoft und Sundar Pichai von Google. Die Stimmung in Washington zum Thema KI verschlechtert sich weiterhin.
Die Gesetzgeber stehen unter wachsendem Druck der Wähler, die Entwicklung der Technologie einzudämmen oder zu verlangsamen, weil sie befürchten, dass sie Arbeitnehmer verdrängen und die Gesellschaft auf den Kopf stellen könnte. Eine Reihe von Vorfällen in den letzten Monaten, bei denen die autonomen Systeme von OpenAI aus ihren Zwängen gerieten, haben diese Befürchtungen noch verstärkt.
Der erste war ein Verstoß gegen Hugging Face, eine weit verbreitete Plattform zum Austausch von KI-Modellen, im Juli. Am Montag hat OpenAI die Veröffentlichung seines neuesten Modells, Astra 6.1, abgesagt, nachdem interne Tests ergeben hatten, dass es nicht den Sicherheitsstandards entsprach.
Hier sind die wichtigsten Erkenntnisse vom Gipfel.
Tech-Chefs „Selbstpolizei“
Das als „White House Accord“ bezeichnete Dokument legt die Verpflichtung der Branche dar, sich selbst zu regulieren. Es ist nicht rechtlich durchsetzbar, lässt aber die Möglichkeit offen, „diese Schritte in Gesetzen oder Vorschriften zu kodifizieren“, sofern dies im Laufe der Zeit sinnvoll ist.
Zuckerberg sagte, die Vereinbarung ziele darauf ab, den Kunden zu versichern, dass KI „so funktioniert, wie wir es beabsichtigen“. Er sagte, dass es „robuste interne Kontrollen“ und mehrere Prüfungsebenen umfasst, von internen Risikoüberprüfungen bis hin zu externen Prüfern und der Aufsicht durch Unternehmensvorstände, und nannte es einen Ausgangspunkt für branchenweite Standards.
Musk drückte es deutlicher aus. Er sagte, die Führungskräfte hätten sich im Wesentlichen darauf geeinigt, „die Hausaufgaben gegenseitig zu benoten, was viel besser ist, als wenn die Leute aus offensichtlichen Gründen nur ihre eigenen Hausaufgaben benoten“.
Trump sagte, er werde in den kommenden Tagen jemanden benennen, der die Vereinbarung beaufsichtigt, und schlug außerdem ein Komitee aus etwa zehn Personen vor, das „das gesamte Unternehmen überwachen“ solle.
Amodeis Firma ist wegen der KI-Sicherheit erbittert mit dem Weißen Haus aneinandergeraten, und er hat eine vorsichtigere Haltung an den Tag gelegt als seine Kollegen.
„Wie der Präsident gesagt hat, gewinnt derjenige, der die KI gewinnt. Ich denke, das ist sehr wichtig“, sagte Amodei nach dem Treffen. „Aber ich denke, die Technologie birgt sehr reale Risiken, und der Mechanismus, wie wir diesen Risiken begegnen, wird noch diskutiert.“
Sein Unternehmen warnte Anleger jüngst im Prospekt zum geplanten Börsendebüt vor möglichen existenziellen Risiken für die Menschheit. Anthropic strebt einen Börsengang bereits im November an.
Süßstoffe für Rechenzentren
Trump wurde von Huang und seinem ehemaligen KI-Zaren David Sacks bei der KI-Erweiterung beraten und drängte auf eine uneingeschränkte Entwicklung der Technologie, um China zu überholen und eine US-Wirtschaft anzukurbeln, die zunehmend auf KI-gesteuertes Wachstum angewiesen ist.
Dieser Vorstoß läuft über Rechenzentren, die riesigen energiefressenden Rechenanlagen, von denen die KI abhängt. In beiden Parteien sind sie zu einem Brennpunkt im Rennen um die Zwischenwahlen geworden, da sich die Gemeinden über steigende Stromrechnungen und den Druck auf Wasser und Land Sorgen machen.
Eine am 14. und 15. September durchgeführte NPR/PBS News/Marist-Umfrage ergab, dass 65 % der registrierten Wähler den Bau von Rechenzentren in ihren eigenen Gemeinden ablehnten, 43 % sprachen sich entschieden dagegen aus.
Mehr als 80 % der Demokraten waren dagegen, während die Republikaner gespalten waren: 44 % waren dagegen und 46 % dafür.
Am 16. September stimmte das Repräsentantenhaus mit 417 zu 3 Stimmen für die Verabschiedung des Ratepayer Protection Act. Der Gesetzentwurf verlangt von den Staaten, Regeln zu erwägen, die Rechenzentren für Netzausbauten und steigende Stromkosten bezahlen, anstatt sie an die Haushalte weiterzugeben. Es muss noch vom Senat geklärt werden.
Anfang dieses Monats schrieb Trump auf Truth Social, dass Gemeinden, die Rechenzentren ablehnen, sich dafür entscheiden, „rückständig und arm“ zu sein. Nach dem Treffen am Dienstag schlug er einen sanfteren Ton an und sagte, dass KI-Unternehmen „sehr großzügig“ gegenüber Gemeinden sein werden, die sie willkommen heißen.
„Sie werden ihren Schulen helfen, sie werden ihren Lehrern helfen“, sagte er.
Auf Wiedersehen künstliche Intelligenz
Trump bestätigte außerdem, dass er die Technologie offiziell in „Superintelligenz“ statt in „Künstliche Intelligenz“ umbenennen würde, „weil sie nicht künstlich ist“.
Stunden später unterzeichnete er eine Durchführungsverordnung, in der er die Bundesregierung aufforderte, nach Möglichkeit die Begriffe „Super Intelligence“ und „SI“ zu verwenden.
„‚Super Intelligence‘ erfasst das Versprechen, das Potenzial und die schnell fortschreitenden Fähigkeiten dieser Technologien besser“, heißt es in der Anordnung.
Wie Brüssel es macht
Auf der anderen Seite des Atlantiks hat die EU ihre Schutzmaßnahmen gesetzlich verankert. Das KI-Gesetz, das Brüssel als das weltweit erste umfassende Gesetz zu KI bezeichnet, gilt für jedes Unternehmen, das KI in der EU verkauft, unabhängig davon, wo es seinen Sitz hat.
Seit August 2025 sind die Unternehmen, die hinter universellen KI-Modellen stehen, wie sie beispielsweise von OpenAI, Anthropic und Google entwickelt wurden, gesetzlich verpflichtet, die Funktionsweise ihrer Modelle zu dokumentieren, wichtige Informationen mit Unternehmen zu teilen, die auf ihnen aufbauen, das EU-Urheberrecht zu respektieren und eine Zusammenfassung der Daten zu veröffentlichen, die für das Training dieser Modelle verwendet werden.
Für die leistungsstärksten Modelle gelten strengere Regeln. Ihre Entwickler müssen sie auf Risiken testen, unter anderem durch gegnerisches „Red-Teaming“, schwerwiegende Vorfälle nach Brüssel melden und ihre Systeme vor Cyberangriffen schützen.
Diese Regeln haben echte Zähne. Seit dem 2. August kann das KI-Büro der Europäischen Kommission Informationen von Unternehmen einfordern, eigene Bewertungen ihrer Modelle durchführen und diese anweisen, ein Modell vom EU-Markt einzuschränken oder vom Markt zu nehmen.
Unternehmen, die gegen die Regeln verstoßen, müssen mit Geldstrafen von bis zu 15 Millionen Euro oder 3 % ihres weltweiten Jahresumsatzes rechnen, je nachdem, welcher Betrag höher ist. Für Big Tech könnte das Milliarden bedeuten.
Neben dem Gesetz gibt es einen freiwilligen Verhaltenskodex, der Unternehmen bei der Einhaltung unterstützen soll. Aber anders als beim Pakt des Weißen Hauses ist seine Unterzeichnung optional – die Einhaltung des AI Act hingegen nicht.
