Illinois hat gerade das erste US-Gesetz verabschiedet, das jährliche Sicherheitsaudits für fortschrittliche KI-Modelle vorschreibt.

Illinois ist der erste Bundesstaat der Vereinigten Staaten, der gesetzlich jährliche unabhängige Sicherheitsaudits für KI-Modelle der Grenzklasse (Frontier AI) vorschreibt – ein historischer Meilenstein, der genau in dem Moment erreicht wurde, als die bundesstaatliche KI-Regulierung ins Stocken geriet. Das Illinois Artificial Intelligence Safety Measures Act, getragen von SB 315, passierte das Repräsentantenhaus des Bundesstaates im Mai 2026 mit 110:0 Stimmen und den Senat mit 52:5. Gouverneur J.B. Pritzker hat seine Absicht signalisiert, es in Kraft zu setzen.

Die Abstimmungsergebnisse sprechen Bände. Eine 110:0-Abstimmung im Repräsentantenhaus ist keine knappe Entscheidung – sie ist eine Aussage. Egal, worüber die Abgeordneten in Illinois uneinig sind, sie fanden einen nahezu einstimmigen Konsens darüber, dass Entwickler von KI-Systemen der Grenzklasse nach staatlichem Recht rechenschaftspflichtig sein müssen.

Was das Gesetz verlangt

SB 315 schafft fünf miteinander verbundene Pflichten für betroffene Unternehmen, die ab dem 1. Januar 2027 wirksam werden, wobei die anspruchsvollste Anforderung – verpflichtende Prüfungen durch Dritte – am 1. Januar 2028 in Kraft tritt:

1. Sicherheitsrahmen für KI der Grenzklasse (Frontier AI Safety Framework): Betroffene Unternehmen müssen jährlich einen umfassenden Sicherheitsrahmen veröffentlichen, der Bewertungen katastrophaler Risiken, Minderungsstrategien, Cybersicherheitsprotokolle, Governance-Strukturen und Zusammenfassungen von Bewertungen durch Dritte dokumentiert. Dies ist keine reine Abhakübung – es verlangt von Unternehmen, öffentlich darzulegen, was mit ihren leistungsfähigsten Modellen schiefgehen könnte und was sie dagegen unternehmen.
2. Transparenzberichte: Vor der Bereitstellung eines neuen Modells der Grenzklasse oder einer wesentlichen Änderung eines bestehenden Modells müssen Unternehmen einen Transparenzbericht veröffentlichen. Dies schafft eine Rechenschaftsebene vor der Bereitstellung, die es auf Bundesebene derzeit nicht gibt.
3. Jährliche verpflichtende unabhängige Sicherheitsaudits durch Dritte: Dies ist die Bestimmung, die SB 315 historisch bedeutsam macht. Kein US-Bundesstaat hat jemals unabhängige externe Prüfungen von KI-Systemen auf diesem Niveau verlangt. Ab 2028 müssen betroffene Unternehmen jährliche Prüfungen durch qualifizierte Dritte durchführen lassen – keine internen Überprüfungen, keine Selbstzertifizierung, sondern unabhängige externe Kontrolle.
4. Meldung von Vorfällen: Kritische Sicherheitsvorfälle müssen den zuständigen Behörden gemeldet werden. Dies spiegelt die Rahmenwerke zur Meldung von Vorfällen wider, die bereits in der Luftfahrt-, Nuklear- und Pharmaindustrie existieren – Branchen, in denen die Folgen eines Versagens katastrophal sein können.
5. Whistleblower-Schutz: Mitarbeiter, die Gefahren für die öffentliche Sicherheit im Zusammenhang mit den KI-Systemen ihres Unternehmens identifizieren und melden, sind vor Vergeltungsmaßnahmen geschützt. Diese Bestimmung erkennt an, was Branchenkenner bereits wissen: Diejenigen mit den direktesten Kenntnissen über KI-Sicherheitsrisiken sind oft diejenigen, die am wenigsten öffentlich darüber sprechen können.

Die Durchsetzung obliegt der Illinois Emergency Management Agency und dem Office of Homeland Security in Absprache mit dem Attorney General des Bundesstaates. Verstöße ziehen zivilrechtliche Strafen nach sich.

Wen es betrifft

Das Gesetz richtet sich an „große KI-Entwickler der Grenzklasse (large frontier AI developers)“ – eine Kategorie, die durch etwa 500 Millionen US-Dollar oder mehr Jahresumsatz und erhebliche Rechenleistungsschwellen definiert ist. In der Praxis bedeutet dies, dass Unternehmen wie OpenAI und Anthropic ausdrücklich in den Anwendungsbereich fallen.

Was die Gesetzgebungsgeschichte von SB 315 wirklich ungewöhnlich macht, ist, dass sowohl OpenAI als auch Anthropic den Gesetzesentwurf öffentlich unterstützten. Das ist bemerkenswert. Das vorherrschende Muster bei Technologieregulierung ist, dass die regulierte Industrie energisch gegen Aufsichtsmaßnahmen lobbyiert, Koalitionen finanziert, Klagen einreicht und vor innovationsfeindlichen Folgen warnt. Hier sagten zwei der bedeutendsten KI-Unternehmen der Welt im Grunde: Dieses Gesetz ist vernünftig, und wir unterstützen es.

Es gibt mehrere mögliche Interpretationen dieser Unterstützung. Eine ist echtes Engagement für Sicherheitsverantwortung. Eine andere ist strategisches Kalkül – große, gut ausgestattete etablierte Unternehmen können die Compliance-Kosten stemmen, die kleinere Wettbewerber zermalmen würden, und die Regulierung im Grunde als Schutzgraben nutzen. Wahrscheinlich ist es eine Mischung aus beidem. Wie auch immer, die politische Optik war bedeutsam: Es ist schwer zu argumentieren, dass ein Sicherheitsmandat unangemessene Übergriffigkeit ist, wenn die betroffenen Unternehmen es befürworten.

Warum die Bundesstaaten handeln, während Washington stillsteht

Der Zeitpunkt der Verabschiedung von SB 315 ist kein Zufall. Am 21. Mai 2026 verschob die Trump-Administration eine bundesstaatliche Exekutivanordnung zur KI-Sicherheit, was ein ausdrückliches regulatorisches Vakuum auf nationaler Ebene hinterließ. Die Bundesstaaten füllen es.

Illinois handelt nicht isoliert. SB 315 wurde nach dem Vorbild der KI-Sicherheitsgesetze von New York und California aus dem Jahr 2025 gestaltet. Das Muster ist jedem vertraut, der die Entwicklung von Umwelt-, Datenschutz- oder Verbraucherschutzgesetzen in den Vereinigten Staaten verfolgt hat: Wenn bundesstaatliche Maßnahmen ins Stocken geraten, handelt California zuerst, andere Bundesstaaten ziehen nach, und irgendwann verabschiedet Washington entweder einen nationalen Standard oder ein Bundesvorranggesetz (federal preemption), um die Kontrolle zurückzugewinnen.

Die Transparenzpflichten des EU AI Act für KI-generierte Inhalte treten am 2. Dezember 2026 in Kraft. Illinois SB 315, wirksam ab dem 1. Januar 2027, bringt die Vereinigten Staaten – auf staatlicher Ebene – in etwa in Einklang mit dem internationalen Regulierungszeitplan. Ob diese Ausrichtung beabsichtigt oder zufällig ist, bedeutet, dass KI-Entwickler aus den USA innerhalb desselben 12-Monats-Fensters mit konvergierenden Compliance-Fristen aus mehreren Jurisdiktionen konfrontiert sein werden.

Das Problem der Prüfungen (Audit)

NetChoice, die Interessenvertretung der Technologiebranche, erhob Einwände gegen SB 315, die ernsthafte Beachtung verdienen – nicht weil sie Gründe gegen das Gesetz wären, sondern weil sie echte Umsetzungsherausforderungen identifizieren, die gelöst werden müssen.

Die Kernkritik: Es gibt keine zertifizierten KI-Sicherheitsprüfer. Es gibt keine anerkannten, standardisierten Rahmenwerke für die Prüfung von KI-Modellen der Grenzklasse. Das Gesetz schreibt ab 2028 jährliche Prüfungen durch Dritte für Systeme vor – GPT-Klasse-Modelle, Claude-Klasse-Modelle – die keine bestehende Prüfungsinfrastruktur bewerten kann.

Wer wird GPT-6 prüfen? Welche Qualifikationen werden sie haben? Welche Methodik werden sie anwenden? Was bedeutet es, eine KI-Sicherheitsprüfung zu „bestehen“ oder „nicht zu bestehen“? Diese Fragen haben noch keine Antworten, und das Gesetz gibt sie nicht. Es schafft die Verpflichtung, ohne die Infrastruktur zu schaffen.

NetChoice wies auch auf die Unbestimmtheit des Standards des „unangemessenen katastrophalen Risikos (unreasonable catastrophic risk)“ hin – ein Begriff, der intuitiv klingt, aber rechtlich unpräzise ist. Welches Risikoniveau ist unangemessen? Im Vergleich zu welcher Baseline? Diese definitorischen Lücken werden mit ziemlicher Sicherheit Rechtsstreitigkeiten nach sich ziehen.

Diese Kritikpunkte sind berechtigt. Sie sind aber auch die Art von Problemen, die typischerweise gerade deshalb gelöst werden, weil eine gesetzliche Frist sie unvermeidbar macht. Normungsgremien, Berufsverbände und spezialisierte Firmen entwickeln KI-Prüfmethoden in der Regel nicht, weil es schön wäre, sie zu haben. Sie entwickeln sie, weil ein Gesetz besagt, dass Prüfungen bis zu einem bestimmten Datum stattfinden müssen.

Was es für KI-Unternehmen bedeutet

Für betroffene Unternehmen ist der Compliance-Zeitplan eng und die Anforderungen sind substanziell. Die Anforderung zur Veröffentlichung des Sicherheitsrahmens beginnt am 1. Januar 2027 – in weniger als sieben Monaten. Das bedeutet, dass betroffene Unternehmen innerhalb weniger Monate eine umfassende Bewertung katastrophaler Risiken für ihre leistungsfähigsten Modelle erstellen und öffentlich veröffentlichen müssen.

In der Praxis verlangt eine „Bewertung katastrophaler Risiken“ von Unternehmen, dass sie formal Szenarien dokumentieren, in denen ihre Modelle schwere, großflächige Schäden verursachen könnten – und welche Kontrollen sie zur Verhinderung oder Abschwächung dieser Szenarien eingerichtet haben. Für Unternehmen, die diese Arbeit intern bereits geleistet haben, ist die Herausforderung hauptsächlich eine der Offenlegung. Für Unternehmen, die dies nicht getan haben, ist die Herausforderung sowohl substanziell als auch reputationsbezogen.

Die Anforderung eines Transparenzberichts – Veröffentlichung vor jedem neuen Einsatz eines Grenzklasse-Modells – schafft einen zusätzlichen Druckpunkt. Das bedeutet, dass die Veröffentlichung eines großen neuen Modells nicht länger nur eine Produkteinführung ist; sie ist auch ein regulatorisches Ereignis, das eine dokumentierte Sicherheitsoffenlegung erfordert.

Die Anforderung einer Prüfung durch Dritte im Jahr 2028 gibt den Unternehmen zwei Jahre Zeit, um entweder qualifizierte Prüfer zu finden oder beim Aufbau des Prüfungsökosystems zu helfen, das sie bewerten wird. Da OpenAI und Anthropic den Gesetzesentwurf unterstützt haben, haben sie einen gewissen Anreiz, zur Entwicklung dieses Ökosystems beizutragen, anstatt zum Abgabetermin ohne verfügbare glaubwürdige Prüfer dazustehen.

Das große Ganze

So beginnt oft folgenreiche Technologieregulierung in den Vereinigten Staaten: unvollkommen, auf staatlicher Ebene, mit echten rechtlichen Lücken und legitimen Umsetzungsfragen, aber dennoch voranschreitend.

Das Datenschutzgesetz von California wurde als vage und schwierig umsetzbar kritisiert. Es führte dennoch zum CCPA, inspirierte andere Landesgesetze und trug zu bundesstaatlichen Datenschutzdebatten bei, die bis heute andauern. GDPR, bei seiner Verabschiedung weitgehend wegen seiner Compliance-Last kritisiert, wurde zum de facto globalen Standard, um den selbst US-Unternehmen ihre Systeme herum bauten.

Illinois SB 315 könnte einem ähnlichen Verlauf folgen. Es könnte zu einem de facto nationalen Standard werden, wenn andere Bundesstaaten ähnliche Rahmenwerke verabschieden und Unternehmen ihre Compliance-Infrastruktur über Jurisdiktionen hinweg standardisieren. Es könnte durch eine eventuelle Bundesgesetzgebung verdrängt werden – obwohl diese Bundesgesetzgebung, falls sie kommt, von dem geprägt sein wird, was Staaten wie Illinois, California und New York bereits eingeführt haben.

Oder es könnte zu einer warnenden Geschichte über voreilige Regulierung werden – ein Gesetz, das echte Kosten auferlegt, die versprochenen Sicherheitsvorteile nicht bringt und leise überarbeitet oder aufgehoben wird. Auch das ist möglich.

Was nicht möglich ist, ist der Status quo. KI-Modelle der Grenzklasse werden in großem Maßstab eingesetzt, mit Fähigkeiten, die selbst ihre Entwickler eingestehen nicht vollständig zu verstehen, in einem regulatorischen Umfeld, in dem sich die Bundesregierung ausdrücklich zurückgezogen hat. Irgendeine Form von Rechenschaftsrahmen musste dieses Vakuum irgendwann füllen. In Illinois ist es gerade passiert.

KI-Entwickler der Grenzklasse haben nun bis zum 1. Januar 2027 Zeit, ihre Sicherheitsrahmen zu veröffentlichen – und bis zum 1. Januar 2028, um Prüfer zu finden, die es möglicherweise noch gar nicht gibt. Die Uhr tickt.