Kalifornien treibt KI-Sicherheitsgesetz voran, das Tech-Führer spaltet

Kaliforniens Staatsversammlung hat ein umstrittenes Gesetz zur Sicherheit Künstlicher Intelligenz (KI) verabschiedet, das Unternehmen dazu verpflichtet, sicherzustellen, dass ihre Technologien keinen großen Schaden verursachen.

Das Gesetz, bekannt als SB 1047, hat sowohl Kritik als auch Zustimmung von prominenten Persönlichkeiten auf nationaler Ebene hervorgerufen. Es geht nun zurück an den Senat des Bundesstaates zur Bestätigung und möglichen Änderungen, bevor es Gouverneur Gavin Newsom vorgelegt wird. Die Staatsversammlung verabschiedete das Gesetz mit 41 zu 9 Stimmen.

Anforderungen und Zielsetzung des Gesetzes SB 1047

SB 1047 schreibt vor, dass Unternehmen, die leistungsstarke KI-Modelle entwickeln, „angemessene Sorgfalt“ walten lassen, um sicherzustellen, dass ihre Technologien keinen „schweren Schaden“ verursachen, wie etwa Massenopfer oder Sachschäden von über 500 Millionen US-Dollar. Das Gesetz, das von Senator Scott Wiener eingeführt wurde und bereits im Mai den Senat passierte, verlangt unter anderem, dass Unternehmen einen „Not-Aus-Schalter“ implementieren, der ihre Technologie jederzeit abschalten kann. Außerdem müssen die Modelle einer externen Prüfung unterzogen werden, um sicherzustellen, dass sie schwere Risiken minimieren.

Zusätzlich sieht das Gesetz Whistleblower-Schutz für Mitarbeiter:innen in KI-Unternehmen vor, die Sicherheitsbedenken äußern möchten. Unternehmen, die nicht mit dem Gesetz konform sind, könnten von der kalifornischen Generalstaatsanwaltschaft verklagt werden.

„Innovation und Sicherheit können Hand in Hand gehen — und Kalifornien geht hier mit gutem Beispiel voran“, sagte Wiener in einer Erklärung. Er nannte das Gesetz eine „maßvolle, vernünftige Maßnahme“, die Sicherheitszusagen kodifiziert, die viele große Unternehmen bereits gemacht haben.

Reaktionen aus der Tech-Branche und Politik

Das Gesetz hat in den letzten Monaten heftigen Widerstand von führenden Tech-Vertreter:innen, Startups und Risikokapitalgebern hervorgerufen. Sie argumentieren, dass es sich um staatliche Überregulierung einer Technologie handelt, die sich noch in den Kinderschuhen befindet, und dass es die Innovation in Kalifornien hemmen könnte. OpenAI sprach sich letzte Woche öffentlich gegen das Gesetz aus und argumentierte, dass solche Richtlinien auf Bundes- und nicht auf Staatsebene implementiert werden sollten.

Politische Persönlichkeiten wie die ehemalige Sprecherin des Repräsentantenhauses Nancy Pelosi, der US-Abgeordnete Ro Khanna und San Franciscos Bürgermeisterin London Breed haben ebenfalls Bedenken geäußert und befürchten, dass das Gesetz Kaliforniens Führungsrolle im Bereich der KI-Innovation beeinträchtigen könnte.

Gleichzeitig hat das Gesetz in den letzten Tagen vor der Abstimmung Unterstützung von prominenten Namen im KI-Sektor erhalten. Elon Musk sprach sich überraschend für das Gesetz aus, obwohl er einräumte, dass es eine „schwierige Entscheidung“ sei, die einige Menschen verärgern werde. Auch OpenAI-Konkurrent Anthropic, bekannt für seinen sicherheitsorientierten Ansatz, unterstützte das Gesetz vorsichtig und erklärte, dass die „Vorteile wahrscheinlich die Kosten überwiegen“. Anthropic zeigte sich positiver gegenüber der Gesetzgebung, nachdem Wiener mehrere Änderungen umgesetzt hatte, die das Unternehmen vorgeschlagen hatte.

Fortgang der Gesetzgebung

Senator Wiener hat das Gesetz gegen Kritiker verteidigt und betont, dass es nur für Unternehmen gilt, die mehr als 100 Millionen US-Dollar in das Training großer Modelle oder 10 Millionen US-Dollar in das Finetuning von Modellen investieren, was die meisten kleineren Startups ausschließen würde. Wiener erklärte auch, dass er eine bundesweite Gesetzgebung unterstützen würde, aber dass der Kongress historisch gesehen langsam darin sei, Technologie zu regulieren. Angesichts fehlender nationaler Maßnahmen sieht Wiener Kalifornien in der Verantwortung, führend zu handeln.

Der Kampf um SB 1047 geht weiter, da das Gesetz nun auf dem Weg zum Gouverneur Newsom ist. Kritiker wie OpenAI, der Tech-Inkubator Y Combinator und die Risikokapitalfirma Andreessen Horowitz haben alle Lobbyisten für das Gesetz angemeldet.

Via: Bloomberg