Warum ein Gesetzesentwurf des kalifornischen Senats wegen geplanter KI-Regulierungen Silicon Valley verärgert

In Kalifornien rückt ein umstrittener Gesetzentwurf zur Regulierung der Entwicklung und des Trainings von KI-Modellen immer näher an die Verabschiedung. Viele Akteure in der Branche sind darüber nicht glücklich.

Gesetzentwurf 1047 des kalifornischen Senats wird von KI-Unternehmen, die an Modellen arbeiten, die mehr als 100 Millionen US-Dollar kosten, verlangen, dass sie ein robustes Sicherheitsframework in ihre Modelle einbauen.

In der Technologiebranche, deren zahlreiche Unternehmen im Silicon Valley angesiedelt sind, wird Berichten zufolge über die Auswirkungen des Gesetzesentwurfs auf ihre Arbeit diskutiert.

SB 1047 würde von KI-Entwicklern verlangen, einen Notausschalter einzubauen, eine jährliche Überprüfung der Sicherheitskonformität durchzuführen und keine potenziell gefährlichen Modelle zu erstellen, zu verwenden oder zu verbreiten.

Elon Musk, dessen KI-Plattform Grok kürzlich kritisiert wurde für die Verbreitung von Falschinformationenhat sich für den Gesetzentwurf ausgesprochen.

„Das ist eine schwierige Entscheidung und wird einige Leute verärgern, aber alles in allem denke ich, dass Kalifornien wahrscheinlich das KI-Sicherheitsgesetz SB 1047 verabschieden sollte“, sagte Musk in einem an X senden am Montag.

Der milliardenschwere Tech-Unternehmer merkte auch an, dass er sich für eine stärkere Regulierung der Regulierung einsetze, und behauptete, er setze sich bereits seit rund 20 Jahren umfassend für eine Regulierung der KI ein.

Andere wiederum lehnen den Gesetzesentwurf vehement ab, darunter auch das von Musk mitgegründete Unternehmen OpenAI.

Das in San Francisco ansässige Technologieunternehmen, das für die Entwicklung des beliebten Sprachlernmodells ChatGPT verantwortlich ist, verfasste einen Brief an den Autor des Gesetzentwurfs, Scott Wiener (Demokrat, San Francisco), der letzte Woche behauptete, dass der Gesetzentwurf die Fähigkeit des Silicon Valley schädigen würde, eine weltweit führende Rolle im Bereich der künstlichen Intelligenz einzunehmen.

Andrew Ng, der ehemalige Leiter von Googles Deep-Learning-KI-Forschungsprojekt Deep Brain, zielte gegen den Gesetzentwurf mit der Begründung, er würde „die Ersteller großer KI-Modelle haftbar machen, wenn jemand ihre Modelle verwendet.“

„Ich bin zutiefst besorgt über den Gesetzesentwurf SB-1047 in Kalifornien“, sagte Ng getwittert zu der Zeit„Es handelt sich um einen langen, komplexen Gesetzentwurf mit vielen Abschnitten, die Sicherheitsbewertungen, Abschaltmöglichkeiten für Modelle usw. erfordern.“

Wenn der Gesetzentwurf in Kraft tritt, müssen KI-Entwickler fünf wichtige Regeln befolgen. Dazu gehört, dass sie das Modell schnell außer Betrieb setzen und einen schriftlichen Sicherheitsplan erstellen können. Sie müssen eine unveränderte Kopie dieses Sicherheitsplans so lange aufbewahren, wie das Modell verfügbar ist, plus weitere fünf Jahre, und Aufzeichnungen über alle Aktualisierungen führen.

Ab dem 1. Januar 2026 wären Bauträger verpflichtet, jährlich einen unabhängigen Prüfer mit der Überprüfung der Gesetzeskonformität zu beauftragen und den vollständigen Prüfbericht für die gleiche Dauer wie den Sicherheitsplan aufzubewahren.

Entwickler müssen dem Generalstaatsanwalt auf Anfrage auch Zugriff auf den Sicherheitsplan und den Prüfbericht gewähren. Darüber hinaus ist es Entwicklern untersagt, ein Modell für kommerzielle oder öffentliche Zwecke zu verwenden oder freizugeben, wenn es ein erhebliches Risiko für schwere Schäden darstellt.

Der Gesetzentwurf wurde von einem wichtigen Ausschuss der Versammlung verabschiedet und wird später in dieser Woche von allen Mitgliedern der Versammlung abgestimmt. Der Senat hat ihn bereits im Mai mit großer Unterstützung verabschiedet.

Wenn die Versammlung dem Gesetzentwurf zustimmt, wird er am 30. September an Gouverneur Gavin Newsom weitergeleitet, der entscheiden soll, ob er ein Veto einlegt oder zum Gesetz wird.

Herausgegeben von Sebastian Sinclair