Kalifornien plant gesetzliche Pflicht zur Notabschaltung von KI-Systemen

Die Glaubwürdigkeit des Vorhabens ist fragwürdig, da die technische Machbarkeit eines universellen »kill switch« für autonome KI-Systeme nicht belegt ist. Die Behauptung, existenzielle Risiken wie Angriffe auf kritische Infrastruktur abzuwenden, bleibt ohne konkrete technische Belege eine reine Absichtserklärung. Es fehlt die Definition, was als »Gefahr« gilt, die eine Abschaltung rechtfertigt, was zu willkürlichen Eingriffen führen könnte.

Politisch profitiert die demokratische Führung in Kalifornien von der Positionierung als Vorreiter. Dies dient der Profilierung gegenüber der Bundesregierung, die eine strikte Regulierung vermeidet, um den technologischen Vorsprung gegenüber China zu wahren. Die Kritik an der Inaktivität des Kongresses instrumentalisiert das Sicherheitsbedürfnis der Bevölkerung für parteipolitische Zwecke. Positive Folgen wären für die Allgemeinheit eine höhere Transparenz und Sicherheit, doch diese bleiben spekulativ, solange keine unabhängigen Standards vorliegen.

Wirtschaftliche Nachteile drohen vor allem für die in der Region angesiedelten Tech-Konzerne wie OpenAI oder Anthropic. Striktere Meldepflichten und die Pflicht zur Installation von Abschaltvorrichtungen könnten die Entwicklungskosten erhöhen und den Innovationsvorsprung schmälern. Für Verbraucher besteht das Risiko, dass überzogene Sicherheitsauflagen zu Funktionsverlusten oder eingeschränkter Verfügbarkeit führen. Verschwiegen wird, ob diese Maßnahmen tatsächlich Schutz bieten oder…