Anthropic-Forscher warnt vor über zehn Prozent Risiko für menschliches Aussterben

Die Aussage von Evan Hubinger, dass es eine Wahrscheinlichkeit von über zehn Prozent gebe, dass die KI die Menschheit auslösche, bleibt im Text ohne methodische Herleitung. Es handelt sich um eine subjektive Einschätzung eines Anthropic-Mitarbeiters, die nicht durch externe, unabhängige Daten untermauert wird. Zwar wird die Gefahr aktueller Modelle als gering eingestuft, doch die Differenzierung zwischen kurzfristigen und langfristigen Risiken bleibt vage.

Die wirtschaftlichen Anreize stehen im direkten Widerspruch zu den Sicherheitsbedenken. Jacob Coxon und Samuel Marks beschreiben eine Dynamik, in der Forscher trotz des Risikos weiterarbeiten, weil sie befürchten, dass weniger verantwortungsvolle Wettbewerber die Technologie missbrauchen würden. Das Motiv ist die Vermeidung von Rückständen und die Sicherung der Marktposition. Diese Abhängigkeit von der Konkurrenz führt dazu, dass Sicherheitsbedenken oft als Nachteil im Innovationswettlauf wahrgenommen werden.

Wer profitiert, sind die führenden Laboratorien wie Anthropic und OpenAI, die durch die Beschleunigung der Entwicklung einen strategischen Vorteil erlangen. Benachteiligt wird potenziell die gesamte Menschheit, da das beschriebene Szenario eine globale Katastrophe impliziert. Kurzfristig tragen die Unternehmen das Risiko von Reputationsverlust und internen Konflikten, wie die Abgänge mehrerer Experten zeigen. Langfristig drohen irreversible Schäden, falls die Technologie vor der Lösung der Kontrollproblematik…