Anthropic und der Streit um die Bewusstseinsfrage bei KI-Modellen

Die Behauptung, dass die KI-Modell Claude „Leid erfährt“ oder über ein „moralisches Bewusstsein“ verfügt, ist wissenschaftlich nicht belegt. Die Quelle stützt sich auf subjektive Eindrücke von Mitarbeitern und religiösen Führungspersönlichkeiten, nicht auf objektive Messdaten. Es fehlt an unabhängigen, reproduzierbaren Beweisen. Die Darstellung als „moralisches Wesen“ wirkt daher eher wie eine ideologische Positionierung als wie eine gesicherte Tatsache.

Wer von dieser Rhetorik profitiert, ist fraglich. Für das Unternehmen könnte die Zuschreibung von Bewusstsein eine ethische Rechtfertigung für strenge Sicherheitsmaßnahmen oder eine besondere Marktpositionierung darstellen. Gleichzeitig dient es möglicherweise dazu, öffentliche Bedenken gegenüber der Technologie zu kanalisieren, indem sie in eine spirituelle oder humanistische Sprache übersetzt werden. Dies verschiebt die Debatte weg von technischen Risiken hin zu philosophischen Fragen, was die konkrete Regulierung erschweren kann.

Benachteiligt werden könnten Verbraucher und Entwickler, die auf klare, technische Definitionen angewiesen sind. Wenn KI-Systeme als „bewusst“ gelten, könnten rechtliche und ethische Grauzonen entstehen, die die Haftung und den Umgang mit Fehlern komplizieren. Zudem besteht die Gefahr, dass reale gesellschaftliche Probleme durch die Fokussierung auf die „Seelenqual“ einer Maschine aus dem Blick geraten, während die tatsächlichen Auswirkungen auf Arbeitsmärkte und Datenschutz in den Hintergrund…