c't-Podcast kritisiert Konzept von 'vertrauenswürdiger KI'

Laut dem c't-Podcast 'They Talk Tech' warnt die Philosophin Dorothea Winter davor, dass das Konzept von 'vertrauenswürdiger KI' ein Kategorienfehler ist. Winter hat an der Berliner Humboldt-Universität zu Intentionalität und KI promoviert und lehrt an der Human-Computer Interaction Group der HU.

Winter argumentiert, dass KI im Kern eine Technologie der Selektion sei, deren Kriterien sich oft nicht mehr offenlegen ließen. Daher könne man dem System selbst nicht vertrauen, sondern nur den Menschen, die es entwickeln und kontrollieren.

Der Begriff 'vertrauenswürdige KI' hat sich dennoch in der Sprache etabliert und wird auch in der europäischen KI-Regulierung gefordert. Die sogenannte AI Act fordert vertrauenswürdige KI, ohne jedoch klarzustellen, was genau das bedeutet.

Kritiker wie Winter warnen davor, dass die Idee von 'vertrauenswürdiger KI' die Illusion erwecken könnte, dass KI-Systeme sicher und ethisch unbedenklich seien. Stattdessen sollte man sich auf die Transparenz und Kontrolle der Systeme konzentrieren.

Die Diskussion um 'vertrauenswürdige KI' ist Teil einer größeren Debatte über die Rolle von KI in unserer Gesellschaft. Es ist wichtig, kritisch zu hinterfragen, was 'vertrauenswürdige KI' bedeutet und wie sie reguliert werden sollte.