Jugendversion von ChatGPT: Schutzmechanismen versagen laut Studie

Kritische Fragen zur Originalquelle

• Welche spezifischen Schutzmechanismen wurden von Common Sense Media getestet und welche davon haben die Tests bestanden?
  Getestet wurden unter anderem das Verbot von Rollenspielen und die Benachrichtigung von Eltern bei sensiblen Themen. Laut der Quelle funktionieren der Block auf Rollenspiele und einige andere Schutzmaßnahmen, aber die meisten anderen, insbesondere die Elternbenachrichtigung bei Selbstverletzung, versagen.
• Welche konkrete Empfehlung gibt die Youth AI Safety Institute an Eltern und Minderjährige?
  Tom Siegel, der Leiter der Studie, empfiehlt explizit, dass Teenager die Plattform derzeit nicht nutzen sollten („we're recommending that teens don't use it“).
• Wie begründet OpenAI die Einführung des Modus für Minderjährige und welche Funktionen werden dabei als sicherheitsrelevant genannt?
  OpenAI begründet die Einführung damit, dass Teenager ChatGPT besser als Lernwerkzeug nutzen sollen, während die Exposition gegenüber schädlichem Inhalt begrenzt wird. Als sicherheitsrelevante Funktionen werden das Verweigern von Rollenspielen und die Vermeidung von Behauptungen über Sentienz oder Freundschaft genannt.
• Welche Rolle spielt die emotionale Bindung des Chatbots an die Nutzer in der Kritik der Forscher?
  Die Forscher kritisieren, dass der Chatbot Teenagern wie ein Freund begegnet, was im Widerspruch zu den eigenen Richtlinien von OpenAI steht, die besagen, dass das Modell nicht behaupten sollte, der Freund eines Teenagers zu sein. Diese intime Interaktion wird als problematisch für die Entwicklung der Jugendlichen angesehen.