JusProg: Absurdes Overblocking bei Jugendschutz-Software entdeckt
In Deutschland ist nur eine Software zur Inhaltsfilterung im Internet für Kinder und Jugendliche zugelassen. Sie hat aber große Probleme, zeigt eine Recherche.
(Bild: suriyachan/Shutterstock.com)
Der Jugendschutzfilter JusProg fürs Internet hat offenbar große Probleme mit Overblocking und hindert nicht nur Kinder und Jugendliche daran, eindeutig ungefährliche Internetseiten zu besuchen. Das haben Recherchen von und im Auftrag des Bayerischen Rundfunks und Netzpolitik.org ergeben. Demnach ordnet das Werkzeug Websites auf Basis von Algorithmen Alterseinstufungen mit teilweise absurden Folgen zu. Weil der Filter gleichzeitig auch im öffentlich finanzierten BayernWLAN des Freistaats eingesetzt wird, kann die Sperre auch Erwachsene treffen, die etwa in einer Bibliothek surfen. Mit dem Ergebnis der Recherchen konfrontiert, hätten die Verantwortlichen reagiert und viele Falscheinstufungen berichtigt.
Sogar Seiten von KZ-Gedenkstätten gesperrt
Wie die für den technischen Teil der Prüfung verantwortliche IT-Sicherheitsexpertin Lilith Wittmann in einem Blogeintrag ausführt, hat sie 18.000 .de-Domains gefunden, die von JusProg als "ab 18 Jahren" eingestuft wurden. Das sei zwar nur ein Bruchteil aller 3,7 Millionen Domains, aber trotzdem legt eine Auflistung nahe, dass es keine manuelle Prüfung gegeben hat. So hat sie etwa Seiten eines Kinos, von Pizzalieferdiensten, einer Modemarke und von verschiedene Edeka-Märkten gefunden, die JusProg für Kinder und Jugendliche sperrt. Außerdem scheine das Programm auch ein Problem mit den Begriffen "queer" und "quer" zu haben, ganz unterschiedliche Seiten damit würden blockiert. Sogar zwei KZ-Gedenkstätten gehörten zu den teils "absurden Einträgen", schreibt Wittmann.
Gegenüber dem Bayerischen Rundfunk hat JusProg das Overblocking eingeräumt. Die automatische Klassifizierung sei technisch eine besondere Herausforderung, vor allem bei Seiten zur Aufklärung und zu Gesundheitsthemen, erklärte der verantwortliche Verein. Betroffen sind dem Bericht zufolge sogar zwei Seiten der bayerischen Landesregierung, die über sexuell übertragbare Krankheiten aufklären. Die Verantwortlichen für das Werkzeug haben demnach versichert, dass das zugrundeliegende System verbessert werden soll. Außerdem hätten sie erklärt, bereits vorher eine siebenstellige Anzahl an Internetseiten händisch überprüft zu haben.
Für JusProg verantwortlich ist ein gemeinnütziger Verein, der 2003 gegründet wurde. Dessen Jugendschutzsoftware wurde 2012 von der Kommission für Jugendmedienschutz (KJM) offiziell anerkannt. Seit 2019 gibt es über die Einstufung einen Rechtsstreit, zur Software selbst gibt es aber keine derart abgesegnete Alternative. Das Werkzeug gibt es unter anderem für Windows, iOS, Android und macOS. Auf der zugehörigen Website hat Wittmann im Rahmen ihrer Arbeit auch noch Hinweise darauf gefunden, dass die zwischenzeitlich mit Malware infiziert war. Eltern könnte darüber Schadsoftware unterjubelt worden sein, wenn sie die dortigen Download-Optionen genutzt haben. JusProg kann das demnach nicht ausschließen.
(mho)