Erste zertifizierte Streitbeilegungsstelle nach DSA: User Rights zeigt Wirkung
User Rights setzt einen neuen Standard für faire und transparente Entscheidungen auf Social Media – und bringt Nutzerrechte mit Rule AI schneller in die Praxis. Als erste in Deutschland nach Artikel 21 DSA von der Bundesnetzagentur zertifizierte Streitbeilegungsstelle schafft User Rights eine unabhängige, nachvollziehbare Alternative zum Gang vor Gericht – mit einem Verfahren, das auf Skalierbarkeit und überprüfbarer Begründung ausgelegt ist.
Herausforderung
Moderationsentscheidungen auf den Social Media Plattformen TikTok, Facebook, Instagram, LinkedIn und Pinterest (bspw. Löschung, Sperrung oder Nicht-Entfernung gemeldeter Inhalte) sind für Betroffene oft schwer überprüfbar und dauern im Streitfall schnell zu lange. Gleichzeitig braucht es ein Verfahren, das juristisch fundiert, unabhängig und für Nutzer:innen niederschwellig zugänglich ist.
Lösung
Als zertifizierte Streitbeilegungsstelle nach Art. 21 der DSA (Verordnung (EU) 2022/2065) ist User Rights auf skalierbare, transparente Entscheidungen ausgelegt - technologisch unterstützt durch Rule AI der Rulemapping Group. Konkret wird jeder gemeldete Social-Media Beitrag auf Verstoß gegen das deutsche Strafrecht (StGB) und die jeweiligen Nutzungsbedingungen (AGBs) der Plattform sowie das Unions- und Sanktionsrecht geprüft. Dafür wurden die entsprechenden Regelwerke in automatisiert prüfbare und deterministische Rulemaps überführt, die dann mittels „Rule AI“ für die konkreten Beiträge ausgeführt werden. Die finale Entscheidung bleibt juristisch geprüft vom Human-in-the-loop.
Ergebnis
TikTok hat als erste Plattform Entscheidungen umgesetzt, die durch User Rights auf Grundlage des europäischen Digital Services Act (DSA) getroffen wurden. Damit markiert TikTok einen wichtigen Schritt zur Errichtung transparenter Streitbeilegungsstellen für Social-Media-Plattformen. Weit mehr als 10.000 Verfahren wurden bereits erfolgreich eingereicht und bearbeitet.
Rulemapping übernimmt den gesamten Prozess vom Beschwerdeantrag durch den User über die detaillierte Analyse bis hin zur rechtlichen Prüfung gegen Nutzungsbedingungen, StGB und Unionsrecht, um den Fall unter menschlicher Aufsicht (Human-in-the-loop) zu entscheiden. Parallel dazu steuert das System die vollständige Kommunikation mit dem User sowie die gesamte Sachbearbeitung (Abrechnung, Reporting, Fristen Management etc.) mit der jeweiligen Plattform.
