Erkennung rechtswidriger, jugendgefährdender Inhalte: IT‐Tool für die Landesmedienanstalten

Sascha Prelle


Sascha Prelle studierte Physik an der TU Berlin und wechselte nach dem Diplom in die IT-Industrie. Seit 2008 arbeitete er als Projektleiter und Software-Architekt bei der Condat AG. Seit vielen Jahren beschäftigt er sich mit künstlicher Intelligenz, insbesondere semantischen Technologien und ML mit neuronalen Netzen. Aktuell ist er Produkt-Manager der „Condat Smart Media Engine“ sowie Leiter des „Smart Media Engine-Teams“.

Do., 17.03.2022 - 10:38

Kurzfassung des Vortrags No. 50


Erkennung rechtswidriger und jugendgefährdender Inhalte: IT-Tool für die Landesmedienanstalten Die Landesmedienanstalen in Deutschland haben unter anderem die Aufgabe, rechtswidrige und jugendgefährdende Inhalte im Internet und auf sozialen Plattformen zu finden und bei den Staatsanwaltschaften zur Anzeige zu bringen. Eine Herkules-Aufgabe, die ohne technische Unterstützung kaum zu bewältigen ist.
 
Der Vortrag erläutert die komplexen Anforderungen und technischen Lösungen eines aktuellen Projektes, mit der die Landesanstalt für Medien NRW ihre Effizienz deutlich steigern konnte: Es wird aktiv über APIs und Scraping-Verfahren gesucht sowie Verbindungen in sozialen Netzwerken verfolgt. Die so vorselektierten Text-, Bild- und Videoinhalte werden mit Hilfe von statistischen Verfahren und modernen KI-Methoden automatisch analysiert, kategorisiert und priorisiert. Die Mitarbeiter der Landesanstalt kontrollieren die Ergebnisse und verarbeiten sie in einem status-basierten, mandantenfähigen Workflow-System bis hin zur Strafanzeige weiter. Dies alles musste entwickelt werden unter Berücksichtigung von wichtigen Rahmenbedingungen wie Aufwand, Performance und Kosten des Produktiv-Systems.