YouTube en Facebook doen er alles aan om extremistische video’s van bijvoorbeeld IS van hun platformen te verwijderen. Ze worden niet alleen handmatig verwijderd als gebruikers melding maken van een extremistische’s video bij de diensten. Algoritmes detecteren ook automatisch verdachte video’s die dan door medewerkers kunnen worden gekeurd en eventueel verwijderd. Dat meldt Reuters op basis van anonieme bronnen.
Beide diensten hebben ook systemen draaien die helemaal automatisch video’s verwijderen. Het gaat hierbij om kopieën van video’s die al eerder verwijderd zijn. De systemen die normaal worden gebruikt om ‘gejatte’ video’s te detecteren waarop copyright rust, worden hiervoor ook ingezet om video’s van bijvoorbeeld IS automatisch offline te halen. In hoeverre daar nog een menselijke check op zit, is onduidelijk.
Lastig
YouTube en Facebook zouden onderling ook kennis uitwisselen over de aanpak van extremistische video’s. Wat wel een probleem is, is dat lastig vast te stellen is wat wel en niet kan, omdat er niet direct wetten of regels worden overtreden. Iets wat bij bijvoorbeeld kinderporno of de inbreuk op auteursrecht veel makkelijker is. Onder meer de vrijheid van meningsuiting en de grens tussen wat bedrijfsbeleid en wat overheidsbeleid is, spelen mee.
De beide techbedrijven willen verder niets loslaten over het gebruik en de werking van de technologie. Met een reden: details zouden extremisten kunnen helpen om de systemen te omzeilen. Daarnaast zijn de Amerikaanse techbedrijven bang dat hun technologieën in verkeerde handen vallen en worden gebruikt door regimes die de oppositie de mond willen snoeren.
De aanpak van extremistische video’s op social media is belangrijk, omdat deze niet alleen worden gebruikt om angst te zaaien maar ook om aanhangers te werven. IS gebruikt social media bijvoorbeeld zeer actief om nieuwe aanhangers te ronselen.