Onderzoekers van Yahoo Labs kunnen het leven van socialenetwerkbeheerders wel eens een stuk makkelijker maken. Zij hebben een computer met behulp van machine learning namelijk geleerd om haatvolle, kwetsende berichten op het internet te herkennen, zodat ze snel geblokkeerd kunnen worden. Dat meldt Technology Review.
Daarvoor hoefden de onderzoekers alleen maar een paar duizend haatberichten van sociale media in te laden en te analyseren met machine learning. De computer leerde hierdoor wat zich kwalificeert als een fout bericht, zodat ze automatisch gedetecteerd kunnen worden. Het bijzondere: de Yahoo-computer ziet of een zin beledigend is, zelfs als de individuele woorden niet haatdragend zijn. Hierdoor kan hij de context van een tweet of Facebook-post doorgronden.
Op het moment kan de computer 90 procent van de berichten correct identificeren. Of het systeem ooit 100 procent zal bereiken? Dat is nog even de vraag. Zelfs mensen zijn immers niet altijd in staat om de toon van een bericht precies goed te doorgronden.