Commentaren secties en sociale netwerken op het web zijn bezaaid met antisociale gebruikers die herhaaldelijk misbruik en provoceren mensen om een reactie te krijgen. Deze zogenaamde 'trollen' zijn zelfs bekend om mentale problemen veroorzaken aan hun slachtoffers. Maar nu een team van onderzoekers heeft bestudeerd miljoenen van dergelijke online berichten om gemeenschappelijke eigenschappen onder deze gebruikers te identificeren. En het heeft een algoritme gebouwd dat een potentiële trol met een nauwkeurigheid van 80 procent kan herkennen door het scannen van hun opmerkingen. Experts bestudeerden 40 miljoen berichten door 1,7 miljoen gebruikers op nieuwssite CNN.com, politieke nieuwssite Breitbart.com en gaming site IGN.com. De onderzoekers verdeelden vervolgens gebruikers in degenen die het meest waarschijnlijk worden verboden, genaamd Future-Banned Users (FBUs), en andere gebruikers genoemd Never-Banned Users (NBUs) Het onderzoek werd uitgevoerd door promovendi van Stanford en Cornell University, onder leiding van Justin Chang, in een paper genaamd Antisocial Behavior in Online Discussion Communities. Het team onderzocht drie grote online forums met inbegrip van algemene nieuwssite CNN.com, Breitbart.com, een politieke nieuwssite, en computer gaming site IGN.com. Binnen deze gemeenschappen leden die herhaaldelijk schending van communautaire richtlijnen kan worden verboden, tijdelijk of permanent. Gedurende een periode van 18 maanden, het team bestudeerde de inhoud en verwijdering tarieven van 40 miljoen berichten en 100 miljoen stemmen geplaatst door 1,7 miljoen gebruikers op deze sites. Uit deze gegevens ze in staat waren om gebruikers te verdelen in twee groepen. Berichten gemaakt door antisociale webgebruikers, of trollen, zijn minder leesbaar in termen van taal en coherentie. Trollen zijn meer kans om off-topic en hebben minder overeenkomsten in termen van taal en inhoud in vergelijking met berichten door andere gebruikers. Trollen zijn ook minder waarschijnlijk om positieve woorden te gebruiken dan andere gebruikers, ze zweren meer, en gebruiken minder voorzichtige of verzoenende taal zoals 'kan', 'misschien' of 'te overwegen'. In termen van activiteit, de studie bleek dat trollen maken meer opmerkingen per dag, en post meer keer op elke thread. Ze proberen doelbewust discussies te creëren of actief te reageren op een lopende discussie. Trollen hadden ook meer kans om berichten verwijderd te hebben dan andere gebruikers en gedurende de 18 maanden studieperiode steeg het aantal verwijderde berichten door FBU's. Mensen die in de loop van de studie werden vervolgens verboden van de sites, of waren waarschijnlijk, werden geclassificeerd als Future-Banned Users (FBU's). Gebruikers die niet werden verboden tijdens de studie, en niet tentoongesteld tekenen die suggereren dat ze zouden worden in de toekomst, waren bekend als Never-Banned Users (NBU's). Zodra deze gebruikers werden gesplitst de onderzoekers gekeken naar vier functies om gemeenschappelijke eigenschappen te identificeren onder de FBU's en NBU's. De eerste werd genoemd 'Post features' en omvatte het bestuderen van de inhoud van een post. 'Activiteit functies' opgenomen hoe vaak een gebruiker geplaatst in het forum, terwijl 'Community features' keek bij stemmen op individuele berichten die suggereren dat een persoon of mening's populariteit. Tot slot, 'Moderator features' keek naar hoeveel berichten waren gemodereerd of verwijderd. De bevindingen suggereren dat berichten geschreven door FBU's zijn 'minder leesbaar', de neiging om off-topic en hebben minder overeenkomsten in termen van taal en inhoud in vergelijking met berichten door NBU's. De onderzoekers vergeleken de gemiddelde tekst overeenkomst van een gebruiker post met de vorige drie berichten in dezelfde thread. 'We vinden dat de gemiddelde tekst overeenkomst van berichten geschreven door FBUs aanzienlijk lager is dan die van NBU's, wat suggereert dat FBU's minder moeite doen om te integreren of te blijven on-topic,' zei onderzoekers. Het team vond ook dat, hoewel er geen consistente trend met betrekking tot het gebruik van woorden met negatieve emotie onder berichten gemaakt door FBU's, ze minder kans om positieve woorden te gebruiken. Berichten gemaakt door antisociale webgebruikers, of trollen, zijn minder leesbaar (centrum) in termen van taal en samenhang en zijn meer kans om off-topic en hebben minder overeenkomsten dan berichten door andere gebruikers (links). Trollen zijn ook minder waarschijnlijk om positieve woorden (rechts) dan andere gebruikers te gebruiken, en ze zweren meer in berichten. In termen van activiteit, de studie vond dat trollen maken meer opmerkingen per dag en post meer tijden op elke draad. Ze doelbewust proberen om discussies te creëren, of actief reageren op een lopende discussie . FBU's hebben ook meer kans om te vloeken en te gebruiken minder voorzichtige of verzoenende taal zoals 'kan', 'misschien' of 'denken'. In termen van activiteit, het onderzoek ook gevonden dat FBU's doelbewust proberen om discussies te creëren, of actief reageren op een lopende discussie. Als gevolg daarvan besteden ze meer tijd in individuele draden dan NBU's. Vorig onderzoek bleek dat postfrequentie was een signaal van lage kwaliteit discussies. Op Breitbart en IGN hadden trollen meer kans om te reageren op berichten van anderen, maar op CNN waren ze meer kans om nieuwe discussies te starten. Toch, over alle gemeenschappen, lijken FBU's te zijn 'effectieve in het lokken van andere gebruikers in potentieel vruchteloze discussies', wat een teken van trol-achtig gedrag is, zei de studie. Trolls waren ook meer kans om berichten te hebben verwijderd dan andere gebruikers en gedurende de 18-maanden studieperiode, het aantal verwijderde berichten door FBU's toegenomen. Deze eigenschappen zijn onwaarschijnlijk om te helpen herkennen een trol in hun eigen recht, maar wanneer gecombineerd, de onderzoekers vonden dat ze konden worden gebruikt om een trol te identificeren met 80% nauwkeurigheid . FBU's bijdragen aanzienlijk meer berichten per draad ze deelnemen aan , volgens de resultaten . Trolls waren ook meer kans om meer berichten verwijderd dan NBU's , en meer dan 18 maanden , het aantal verwijderde berichten door FBU's toegenomen . Deze individuele identificaties en kenmerken zijn onwaarschijnlijk te helpen herkennen een trol of antisociaal gedrag op hun eigen recht . Echter, toen de onderzoekers samen vonden dat ze een trol konden identificeren met een nauwkeurigheid van 80 procent. 'Begrijpend hoe antisociale gebruikers individuele discussies kunnen sturen kan ons helpen hun invloed op andere gebruikers beter te kwantificeren,' concludeerden de onderzoekers. 'Onze eerste verkenningen suggereren dat FBU's discussies veroorzaken om off-topic: antwoorden op FBU's waren aanzienlijk minder vergelijkbaar met voorgaande berichten in een thread dan antwoorden op NBU's. 'Men kon ook onderzoeken de effecten van het hebben van meerdere antisociale gebruikers deelnemen aan een discussie.' Maar ze erkenden de nauwkeurigheid van het algoritme betekende dat een op de vijf antisociale gebruikers onopgemerkt en verdere werkzaamheden moeten worden gedaan om dit percentage te verhogen en uit te werken effectieve manieren van omgaan met de trollen. De bevindingen worden gepubliceerd in arXiv.
Onderzoekers bestudeerden 40 miljoen berichten gemaakt door 1,7 miljoen webgebruikers . Hieruit verdeelden ze mensen in twee groepen - Future-Banned Users (FBUs) en Never-Banned Users (NBUs) Ze bouwden een algoritme dat posts scant op tekenen van antisociaal gedrag . Studie toont aan dat dit algoritme potentiële trollen kan identificeren in 80% van de gevallen .