Spaanse software waarmee bedrijven de sentimenten over hun merk of producten konden beïnvloeden klinkt in eerste instantie niet als heel bijzonder. Tot het in handen van Russische trollen viel. In de Volkskrant beschrijven Tom Kreling en Huib Modderkolk hoe dat gebeurde.

Die software, Snap (Social Networks Analysis Platform), kan drie dingen:

  • een online-aanval detecteren,
  • registreren hoe een bericht viraal wordt, en
  • een tegenaanval organiseren.

Dat laatste is natuurlijk het meest interessant. Qua online beïnvloeding kan Snap tegen negatieve berichtgeving op twee manieren in de aanval gaan:

De eerste is om een negatieve tweet opvallend veel aandacht te geven met zogeheten bots – honderden nep accounts die door één iemand worden bediend. Twitter en Facebook merken de opvallende aandacht van bots voor het onderwerp op, stellen vast dat sprake is van manipulatie en halen alle berichten – ook het origineel – weg.

De tweede gaat nog een stap verder:

Julio: ‘De aandacht wegblazen met een eigen, positieve tweet, die viral gaat.’ Hoeveel aandacht moeten ze een bericht geven om het trending te laten worden en de andere aandacht te overstemmen? Het blijkt makkelijker dan gedacht. Als ze een bericht de juiste aandacht geven met een paar honderd accounts is het zo een halve dag trending. Julio: ‘Een plek in de top-10 van trending topics in Spanje kan al met driehonderd accounts.’

Dat werkte het beste op Twitter, want “Twitter leeft van controverse. Hun algoritme is niet zo streng voor enige vorm van manipulatie”.

Ondertussen gebruiken zeventig landen ‘computergestuurde propaganda om de publieke opinie te sturen’, bleek uit onderzoek van Oxford. Zowel democratieën als autoritaire landen.

Vietnam laat 10.000 personen het online-klimaat bepalen, Israël 400, Oekraïne 20.000. Sommigen zijn niet alleen actief in eigen land maar ook daarbuiten. China is de nieuwe grote speler volgens het Oxford-onderzoek – het zet naar schatting tussen de 300.000 en 2 miljoen mensen in voor online- manipulatie – en Facebook is nog belangrijker bij het verspreiden van desinformatie dan Twitter.

Het hele artikel leest als een spionageverhaal. En illustreert mede hoe belangrijk het is geworden om bij het ontwikkelen van dit soort software al in het ontwerpproces na te denken over ethische aspecten.

Gerelateerd: Ethiek van goed product design.