Info

Learning a little every day

Posts tagged manipulatie

In ‘Social Media Manipulation and Democracy: Cambridge Analytica Files on 68 Countries‘ beschrijft Ton wat de HindSight files zijn, en waarom het van belang is dat we hiervan weten:

Since New Year’s day a slow drip of many documents concerning the work of Cambridge Analytica across 68 countries is giving insights in how the combination of consumer tracking and targeted adverts is being used to influence democratic decisions. Not just within a country, but across multiple countries and simultaneously (meaning foreign interests presented as domestic opinions of the electorate in multiple countries). It’s not entirely surprising, these are age old instruments of propaganda, provocation etc, being redeployed in the digital age, which allows an entirely new level of scale and granularity that makes it a much more malicious beast. It’s shocking on two levels. First, it shows there’s a strong need to make radically transparent to people where material they get served in the silos is coming from, why it is being showed to them, whether it’s part of a/b testing or not, and who is paying/taking influence on each item presented to them. Second, even if there should be no effect at all of these type of campaigns (which seems to crop up as a defence here and there), it is revealing that office-seeking clients and political operatives buy into the cynical premise of the entire concept. Which alone should disqualify them from being elected. The clients need to be held more to account, than the service provider, regardless of any illegality on the side of CA.

De documenten zijn gelekt door Brittany Kaiser, met een duidelijke motivatie:

Kaiser, who starred in the Oscar-shortlisted Netflix documentary The Great Hack, decided to go public after last month’s election in Britain. “It’s so abundantly clear our electoral systems are wide open to abuse,” she said. “I’m very fearful about what is going to happen in the US election later this year, and I think one of the few ways of protecting ourselves is to get as much information out there as possible.”

Informatie is macht. Maar als we niet meer kunnen onderscheiden wat informatie en wat manipulatie is hebben we een probleem.

Spaanse software waarmee bedrijven de sentimenten over hun merk of producten konden beïnvloeden klinkt in eerste instantie niet als heel bijzonder. Tot het in handen van Russische trollen viel. In de Volkskrant beschrijven Tom Kreling en Huib Modderkolk hoe dat gebeurde.

Die software, Snap (Social Networks Analysis Platform), kan drie dingen:

  • een online-aanval detecteren,
  • registreren hoe een bericht viraal wordt, en
  • een tegenaanval organiseren.

Dat laatste is natuurlijk het meest interessant. Qua online beïnvloeding kan Snap tegen negatieve berichtgeving op twee manieren in de aanval gaan:

De eerste is om een negatieve tweet opvallend veel aandacht te geven met zogeheten bots – honderden nep accounts die door één iemand worden bediend. Twitter en Facebook merken de opvallende aandacht van bots voor het onderwerp op, stellen vast dat sprake is van manipulatie en halen alle berichten – ook het origineel – weg.

De tweede gaat nog een stap verder:

Julio: ‘De aandacht wegblazen met een eigen, positieve tweet, die viral gaat.’ Hoeveel aandacht moeten ze een bericht geven om het trending te laten worden en de andere aandacht te overstemmen? Het blijkt makkelijker dan gedacht. Als ze een bericht de juiste aandacht geven met een paar honderd accounts is het zo een halve dag trending. Julio: ‘Een plek in de top-10 van trending topics in Spanje kan al met driehonderd accounts.’

Dat werkte het beste op Twitter, want “Twitter leeft van controverse. Hun algoritme is niet zo streng voor enige vorm van manipulatie”.

Ondertussen gebruiken zeventig landen ‘computergestuurde propaganda om de publieke opinie te sturen’, bleek uit onderzoek van Oxford. Zowel democratieën als autoritaire landen.

Vietnam laat 10.000 personen het online-klimaat bepalen, Israël 400, Oekraïne 20.000. Sommigen zijn niet alleen actief in eigen land maar ook daarbuiten. China is de nieuwe grote speler volgens het Oxford-onderzoek – het zet naar schatting tussen de 300.000 en 2 miljoen mensen in voor online- manipulatie – en Facebook is nog belangrijker bij het verspreiden van desinformatie dan Twitter.

Het hele artikel leest als een spionageverhaal. En illustreert mede hoe belangrijk het is geworden om bij het ontwikkelen van dit soort software al in het ontwerpproces na te denken over ethische aspecten.

Gerelateerd: Ethiek van goed product design.