- een online-aanval detecteren,
- registreren hoe een bericht viraal wordt, en
- een tegenaanval organiseren.
Cambridge Analytica manipuleerde in 68 landen
In ‘Social Media Manipulation and Democracy: Cambridge Analytica Files on 68 Countries’ beschrijft Ton wat de HindSight files zijn, en waarom het van belang is dat we hiervan weten:
Since New Year’s day a slow drip of many documents concerning the work of Cambridge Analytica across 68 countries is giving insights in how the combination of consumer tracking and targeted adverts is being used to influence democratic decisions. Not just within a country, but across multiple countries and simultaneously (meaning foreign interests presented as domestic opinions of the electorate in multiple countries). It’s not entirely surprising, these are age old instruments of propaganda, provocation etc, being redeployed in the digital age, which allows an entirely new level of scale and granularity that makes it a much more malicious beast. It’s shocking on two levels. First, it shows there’s a strong need to make radically transparent to people where material they get served in the silos is coming from, why it is being showed to them, whether it’s part of a/b testing or not, and who is paying/taking influence on each item presented to them. Second, even if there should be no effect at all of these type of campaigns (which seems to crop up as a defence here and there), it is revealing that office-seeking clients and political operatives buy into the cynical premise of the entire concept. Which alone should disqualify them from being elected. The clients need to be held more to account, than the service provider, regardless of any illegality on the side of CA.
De documenten zijn gelekt door Brittany Kaiser, met een duidelijke motivatie:
Kaiser, who starred in the Oscar-shortlisted Netflix documentary The Great Hack, decided to go public after last month’s election in Britain. “It’s so abundantly clear our electoral systems are wide open to abuse,” she said. “I’m very fearful about what is going to happen in the US election later this year, and I think one of the few ways of protecting ourselves is to get as much information out there as possible.”
Informatie is macht. Maar als we niet meer kunnen onderscheiden wat informatie en wat manipulatie is hebben we een probleem.
Online beïnvloeding: hoe de Russen daarvoor software vonden
Spaanse software waarmee bedrijven de sentimenten over hun merk of producten konden beïnvloeden klinkt in eerste instantie niet als heel bijzonder. Tot het in handen van Russische trollen viel. In de Volkskrant beschrijven Tom Kreling en Huib Modderkolk hoe dat gebeurde.
Die software, Snap (Social Networks Analysis Platform), kan drie dingen:
Dat laatste is natuurlijk het meest interessant. Qua online beïnvloeding kan Snap tegen negatieve berichtgeving op twee manieren in de aanval gaan:
De eerste is om een negatieve tweet opvallend veel aandacht te geven met zogeheten bots – honderden nep accounts die door één iemand worden bediend. Twitter en Facebook merken de opvallende aandacht van bots voor het onderwerp op, stellen vast dat sprake is van manipulatie en halen alle berichten – ook het origineel – weg.
De tweede gaat nog een stap verder:
Julio: ‘De aandacht wegblazen met een eigen, positieve tweet, die viral gaat.’ Hoeveel aandacht moeten ze een bericht geven om het trending te laten worden en de andere aandacht te overstemmen? Het blijkt makkelijker dan gedacht. Als ze een bericht de juiste aandacht geven met een paar honderd accounts is het zo een halve dag trending. Julio: ‘Een plek in de top-10 van trending topics in Spanje kan al met driehonderd accounts.’
Dat werkte het beste op Twitter, want “Twitter leeft van controverse. Hun algoritme is niet zo streng voor enige vorm van manipulatie”.
Ondertussen gebruiken zeventig landen ‘computergestuurde propaganda om de publieke opinie te sturen’, bleek uit onderzoek van Oxford. Zowel democratieën als autoritaire landen.
Vietnam laat 10.000 personen het online-klimaat bepalen, Israël 400, Oekraïne 20.000. Sommigen zijn niet alleen actief in eigen land maar ook daarbuiten. China is de nieuwe grote speler volgens het Oxford-onderzoek – het zet naar schatting tussen de 300.000 en 2 miljoen mensen in voor online- manipulatie – en Facebook is nog belangrijker bij het verspreiden van desinformatie dan Twitter.
Het hele artikel leest als een spionageverhaal. En illustreert mede hoe belangrijk het is geworden om bij het ontwikkelen van dit soort software al in het ontwerpproces na te denken over ethische aspecten.
Gerelateerd: Ethiek van goed product design.
Toch wel social media?
Dankzij een toevallige klik belandde ik op een interessant artikel dat de gevaren en toegevoegde waarde van social media tegen elkaar afzet.
Te beginnen met het negatieve:
Social media can extend the emotion of our words, while obsolescing the linearity of long-form writing. They can retrieve the immediacy of oral communication, with the caution that this can quickly reverse into constant outrage. This is a danger when our existing institutions have lost much of their authority with the public.
Daar staat iets belangrijks tegenover:
We trust people we know. We can get to know people through social media, if we listen and take the time.
B.J. May voegde de daad bij het woord. Hij zette zijn Twitter-account in om juist meer te leren over meningen van anderen. Afwijkende meningen, natuurlijk. Zijn conclusie:
“Every one of my opinions on the issues at hand had been challenged, and most had shifted or matured in some way. More importantly, however, was this: The exercise had taught me how to approach a contrary opinion with patience and respect, with curiosity and an intent to learn, with kindness and humanity.”
Eigenlijk is het dus een kans, die vermaledijde social media. De huidige netwerken zijn alleen niet zo ontworpen dat ze ons faciliteren bij het vinden van afwijkende gezichtspunten. Dat vraagt om goede digitale vaardigheden.
(Sociaal kapitaal, ftw! )
'Outrage is profitable'
Craig Newmark, nerd en oprichter van Craigslist, over social media:
"Outrage is profitable. Most online outrage is faked for profit"
Maar hij blijft ervan overtuigd dat het internet toch een positieve ontwikkeling is:
"It allows people of goodwill to get together and work together for common good. Bad actors are much louder, they make for more sensational news and we’re seeing a period of that now. The US, in a way, is lucky. Bad actors interfering with our elections may have had some success but their success is not complete and it means that people of goodwill are fighting back vigorously."