Function Creep: Waarom de toekomst onvermijdelijk kut wordt

Hoe de toekomst stapje voor stapje beangstigender wordt

Ik ben me heel bewust dat een column beginnen met een vergelijking met nazi-Duitsland eigenlijk volgens de Wet van Godwin niet kan. Maar bear with me. De vergelijking zal op zijn plek vallen Beloofd.

Probeer eens de volgende denkoefening: Wat zou de uitkomst van een enquête geweest zijn als je in 1934 aan 1000 Duitsers had gevraagd of het mogelijk was dat hun overheid op industriële schaal hele bevolkingsgroepen zou afslachten? De kans is groot dat 99% van de ondervraagde Duitsers je vol verbijstering aan zouden kijken en dit vooruitzicht voor onmogelijk zouden gehouden hebben. Is het niet bizar dat het volk dat grootste filosofen, de prachtigste klassieke muziek en de grootste industrieel innovatiekracht ontwikkelde, door een aantal spelingen van het lot in minder dan 10 jaar transformeerde in het volk dat de holocaust uitvoerde. Ik heb die vraag altijd heel fascinerend gevonden: Wat is er nodig waardoor een beschaving voorbij een punt komt dat alle remmingen los gaan en een morele mens verandert in een moordmachine.

Het simpele antwoord is dat het afglijden van een democratie naar een meedogenloze dictatuur altijd in hele kleine stapjes gebeurt. Datgene wat gisteren nog niet voor mogelijk geacht werd, zal nooit vandaag normaal worden. Het veranderen van wat we als groep normaal vinden verschuift stapje voor stapje.

Wild Wild Country

Wild Wild Country

Als je de documentaire “Wild, Wild Country” op Netflix gezien hebt, over de opkomst en de ondergang van de Bhaghwan-sekte, dan zie je dit proces prachtig in beeld gebracht. Het begint bij een spirituele hippie-achtige sekte dat een gigantisch landgoed koopt in Oregon om er een eigen spirituele vrijstaat van te maken. Dit leidt tot grote stress bij de diepgelovige buurtsteden. Het verhaal laat zich lezen als een aaneenschakeling van reacties en tegenreacties, waarin beide partijen steeds verder radicaliseren omdat ze allebei diep overtuigd zijn dat de ander het gemunt heeft op hun vrijheid. Het escaleert tot het punt dat de vredelievende sekte zich zwaar bewapent, gifaanvallen uitvoert op de watervoorzieningen, moordaanslagen plant op de procureur-generaal, enz… Geen van beide partijen kon of wou inzien dat ze steeds radicaler gedrag bij de ander triggerden.

We leven vandaag weer in zo’n tijd waarin je aan alles kan zien dat de boel uit de hand aan het lopen is. De manier waarop we door bedrijven en overheden in de gaten worden gehouden gaat steeds verder. Ik las deze week dat werkgevers in Chinese fabrieken al letterlijk in hun werknemers hun hoofd zitten. In grote fabrieken lopen “Emotionele Surveillance Systemen” waarbij werknemers door middel van sensors in hun helmen in de gaten gehouden worden. Wanneer de algoritmes sterke emoties waarnemen, zoals woede of angst, dan kunnen ze de werknemer even een dag rust geven of over plaatsen naar een andere afdeling. Het argument dat ze gebruiken: Sommige jobs vergen nu eenmaal veel concentratie. Er is geen ruimte voor fouten. In technologie-literatuur bestaat hier een mooi woord voor: Function Creep: the gradual widening of the use of a technology or system beyond the purpose for which it was originally intended (…)”.

Yuval Harari beschrijft iets gelijkaardigs in het magistrale boek Homo Deus. Hij heeft het over de vraag wanneer de maatschappij klaar zal zijn om het DNA van baby’s compleet te herprogrammeren zodat ze geboren zullen worden als superbaby’s. Zijn stelling is dat dit net heel geleidelijk zal gaan. Elke dokter die vandaag bezig is met het klooien aan DNA, die doet het om specifieke ziektes te genezen. Maar bij elkaar opgeteld, openen al deze doorbraken de deur naar het genetisch modificeren van het complete genoom. Net als plastische chirurgie begon bij het herstellen van zware verwondingen in militaire hospitalen, is het geleidelijk aan, stapje voor stapje steeds normaler geworden. Tot op het punt waarop vandaag meisjes voor hun 18e verjaardag een boob-job of nose-job cadeau krijgen.

Stapje voor stapje geven we meer privacy uit handen aan ondernemingen wiens omzet intussen groter is dan de omzet van het Bruto Binnenlands Product van de meeste landen. Onder het mom van “het zal allemaal zo’n vaart wel niet lopen”. Het is dus een kwestie van tijd voor al die kleine toegevingen aan de steeds groter wordende surveillance van al onze bewegingen uitgroeit tot iets wat altijd al ingebeeld kon worden, maar nooit voor mogelijk werd geacht. Een totaalcontrole waarbij de totalitaire staat die Orwell beschreven in 1984, Huxley beschreef in “A brave new World” en die Hitler voor ogen had met het Derde Rijk, zal verbleken. Wat vandaag in China gebeurt met surveillance zijn nog slechts vingeroefeningen. De primaire psychologische behoefte van machthebbers is nu eenmaal om hun macht verder te consolideren. En technologie geeft hen vandaag ongekende mogelijkheden daartoe.

Update (11/05/18): Chief Psychology Officer Mischa Coster wijst me er terecht op dat ik met de onderstaande promotionele links naar onze sprints en academy de suggestie wek dat wij deze technieken van massa-manipulatie goedkeuren. Dat is nadrukkelijk niet het geval. Onze missie is “to unlock the potential of behavioural psychology to nudge people into positive choices”. Hoe meer je met gedragsontwerp bezig bent, hoe meer je heel bewust moet omgaan met de ethische kant van wat ik “de duistere wetenschap” noem, zonder te verloochenen dat we uiteindelijk wel in de eerste plaats bestaan om de belangen van onze opdrachtgevers te dienen.

Meer over deze topic:

The Dark Wisdom: How design Manipulates the way we think, feel and behave.
Zijn wij Satan’s kleine helpers?

—————
Master the method and tools to change behaviour in our two-day masterclasses at the Behavioural Design Academy.
Create, prototype and test your marketing challenges in 5 days with SUE’s Behavioural Design Sprints.
—————

Adres

‘s-Gravenhekje 1a
1011TG Amsterdam

Contact

hello@sueamsterdam.com
(+31) 20 223 46 26

Word expert in het beïnvloeden van gedrag

Onze populaire wekelijkse nieuwsbrief brengt het beste uit de overtuigingspsychologie en de toepassing ervan.

Schrijf me in!

Don't miss out

Receive our biweekly email with the best articles we've been reading in the meantime.

Nah, I'd rather be unpersuasive

Ok, you’re gonna want to check your mail now

Nice

Ok. So this is you...

You walk through life without caring if you ever have an impact.

You think persuasion is for perverts.

You are perfectly happy being charmless.

Is this you...?

Ok damned, sign me up
×

That’s me! Let’s meet