Wisselwerking online en offlinewereld

Internet en sociale media spelen een rol in de ontwikkelingspaden van zorgwekkende radicalisering bij jongeren (Peeters et al., 2022; RAN, 2019; Beale, Brace & Coan, 2020; ESS, 2021). Voorbeelden hiervan zijn (Marwick, Clancy & Furl, 2022; ESS, 2021; Van Wonderen et al., 2023):

• genereren van aandacht voor en het verspreiden van extremistisch gedachtegoed
• normaliseren (‘mainstreamen’) van extremistische ideeën
• rekruteren en mobiliseren van leden door extremistische netwerken
• gelijkgestemden die elkaar vinden, waardoor gemeenschappen, netwerken en   subculturen gevormd worden
• zoeken naar ideologische rechtvaardigheid
• ondermijnen van sociale cohesie, de overheid en institutioneel vertrouwen
• verweven van extremistische content en vermaak

De on- en offline context zijn nauw met elkaar verweven binnen radicaliseringsprocessen (Gill et al., 2015; Mattheis, 2019; Whittaker & Herath, 2019). De praktijk wijst uit dat een onderscheid vrijwel niet gemaakt kan worden (Ducol, 2015; Neumann, 2013; Gill et al., 2017). Bij radicalisering van personen en groepen spelen ontwikkelingen op maatschappelijk niveau, groepsniveau en persoonlijk niveau een rol. Op al deze niveaus zijn de on- en offline context met elkaar verweven. We kunnen daarom ook spreken over ‘onlife’ radicalisering, een term die verwijst naar de hybride online en offline context waarbinnen individuen zich bewegen (Valentini, Lorusso & Stephan, 2020).

Flitsradicalisering

Online radicalisering kan zich heel snel voltrekken. Vanwege de anonimiteit die het computerscherm biedt, zijn conversaties binnen de (veelal besloten) chatgroepen veelal extremer. Nieuwkomers in dergelijke groepen conformeren zich razendsnel aan de groepsmores, zonder daarbij te beseffen dat sommige uitspraken voortkomen uit overdrijvingen en/of stoerdoenerij. Wagenaar (2021) spreekt van flitsradicalisering. Het is vanwege de anonimiteit relatief laagdrempelig voor jongeren om toe te treden tot online community’s waarin radicale ideeën worden uitgewisseld en gepromoot. Belangrijk verschil met traditionele offline radicale groeperingen is zichtbaarheid en sociale druk. De drempel om toe te treden tot een dergelijke groep kan hoog zijn. Tegelijkertijd is de drempel om uit zo’n groep te treden ook hoog, vanwege de kameraadschap en sociale druk binnen de groep. Het uittreden uit online radicale netwerken is eenvoudiger, juist vanwege de anonimiteit. Daarbij is het niet (altijd) bekend bij de buitenwereld, waaronder familie en leeftijdsgenoten (peers), dat de jongere participeer(de) in online radicale netwerken (Peeters et al., 2022).

Groot bereik en internationale netwerken

Het bereik gaat over de mate waarin digitale kanalen extremistisch gedachtegoed verspreiden, en bijdragen aan een gepolariseerd en vijandig klimaat voor bijvoorbeeld migranten of overheden (Wagenaar, 2021). Het verspreiden van (rechtsextremistisch geïnspireerde) complottheorieën heeft in veel landen tot een flinke toename van invloed geleid voor rechtsextremistische groepen (Mulhall & Khan-Ruf, 2021). Het internet biedt toegang tot internationale netwerken, die bovendien na verwijdering vaak weer onder een andere naam opduiken (Hart et al. 2021). Het heeft ertoe geleid dat het huidige online extremisme sterk internationaal georiënteerd is. Dit komt bijvoorbeeld terug in de steun voor de zogeheten internationale accelerationistische netwerken. Hierin wordt bijvoorbeeld gesproken over het ontketenen van een rassenoorlog door middel van terroristische aanslagen. Een paar honderd Nederlandse jongeren zouden onderdeel uitmaken van dergelijke netwerken. Volgens het dreigingsbeeld van de NCTV (2022) schuilt het gevaar van een aanslag in Nederland onder andere in deze hoek.

Echokamers

Online zoeken gelijkgestemde individuen elkaar op in echokamers, ook wel ‘internetbubbels’ genoemd. Een wezenlijk kenmerk van echokamers is dat gelijkgestemden elkaars mening bevestigen en versterken. Er vindt weinig of geen interactie plaats met mensen die anders over bepaalde zaken denken. Dit draagt bij aan het ontstaan van parallelle denkwerelden van personen die niet alleen verschillend denken over maatschappelijke kwesties, maar ook elkaars opvattingen niet meer begrijpen. Online zijn talloze voorbeelden te vinden van echokamers, zoals chatgroepen in Telegram, chatgroepen rond populaire bloggers, vloggers en andere online opiniemakers, en discussiefora rond onlineblogs en online magazines. Ook X, voorheen Twitter, functioneert als een echokamer. Op basis van hashtags (zoals #asielbedrog of #omvolking) reageren vooral personen met dezelfde denkbeelden op elkaar (Van Wonderen et al., 2023).

Mainstream en alternatieve online sociale mediaplatformen

Sociale mediaplatformen zijn onder te verdelen in zogeheten mainstream platformen en alternatieve platformen (ook wel: alt-tech platformen genoemd). Deze platformen onderscheiden zich in de mate waarin moderatie plaatsvindt op het platform. Alternative sociale mediaplatformen bieden relatief meer radicale of extremistische boodschappen aan dan mainstream platformen. Voorbeelden van mainstream platformen zijn X (voorheen Twitter), Facebook, YouTube, TikTok en WhatsApp. Alt-tech platformen zijn onder meer 4chan, 8kun, Gab, BitChute en Parler. Dit zijn kanalen die een meer extreemrechts publiek aantrekken. Kanalen als Discord en Telegram zijn ideologisch meer neutraal, al verschillen de meningen hierover soms (Peeters et al., 2022; Van Wonderen et al., 2023). Onlinekanalen die jongeren kunnen voorzien van informatie zijn daarmee erg veelzijdig: van algemene ‘dashboards’ of websites waarop informatie gepresenteerd wordt in allerlei vormen tot besloten chatgroepen of netwerken waartoe jongeren eerst toegang moeten krijgen. Bij radicalisering is de zorg dat jongeren terechtkomen in dergelijke besloten groepen waar veel desinformatie wordt verspreid en waarin geweld wordt verheerlijkt.

Aanbevelingsalgoritmes en sociale media fuiken

Aanbevelingsalgoritmes op socialemediaplatformen kunnen leiden tot steeds extremer wordende denkbeelden (Mølmen & Ravndal, 2021). Er wordt steeds radicalere content aangeboden om de aandacht van de gebruiker vast te houden (DSP, 2021). Door deze amplificerende werking van sociale media kan iemand in een socialemediafuik of ‘rabbit hole’ belanden, die blijft graven op zoek naar extremere content. Het risico hierop is het grootst binnen de alternatieve platformen, omdat deze – in vergelijking met mainstream platformen zoals Facebook en YouTube – minder (goed) gereguleerd en gemodereerd worden (Van Wonderen et al., 2023).

Memes, het gebruik van ironie en ‘mainstreaming’ van extremistische content

Het onlinegesprek van extremistische netwerken is voortdurend in ontwikkeling (Alava et al., 2020). Niet alleen de inhoud van onlineboodschappen is lastig in te delen langs scheidslijnen van ‘extremistisch’ en ‘niet-extremistisch’. Ook het format waarbinnen deze inhoud wordt verspreid, is veelzijdig – denk aan tekstberichten, afbeeldingen en symbolen. Extremistische boodschappen zijn regelmatig voorzien zijn van retorische middelen als memes en ironie. Daardoor kan de schadelijkheid ervan ontkend of verborgen worden door extremisten. Extremistische content dient regelmatig als een vorm van vermaak (ESS, 2021). Zo laat onderzoek van Schumpe et al. (2020) zien dat het zoeken naar sensatie een determinant kan zijn om in aanraking te komen met extremistisch gedachtegoed en/of te radicaliseren. Vermaak is voor sommigen een motief om zich bezig te houden met complottheorieën (Morosoli et al., 2022; Van Prooijen et al., 2021). Deze jongeren ervaren complottheorieën als fascinerend en spannend. Als gevolg daarvan kunnen zij meer extreme content opzoeken of verspreiden.

Content in extremistische subculturen kenmerkt zich regelmatig door de overvloedige aanwezigheid van humor en ironie (RAN, 2021; Munn, 2019; Van Puffelen, 2021). Dit komt onder meer naar voren in memes, interne referenties en insider jokes – die zowel in tekst als in beeld worden weergegeven. De zogeheten ‘memes’ betreffen afbeeldingen of video’s met een korte tekst, of andere beelduitingen met minimale tekst. Deze beelduitingen worden gebruikt om de aandacht te trekken. Doel hiervan is dat extreme content wordt genormaliseerd en dat individuen laagdrempelig naar extreme online fuiken worden geleid.

Er wordt steeds vaker op ‘speelse’ manieren geprobeerd om extreme boodschappen online te communiceren. De inzet van ironie heeft hierbij een belangrijke rol. Het omvat een ‘slimme’ tactiek voor extremisten om de schadelijkheid van extremistische content te verbergen, ontkrachten of ontkennen. Grenzen tussen ‘kattenkwaad’ en potentieel radicaliserende boodschappen vervagen hierdoor (RAN, 2021). Ook emojis en andere symbolen spelen op internet een grote rol. Zo wordt de clown-emoji gebruikt als verwijzing naar ‘clown world’. De clown world-meme wordt gebruikt om aan te geven dat we in een absurde linkse wereld leven.

Door de koppeling met ironie wordt het onderscheid tussen ernst en satire vager (Angelin, 2017; Munn, 2019). Dit maakt racistische, seksistische of xenofobe boodschappen mogelijk, maar maakt ook snel intrekken mogelijk (Munn, 2019). Rechtsextremistische memes maken gebruik van technische functionaliteiten om hun zichtbaarheid en bereik te vergroten (Marwick & Lewis, 2017; Munn, 2019). Ze worden gepost, aangepast en opnieuw gepost. Dit kan leiden tot een proces van normalisering: vertrouwd raken met voorheen schokkende inhoud. Hierin zijn memes op zichzelf relatief onschadelijk. De ideologieën die ingebed zijn in deze tekstjes kunnen echter langzaam deel gaan uitmaken van het wereldbeeld van jongeren (Munn, 2019). Behalve jeugdprofessionals worstelen ook sociale mediaplatformen, overheden en inlichtingendiensten met het identificeren van online extremistische content. Ze hebben door de vaak impliciete extremistische boodschap van memes of emojis moeite met het modereren van de constante stroom aan dit soort content.

Gameplatformen

Een groot aantal jongeren besteedt veel tijd aan online gaming. Ook hier kunnen zij worden blootgesteld aan extremistische boodschappen en zelfs rekrutering. Zo zijn er terroristische manifesten waarin gerefereerd wordt naar videogames. Ook worden er modificaties aangeboden van populaire games die specifiek aansluiten bij rechtsextremistische waarden. En er is een overvloedige aanwezigheid van extremisten op populaire gameplatformen als Discord, Steam en Twitch (Lee, 2021; Davey, 2021). Daarbij worden er expliciete games ontwikkeld door extremisten, die op het internet vrijuit gedownload kunnen worden. Een voorbeeld hiervan is de game ‘Jesus Strikes Back 2’ waarin gamers gevraagd wordt demonen, veganisten en socialisten te vermoorden (Lee, 2021).

Mechanismen van online zorgwekkende radicalisering

Pre-radicaliseringsfase

• Hierbij willen jongeren eventuele kwetsbaarheden die zij in de offline context ervaren, online compenseren (Mølmen & Ravndal, 2021). Zulke kwetsbaarheden zijn onder meer psychische en sociale problemen. Personen zoeken online naar een alternatieve sociale omgeving die zij in de fysieke wereld niet kunnen vinden.
• De jongeren, die offline geen (sociale) aansluiting vinden, vinden online wel een vorm van sociale verbondenheid en gaan hierin participeren, met als gevolg dat zij sociale vervreemding kunnen ervaren met de fysieke wereld. In deze fase speelt ideologie nog geen grote rol.

Radicaliseringsfase

• Verdere isolatie (Mølmen & Ravndal, 2021). Jongeren raken steeds meer ondergedompeld in radicale onlinegemeenschappen, wat bijdraagt aan verdere sociale vervreemding. Het construeren van een groepsidentiteit, waarbij een gevoel van gemeenschap en eenheid ontstaat, is een van de manieren waarop sociale media worden gebruikt door extremisten. Dit wordt versterkt door taalgebruik, symbolen, teksten en merchandise. Het gevoel van ‘samen tegen de wereld’ dat vaak wordt gecreëerd, zorgt voor verbondenheid en het gevoel een gezamenlijk doel te hebben (Peeters et al., 2022; NTA, 2018).
• De constante interactie met anderen met dezelfde extreme denkbeelden en overtuigingen versterkt de eigen overtuigingen met als mogelijk gevolg zelfs het legitimeren van geweld. De ‘echokamers’ die online kunnen ontstaan, zorgen ervoor dat mensen bevestigd worden in hun denkbeelden, radicaler gaan denken en handelen en het reguliere nieuws (nog meer) gaan wantrouwen (Mølmen & Ravndal, 2021, ESS, 2021, NTA, 2018). Daarnaast wordt extremistisch gedachtengoed binnen deze echokamers genormaliseerd en is het lastig voor individuen om hier tegenin te gaan. Dit kan leiden tot uitsluiting van leden die nuancering proberen aan te brengen (NTA, 2018). Ook de algoritmen van sociale mediaplatformen kunnen leiden tot steeds extremistischer wordende denkbeelden (Mølmen & Ravndal, 2021).
• Hieronder vallen alle aspecten in de online context die de blootstelling aan en de interactie met extremistische content faciliteren. Jongeren kunnen snel toegang krijgen tot extreemrechtse content en daarnaast in contact treden met gelijkgestemden. Bovendien zorgt de mogelijkheid tot anonimiteit voor minder drempels om extreme content te verspreiden of tot zich te nemen.
• Radicaliseringsprocessen in de online context gaan sneller dan traditionele, op fysieke ontmoetingen geënte, radicalisering (Von Behr et al., 2013). In korte tijd kunnen jongeren snel en veel informatie tot zich nemen, waardoor de tijd waarin het gedachtegoed of gedragingen extremer kunnen worden aanzienlijk korter is (Mølmen & Ravndal, 2021).

Operationele fase

• Verdere versterking. In de laatste fase worden ideologische overtuigingen verder versterkt. Sommigen gaan over tot het verzamelen van informatie voor actie, zoals handleidingen voor het gebruik van wapens (Mølmen, 2021).
• Action triggering. Het katalyserende moment waarop jongeren een online gecreëerde impuls ervaren om over te gaan tot actie of (politiek) geweld (Mølmen, 2021; Mølmen & Ravndal, 2021). Bijvoorbeeld door het meemaken van een online persoonlijke of sociale gebeurtenis die ervoor zorgt dat een persoon geïnspireerd raakt om daadwerkelijk geweld te plegen. In de praktijk komt niet-gewelddadige ‘action triggering’ vaker voor dan gewelddadige ‘action triggering’. Het oproepen tot democratische vormen van verzet (Roks & Van der Schoot, 2019) is namelijk een van de manieren waarop socialemediaplatformen worden ingezet door activisten. Volgers wordt bijvoorbeeld gevraagd niet alleen online te reageren, maar ook offline ‘de daad bij het woord te voegen’. Ook op Nederlandse accounts van sociale mediaplatformen wordt opgeroepen tot verzet.

Zicht krijgen op en handelen bij zorgwekkende radicalisering

Aandachtspunten bij het zicht krijgen op online radicalisering zijn:

• Samenhang offline en online zorgwekkende radicalisering. De wisselwerking tussen deze vormen wordt vaak onderschat of zelfs over het hoofd gezien (Valentini et al., 2020). Het heeft weinig zin om alleen te proberen online radicalisering te bestrijden zonder tegelijkertijd de offline manifestaties ervan te begrijpen en aan te pakken (Van Wonderen et al., 2023).
• Oog hebben voor flitsradicalisering. Jongeren kunnen door algoritmes, online echokamers, infiltraties in de gamificatie scene en het grote bereik van online radicale netwerken terechtkomen in een proces van radicalisering. Vanwege de anonimiteit van de online context kan het uittreden uit radicale netwerken en het deradicaliseren gemakkelijker gaan. Radicalisering in een online omgeving zorgt ervoor dat het vaak lang duurt voordat geradicaliseerde personen ook voor de (fysieke) buitenwereld bekend komen te staan als ‘extreemrechts’ of ‘geradicaliseerd’. Juist dit soort labels kunnen een individu het gevoel geven dat er nauwelijks tot geen weg meer terug is. Omgedraaid: het ontbreken van labels vanuit de directe fysieke en sociale omgeving kan uittreding vergemakkelijken.
• Inzicht krijgen in de online leefwereld en te snappen wat de aantrekkingskracht van extremisme kan zijn en hoe jongeren zo’n narratief en/of netwerk ingelokt kunnen worden. Kennis van de online leefwereld bij jeugdprofessionals kan eraan bijdragen dat jongeren zich meer verbonden voelen met hen. Onder de juiste omstandigheden kan dit helpen om de voedingsbodem voor extremistisch gedachtengoed te verkleinen. Preventie begint bij betekenisvol contact met jongeren. Dit vereist inzicht in en kennis van hun online leefwereld (Peeters et al., 2022). Daarnaast kan het helpen om sneller signalen te herkennen wanneer zorgelijk gedachtegoed zich manifesteert. Het is van belang dat er een dialoog tussen professional en jongere komt binnen een ‘veilige ruimte’, zonder dat jongeren veroordeeld worden voor hun meningen en gedachten (Sieckelinck, 2022). Jeugdprofessionals kunnen jongeren laten zien dat je kritisch kunt zijn op de maatschappij zonder dat je daarbij in extremen hoeft te vervallen.
• Oog hebben voor individuele weerbaarheid van jongeren in de online context. Jongeren vinden het lastig om in te schatten of informatie op internet betrouwbaar is en om nepnieuws te herkennen. Zij zijn vaak minder digitaal vaardig en mediawijs dan ze zelf denken. Ze zijn ‘confident’, maar niet ‘competent’. Belangrijk is dat beschermende programma’s gericht op het bevorderen van kritisch denken en digitale weerbaarheid vertrekken vanuit het gegeven dat de online leefwe­reld van jongeren alomvattend is. Hun online leefwereld is nauw verweven met hun fysieke leefwereld en beslaat vele facetten van hun leven. Daarom is het van belang om digitale weerbaarheid en mediawijsheid te integreren in bredere programma’s die recht doen aan de wijze waarop vormen van extremisme door kunnen dringen in het leven van jongeren. Bijvoorbeeld door digitale weerbaarheid te koppelen aan burgerschapslessen over democratische waarden, bedoeld voor jongeren in het onderwijs (Peeters et al., 2022).