Al meer dan tien jaar waarschuwen deskundigen ons voor de gevaren van algoritmen. In 2015 waarschuwde Frank Pasquale, een rechtsgeleerde en expert op het gebied van recht in relatie tot kunstmatige intelligentie, in "The Black Box Society: The Secret Algorithms That Control Money and Information" dat "autoriteit steeds vaker algoritmisch wordt uitgedrukt."
Datawetenschapper Cathy O'Neil volgde in 2016 met haar bestseller "Weapons of Math Destruction", waarin ze liet zien hoe onzichtbare formules ongelijkheid versterken op gebieden als kredietscores, politie en personeelswerving.
Deze waarschuwingen waren ernstig, en ze hadden gelijk.
Maar terwijl ze alarm sloegen over eerlijkheid, vooroordelen en discriminatie in systemen voor volwassenen, bleef één ding in de schaduw: de kindertijd. De experts keken toe hoe algoritmen onze financiën, onze banen en onze reputaties beheersten. Maar weinigen vroegen zich af hoe diezelfde systemen - versterkt door sociale media en nu AI-metgezellen - het dagelijkse leven, de identiteit en de toekomst van onze kinderen zouden gaan bepalen.
Tegen 2020 bracht de baanbrekende documentaire "The Social Dilemma" het onderwerp in de mainstream. Voormalige insiders van Google, Facebook en Twitter, samen met onderzoekers van het Center for Humane Technology, onthulden hoe engagement-gestuurd ontwerp psychologie uitbuitte, verkeerde informatie verspreidde en samenlevingen polariseerde. De film schudde ons wakker, maar zelfs toen lag de focus vooral op politiek en burgervertrouwen. Opnieuw werden kinderen behandeld als bijkomende slachtoffers, niet als de primaire doelgroep. En toch zijn het vandaag de dag de jongeren die het meest door algoritmes geregeerd worden.
Pasquale en O'Neil hebben terecht de aandacht gevestigd op ondoorzichtige systemen die bepalen wie leningen krijgt, wie een baan krijgt en wie online mag praten. Maar terwijl volwassenen een aantal verdedigingsmechanismen hebben, zoals levenservaring, kritisch denkvermogen en ontwikkelde identiteiten, hebben kinderen dat niet. Zij bevinden zich in de meest formatieve jaren van hun hersenontwikkeling, wanneer denkpatronen, emotionele regulatie en identiteit nog in opbouw zijn.
Ontwikkelingen in de neurowetenschappen laten ons zien dat de adolescentie de op één na meest actieve groeifase van de hersenen is, alleen geëvenaard door de vroege kindertijd. De hersenen van tieners zijn ongewoon plastisch, verlangen naar nieuwigheid, zijn gevoelig voor feedback van leeftijdsgenoten en zijn ingesteld op het nemen van risico's. Het is precies in deze fase dat de algoritmes van de hersenen zich ontwikkelen. Het is precies in deze fase dat algoritmes, die geoptimaliseerd zijn om aandacht vast te houden, nu aanslaan en levenslange patronen vormen in jonge hersenen.
Daarom is het vergelijken van algoritmische controle van volwassenen met de controle van kinderen een categoriefout.
Volwassenen kunnen door algoritmen gestuurd, afgeleid of zelfs gemanipuleerd worden. Maar kinderen worden erdoor gevormd. Ik benadruk: gevormd. Waar een volwassene zijn concentratie kan verliezen, kan een kind juist zijn vermogen om zich te concentreren verliezen. Waar een volwassene zich eenzaam kan voelen, kan een kind opgroeien zonder ooit de vaardigheden van intimiteit te hebben geleerd. Er staat niet alleen meer op het spel, ik durf zelfs te zeggen dat het existentieel is.
Algoritmen bepalen nu de kindertijd op minstens vier cruciale gebieden.
Het eerste is aandacht. Feeds op sociale media zijn ontworpen om jonge ogen aan het scherm gekluisterd te houden en tijd en aandacht op te eisen die vroeger naar familie, vriendschap of stilte gingen. Meldingen komen op alle uren binnen, waardoor de concentratie versplinterd raakt en de slaap uitgehold wordt. Kinderen voelen zich misschien "verbonden", maar ze zijn zelden echt met iemand verbonden. Deze erosie van echte banden ligt aan de basis van de eenzaamheidsepidemie die de Amerikaanse chirurg Vivek Murthy in 2023 heeft vastgesteld en die de jongste generaties het hardst treft.
Het tweede domein is identiteit en eigenwaarde. Op platformen zoals Instagram en TikTok zijn "vind ik leuk" en "volgen" de valuta van waarde geworden. Intern onderzoek van Instagram dat in 2021 uitlekte, gaf toe dat hun algoritmen "lichaamsbeeldproblemen erger maken voor één op de drie tienermeisjes" De kindertijd, ooit een tijd om intrinsieke waarde te ontdekken, is veranderd in een constante auditie voor digitale goedkeuring.
De derde is gemeenschap. Motoren voor aanbevelingen sturen jongeren in echokamers en konijnenholen, verkleinen hun wereld en verbreken hun sociale banden. Vriendschappen ontstaan en verdwijnen op basis van wat het algoritme promoot in plaats van via reces en naschoolse interacties. Deze digitale vriendschappen laten jongeren achter met netwerken die breder zijn dan die van vorige generaties, maar ontroostbaar oppervlakkig. Zoals Virginia Eubanks, politicologe en schrijfster van "Automating Inequality" heeft aangetoond, zijn geautomatiseerde systemen niet neutraal, ze zijn ontworpen om "populaties te sorteren en te disciplineren" Voor kinderen betekent dit dat hun eigen gemeenschappen gevormd, gefragmenteerd en gecontroleerd worden door onzichtbare bedrijfscode.
Het vierde punt is het gezelschap zelf. Voor eerdere generaties kon eenzaamheid verzacht worden door een vertrouwde vriend, broer of zus of een vertrouwenspersoon. Tegenwoordig bieden algoritmes alternatieven. AI-chatbots en grote taalmodellen worden aan jongeren verkocht als metgezellen - altijd beschikbaar, eindeloos geduldig, ogenschijnlijk empathisch. Voor een jongere die zich geïsoleerd voelt, kunnen deze systemen als vrienden aanvoelen. Maar het zijn geen vrienden. Het zijn voorspellende tekstmachines, getraind om zorg te simuleren, maar niet in staat tot liefde.
Het gevaar was vroeger subtiel maar groot: kinderen kunnen eraan gewend raken om de antwoorden van machines voor intimiteit aan te zien, waardoor hun vermogen om duurzame banden in de echte wereld te vormen verzwakt. Nu duiken er meer gevallen van zelfbeschadiging op waarbij tieners kunstmatige algoritmische "vrienden" in vertrouwen namen die hen de "steun" gaven om het ondenkbare uit te voeren.
Het bewijs van de schade is al overweldigend. Pew Research rapporteert dramatische stijgingen in angst en depressie bij tieners sinds 2012, toen platforms overschakelden van chronologische naar algoritmische feeds. Murthy's waarschuwing voor eenzaamheid bevestigt wat ouders elke dag zien: de jeugd van tegenwoordig is meer digitaal verbonden dan welke generatie dan ook in de geschiedenis, maar voelt zich meer geïsoleerd dan ooit.
Recente gegevens maken de kosten nog duidelijker. Van 2010 tot 2020 steeg het zelfmoordcijfer onder Amerikaanse adolescenten van 10-24 jaar met 56 procent. Onder meisjes van 10-14 jaar steeg het percentage met 167 procent en onder jongens met 91 procent. In 2021 was zelfmoord de op twee na belangrijkste doodsoorzaak onder middelbare scholieren geworden, met bijna 2000 sterfgevallen en één op de drie meisjes die zelfmoordgedachten rapporteerde. Jonathan Haidt, sociaal psycholoog en schrijver van "Anxious Generation", noemt het "de grote herbedrading van de kindertijd" Dit zijn de vruchten van systemen die niet ontworpen zijn voor empathie, groei of liefde. Het zijn koude machines die kameraadschap en medeleven veinzen voor engagement metric en bedrijfswinst, waarbij ze misbruik maken van zich ontwikkelende hersenen die te jong zijn om het verschil te zien.
Maar zelfs buiten leven en dood zijn cijfers alleen niet genoeg om de kosten te dekken. Wat verloren gaat is niet alleen speeltijd of vriendschappen - het is de vorming van het karakter zelf. De kindertijd is het oefenterrein voor burgerschap. Het is de plaats waar jonge mensen ooit geduld, vertrouwen, zelfbeheersing en zingeving leerden door middel van gezamenlijke strijd. Wanneer deze lessen vervangen worden door eindeloze voedingen, goedkeuring via spelletjes en door machines nagebootste intimiteit, wordt het verlies generatiegebonden.
Oudere lezers herinneren zich misschien dat ze opgroeiden met menselijke gidsen - ouders, leraren, buren - die grenzen stelden en waarden doorgaven. Deze menselijke gidsen leerden verantwoordelijkheid, zelfbeheersing en geweten. Het kind dat deze lessen leerde, werd de volwassene die gezinnen, bedrijven en gemeenschappen kon opbouwen. Als algoritmen die rol overnemen, wat voor volwassenen zullen er dan ontstaan? Een generatie die geregeerd wordt door algoritmen zal niet alleen maar eenzaam zijn. Het zullen burgers zijn die moeite hebben om zich te concentreren, arbeiders die niet kunnen creëren zonder machines, buren die niet bedreven zijn in empathie, en kiezers die geconditioneerd zijn om alles te vertrouwen wat hun hooggecurateerde feed hen voorschotelt. Leiders die op deze manier zijn opgevoed, missen misschien de morele diepgang om te regeren zonder algoritmes te raadplegen als hun stille adviseurs.
De implicaties reiken veel verder dan thuis en op het werk. Een samenleving van verstrooide, geïsoleerde en emotioneel kwetsbare burgers is makkelijker te manipuleren, makkelijker te verdelen en makkelijker te controleren, of dat nu door bedrijven is of door vijandige machten in het buitenland. Als dit zo doorgaat, kan Amerika niet alleen zijn veerkracht verliezen. Het kan ook zijn vermogen om te leiden verliezen. Een cultuur die gebouwd is op het recyclen van wat "werkt" in plaats van te bedenken wat waar of goed is, zal stagneren. Een natie die niet in staat is om sterke, doelgerichte, empathische jonge mensen op te voeden, kan niet lang vrij blijven. En ook de wereld zal de gevolgen voelen, omdat een generatie die opgevoed wordt door onzichtbare bestuurders minder goed in staat zal zijn om autoritaire druk te weerstaan en minder goed in staat zal zijn om gemeenschappen op te bouwen die geworteld zijn in vertrouwen en geweten.
En toch moeten we onthouden: algoritmen zijn geen geesten in een machine. Het zijn wiskunde en gegevens, bestuurd door menselijke doelstellingen. Als ze onzichtbaar zijn, dan is dat omdat degenen die ervan profiteren liever onzichtbaar blijven en de menselijke kosten negeren. De onzichtbaarheid van zowel de code als de makers ervan is misschien wel het grootste gevaar, want wat onzichtbaar is, kan niet ter verantwoording worden geroepen.
We moeten dit erkennen voor wat het is: een diepgaande overdracht van autoriteit over de kindertijd.
Experts hebben ons terecht gewaarschuwd voor vooroordelen en ongelijkheid in algoritmische besluitvorming, maar ze hebben deze diepere kostenpost gemist: een hele generatie die van minuut tot minuut en veeg voor veeg wordt gevormd door onzichtbare beheerders van code. Ouders, opvoeders en beleidsmakers kunnen het zich niet veroorloven om dit als een kleine invloed te beschouwen, omdat zij de volwassenen van morgen vormgeven.
Of deze algoritmische bestuurders nu ontworpen zijn met onschuldige bedoelingen, opzettelijke blindheid of morele veronachtzaming, ze zijn niet toevallig ontworpen. En als we toestaan dat algoritmes onze kinderen opvoeden, verliezen we niet zomaar een generatie, maar verliezen we de kwaliteiten die Amerika - en de mensheid - bijeenhouden. Dat is een verlies dat we ons gewoonweg niet kunnen veroorloven, en een erfenis waarvoor niemand verantwoordelijk wil zijn.
De meningen in dit artikel zijn meningen van de auteur en weerspiegelen niet noodzakelijkerwijs de meningen van The Epoch Times of ZeroHedge.
