'Digitale technologie is erg goed in het versterken van onze slechte eigenschappen'

Fotograaf: © fartworks.nl

De populaire cultuur werd in 1984 eveneens beïnvloed door technologische ontwikkelingen. Kunstmatige intelligentie (AI) was ook toen een fenomeen voor velen. Zo was er de The Terminator-film onder regie van James Cameron, waarbij AI in zo vroeg als 1997 de macht grijpt. Een T-800 cyborg met Oostenrijks accent reist van 1997 terug naar 1984, aldus het filmverhaal. Regisseur Ridley Scott – die achttien maanden eerder nog AI-film Blade Runner regisseerde – vervaardigt de introductievideo van de Apple Macintosh. In de prijswinnende videoclip wordt Big Blue, bijnaam voor Apple’s concurrent IBM, te lijf gegaan. De clip is een grote verwijzing naar Big Brother, bekend van George Orwells boek ‘Nineteen Eighty-Four’ uit 1949 over een totalitaire staat gebruikmakend van vergaande surveillancetechnologie. Ondertussen veroverden op televisie een zelfrijdende auto met AI-technologie genaamd KITT en zijn menselijke maatje Michael de harten van kijkers. 

De verwachtingen en het optimisme jegens technologie waren torenhoog. Maar tegelijkertijd waren er dus de dystopische fantasieën van filmmakers: The Terminator schetste toekomstvisioenen van 1997, Blade Runner die van 2019, de moeder aller sciencefictionfilms Metropolis (1927), geëerd in Queens 1984-hit Radio Ga Ga, die van 2026. Van der Vorsts persoonlijke herinnering aan 1984 en technologie, hij was toen 13, was zijn Atari spelcomputer met cassettebandjes en joysticks. “Daarmee speelde je nog heel onschuldig lokaal. Je nodigde vriendjes thuis uit om tegen elkaar te kunnen spelen. Helaas kwam juist in dat jaar het laatste spel voor Atari uit.”

Toenemende ongelijkheid

Terugkijkend op de veertig jaar die verstreken zijn sinds 1984, onderscheidt Van der Vorst een dubbel beeld. Enerzijds een enorme toename van welvaart. Iets digitaals kun je eindeloos kopiëren en verkopen zonder dat je vastzit aan fysieke beperkingen. Anderzijds kwam volgens hem die welvaart tegen een prijs. Zoals toenemende ongelijkheid en impact op milieu en klimaat. “Technologie is fantastisch, maar wordt niet overal even goed gebruikt. Innovatie en vooruitgang zijn namelijk twee verschillende dingen. Marketeers zijn reuzehandig om ze als een en hetzelfde weg te zetten. Inmiddels lijken mensen en instituties wakker te worden. Nog niet eens zo lang geleden stond Twitter op de shortlist voor de Nobelprijs vanwege het met elkaar verbinden. Maar wat men destijds vergat, is dat naast verzamelaars van zeldzame kabouterpopjes, ook Holocaust-ontkenners elkaar konden vinden. Technologie werd niet met slechte intenties beschikbaar gesteld maar wel vanuit een naïeve gedachte.”

In 1984 kwam de term Walkman Effect opzetten. “De walkman past bij de menselijke voorkeur om een vorm van controle te hebben. Wij vinden onzekerheid ongemakkelijk en technologie bevredigt die behoefte continu,” stelt Van der Vorst. “Met de walkman kon je je afsluiten en daarmee controle uitoefenen. Voor jongeren van nu is appen makkelijker dan een telefoongesprek voeren. Je kunt controleren wat je zegt en even wachten met je antwoord. Jij bepaalt wel even waar je aandacht aan besteedt. Toch is er een grote maar. Het apparaat controleert waar jij aandacht aan besteedt en dus niet jij. De menselijke behoefte aan controle wordt genadeloos uitgebuit. En dat wordt alleen maar intensiever met intiemere technologie op komst.”

Brave New World

De staatscontrole uit Nineteen Eighty-Four materialiseert zich in hedendaags China, in het Westen lijkt meer het scenario uit het dystopische boek Brave New World (1932) van Aldous Huxley gevolgd te worden: burgers domesticeren zichzelf. Van der Vorst: “We willen frictieloos leven. Zonder politieke incorrectheid. Dan hou je een dystopische wereld over. En tegelijk zie je naast overdreven door sociale media aangejaagde politieke correctheid, toenemend extreem geweld. Beide uitersten van het spectrum zijn in beweging.”

Scholen zijn tot het inzicht gekomen dat de smartphone onderwijsprestaties en sociale interactie negatief beïnvloedt. “Maar wat eigenlijk in de ban moet, zijn die verslavende apps. Niet je navigatie of weersverwachting, maar zoiets als TikTok,” aldus Van der Vorst. “Uiteindelijk zou een school in staat moeten zijn mobieltjes toe te staan en apps te verbieden. The Anxious Generation van Jonathan Haidt laat zien dat er sinds 2010 veel is misgegaan met het welzijn van jongeren. Die zijn onderbeschermd in de digitale wereld en overbeschermd in de echte wereld.”

‘Sinds 2010 is er veel misgegaan met het welzijn van jongeren. Ze zijn onderbeschermd in de digitale wereld en overbeschermd in de echte wereld’

Informatie en kennis

Net zoals innovatie en vooruitgang niet hetzelfde zijn, geldt dat volgens Van der Vorst ook voor informatie en kennis. “Wat men tegenwoordig vergeet, is dat je alleen iets hebt aan informatie als jij zelf kennis hebt. Dan kun je pas verbanden leggen en weten wat informatie waard is. Met kennis van zaken, kun je bijvoorbeeld zelf de kwaliteit van Google Translate echt beoordelen. ChatGPT is als een volledig elektrische fiets in een sportschool. Makkelijk misschien, maar voor je conditie heb je er niks aan. Die analogie kun je doortrekken naar je opleiding: de meeste mensen gaan niet naar school om te leren, maar om gecertificeerd te worden. En dan is ChatGPT dus een ideaal speeltje, want het gaat je er dan niet om kennis te vergaren, maar je papiertje te halen. ChatGPT is weinig inspanning en veel resultaat. Als je het zo bekijkt, is digitale technologie erg goed in het versterken van onze slechte eigenschappen.” 

Van der Vorst plaatst vraagtekens bij de laatste ontwikkelingen. “Als je kritisch naar ChatGPT kijkt, wie wordt er in de praktijk productiever van? De wijkverpleegkundige of de scammer op zijn zolderkamer? De discussie over auteursrechten is puur juridisch. Moreel gesproken is er helemaal geen discussie. Maar het is nieuwe technologie, dus we zijn direct enthousiast. Auteursrechten zitten innovatie in de weg en worden dus ter discussie gesteld. Dat is hetzelfde als eerst iemands huis leeghalen en dan met de bestolene in gesprek gaan over het nut van sloten. Als je voor vooruitgang gaat, moet je eerst praten over wat dan precies beter is. Daar moet je het met elkaar over eens zijn.”

Van der Vorst schreef in 2023 het boek Digitale Gremlins, mythische wezentjes die het systeem op een slimme manier een beetje saboteren. “Het boek is bedoeld om mensen na te laten denken over hun relatie met technologie. We pikken het wel van een digitale winkel dat ze een product de ene week veel duurder is dan de andere week, maar we accepteren dat niet als een fysieke winkel het zou doen. Dat is een rare twist in ons hoofd. Als dingen fout gaan, is dat juist gaaf. Als je alles in het leven gemakkelijk maakt, wordt het minder waardevol. Dingen die de moeite waard zijn, kosten soms een beetje moeite. Dus daar moet je in technologie rekening mee houden. Als je iets efficiënter maakt, dan ga je gewoon meer doen van hetgeen je al deed. En dan is het netto resultaat nul. Hoe kan technologie jou helpen in plaats van dat jij technologie aan het helpen bent? En dus niet blind meegaan in de narratief die technologie ons op de mouw spelt. Vraag als communicatieprofessional kritisch door als je over technologie schrijft.”

Beurskoersen

Veertig jaar na The Terminator film trad regisseur James Cameron in 2024 toe tot de raad van bestuur van het bedrijf Stability, dat zich bezighoudt met AI. Apple, dat met de 1984-videoclip de dominantie van IBM bekritiseerde, is in 2024 veel dominanter dan IBM ooit was en brengt telkens nieuwe modellen uit waarvan de geschetste meerwaarde onder vuur ligt. OpenAI, de organisatie achter ChatGPT, heeft volgens NOS onlangs alle kritische wetenschappers de deur uitgewerkt en vormt zich nu om van stichting naar een bedrijf met winstoogmerk.[1] Volgens NRC zien de grote techbedrijven AI als belangrijkste kans om de komende jaren hun beurskoersen opnieuw te verdubbelen. Techgiganten Microsoft, Alphabet, Amazon en Meta steken dit jaar meer dan 100 miljard dollar in AI. Overigens, technologiejaar 1984 werd destijds welhaast symbolisch afgesloten met de kersthit en horror-komedie Gremlins, in 1990 gevolgd door Gremlins 2. Wordt het rond Kerst 2024 niet eens tijd voor (Digital) Gremlins 3? 

Technofilosoof
Rens van der Vorst is technofilosoof. Hij werkt als docent en onderzoeker bij Fontys Hogescholen en helpt studenten zo praktisch mogelijk na te denken over hun relatie met technologie. Daarnaast bouwt hij samen met studenten aan oplossingen die de wereld een beetje beter maken.