Streven. Vlaamse editie. Jaargang 54

[p. 832]

Hoe gevaarlijk is de mens van Turing?
Henk Jans s.j.

In het vorige nummer van Streven¹ heb ik bij de bespreking van J.D. Bolter, De mens van Turing, één punt in het lopende debat over kunstmatige intelligentie onbesproken gelaten, waaraan de auteur zelf vrij veel aandacht besteedt en belang blijkt te hechten. Het grote publiek, vele intellectuelen inbegrepen, betwijfelt nl. sterk of de te verwachten, doorgedreven computerisering van het denken wel zo'n onverdeelde zegen en vooruitgang voor onze Westerse cultuur zal zijn. In vele middens leeft de vrees - vaak irrationeel en louter emotioneel genoemd - voor de ontluisterende, negatieve gevolgen van het computerdenken. Zowel in zijn inleiding als in zijn conclusies gaat Bolter op deze kwestie in. Vóór alles wenst hij de verontruste lezer gerust te stellen: zo'n vaart zal het wel niet lopen, de angst voor de computer is - grotendeels - ongegrond. Op zijn argumentatie valt m.i. echter wel wat aan te merken.

1 Henk Jans, Het tijdperk van de computer. J.D. Bolter: ‘De Mens van Turing’, in Streven, mei 1987, pp. 731-743.

Angst voor de computer?

Bolter erkent het probleem en stelt het zelfs heel scherp: ‘Als in onze maatschappij de overtuiging veld wint dat menselijkheid alleen van belang is voorzover ze in getallen kan worden uitgedrukt en als gegevens in een computer opgeslagen, kunnen de positieve eigenschappen van het Westerse humanisme heel wel verloren gaan. Hebben de critici gelijk? Betekent de computer een bedreiging van de waarden van een menselijke samenleving?’ (16). Wie deze vraag stellen, betwisten helemaal niet het nut van de computer, ook niet voor de menswetenschappen: ‘Het gaat er niet om of literatuur, filosofie of geschiedbeoefening ooit gekwantificeerd kunnen

[p. 833]

worden en als imput voor een programma kunnen dienen. Zowel beoefenaren van de menswetenschappen als van de natuurwetenschappen zullen gebruik maken van de computer, eenvoudigweg omdat deze hulpmiddelen voor de beschaafde bevolking in Europa en Noord-Amerika een belangrijk communicatiemiddel zullen vormen’ (18). Wat men als gevaar of bedreiging ervaart zit veel dieper: het nieuwe mensbeeld, door de Turingmens gehanteerd en belichaamd, dat als het enig geldige beeld aan de hele samenleving zou kunnen worden voorgehouden en opgedrongen. ‘De computer verschaft ons door zijn belofte (of dreiging) de mens te vervangen een nieuwe definitie van de mens als “informatieverwerker” en van de natuur als “te verwerken informatie”. Degenen die deze visie van de mens en de natuur aanvaarden noem ik Turing-mensen (...) We lopen allemaal de kans Turing-mensen te worden als we intensief en langdurig met de computer werken en als we gaan praten en denken in termen die door de machine worden ingegeven’ (25-26). Die kans of dreiging mag nog ver verwijderd en denkbeeldig lijken, maar door ‘hun ijver, hun onbesuisde haast en hun weigering enige reserve in acht te nemen, roepen’ vele computerspecialisten zelf ‘bij degenen die hun streven afkeuren, zulke heftige reacties op. Waarom, vragen de critici, zijn technologen zo begerig om hun vrijheid, waardigheid en menselijkheid weg te werpen terwille van de innovatie?’ (26). Aan het einde van zijn betoog stelt Bolter dan ook onomwonden de vraag: ‘Moeten we aanstoot nemen aan het idee van de mens als computer? Is de Turing-mens een culturele afwijking (...) de laatste modegril in het zelfbeeld van onze cultuur?’ (235).

Eindige wereldbeschouwing

We zeiden het reeds, Bolter wil vooral geruststellen: computerisering en Turing-mens zijn onafwendbare cultuurverschijnselen, waarmee we in elk geval zullen moeten leren leven en waarmee het goed en zelfs beter leven zal zijn. In grote lijnen komt zijn gedachtengang neer op wat volgt. In het oudere en recente verleden was de Westerse mens overwegend een faustische figuur, gedreven door ideeën en idealen met ‘oneindige’ pretenties, die grenzen noch beperkingen duldden en die maar al te vaak onheil en rampspoed over mens en wereld hebben gebracht. De Turing-mens daarentegen is een heel wat bescheidener en realistischer personage: van meet af aan is hij zich bewust van de ‘eindigheid’ van zijn materialen, gegevens en werkwijzen, en daarom veel minder geneigd zijn medemensen en zijn

[p. 834]

wereld op te offeren aan bedenkelijke ideeën, utopieën, fanatismen... De Turing-mens is niet zo'n gevaarlijk personage als zijn faustische voorgangers van allerlei slag, die dieper bewogen en overmoedig de werkelijkheid benaderden en daarbij niets of niemand ontzagen.

Hoe komt het dat die Turing-mens zo verrassend ongevaarlijk is? Net zoals zijn machine leeft hij ‘in een logisch besloten wereld’ (57). Wat van zijn computer geldt, geldt ook van het computerdenken waarmee hij zich vereenzelvigt: ‘De computer streeft nergens naar; hij gaat door tot een van te voren vastgesteld doel. Het streven naar oneindigheid, zelfkennis of God dat in het voorgaaande tijdperk zo belangrijk was, is bijzonder vreemd aan het elektronisch denken (...) De structuur zelf van de CVE (centrale verwerkingseenheid) en van de talen die hij - de Turing-mens - gebruikt om haar te programmeren herinneren hem eraan dat hij één stap tegelijk moet zetten en in een eindig aantal stappen een nuttig resultaat moet produceren’ (94). Kortom, hoe minder diep of diepzinnig, des te ongevaarlijker is de Turing-mens! Dat maakt o.m. dat hij ten opzichte van de (buiten)wereld, een heel andere (op dit moment gelegen komende) instelling heeft dan de belijders van het technologische vooruitgangsgeloof die, de laatste paar eeuwen, geen grenzen wilden zien aan de ‘groei’: geen grenzen aan de ontdekking en het verbruik van grondstoffen, aan steeds verder ontwikkelde produktiewijzen, groeiende (nationale) bevolkingen, economie, welstand en welvaart... ‘De computer werd geboren in de laatste, meest verkwistende decennia van de Westerse economische groei. Toch ligt het juist in de aard van de computer een eindige wereldbeschouwing te bevorderen: dat zou wel eens de grootste weldaad kunnen zijn die de computer ons bewijst. Het is de eerste opgave van de programmeur om met zijn schaarse hulpmiddelen uit te komen, om met de ter veschikking staande grondstoffen te doen wat hij kan, in plaats van door groei problemen op te lossen.’ (249). In deze optimistische visie wordt de computer de gedroomde dienaar en handlanger van een ecologisch verantwoorde omgang met natuur en mens, die - althans in talloze intentieverklaringen - dan toch geldt als een van de voornaamste uitdagingen van onze tijd.

Deze ronduit positieve en bemoedigende waardering van de goede diensten die de Turing-mens ons zal bewijzen blijft natuurlijk onlosmakelijk verbonden met de nieuwe visie op wat de mens ‘maar’ is en kan: hij ‘wordt geboren als informatieverwerker met een lege geheugenruimte en hij programmeert zichzelf, zodat hij een volwassen oplosser van problemen wordt’ (240). Die onverwachte ‘nieuwe draai aan het oude empirisme van Locke vormt de definiërende filosofie van het computertijdperk. Ze weerspiegelt ongetwijfeld het optimisme van de Verlichting’ (240). Even opval-

[p. 835]

lend als de gelijkenis is het verschil met de Verlichting: ‘Door de ingewikkelde, moeilijk te peilen aspecten van de menselijke natuur te negeren - wat Simon op typisch behavioristische wijze de “inner environment” noemt - kan de computermens zich over elke taak buigen, een rationele weg vinden naar elk doel (...) De Turing-mens heeft het over programmeertechnieken (middel-doelanalyse, simulatie, optimalisering enzovoort), net als de figuren van de Verlichting het over de rede hadden’ (240-241). In tegenstelling met zijn verlichte voorganger is ‘de programmeur niet voor alles op zelfkennis uit; zelfverbetering kan een doel zijn, maar dat wordt in praktische zin opgevat, als toegenomen efficiëntie. De programmeur bewerkt zijn logische wereld om haar werkzamer of toepasselijker te maken en gaat door tot hij de uiterste elektronische grenzen bereikt, die van tijd, ruimte en logica. Tijdens dit proces leert hij niets anders dan hij zelf in die wereld heeft neergezet, want hij ontdekt zijn wereld minder dan dat hij haar uitvindt’ (245).

Verlies aan diepgang

Mag de net omschreven computermens ons in de toekomst behoeden voor de vele excessen van zijn faustische voorgangers, toch behelst de nieuwe definitie van de mens ook een zeker ‘verlies aan diepgang’ waaraan velen zwaar blijven tillen: ‘Doordat de Turing-mens zo met functies, middelen en doelen in de weer is, verdwijnt de belangstelling voor alle diepergaande vormen van verstaan. Over het algemeen lijken mensen van het computertijdperk voorbestemd om het faustische streven naar diepgang te verliezen’ (241). Over alle verschillen van explicitatie en interpretatie heen ‘stemmen programmeurs met hun semantische netwerken en behavioristen met hun Skinner-boxen op dit vitale punt overeen: alles wat in de geest of de hersenen gebeurt verloopt volgens de regels van een formeel systeem (...) Hier wordt het klassieke filosofische probleem van geest en stof op een wijze uitgedrukt die voor ieder die niet in de 20e eeuw leeft praktisch onbegrijpelijk is. Een Westeuropese metafysicus of een platonist zou dit een uiterst oppervlakkige benadering van het probleem gevonden hebben’ (242). Hoe dan ook, die ‘oppervlakkigheid’ wordt niet met enige schroom of schaamte verhuld, maar is uitdrukkelijk bedoeld: ‘Via de beweging voor kunstmatige intelligentie bedoelt men aan te tonen dat de mens louter oppervlakte is, dat er in de menselijke bestaanswijze niets duister of mysterieus is, niets dat niet door het gelijkmatige licht van de operationele analyse verlicht kan worden (...) elk symbool en elke instructie is al even

[p. 836]

duidelijk omschreven en even toegankelijk als het volgende. Er zijn geen schaduwen of nuances, niets kan onbepaald blijven. Elke programmeur heeft door pijnlijke ervaringen een diep gewortelde afkeer voor raadsels gekregen’ (242). Voor hem zijn raadsels uitsluitend fouten of storingen in het programma, die dringend moeten ontdekt en weggewerkt worden.

In dat perspectief ‘is het dan ook niet verbazend dat Minsky beweert: “voor de mens zou hetzelfde kunnen gelden als voor de machine: als we tenslotte de structuur en het programma begrijpen, wordt het mysterieuze gevoel zwakker (en tevens de zelfwaardering)” (Steps towards Artificial Intelligence, 27). Anders gezegd, de symbolische logica waarmee de machine werkt vraagt om een volledig eendimensionaal begrip’ (243). Er wordt ongetwijfeld indrukwekkend veel analytisch werk verzet, maar ‘de mens van Turing analyseert niet in de eerste plaats om te verstaan, maar om te handelen (...) (voor hem) is kennis een proces, een vaardigheid. Een mens of een computer weet pas iets als hij het juiste antwoord geeft op de juiste vraag. De benadering van elk probleem is nog altijd hoogst analytisch, maar tevens uiterst oppervlakkig, want diepte in de faustische betekenis voegt niets toe aan het operationeel welslagen van een programma (...) Het eindpunt wordt bereikt als de “subproblemen” alledaagse bewerkingen van gegevens worden die op het eerste gezicht duidelijk zijn. Op deze manier wordt een probleem van alle ingewikkeldheid ontdaan en verdwijnen mysteriositeit en diepte, die door de operationele geestesgesteldheid van de programmeur zo omschreven zijn dat ze niet meer bestaan’ (243).

Zoveel is intussen duidelijk geworden: ‘De mens van Turing mist de emotionele gedrevenheid van zijn voorganger’ (246), waarbij men ‘emotioneel’ blijkbaar dient te verstaan als irrelevant en storend voor de goede afwikkeling van de rationele programma's waarin voortaan het heil van de mensheid gelegen is. Op zijn originele manier is de Turing-mens toch weer een erfgenaam van de Verlichting en ‘bezit een groot geloof in de vooruitgang’ (247). Gewapend met dat geloof ‘stelt de computermens dieperliggende motieven, die de enkeling en hele samenlevingen op een bepaalde weg kunnen voortjagen, waarschijnlijk niet op prijs (...) Geschiedenis is voor hem hetzelfde als de ontwikkeling van technieken om de natuur te onderwerpen, een evolutie die gestaag zou zijn voortgeschreden als beoefenaars van de wetenschap en handwerkslieden in het verleden niet tegengewerkt waren door de eerzucht van de vorsten en het bijgeloof van hun onwetende of begerige onderdanen’ (247-248). Deze visie van de Turing-mens op wat sinds onheuglijke tijden de ‘ware vooruitgang’ belemmert, blijkt minder nieuw en recent dan op het eerste gezicht leek.

[p. 837]

Dubbelzinnige consequenties

Een realistisch besef van de grenzen en geen (emotionele) gedrevenheid en diepgang meer, dat zou volgens Bolter een heuse weldaad voor de mensheid kunnen zijn. Zijn poging om deze stelling met historische en actuele voorbeelden te staven en te illustreren, zal voor menigeen, vermoed ik, in haar geheel te optimistisch en te typisch Amerikaans klinken. Bolter geeft toe dat ‘het tijdperk van de computer inderdaad wellicht geen personen voortbrengt die tot grote weldaden of tot groot kwaad in staat zijn. De mens van Turing is geen bezeten ziel (...) Hij neemt zichzelf en zijn wereld niet zo dodelijk ernstig; hij spreekt niet van “bestemming” maar in plaats daarvan van “keuzemogelijkheden”. En al brengt het computertijdperk dan geen Michelangelo of Goethe voort, misschien levert het ook minder snel een Hitler of zelfs een Napoleon op’ (246).

Bolter fundeert deze verrassende uitspraak op zijn vermoeden dat ‘de modernste technologie, de computertechnologie, wel eens onverenigbaar zou kunnen blijken te zijn met het totalitaire monster, althans in zijn klassieke gedaante’, zoals Nazi-Duitsland dat belichaamd heeft (247). En het is volgens hem evenmin ‘toevallig dat de autocratische regimes van Oost-Europa tot op heden nauwelijks door het computertijdperk zijn aangeraakt... (aangezien) computers afbreuk doen aan de fundamentele doelgerichtheid, de absolute toewijding aan de partijlijn, die het hart van de autocratische staat uitmaakt’ (ibid.). De vraag lijkt mij te zijn of dergelijke regimes niet nog efficiënter hun (partijdig) project zouden kunnen doorzetten, indien zij beschikten - hadden beschikt - over gewillige, niet door-denkende Turing-mensen, computerdeskundige ambtenaren... Zelfs Bolter is zich van dat gevaar bewust: in dezelfde context noteert hij dat ‘computers een hiërarchische vorm van communicatie en leidinggeven veel gemakkelijker maken’ en hij voegt er de bedenking aan toe: ‘Als er al politiek gevaar dreigt in het computertijdperk dan ligt het in een nieuwe omschrijving van het begrip anarchie’ (ibid.). Kan anarchie hier iets anders betekenen dan juist een volkomen gebrek aan enige ‘fundamentele doelgerichtheid’, of ten minste enige consensus omtrent te behartigen, fundamentele waarden in de cultuur en samenleving?

Bolter voelt niet veel voor ‘externe controlemaatregelen’ (wettelijke voorzieningen) tegen de reeds onderkende gevaren of het misbruik van de computerisering: hij acht die alleen nuttig of nodig om b.v. spionage te bestrijden en de privacy van de burger te beschermen (251). Zoals al zo vaak in het verleden zullen maatregelen om de technologische vooruitgang af te remmen of tegen te houden vrijwel volkomen vruchteloos blijken. ‘Om

[p. 838]

dezelfde reden’, vervolgt Bolter, ‘kan het voor een technicus, ethisch gezien, de beste weg zijn om te weigeren aan een of ander elektronica-project mee te werken, maar er verandert voor onze maatschappij als geheel weinig door. Een technicus die weigert microprocessors voor kruisraketten te bouwen kan onze bewondering oogsten, maar zijn weigering heeft geen invloed op de bewapeningswedloop. Anderen staan klaar om zijn plaats in te nemen’ (251). Is daarmee alles over de maatschappelijke (ir)relevantie van zo'n handelwijze gezegd? Het komt mij voor dat Bolter hier zelf een bedenkelijke binaire logica hanteert: menselijk handelen is pas zinvol - ook voor de maatschappij - als het een onmiddellijk en tastbaar, nuttig effect sorteert; dan krijgt het de waarheidswaarde 1; zoniet moeten wij het jammer genoeg met een 0 merken.

In het soort computerwoordenboek dat Bolter aan zijn betoog heeft toegevoegd (263-269) komt hij nog eens terug op de nieuwe definitie van het menselijk denken als een puur formeel systeem (van informatie-opslag en -verwerking): ‘De vraag is of het menselijk denken zelf het produkt van een formeel systeem is. Hoe vreemd het ook klinkt, dit zou wel eens het belangrijkste filosofische vraagstuk van de komende tientallen jaren kunnen blijken te zijn’ (265). Maar uit heel zijn betoog is ondertussen gebleken dat dit voor de Turing-mens al lang geen vraag meer is: die geeft daarop het stellige antwoord dat het (denkend) menselijk wezen niets anders dan een weliswaar complex maar louter formeel systeem is. Deze stelling is de zoveelste versie van wat reeds Julian Huxley in zijn Touchstone for Ethics (1947) de ‘nothing-but school’ heeft genoemd: de mens zou niets anders zijn dan een hoog ontwikkeld zoogdier, een speelbal van onbewuste driften, een min of meer agressieve verdediger van zijn territorium, een stimulus-respons machine, en noem maar op... Als laatste in een lange rij hanteert de Turing-mens een totaalvisie op wat de mens ‘maar’ is, en dergelijke totaalvisies leiden gemakkelijk tot ‘totalitaire visies’ (de uitdrukking is van I. Prigogine) én handelwijzen met betrekking tot de mens.

Positieve uitdaging

Met deze kritische kanttekeningen voor ogen kunnen en moeten wij inderdaad leren leven met de mens van Turing: ‘Terwille van degenen die vinden dat de kwade kanten van deze door de computer bepaalde wereldbeschouwing groter zijn dan de voordelen, die denken dat de oppervlakkige houding tegenover menselijke en sociale motieven en het gebrek aan historische diepgang belangrijker zijn dan de nieuwe economische gedragspa-

[p. 839]

tronen, bied ik de volgende troost: dit zijn de neigingen, de voorkeuren van de mens van Turing; wij hoeven er ons niet door uit het veld te laten slaan. Het is zelfs waarschijnlijk dat deze tendensen juist een heftige reactie binnen ons culturele leven zullen oproepen’ (250). Men vergelijke dit met de wijze waarop romantiek en naturalisme gereageerd hebben op de eenzijdigheden van de industriële revolutie in de 18e en 19e eeuw (ibid.): ‘Evenzo moet de veronachtzaming door de computermens van diepgewortelde menselijke motieven ons uitdagen om juist dit aspect van het menselijk bestaan opnieuw te beschrijven en te benadrukken’ (ibid.). Wat nu weer niet betekent dat deze heilzame ‘reactie’ straffeloos de verworvenheden van de computertechnologie kan en mag ignoreren of negeren: talrijke ervaringen uit het oudere en recente verleden hebben ons geleerd ‘hoe onvruchtbaar die reactie kan zijn als ze niet gepaard gaat met enige sympathie voor en kennis van het betreffende onderwerp, de technologie’ (251).