De Gids. Jaargang 146

[p. 368]

Douwe Draaisma
Descartes en de Turingtest

Door de eeuwen heen is de menselijke geest vergeleken met de verfijndste en voortreffelijkste mechanieken die maar te vervaardigen waren. Lange tijd waren dat klokken - de eerste mechanische systemen die iets beter konden dan mensen: tijd tellen. De klokkenmetafoor heeft zich ingeslepen in ons psychologisch taalgebruik. Niemand denkt bij de term drijfveer nog aan wat in het binnenste van een klok verborgen zit. Psychologische beschrijvingen als ‘hij is opgewonden’ of ‘zij is van slag’ hebben zich losgemaakt van hun mechanische oorsprong. Die vergeten afkomst voert soms tot ongerijmdheden: is het wel een antropomorfisme als je zegt dat een computer van slag is?

In de metaforen van onze tijd zijn de klokken vervangen door computers, maar verder is veel gelijk gebleven. Zelfs de wending om de metafoor niet langer als een metafoor te zien maar als een gelijkstelling - mensen zijn machines - is niet typisch voor de twintigste eeuw: al in Descartes' Discours de la méthode^1. is een bespreking aan te treffen van de vraag of er verschillen zijn tussen mensen en machines. Naar aanleiding van de computermetafoor wordt tegenwoordig dezelfde vraag opnieuw gesteld, maar wie met de zeventiende-eeuwse disputen in het achterhoofd de huidige gedachtenwisseling volgt zal onvermijdelijk zijn déjà vu-ervaringen hebben.

Descartes heeft zich moeite gegeven criteria op te stellen die het mogelijk maken mensen en machines van elkaar te onderscheiden. In dit essay wil ik nagaan of Descartes' overwegingen nog van belang zijn in de contemporaine discussie. Daartoe zal ik de cartesische bijdrage vergelijken met die van de filosoof en wiskundige Turing, die juist betoogde dat het op den duur onmogelijk zou zijn verschillen te ontdekken in de reacties van mensen en machines. We zullen beginnen met een korte uiteenzetting van de naar Turing genoemde test en vervolgens onderzoeken of Descartes' criteria bestand zijn tegen een confrontatie met de Turingtest

1. Descartes, R., Discours de la méthode, Leiden, 1637. Geciteerd wordt uit de vertaling die in 1977 bij Boom, Meppel is verschenen.

De Turingtest

In het époche-makend artikel Computing machinery and intelligence^2. behandelt Turing de vraag ‘can machines think?’ In deze vorm is de vraag ongeschikt voor discussie en Turing stelt voor de kwestie te benaderen via een spel - het ‘imitation game’. Dit spel werd later herdoopt in Turingtest. In eerste instantie wordt het gespeeld door een man (a), en vrouw (b) en een ondervrager (c). De bedoeling is dat de ondervrager, die zich in een andere kamer dan a en b bevindt, moet uitmaken wie van de twee de vrouw is. b heeft de opdracht c zoveel mogelijk te helpen bij een juiste identificatie, terwijl a een tegengestelde opdracht heeft. c mag aan a en b iedere vraag stellen die hij wil. De vragen worden in getypte vorm aan a en b voorgelegd en de ondervrager krijgt getypte antwoorden terug. Indien a zijn antwoorden zo kiest dat ze net zo goed van b afkomstig hadden kunnen zijn - het is een ‘imitation game’ - wordt het de ondervrager onmogelijk gemaakt a of b correct te identifi-

2. Turing, A.M., ‘Computing Machinery and Intelligence’, Mind, 1950.

[p. 369]

ceren met een kans groter dan 0,5.

Vervolgens nodigt Turing de lezer uit zich voor te stellen dat de plaats van a wordt ingenomen door een machine. Zal deze vervanging een juiste identificatie vergemakkelijken? Dat hangt uiteraard af van het imiterend vermogen van de machine: ook nu geldt dat indien de imitatie slaagt de ondervrager geen middelen heeft om met een kans groter dan 0,5 onderscheid te maken tussen a, de machine, en b, de mens. Turing verwachtte dat er binnen vijftig jaar (vanaf 1950) computers zouden zijn waarbij de ondervragers niet meer dan zeventig procent kans hebben de machine te onderscheiden van de mens.

Descartes' criteria

In het Discours de la méthode komt in het ‘vijfde gedeelte’, dat handelt over ‘het verschil dat bestaat tussen onze ziel en de ziel der dieren’, de volgende zin voor:

Als er daarentegen machines zouden zijn die op ons eigen lichaam gelijken en onze handelingen zo goed als mogelijk nabootsen, dan zouden we altijd over twee zeer betrouwbare middelen beschikken om in te zien dat het daarom nog geen echte mensen hoeven te zijn.’

Deze benadering - zijn mensen-imiterende machines nog wel te onderscheiden van mensen? - vormt het snijpunt van de analyses van Descartes en Turing, maar hun antwoorden op deze gemeenschappelijke vraag lopen uiteen. Onmiddellijk na het zojuist aangehaalde noemt Descartes de criteria om onderscheid te maken tussen machines die ‘onze handeling zo goed als mogelijk nabootsen’ en ‘echte mensen’:

‘het eerste is dat ze nooit woorden zouden kunnen gebruiken, noch andere tekens samenstellen zoals wij doen om onze gedachten duidelijk te maken. Want men kan zich wel een machine voorstellen die zodanig gemaakt is dat ze woorden uitbrengt en zelfs dat ze dat doet naar aanleiding van bepaalde lichamelijke inwerkingen die een verandering in haar organen [mechaniek]^* teweeg brengen, zoals wanneer ze, op een bepaalde plaats aangeraakt, vraagt wat men haar wil meedelen; of dat ze, wanneer men haar elders aanraakt, uitroept dat men haar pijn doet, en dergelijke, maar nooit dat zij die woorden verschillend rangschikt om op de betekenis te antwoorden van alles wat in haar aanwezigheid gezegd wordt, zoals zelfs de meest stompzinnige mensen dat kunnen. Het tweede is dat zelfs als deze machines bepaalde dingen even goed of zelfs beter zouden kunnen dan welk mens ook, zij onherroepelijk in andere dingen tekortschieten, zodat men daardoor zou ontdekken dat ze niet op grond van inzicht handelen maar uitsluitend op grond van de rangschikking van hun organen. Want terwijl de rede een universeel hulpmiddel is dat in allerlei omstandigheden uitkomst biedt, moeten de organen zich voor elke afzonderlijke handeling in een bepaalde postitie bevinden. Het is dus practisch onmogelijk dat een machine al die verschillende onderdelen heeft waardoor ze in alle levensomstandigheden zo kan handelen als wij dat, dank zij onze rede, doen.’

* De Franse tekst spreekt van ‘organes’, van het Griekse organon: werktuig. Voor vertalingen moet gekozen worden tussen twee betekenissen: orgaan (wat men kiest als het over dieren of mensen gaat) en mechaniek of onderdeel (als het over machines gaat). Descartes kiest zijn term dus met zorg: door ‘organes’ te gebruiken kan hij verschillen tussen lichaamsdelen van een organisme en onderdelen van een machine terminologisch in het midden laten.

Inleidende opmerkingen

Voor we Descartes' criteria nader onderzoeken moeten we enkele inleidende opmerkingen maken.

Het valt op dat Descartes nogal stoutmoedig dacht over de mogelijkheden van toekomstige machines, zeker als men in aanmerking neemt dat hij leefde in een tijd dat klokken de meest geavanceerde machines waren.

[p. 370]

Zelfs de rekenmachines zijn van latere datum: op die van Pascal werd in 1645 octrooi verleend en het Discours dateert van 1637. De cartesische opmerkingen over een machine die woorden uitbrengt zijn waarschijnlijk geïnspireerd door de standbeelden in de koninklijke tuinen te Saint Germain. Deze door de gebroeders Francini geconstrueerde beelden werden door een vernuftig hydraulisch systeem geleid. Er was onder meer een naakte Diana. Als men haar over het pad naderde en ongemerkt het mechaniek in werking zette verdween ze schielijk in het struikgewas en werd haar plaats ingenomen door Neptunus. Dat Descartes met mensen-imiterende machines onder meer de creaties van de Francini's in gedachten had blijkt uit de volgende passus in De homine: ‘misschien hebt U in de grotten en fonteinen in de koninklijke tuinen gezien dat de kracht waarmee het water uit de bron vloeit, verschillende machines kan bewegen en ze zelfs instrumenten laat bespelen of woorden uit laat brengen, afhankelijk van de verschillende rangschikking van de buizen.’

Men zou op voorhand kunnen beweren dat een vergelijking tussen Descartes en Turing onmogelijk is omdat Descartes' voorstelling van een machine te veel verschilt van de eigentijdse notie van een machine of computer. Door deze bewering hoeven we ons niet te laten ontmoedigen. Een eerste relativering is dat Descartes uitdrukkelijk niet een concrete, feitelijk bestaande machine heeft genoemd, maar het oog had op een ‘hypothetische machine’ die hij niet nader omschreef. Het is derhalve onmogelijk duidelijk aan te geven wat Descartes' voorstelling precies behelsde. Overigens moeten de verschillen tussen de zeventiende-eeuwse en huidige machines niet worden overdreven. Het is waar dat Descartes en Turing gescheiden worden door drie eeuwen van technologische ontwikkeling, maar in de voortgebrachte reeks machines zijn slechts twee typen van machines filosofisch interessant: de eerste is de machine die iets - wat dan ook - beter kan dan een mens, de tweede is de machine die alles kan wat een mens kan. Deze twee overgangen zijn door hun principieel karakter van belang voor de filosofie van de geest; de andere overgangen zijn gradueel. In de tijd van Descartes had de eerste overgang al plaatsgevonden. Er bestonden machines die iets beter konden dan mensen. Descartes geeft zelf een voorbeeld: ‘ook een uurwerk immers dat slechts uit veren en tandwielen bestaat, kan veel beter dan wij, met al ons inzicht, de uren tellen en de tijd meten.’ Of de tweede overgang heeft plaatsgevonden staat in onze tijd ter discussie; wellicht bevinden we ons nog samen met Descartes in het interregnum tussen beide typen machines.

Verder valt op dat de wegen van Descartes en Turing niet vanaf het begin uiteen gaan: volgens beiden moet er onderscheid gemaakt worden tussen de fysische en intellectuele eigenschappen van mensen. Dat machines uiterlijk niet op mensen lijken is een contingente omstandigheid. Descartes omzeilt deze omstandigheid door zich tout court machines voor te stellen die op ons eigen lichaam lijken en Turing lost het probleem op door de test zo in te richten dat uiterlijke verschillen niet waargenomen kunnen worden: de ondervrager en de machine bevinden zich in verschillende kamers.

Descartes' criteria zijn in hun zeventiende-eeuwse vorm niet geschikt om aan de Turingtest te worden onderworpen. We zullen pogen ze een eigentijdse gedaante te geven en beginnen met een parafrasering van het tweede criterium.

Het argument van het eindige aantal onderdelen

Descartes lijkt te poneren dat het mogelijk is een machine te construeren die sommige dingen beter kan dan mensen, maar dat er altijd dingen overblijven die een mens wel en een machine niet kan. Het argument is dat een machine uit een eindig aantal onderdelen bestaat en derhalve slechts een eindig aantal ver-

[p. 371]

schillende verrichtingen kan uitvoeren: het is ‘practisch onmogelijk dat een machine al die onderdelen heeft waardoor ze in alle levensomstandigheden zo kan handelen als wij dat dankzij onze rede doen’. Naar mijn overtuiging - en onder het voorbehoud dat mijn parafrasering juist is - is het argument ongeldig: een machine kan uit een eindig aantal onderdelen bestaan en daarmee toch een oneindig aantal verschillende handelingen uitvoeren. Een voorbeeld zou een machine zijn die natuurlijke getallen afdrukt: 1, 2, 3, 4, en zo verder. Het afdrukken van een 1 is een andere handeling dan het afdrukken van een 2. Deze machine kan potentieel oneindig veel handelingen verrichten omdat de reeks der natuurlijke getallen oneindig is. (Natuurlijk kan de machine niet feitelijk oneindig veel getallen afdrukken, maar dat is een beperking waar sterfelijke mensen ook mee moeten leven.) Toch bestaat de machine uit een eindig aantal onderdelen: schrijfmachine-armen met de getallen o t/m 9, veren tandwielen en papier, veel papier. Descartes' argument zou derhalve onhoudbaar zijn.

Het tegenvoorbeeld van de getallen afdrukkende machine is nogal opzichtig triviaal. Een voor de hand liggende tegenwerping is immers dat het afdrukken van de getallen 1, 2, 3 enzovoort, geen handelingen zijn die voldoende ongelijk zijn om verschillende handelingen te mogen heten. Deze tegenwerping introduceert een filosofisch probleem: wanneer noem je handelingen verschillend? Een radicaal antwoord zou zijn dat geen twee handelingen ooit identiek zijn: bij voorbeeld omdat ze niet op dezelfde tijd en plaats verricht kunnen zijn, maar in deze zin zou zelfs een machine die telkens een 1 afdrukt voortdurend verschillende handelingen uitvoeren en dat is niet wat we intuïtief onder verschillende handelingen verstaan. Wanneer we naar goed filosofisch gebruik die intuïtie expliciteren is de volgende overweging van belang: handelingen zijn verschillend (of identiek) in een bepaald opzicht. Het schrijven van een liefdesgedicht en het schrijven van een bekeuring zijn verschillende handelingen vanuit amoureuze of financiële perspectieven, maar identieke handelingen onder het opzicht ‘woorden gebruiken’. Wie maar genoeg zijn best doet kan altijd wel een perspectief vinden waarin handelingen verschillen of juist identiek zijn. De tegenwerping voert dus naar een patstelling: iedere verzameling van handelingen bestaat uit verschillende of identieke elementen, al naar gelang het perspectief. Descartes' argument van het eindige aantal onderdelen laat de zaak onbeslist. Telkens als iemand een machine heeft geconstrueerd die verschillende handelingen uitvoert (vanuit perspectief p) kan een ander zeggen dat de handelingen identiek zijn (vanuit perspectief q).

Turing zou Descartes' argument waarschijnlijk rangschikken in zijn categorie van ‘The arguments from various disabilities’. Dat zijn argumenten van de vorm: ‘ik wil wel toegeven dat je een machine kunt maken die alles kan wat je daarnet genoemd hebt, maar je zult nooit een machine kunnen maken die x kan.’

Voor x zou gesubstitueerd kunnen worden (de voorbeelden zijn van Turing): aardig zijn, initiatief nemen, verliefd worden, genieten van aardbeien met slagroom, zich vergissen. Descartes geeft geen concrete substitutie voor x aan, maar poogt aan te tonen dat er altijd een x zal zijn - naar blijkt op dubieuze gronden.

Het eerste criterium

Descartes' eerste criterium is nauwelijks helder en welonderscheiden. Het brengt problemen van schriftuitleg met zich mee. Er lijken twee parafraseringen mogelijk:

1.	een machine kan wel reageren op fysische stimuli, zoals aanrakingen, maar niet op zoiets onfysisch als de betekenis van woorden;
2.	machines beschikken - anders dan mensen - niet over taal.

[p. 372]

Er is een fijnzinnig exegetisch verschil tussen beide interpretaties: in 1 wordt gezegd dat een machine niet kan reageren op andere dan fysische prikkels: in 2 wordt beweerd dat machines niet met taal op taal kunnen reageren, ongeacht of taal een fysische of niet-fysische aangelegenheid is.

Men hoeft niet zeer belezen te zijn in Descartes' oeuvre om in te zien dat interpretatie overeenstemt met het dualisme waaraan Cartesius zijn naam verbonden heeft. Een machine die reageert op een niet-fysische prikkel is in deze metafysica uitgesloten: de enige plaats waar denken en uitgebreidheid elkaar raken is de menselijke pijnappelklier. Dit contact is in het dualisme volslagen onverklaarbaar en wordt dan ook door God verzorgd. Als interpretatie juist is hebben Descartes en Turing - bien étonnés de se trouver ensemble - geen verschil van mening.

Turing zal ermee instemmen dat machines alleen op fysische prikkels kunnen reageren. Tot de gang van zaken in de Turingtest behoort dat de stimuli zo worden aangeboden dat ze voor mens en machine te verwerken zijn. Turing beval het gebruik van een teleprinter aan. Dit procedurevoorschrift verzekert de uitwisseling van fysische zaken - een ponskaart, papier, en dergelijke. Wat taal verder ook is, het is in ieder geval óók fysische uitwisseling, gesproken taal niet uitgezonderd.

Dat interpretatie 1 een duidelijk aanwezig meningsverschil doet verdwijnen wijst erop dat de kwintessens van Descartes' argument in 2 zit - machines spreken hun talen niet.

Descartes zoekt de distinctieven tussen mens en machine niet op fysisch niveau. Hij zal bij voorbeeld niet betwisten dat machines - waaronder hij ook dieren rekende - woorden en reeksen van woorden kunnen voortbrengen: ‘eksters en papegaaien kunnen, evenals wij, woorden vormen maar kunnen nochtans niet zoals wij spreken, dat wil zeggen ze geven er geen blijk van zich bewust te zijn van wat ze zeggen.’ Deze laatste zinsnede - voor spreken, anders dan voor woorden uitbrengen, is nodig dat men zich bewust is van wat men zegt - brengt Descartes' vooringenomenheid aan het licht. Machines, eksters en papegaaien kunnen woorden voortbrengen, maar niet spreken. De reden is in elk der gevallen dezelfde: het werkelijk fundamentele verschil tussen mensen en machines is dat in de laatste niet die etherische substantie te vinden is die mensen kenmerkt - bewustzijn, denken, geest. Een machine heeft geen ziel.

Het taalargument blijkt een verkapt bewustzijnsargument. Descartes redeneert vanuit een metafysisch a priori. Hij wekt de indruk te beweren dat machines geen taal kunnen spreken en derhalve geen bewustzijn hebben, terwijl de werkelijke richting van de bewering is: machines hebben geen bewustzijn, dus zullen ze nooit een taal kunnen spreken. Petitio principii: de te bewijzen stelling fungeert al als uitgangspunt.

Conclusie

De slotsom die we hoopten te bereiken was dat in het werk van Descartes al de argumenten te vinden zijn die veel van de huidige computerofiele betogen weerleggen. De vreugdeloze conclusie moet echter zijn dat de cartesische argumenten, voor zover ze Turings gelijk niet onderstrepen, onhoudbaar zijn. We kunnen hooguit troost putten uit de mogelijkheid dat Descartes' conclusies juist zijn, zij het niet op grond van de argumenten die hij aanvoert.

Mogelijke troost steekt ook in het gegeven dat wanneer Descartes er als ondervrager in een Turingtest niet in slaagt de machine te identificeren - uit de antwoorden kan hij immers niet opmaken of de machine zich ook bewust is van wat hij zegt - dat nog niet betekent dat machines kunnen denken. Gunderson heeft betoogd dat de vraag of machines kunnen denken en de operationalisatie daarvan, de Turingtest, allesbehalve naadloos op elkaar aansluiten.^3.

Gundersons bezwaar is dat Turing voor het

3. Gunderson, K., ‘The Imitation Game’, Mind, 1964.

[p. 373]

beantwoorden van de vraag of machines kunnen denken eindresultaten vergelijkt, terwijl deel van iets doen is hóe je het doet. Een voorbeeld: ‘Mensen kunnen uit een gebouw gelaten worden door een elektrisch oog of een portier. Het eindresultaat is hetzelfde. Maar een portier kan brutaal of beleefd zijn, terwijl het elektrisch oog zich niet aan de etikette houdt of deze opzettelijk veronachtzaamt.’ Met andere woorden: het teweegbrengen van hetzelfde eindresultaat betekent nog niet dat de handelingen (in de Turingtest: denken) gelijk zijn. Een tweede argument van Gunderson luidt dat handelingen die een machine net zo goed of zelfs beter kan verrichten - tijd meten, rekenen, schaken - kennelijk niet zoveel met denken te maken hebben. Wat dit laatste betreft zou Turing naar mijn mening met recht kunnen riposteren dat juist door dergelijke ontwijkende manoeuvres een eerlijke vergelijking tussen het denken van mensen en het veronderstelde denken van machines onmogelijk wordt. Bovendien zouden de consequenties van Gundersons argument wel eens tamelijk absurd kunnen zijn. Als een computer een mathematische stelling kan bewijzen (en er zijn al computers die dat veel beter kunnen dan u), is dat dan geen denken? We waren tot dusver wel gewend het als zodanig te beschouwen. De uitweg die Gunderson ons zelfrespect biedt zou met zich meebrengen dat we heel anders over ‘denken’ moeten gaan denken, met als uiterste consequentie dat kennelijk noch mensen, noch machines kunnen denken. Liever zouden we dan concluderen dat we allebei kunnen denken.

Aan de andere kant lijkt Gundersons eerste argument - handelingen vergelijk je niet door eindresultaten naast elkaar te leggen - overtuigend genoeg om aan de verkieslijkheid van Turings operationalisatie te twijfelen. Vooralsnog is het volledig gelijk van Turing nog niet aangetoond evenmin als het ongelijk van Descartes.

Ik dank T. Dehue en dr Th.A.F. Kuipers hartelijk voor hun kritiek op een eerdere versie van dit essay.