Vrij Nederland. Boekenbijlage 1983

[p. 14]

Het verschil tussen een wervelwind en een muziekstuk
The Mind's I: kunnen computers denken?

The Mind's I Fantasies and Reflections on Self & Soul Composed and Arranged by Douglas R. Hofstadter and Daniel C. Dennett Uitgever: Penguin, 486 p., f28,75 Importeur: Nilsson & Lamm
Michael Morreau

In 1950 verscheen in het filosofische tijdschrift Mind een inmiddels klassiek artikel, ‘Computing Machinery and Intelligence’ van de Engelse computerkundige Alan Turing. De vraag die Turing bezighield, of machines ooit zullen kunnen denken, was in die tijd actueel geworden. Voor het eerst was er een machine die het verleidelijk maakte die vraag bevestigend te beantwoorden, de computer. Niemand zou beweren dat een rekenlat of een telraam zelf sommen kan maken, maar de computers uit de jaren vijftig, hoe rudimentair ook, gingen al gauw ‘elektronische breinen’ heten. Ze spraken tot de verbeelding.

Om zijn antwoord meer dan science fiction te laten zijn achtte Turing het echter noodzakelijk om de probleemstelling enigszins anders te formuleren: de aanwezigheid van gedachten kan niet zomaar worden vastgesteld, zelfs niet wanneer het om andere mensen gaat. Wat het ook voor iets is, je kunt een bewustzijn niet aanraken, wegen of fotograferen. Turing stelde daarom het volgende voor. De vraag of een machine kan denken moet worden begrepen als de vraag of zij de intellectuele activiteiten van mensen overtuigend kan nabootsen. Om dit te toetsen bedacht hij de zogenoemde Turing Test, die erop neerkomt dat een onderzoeker gesprekken voert met zowel een computer als een mens, via een telexverbinding. Als hij er niet in slaagt te onderscheiden wie mens is en wat machine, dan is deze laatste volgens Turing in staat tot denken.

Of deze precisering van het probleem van computerintelligentie acceptabel is of niet is een filosofische vraag. Verschillende bezwaren werden door Turing geanticipeerd en alvast beantwoord, maar in de jaren sinds de publikatie van zijn artikel zijn er nog duizenden artikelen en boeken over verschenen. Intussen is er in de computerkunde ook een nieuw vakgebied ontstaan: Articiciële Intelligentie, waarbinnen men zich bezighoudt met de ontwikkeling van computerprogramma's die de hogere functies van de hersenen simuleren.

Jorge Luis Borges

Dennett en Hofstadter, de twee samenstellers van The Mind's I, zijn respectievelijk filosoof en computerkundige en hebben allebei op dit vakgebied gewerkt. Ook zijn ze er allebei van overtuigd dat Turing gelijk had, of in ieder geval bijna, en het boek dat ze hebben geschreven kan niet anders worden gelezen dan als een poging om iets van die overtuiging over te brengen. Dit gebeurt niet, of niet uitsluitend, door middel van het soort argumentatie dat gebruikelijk is in de filosofie. Het boek is een collage van korte verhalen, puzzels, gedachtenexperimenten en wetenschappelijke publikaties, waarin haast alle onderwerpen worden aangesneden die met het verschijnsel bewustzijn te maken hebben. Wat is het bewustzijn? Hebben andere mensen er ook één? En dieren? Zo ja, waar bevindt het zich dan en hoe ontstaat het? Zou een bewustzijn ook in een machine kunnen ontstaan? Deze laatste, en in The Mind's I meest centrale vraag, heeft Hofstadter het mooist gesteld: ‘Is the soul more than the hum of its parts?’

Qua opzet en stijl zijn de verschillende bijdragen even uiteenlopend als de eenentwintig schrijvers die vertegenwoordigd zijn, waaronder Borges, de geneticus Dawkins, Stanislaw Lem, en Turing zelf. In sommige stukken is het de bedoeling verwarring te stichten bij iedereen die er naïeve meningen op na houdt, in andere worden de opvattingen van Dennett en Hofstadter op suggestieve wijze weergegeven. Iedere bijdrage wordt gevolgd door een bespiegeling waarin het verband met de rest van het boek expliciet wordt gemaakt.

Douglas R. Hofstadter

Borges opent de rij met een fragment uit Labyrinths, ‘Borges and I’, waarin hij vertelt over zijn gevoel twee personen te zijn. De één is een gevierd kunstenaar over wie de andere leest, thuis in zijn krant. Het is Borges onduidelijk wie ‘Borges and I’ heeft geschreven. Hier blijkt dat begrippen als ‘zelf’ en ‘bewustzijn’ te groot en te dichtbij lijken om ze te kunnen overzien en te bekritiseren. Waarschijnlijk daarom wordt gepoogd in dit eerste gedeelte van The Minds I aan deze té vertrouwde begrippen een vreemde bijklank te geven, zo iets als er gebeurt wanneer een of ander woord steeds wordt herhaald. Aan wélke Borges was de herkomst van zijn stuk onduidelijk?

In ‘On Having No Head’ wil D.E. Harding ons ervan overtuigen dat er precies één bewustzijn is, namelijk het zijne. Dit past in de discussie over het bekende ‘problem of other minds’. Niet alleen zou er geen zekerheid bestaan dat anderen kleuren en zintuiglijke indrukken hetzelfde ervaren als jezelf, bij voorbeeld dat ze bij het aanschouwen van een roos dezelfde donkerrode kleur zien in plaats van iets dat je zelf groen zou hebben genoemd. Er zou zelfs geen zekerheid zijn dat anderen überhaupt iets zien, ervaren of voelen.

Hardings essay dient als inleiding voor Turings ‘Computing Machinery and Intelligence’, dat in zekere zin een alternatief biedt voor dit solipsisme. In de praktijk hebben we niet zoveel problemen met het aan een ander toekennen van een bewustzijn en van de bijbehorende gedachten en emoties. We doen dit automatisch wanneer alles wat die ander zegt en doet in de belangrijkste opzichten op ons eigen gedrag lijkt. We nemen aan dat als iemand stil is en zijn wenkbrauwen fronst, hij ergens over zit na te denken. Als hij na enkele minuten opstaat met een tevreden blik dan

[p. 15]

weten we hoe dat komt, hij is eruit gekomen. Turings vindt dat we machines dezelfde kansen moeten geven. Als een machine in staat zou blijken te zijn op dezelfde manier als een mens over allerlei onderwerpen te kunnen discussiëren, waarom zouden wij dan aan de een géén bewustzijn toekennen en aan de ander wel?

Beethoven

Turings artikel wordt bekritiseerd en verdedigd in een dialoog door Hofstadter, ‘A Coffeehouse Conversation’. Daarin komt een gedachtengang voor die in The Mind's I steeds terugkeert, en die tekenend is voor de visie op machinale intelligentie die hij en Dennett erop nahouden. Hofstadter gaat in op een mogelijk bezwaar tegen de Turingtest. We zijn inmiddels allemaal, zo verloopt het bezwaar, gewend aan het idee dat allerlei complexe systemen met een computer kunnen worden nagebootst. Er zijn bij voorbeeld computermodellen van de economie van een land. Het klinkt daarom aannemelijk dat ook de werking van de hersenen te simuleren valt, en verder dat een dergelijke computer zou kunnen praten, net als Turing zich had voorgesteld. Toch zou niemand in het geval van een gesimuleerde ineenstorting van de economie beweren dat er echte mensen echt failliet worden verklaard, dat het echte guldens zijn die zo snel in waarde achteruit gaan. We weten dat er een verschil bestaat tussen de simulatie en datgene wat gesimuleerd wordt. Waarom dan een uitzondering gemaakt voor het geval van een model van de hersenen? Waarom zou er in dat geval ineens wel van echte emoties en gedachten sprake moeten zijn?

Zo bekeken doet Turings voorstel tamelijk willekeurig aan. Zelfs in de artificiële intelligentie-kringen zijn er dan ook velen die betwijfelen of computers in een meer dan metaforische zin van het woord een bewustzijn kunnen hebben. Hofstadters overigens niet slechte antwoord hierop is een poging om aannemelijk te maken dat de simulatie en het gesimuleerde hier wel degelijk door elkaar mogen worden gehaald. Het idee is dat een model van een wervelwind, om Hofdstadters eigen voorbeeld te nemen, inderdaad geen echte wervelwind is, omdat hij niet uit wind en harde regen bestaat, en omdat alles veilig kan ‘uitwaaien’ (de aanhalingstekens geven aan dat het slechts om een analogie gaat) binnen de metalen kast van een computer. Maar met andere zaken zou dit anders kunnen liggen. Een liedje bij voorbeeld hoeft niet per se uit een opeenvolging van klanken te bestaan, het kan ook als een serie tekens op papier of als een patroon gedrukt in vinyl (de grammofoonplaat) worden vastgelegd. Een zelfde muziekstuk verschijnt vaak in alle drie de vormen.

Stel dat het proces waarbij muziek wordt gecomponeerd met een computer zou kunnen worden nagebootst. Op een gegeven moment verschijnt op het beeldscherm de partituur van een symfonie. Zij wordt opgevoerd en na de première roepen alle critici éénstemmig uit dat de symfonie door Beethoven zelf geschreven had kunnen zijn. Zou er in zo'n geval sprake zijn van echte muziek of alleen maar van ‘muziek’, in een of andere metaforische zin van het woord omdat zij door een machine is voortgebracht? Of stel dat het proces waarbij gedachten in de hersenen ontstaan met een computer zou kunnen worden nagebootst. Op een gegeven moment verschijnt op het beeldscherm een wetenschappelijk artikel waarover alle fysici éénstemmig uitroepen dat deze inzichten van Einstein zelf afkomstig hadden kunnen zijn. Zou er dan geen sprake zijn van echte gedachten?

Hofstadters mening is dat gedachten en andere bewustzijnsverschijnselen meer op muziekstukken lijken dan op wervelwinden, althans voorzover ze geacht kunnen worden zich in een machine voor te doen. Een dergelijke verdediging van Turing komt regelmatig terug in het boek, het meest expliciet in een andere dialoog van Hofstadter, ‘A Conversation with Einstein's Brain’. De twee protagonisten, Achilles en de schildpad, hebben het op een mooie dag over een merkwaardig boek dat alle blauwdrukken bevat van Einsteins hersenen en zenuwstelsel, en ook tabellen die aangeven hoe zijn oren en stembanden geluiden omzetten in de impulsen van neuronen en andersom. Met zo'n boek zou het in principe mogelijk zijn om Einsteins reactie op een aan hem gestelde vraag helemaal na te bootsen. De vraag zou mondeling moeten worden gesteld, waarna aan de hand van de tabellen uitgerekend kan worden hoe de verschillende klanken door Einsteins oren in neuronensignalen zouden worden vertaald. De verwerking van deze signalen in de hersenen kan met behulp van de blauwdrukken worden nagegaan en na een hele tijd zouden wij weten welke signalen Einsteins hersenen naar zijn stembanden zouden hebben gestuurd. De tabellen stellen ons vervolgens in staat om uit te rekenen welke geluiden dit tot gevolg zou hebben gehad: Einsteins antwoord op de vraag! Achilles vindt dat een gesprek met het boek geen gesprek met Einstein is, want dat was tenslotte een man en mannen zijn geen boeken. De schildpad is daar niet zo zeker van. Het antwoord op de vraag was immers Einsteins antwoord, tenminste als er geen fouten in de rekensommen zijn geslopen.

Neem het geval waarin iemand een plaat opzet: Beethoven weer. Waar luisteren we dan naar, naar de platenspeler of naar Beethoven? Wiens muziek horen we?

Lichaam en ziel

‘A conversation with Einsteins Brain’ is thematisch gezien een van de belangrijkste stukken en ik vind het qua stijl typerend voor het beste dat dit boek te bieden heeft. Hofstadter schrijft een compact en af en toe ook stijlvol proza, met bovendien een flinke dosis enthousiasme en humor. Argumenten en filosofische ideeën worden steeds op een zeer leesbare en soms zelfs vermakelijke wijze gepresenteerd. Dat komt zelden voor bij filosofische boeken, ook niet als ze voor een breed publiek bedoeld zijn.

Hetzelfde geldt voor de logicus Raymond Smullyan. In een heel kort verhaaltje, ‘An Unfortunate Dualist’, stelt hij het idee aan de kaak dat een mens uit zowel een lichaam als een geest bestaat. Volgens de traditionele dualistische opvatting zouden deze geheel onafhankelijk van elkaar werken. Een lichaam zou ook zonder geest een normaal leven kunnen leiden, en een geest, bevrijd van het lichaam, zou alles kunnen doen wat hij altijd al deed. Deze gedachtengang doet misschien wat archaïsch aan. Hij wordt geassocieerd met het christendom en in de filosofie met de naam van Plato, die het lichaam als een gevangenis van de geest voorstelde, en met de naam van Descartes.

In Smullyans verhaal worden twee dagen beschreven uit het leven van een dualist die zwaar te lijden heeft onder zijn ziel, en die alleen maar geen zelfmoord pleegt omdat hij zijn familie en vrienden zo iets niet wil aandoen. Hij is daarom opgelucht wanneer hij hoort dat er een nieuwe pil is uitgevonden die de geest wegneemt zonder ook maar iets te veranderen aan het normale functioneren van het lichaam. Anderen zouden niets aan hem merken, maar hij zou zelf geen last meer ondervinden van zijn geest. Hij besluit er de volgende dag eentje te slikken. Nu wil het geval dat zijn beste vriend van het probleem afweet en ook op de hoogte is van de uitvinding. Die nacht sluipt hij bij de dualist naar binnen, en dient het middel aan zijn slapende vriend toe. De volgende ochtend wordt het lichaam van de dualist wakker zonder geest en staat op. En ja, het lichaam loopt rechtstreeks naar de apotheek en legt het probleem met zijn geest uit. Het krijgt direct het pilletje, roept hardop: ‘Scheer je weg, geest!’, en slikt. Als na een paar minuten de pil haar werk gedaan zou moeten hebben, begint hij te klagen dat hij zich nog precies hetzelfde voelt. De conclusie kan alleen maar zijn dat er iets vreemds aan de hand is met het dualistisch begrip van de geest. Het aardige van dit stuk is de informele presentatie. Er is een strakkere versie van Smullyans argument, maar die is niet te lezen zonder een behoorlijke kennis van de meer technische uithoeken van de filosofie. Verder valt de Poolse schrijver Stanislaw Lem op door de manier waarop hij ideeën uit de filosofie en uit de artificiële intelligentie in verhalen verwerkt die ook als pure science fiction indruk maken (Lem heeft het boek geschreven waarop Tarkovsky zijn film Solaris heeft gebaseerd). In Lems bijdragen aan The Mind's I keert steeds het thema terug van gesimuleerde mensen met echte gevoelens. Aan de kleine mensen uit verhalen als Gullivers Reizen worden meestal evenredig kleine emoties toegekend; als ze pijn hebben dan is dat een soort speelgoedpijn, en zelfs de ergste dingen die ze zich kunnen voorstellen zijn onbelangrijk voor mensen van normale afmetingen en soms ook nog grappig. In tegenstelling hiermee weet Lem het gevoel over te brengen dat wanneer een programmeur de computersimulaties van mensen ergens onder laat lijden, ze dat als echte mensen ervaren. Als hij het experiment beëindigt dan verdwijnt daardoor een beschaving.

Stampend en denkend

De andere auteurs zijn over het algemeen veel minder literair dan Lem, maar omdat ze die pretentie ook niet hebben is dat nergens storend. De meesten willen niets meer dan hun ideeën op een zo toegankelijk en informeel mogelijke manier overbrengen, wat hun ook lukt.

Dat machines ooit zullen denken kan niet worden aangetoond door een boek als The Minds I, hoe helder begrippen als ‘denken’ en ‘machine’ ook worden geanalyseerd en

Vervolg op pagina 29