Kennis & vernuft
Computerwetenschap als dronkelap
Rob Sijmons
In één versie van Eliza gedraagt de computer zich als Rogeriaanse psycho-therapeut. Het was door Weizenbaum bedoeld als parodie op de ‘nondirectieve’, spiegelende methode-Rogers (‘Ik voel me depressief’ - ‘Je voelt je depressief. Hoezo?’) Wat Weizenbaum de stuipen op het lijf joeg was dat zowel patiënten als psychotherapeuten zijn apparaat reëel voor therapieën wilden gebruiken. De ironisch bedoelde metafoor dreigde de werkelijkheid te vervangen.
In feite, zo beweert Weizenbaum, is het misbruik van de computer als metafoor nog veelomvattender. Hij citeert daarbij prof. Marvin Minsky, collega computer-hoogleraar aan het MIT: als je computers ‘echt goede muziek wilt laten schrijven of zinvolle tekeningen wilt laten maken zal dat natuurlijk betere semantische modellen in deze gebieden vereisen. Dat die niet voorhanden zijn weerspiegelt niet zozeer de toestand op het gebied van heuristisch (computer)programmeren, maar de traditioneel schandelijke toestand van de analytische kritiek in de kunsten - een cultureel gevolg van het feit dat de meeste esthetische analytici verontwaardigd raken als gesuggereerd wordt dat het mogelijk zou zijn te begrijpen wat zij pogen te begrijpen’.
Minsky's ‘begrijpen,’ zo luidt Weizenbaums commentaar, is uiteraard iets geheel anders dan wat Mozart of Picasso ermee bedoelden. Het is in feite een omkering van de metafoor: er is pas begrip op het moment dat je het in een computerprogramma kunt onderbrengen, en dan moet de werkelijkheid zich daar maar aan aanpassen. In feite maakt het computermodel dan uit wat echt mooi is. Het mag niet verbazen dat Weizenbaum een hoofdstuk de titel ‘tegen het imperialisme van het instrumenteel redeneren’ geeft.
De belachelijkheid van deze omkering van de metafoor illustreert Weizenbaum met een anekdote. Op een donkere nacht komt een politieman een dronkelap tegen. Hij zit, duidelijk op zoek naar iets, op z'n knieën onder een lantaarnpaal. Hij zegt op zoek te zijn naar sleutels die hij ‘daar ergens’ verloren is: hij wijst naar het duister. De politieman vraagt: ‘Waarom zoek je, als je je sleutels dáár verloren hebt, dan hier onder de lantaren?’ Waarop de dronkeman antwoordt: ‘Omdat het licht hier zo veel beter is.’ Zo werkt de wetenschap meestal ook, zegt Weizenbaum: zoeken waar de verlichting is, terwijl de sleutels elders liggen. Dat hoeft nog geen ramp te zijn, maar als je de computer als enige verlichting beschouwt, zit je wel fout.
Uit knallende ergernissen worden vaak de mooiste gedachten geboren. In wat achteraf gezien een vlaag van ernstige bewustzijnsvernauwing geweest moet zijn, hadden we besloten een kast te kopen bij de Zweedse meeneemmeubelzaak IKEA. Helaas, telkens als we langskwamen - zo eens in de paar weken - bleken belangrijke onderdelen niet leverbaar. De kast in zijn geheel bestellen kón niet: ‘Zo gaat het hier niet.’ Namokkend temidden van andere teleurgestelden aan de balie bedacht ik een parafrase op Ikea's reclamekreet: het volstrekt onmogelijke woonwarenhuis.
Voor andere bij Ikea gekozen meubelen vonden we alternatieven, maar die kast bleef obsederen. Er volgden dus nog vele confrontaties met de baliedames, waarbij het uit een bedrijfsdoctrine voorkomende tutoyeren de ergernis vergrootte. Maar een paar maanden geleden lonkte het geluk: zo'n 95 procent van de onderdelen was er, en de aankoop werd een feit. Dat er bij aflevering een onderdeel ontbrak, dat het hang- en sluitwerk niet compleet was, en dat de kast nog steeds niet compleet is: ik zal de lezers de details besparen. Er viel me nog iets anders op: het hele systeem van Ikea - kom maar langs en neem je spullen gelijk mee - is gebaseerd, moet wel gebaseerd zijn, op een totale computeradministratie. Voorraadbeheer, bestellingen, afrekening, de prijsverhoging door de hogere BTW, het gaat allemaal elektronisch. Je merkt het ook, je koopt niet een kastdeur of een set vitrineplankjes, je blijkt een zeer lang nummer te kopen.
De Ikea-computer hanteert een model van de werkelijkheid, een metafoor, en het probleem is dat men ervan uitgaat - en misschien wel moet gaan, anders is het vertrouwen in eigen kunnen weg - dat er sprake is van een identiteit; het model is de werkelijkheid. Men moet in real time de voorraad kennen, men moet heel snel een voorraad terug zien lopen, anders wordt het nee verkopen. Het kardinale misverstand, zoals de bittere ervaringen van mij en anderen leren, is dat zo'n metafoor niet deugt, dat de werkelijkheid zich meestal niet aan het model conformeert. Het is, om Freek de Jonge te parafraseren, een fout die met name computerexperts wel vaker maken.
Zoniet Joseph Weizenbaum, ook al is hij hoogleraar computerwetenschap aan het befaamde Massachusetts Institute of Technology (MIT). In zijn boek Computer power and human reason, recentelijk makkelijk verkrijgbaar geworden in een Penguin-editie (f 24,25), weidt hij enige pessimistische beschouwingen aan dit misverstand. Ten dele als grap schreef Weizenbaum ooit het computer-programma Eliza. Daarmee is het mogelijk de computer te laten converseren met een mens; het apparaat haakt bij zijn antwoorden herkenbaar in op woorden en zinsneden van zijn menselijke partner.
Een ander gevolg is het wegnemen van de beslissingen bij de mens, wat niet alleen opgaat voor het mooi of lelijk vinden van iets, of slaat op de Ikea-kreet ‘Zo gaat het nu eenmaal’. Een specifiek punt van professorale ergernis zijn de computerspelletjes: voor de meeste jonge Amerikanen dé kennismaking met de computer. Er wordt daarbij ongelooflijk veel anoniem, bijna automatisch afgeslacht. Niet alleen in nog redelijk abstracte ruimte-oorlogen, maar bij voorbeeld ook in een smakelijk spel dat Custers revenge heet, vernoemd naar een historische Amerikaanse generaal. In dat spel wint de speler die de meeste Indianen-vrouwen verkracht heeft. Wat in feite een van de grootste verschrikkingen is die de ene mens de ander aan kan doen, werd via het elektronische apparaat geheel clean: ‘Slechts het abstracte manipuleren van plastic knoppen blijft over.’
Als je een computer zou vragen waarom hij een bepaalde beslissing neemt, zal hij voordurend blijven antwoorden: ‘Zo gaat het nu eenmaal in mijn programma.’ Zou je door kunnen vragen, dan komt er waarschijnlijk wel een soort eindantwoord: ‘Omdat jij mij dat opgedragen hebt.’ Ook menselijke beslissingen kennen ongetwijfeld besluitketens die lijken op die in de computer, zegt Weizenbaum. ‘Maar het verschil tussen mechanisch handelen en authentiek menselijk handelen is dat het laatste eindigt op een beslissingspunt waar niet het antwoord: “Omdat je me dat opgedragen hebt” bepalend is, maar: “Omdat ik daarvoor gekozen heb.”’
Auteursrechtelijk beschermd