Grenzen aan de groei. Deel 1

75 gesprekken over het rapport van de Club van Rome

[p. 279]

Robert M. Fano

Robert M. Fano is Ford-professor aan de faculteit van elektro-ingenieurs aan het Massachusetts Institute of Technology. In 1971 werd hij tevens benoemd als directeur van de afdeling computerwetenschappen.
Hij werd in Turijn, Italië geboren (1917). In 1939 vestigde professor Fano zich in de Verenigde Staten en promoveerde aan het m.i.t. Sedert 1941 doceerde hij in een aantal verschillende functies aldaar. In 1962 werd hij op de Ford-stoel benoemd. Hij publiceerde tal van werken, waarbij hij zich de laatste tijd vooral concentreerde op het gebruik van computers bij het oplossen van sociale problemen.

Mijn ervaring, opgedaan tijdens mijn gesprekken met verschillende wetenschapsmensen over de gehele wereld is, dat er nogal uiteenlopende opvattingen bestaan over de bruikbaarheid van computers. Herman Kahn¹ zei dat hij, doordat hij de eerste acht computers in de Verenigde Staten onder zijn beheer had, genoeg van computers af wist om ervan overtuigd te zijn dat deze onbetrouwbaar zijn. Het Forrester-team is van mening dat computers het meest geschikte middel zijn om de problemen van een toekomstig mondiaal bestuur op te lossen. Wat is uw mening?

Computers spelen een rol zowel bij het besturen van de maatschappijinrichting als bij het inrichten van de maatschappij zelf. Dit zijn twee tamelijk van elkaar verschillende rollen. Vooral in het eerste geval zijn computers uitstekende instrumenten om gestelde vragen te beantwoorden. Het eigenlijke probleem is niet het beantwoorden, maar het formuleren van de vraag. Dát probleem is de werkelijke oorzaak van het menigsverschil over het gebruik van computers bij de bestudering van de economische groei. Die formulering blijft een geheel menselijke aangelegenheid. De computer beantwoordt de vraag die gesteld is en niet de vraag die gesteld had moeten worden.

Dr. Edward Teller² zei mij bijvoorbeeld, dat een computer hem niet kon zeggen wie zijn vrienden zijn.

Nu komen wij aan een zéer belangrijk aspect van de computers. Als wij problemen willen oplossen, die voor een mens te ingewikkeld zijn om alleen en zonder hulp op te lossen, moeten wij beslist een nauwe samenwerking tussen mens en computer mogelijk maken. Daar staat tegenover dat wij heel goed weten dat, zoals ik in al mijn publikaties heb gesteld, het proces van het formuleren van een probleem en het proces van het oplossen van een probleem in wezen gelijk zijn. Men weet nooit of men een probleem wel juist geformuleerd heeft, wanneer men niet enkele gevolgen van de formulering onderzoekt, wat in feite inhoudt dat men de oplossing van het probleem onderzoekt. Het gaat in de eerste plaats om de formulering. Dan bekijkt men wat de aard van de oplossing is en gaat men na, of er in de formulering iets weggelaten is. Vervolgens controleert men of er bijvoorbeeld bepaalde menselijke aspecten zijn, waar geen rekening mee is gehouden, of dat er beperkingen

1 Zie gesprek met Herman Kahn, pagina 313.

2 Zie gesprek met Edward Teller, pagina 306.

[p. 280]

zijn die niet in de formulering zijn opgenomen. Daarna formuleert men nog eens en krijgt weer een oplossing, die men opnieuw controleert. Hiermee gaat men door totdat men een formulering krijgt die, voor zover men weet, juist lijkt te zijn. Dan zijn er geen fouten meer waarvan men instinctief weet dat zij in tegenspraak zijn met de waarheid, en het gevolg zijn van de formulering. Wat ontzettend belangrijk is, is een nauwe wisselwerking, het vermogen om wat ik de verwerking van menselijke informatie zou willen noemen, te coördineren met de verwerking van computerinformatie.

Zou de computer, die door Marshall McLuhan³ ‘de basis van het brein’ genoemd wordt, beschouwd kunnen worden als een verlengstuk van de hersenen?

Ik ben altijd een beetje huiverig voor deze terminologie, maar ik geloof zeker dat men de computer in zekere zin een intelligentieversterker zou kunnen noemen, zoals wij het elektrische gereedschap dat wij tegenwoordig hebben, een elektrische boor bijvoorbeeld, of een wasmachine, spierversterkers kunnen noemen. Het zijn instrumenten die onze kracht vergroten, en niet alleen onze kracht maar juist ook onze nauwkeurigheid en vakkundigheid. Met elektrisch gereedschap kunnen wij precisiewerk doen, dat met de blote hand onmogelijk zou zijn. Welnu, in die zin kan men van computers zeggen dat zij de mogelijkheid bezitten de kracht, de precisie, de kundigheid van onze hersenen te vergroten. Dat is inderdaad het verband waarin ik dit zie. Maar ik geloof ook dat computers een sociaal aspect hebben, dat nog veel belangrijker is, namelijk die mogelijkheid om een zinvolle intellectuele communicatie tussen mensen te vergemakkelijken. Dat zal in de toekomst de belangrijkste betekenis van de computer voor de maatschappij zijn.

Als wij computers gebruiken in het communicatieproces - ik denk hierbij aan communicatie in de zin van telefoon en televisie - dan is het enige dat zij doen het opheffen van de afstand tussen de mensen onderling. Men kan over een afstand van duizenden kilometers met iemand telefoneren alsof het zijn buurman is, maar telefoons dragen niets bij tot het intellectuele proces van communicatie. Ze bieden geen hulp bij het probleem hoe ik datgene wat in mijn geest omgaat over kan dragen op andermans geest, en juist daarbij hebben wij hulp nodig.

U schreef⁴ dat een boek kennis bevat, waarover iemand pas kan beschikken als hij dat ellendig lange en dikwijls lijvige boek leest. Kunnen computers ertoe bijdragen het proces van lezen en kennis opnemen te versnellen?

Er zitten twee kanten aan die vraag. Ten eerste, bestaat er een manier om kennis op te slaan in een direct bruikbare vorm, dat wil zeggen, is het mogelijk dat iemand gebruik maakt van de kennis van het Massachusetts Institute of Technology zonder dat hijzelf zijn intellectuele capaciteiten behoeft te gebruiken om die kennis in zich op te nemen? Het antwoord op deze vraag lijkt in eerste instantie ‘ja’ te zijn. Er bestaan tegenwoordig programma's die kennis zodanig opslaan, dat deze

3 Zie gesprek met Marshall McLuhan, pagina 79.

4 ‘Computers in Human Society - For Good or Ill?’ in Technology Review van maart 1970.

[p. 281]

direct gebruikt kan worden. Een voorbeeld hiervoor is een bepaald onderzoek, dat door enkele collega's van mij hier in het m.i.t., in het bijzonder door de professoren Moses en Martin is verricht. Zij hebben een computersysteem ontworpen, dat de kennis bezit van een uiterst bekwaam wiskundige. Ik heb zelfs een van hen horen zeggen, dat er volgens hem geen wiskundige bestaat, die alle kennis bezit die in die ene computer zit. Het lijkt dus mogelijk te zijn, kennis in computers op te slaan, die rechtstreeks gebruikt kan worden. Dat is het eerste aspect. Het tweede is de mogelijkheid die ik reeds noemde, om de menselijke communicatie te vergemakkelijken. Ik zal u hiervan een voorbeeld geven. Twee mensen zijn in een bepaalde zaak geïnteresseerd, maar, zoals vaak het geval is, zij bekijken deze beiden vanuit verschillende gezichtspunten. Wanneer ik een kundige leraar ben, zal ik proberen uw gezichtspunt te begrijpen en van daaruit die zaak aan u uitleggen. Zo gaat een kundige leraar te werk. Maar het is niet eenvoudig voor mij om precies uw zienswijze te weten te komen. Wilt u werkelijk begrijpen wat ik zeg, dan moet er een vertalingsproces plaatsvinden. Dat wil zeggen: u moet deze kennis inpassen in uw zienswijze, of, anders gezegd, in uw referentiekader en van daaruit weer een verband leggen tussen deze kennis en de rest van de kennis die in mijn hoofd zit. Dit vertalingsproces is ontzettend moeilijk en ingewikkeld en vormt volgens mij een van de barrières in de menselijke communicatie. Mensen praten wel met elkaar, maar communiceren niet echt. Ik denk dat computers uiteindelijk in staat zullen zijn de mens in dit opzicht te helpen. Ik zal u een alledaags voorbeeld hiervan geven.

Stel dat wij een beschrijving van een of ander voorwerp aan de computer voorleggen. Mijn belangstelling gaat uit naar de voorkant van dit voorwerp. U bekijkt liever de achterkant. Nu kan een computer heel gemakkelijk dat voorwerp omdraaien, en de kant die ik bekeken heb aan ú laten zien, dus mijn gezichtspunt voor u vertalen en andersom. Dit is misschien een erg eenvoudig voorbeeld, maar het geeft wel ongeveer aan wat ik bedoel. Meer algemeen gesproken kunnen wij ons voorstellen, dat een computer de kennis die iemand erin gestopt heeft aan iemand anders kan overdragen, aangepast aan de manier waarop die ander deze kennis nodig heeft. De computer zou inderdaad contact met mij kunnen hebben en kennis van mij opnemen. Deze kennis wordt opgeslagen. Iemand anders heeft contact met de computer en haalt er die kennis weer uit in een vorm en op een manier die hij kan gebruiken. Dit is nog toekomstmuziek, maar het zal zeker eens mogelijk zijn, als men ziet wat er vandaag de dag al gebeurt. Voorbeelden hiervan zijn al te vinden, eenvoudige voorbeelden weliswaar, maar we zijn op de goede weg.

Het tweede aspect is, wat ik communicatie met behulp van het verstrekken van gegevens zou willen noemen. Als wij een of ander onderwerp met elkaar bespreken, hebben wij misschien wel vele en vele bladzijden vol gegevens nodig. Dat is lastig. Computers kunnen dit probleem aanzienlijk vereenvoudigen. Wij kunnen nu alleen benodigde gegevens in een computer stoppen en er kan dan een wisselwerking ontstaan

[p. 282]

tussen u, mij en de gegevens in de computer. Laten wij dit in toepassing brengen op een vergadering, bijvoorbeeld een commissievergadering - en dit experiment is inderdaad al eens uitgevoerd - waarbij iedereen achter een bedieningspaneel van een computer zit. De communicatie onderling vindt plaats door middel van de computer. Dat gaat als volgt: iemand praat ergens over, daar komen gegevens bij te pas die wij misschien al eerder besproken hebben of die achtergrondinformatie zijn. Deze gegevens wil ik zien. Terwijl de ander doorpraat, vraag ik ze op aan mijn computer, en daar komen ze op te voorschijn, uitsluitend en alleen voor mij. De anderen behoeven niet gestoord te worden, als zij dat niet willen. Op die manier krijgt men een schat aan informatie tijdens zo'n gesprek.

Op een soort televisiescherm?

Inderdaad. Dit scherm is voor iedereen afzonderlijk binnen handbereik beschikbaar, en niemand behoeft lastig gevallen te worden. Men vraagt wat men weten wilt, terwijl iemand anders weer iets anders vraagt.

Professor Delgado van de universiteit van Yale⁵ sprak in het gesprek dat ik met hem voerde, over de overdracht, door middel van computers, van emoties uit een bepaald deel van iemands hersenen naar een bepaald deel van iemand anders' hersenen.

Ik geef hier liever geen commentaar op, omdat ik niet weet wat hij onder emoties verstaat.

De computers die de Apollo-vaarders de ruimte in moesten sturen veroorzaakten wat moeilijkheden, en sommige geleerden spraken hierbij van computerhypochondrie.

Dat zijn onbegrijpelijke termen die nergens op slaan. Ik zal deze tot hun juiste proporties terugbrengen. De zaak zit zo: het menselijk gedrag is een uiterst gecompliceerd geheel. Wij zien bepaalde gedragskenmerken, waarvan wij geen notie hebben hoe zij tot stand komen. Wij vragen ons dan ook af welke inwendige mechanismen dat uiterlijk gedrag veroorzaken. Verschillende karakteristieke onderdelen van dat gedrag geven wij bepaalde namen, zoals die, welke u zojuist gebruikte. Nu worden computersystemen zo ingewikkeld, dat het vaak erg moeilijk is te begrijpen wat de oorzaak is van sommige onverwachte gedragingen. Er bestaat zeker een computergedrag, maar ook de neiging om algemene vormen van dit gedrag antropomorfisch te karakteriseren. Het is natuurlijk ook niet onbegrijpelijk dat men het gedrag van de computer soms associeert met het menselijk gedrag. He herinner mij bijvoorbeeld, dat er jaren geleden aan mij werd gevraagd of een computer een voorkeur kan vertonen voor sommige mensen en hun vragen beter beantwoorden. Oppervlakkig gezien kan men inderdaad bij een computer in het gevlij komen, net zoals men dat, volgens het aloude verhaal, bij een leraar zou kunnen. Maar waar het op neerkomt is alleen maar dit: als men weet hoe een computer zich gedraagt, kan men zijn eigen ge-

5 Zie gesprek met José M.R. Delgado. pagina 259.

[p. 283]

drag aanpassen aan dat van de computer, waardoor de computer datgene wat men hem wilt laten doen, beslist beter zal doen.

Stel, dat de Chinezen binnen tien jaar in staat zijn computers te ontwerpen. Dan hebben wij een nieuwe wetenschap nodig, want Chinese computers zullen reageren op Chinees gedrag. Zouden Chinese computers kunnen praten met Amerikaanse of Europese computers? Of moeten wij overgaan tot het aanstellen van gedragspsychologen voor computers?

Laten wij ons alsjeblieft niet op het terrein van de science-fiction begeven! Toch zit er misschien wel een grond van waarheid in uw opmerking. Omdat computers ontworpen worden om met mensen samen te werken, zijn zij aan een bepaalde cultuur aangepast. Chinese computers zullen niet zoveel verschillen van bijvoorbeeld Amerikaanse, maar zij worden zodanig ontworpen, dat zij beantwoorden aan de eisen van de Chinese en niet aan die van een andere cultuur. Men zou het kunnen vergelijken met meubilair. Het meubilair in een Japans huis is anders dan dat in een Amerikaans huis, omdat Japanners een andere cultuur hebben, een andere manier van leven en hun meubels zijn daaraan aangepast.

Ja, maar de mensen reageren emotioneel totaal verschillend op elkaar. Dat verschil is al erg groot tussen Japanners en Indonesiërs, laat staan tussen Japanners en Fransen. Als er een wisselwerking bestaat tussen het menselijk gedrag en de computer, dan zou men bijvoorbeeld in het Verre Oosten een andere wisselwerking krijgen dan in het Westen.

Dat is best mogelijk, maar ik zou liever de kenmerken van dit probleem in het algemeen willen bespreken. Er bestaat inderdaad een tamelijk sterke wisselwerking tussen computersystemen en de maatschappij er omheen. Met een sterke wisselwerking bedoel ik, dat allereerst de eigenschappen van een computersysteem invloed uitoefenen op de maatschappij waarin de computer gebruikt wordt. Vervolgens wordt de ontwikkeling van de computer weer door de eigenschappen van deze maatschappij beïnvloed. Ik wijs u er hierbij op, dat een computersysteem geen statisch geheel is. Er worden nieuwe programma's geschreven, er wordt van alles gereorganiseerd. Een computersysteem ontwikkelt zich in de tijd, net zoals de maatschappij. Deze twee ontwikkelingen beïnvloeden elkaar in hoge mate. Daar zijn bewijzen voor. Op die manier ziet men dat maatschappelijke verschijnselen nauw verbonden zijn met de eigenschappen van computersystemen en andersom. Dat wil zeggen dat de beginvoorwaarden van een computersysteem zeer sterke invloed kunnen uitoefenen op de maatschappij er omheen, met inbegrip van de verhouding tussen de mensen onderling, en zelfs op de waarden van die maatschappij.

Bestaat er dan niet het gevaar dat boze machten de programmering van computers in hun greep krijgen en daardoor de maatschappij kunnen programmeren volgens misschien ontaarde ideologieën? We komen hier-

[p. 284]

mee terecht bij de theorieën van professor Skinner: het programmeren van de omgeving om het individu te verbeteren.

Daar maak ik mij niet zoveel zorgen over. Het is in zekere zin maar een detail. Ik heb het over een veel omvangrijker en in bepaald opzicht veel gevaarlijker probleem. De manier waarop men computers gebruikt bij het inrichten van een maatschappij hangt fundamenteel af van de computers die men tot zijn beschikking heeft. Er zijn, om precies te zijn, computers die door veel mensen tegelijk gebruikt kunnen worden, waarbij er geen rechtstreekse wisselwerking bestaat. Er zijn ook computersystemen, waardoor men tamelijk gemakkelijk beïnvloed kan worden. Afhankelijk van het type computersysteem, dat men gebruikt bij een bepaalde maatschappijinrichting, dwingt men de maatschappij op een speciale manier te functioneren. Een ander voorbeeld, dat te maken heeft met de plaats waar de besturing gevestigd is, is het volgende: er zijn computers die dwingen tot, of liever gezegd, leiden tot een steeds grotere centralisatie van de besturing. Maar er zijn ook computers, die juist de decentralisatie van de besturing vergemakkelijken, computers die overkoepelend te werk gaan. Dit alles kan van grote invloed zijn op het hele gedrag van een maatschappij. Er zijn zulke subtiele dingen als computers die uw persoonlijke vrijheid kunnen beschermen of computers die dat niet doen.

Bent u van mening dat computers ons van dienst kunnen zijn, wanneer wij het feit zullen moeten accepteren dat onze planeet grenzen heeft en dat wij tot een vorm van mondiaal bestuur moeten komen?

Ik twijfel er niet aan of computers kunnen in dat opzicht zeer nuttig zijn. Ik wil zelfs verder gaan. Ik ben erg bang dat hoogontwikkelde maatschappijen, zoals die van de Verenigde Staten, aan hun eigen ingewikkeldheid te gronde zullen gaan, wanneer wij geen computers inschakelen. Computers zullen essentieel zijn voor de overlevingskansen van een ingewikkelde maatschappij. Het is niet alleen een kwestie van het maken van plannen, maar vooral van het uitvoeren ervan. Want welke plannen men kan maken hangt af van wat men feitelijk tot stand kan brengen. Wanneer men het over een mondiaal bestuur heeft, krijgt men niet alleen te maken met planning maar ook met het vinden van bruikbare oplossingen. Het vinden van zulke oplossingen vereist zo'n nauwe wereldomvattende samenwerking, dat ik mij niet kan voorstellen dat dit mogelijk zou zijn zonder een zeer ver gaand gebruik van computers. Daarom sprak ik ook over het vergemakkelijken van de communicatie. Het is niet voldoende om een plan te maken. Men moet het ook kunnen uitvoeren. Dit vereist een zeer grote mate van samenwerking op verschillende gebieden en daarom heeft de mensheid betere hulpmiddelen nodig om deze ingewikkelde problematiek het hoofd te kunnen bieden, anders komt er niets van terecht.

Ik zag hier zojuist op de gang⁶ verschillende mededelingen van universiteiten en van de Rand Corporation, die computerexperts vragen. De Universiteit van Yale leidt nu ook op voor een doctoraal examen com-

6 Het gesprek met professor Fano had plaats in diens kantoor op het m.i.t. in Cambridge, Massachusetts.

[p. 285]

putertechniek. Hoe staan jonge Amerikanen tegenover de computerwetenschap?

De belangstelling van de studenten voor de zogenaamde computerwetenschap en computertechniek neemt ongetwijfeld sterk toe.

Zowel bij jongens als bij meisjes?

Ikzelf beschouw de computerwetenschap als een onderdeel van de technische wetenschappen, en juist hiervoor wordt de belangstelling bij meisjes steeds groter.