tweetal jaren in de practische vakken en het prediken geoefend te hebben, werd Gispen op art. 8 der Dordtsche Kerkorde predikant bij de Gemeenten onder 't Kruis, waartoe hij zich het meest aangetrokken gevoelde en waarbij hij zich had aangesloten. Gedurende zijn ambtelijke loopbaan heeft hij steeds door ijverige studie gepoogd, het gebrekkige in zijn wetenschappelijke opleiding aan te vullen.
Zijn eerste gemeente was De Lier bij Delft, waar hij den 17en Augustus 1856 bevestigd werd; vanhier vertrok hij in 1859 naar Vlissingen, vervolgens in 1862 naar Giessendam en in 1864 naar Kampen. Hier bleef hij negen jaar, mocht, naar eigen getuigenis, op zijn werk ‘wasdom zien’ en genoot veel van den omgang met den docent De Cock. Den 4en Mei 1873 nam hij van deze gemeente afscheid met een leerrede, die is uitgegeven onder den titel: De eisch tot waarheid en vrede. Afscheidsrede te Kampen (Kampen 1873), om een week later te Zwolle intrede te doen met eene insgelijks in 't licht verschenen preek: Het woord der waarheid. Intreerede in de Chr. Geref. gemeente te Zwolle, 11 Mei 1873 (Kampen 1873). Met een afscheidsrede, getiteld: Gode bevolen (Zwolle 1881) zeide hij deze gemeente den 7en Augustus 1881 vaarwel en deed op 17 Augustus d.a.v. zijn intrede te Amsterdam, juist op den dag, waarop hij 25 jaar geleden bevestigd was. Ook de preek, bij die gelegenheid gehouden, is in druk uitgegeven als: De Apostolische Prediking. Intreerede te Amsterdam en tevens ter herdenking van volbrachte 25jarige Evangeliebediening (Amst. 1881). Nog 28 jaar mocht hij in de Hoofdstad arbeiden, herdacht zijn 40jarige ambtsbediening met een toespraak: Niet de mensch, maar God. Leerrede over 1 Cor. 3:5-7 (Amst. 1896) en getuigde nog bij zijn 50jarigen Evangeliedienst Van de goedertierenheden des Heeren, in een leerrede over Ps. 89:2, te Amsterdam in 1906 uitgegeven. Enkele jaren daarna, den 23en September 1909, overleed hij op ruim 76jarigen leeftijd. In 1892 was hij benoemd tot ridder in de orde van Oranje-Nassau, terwijl Hope-College te Holland (Michigan) hem in 1897 het doctoraat in de theologie honoris causa verleende.
Gispen, die ook aan de zaak van 't Christelijk onderwijs en de zending een deel zijner krachten gaf, was een zeer geliefd prediker. Zelf heeft hij getuigd: ‘De gemeente te versterken door de eenvoudige uitlegging van Gods Woord, en daarbij het oog te houden op de tijden en de omstandigheden, op de behoeften van het rijke en volle menschenleven, op al de eigenaardigheden van het raadselachtige, onpeilbare en ondoorgrondelijke menschenhart, dat was het wat ik steeds als de hoofdzaak in mijn arbeid beschouwde.’ In den vorm natuurlijk, zelfs nuchter, was zijn humor daarbij aantrekkelijk; ‘hij stond geregeld voor volle kerken, had een eigenaardige preektrant, opwekkend, frisch, vertroostend ... Hij was bepaald gemakkelijk te volgen.’
Vooral is in het kerkelijk leven zijn streven geweest, aan te sturen op een vereeniging van alle Gereformeerden. Gelukte het hem reeds in Vlissingen, de Gemeente onder 't kruis en de Afgescheidenen aldaar te vereenigen (1860), het was hem een groote blijdschap, toen negen jaar later de samensmelting van beide groepen in het geheele land plaats greep en aldus de ‘Christelijke Gereformeerde Kerk in Nederland’ ontstond. Maar ook mocht hij de geheele vervulling van zijn wensch beleven, toen op 17 Juni 1892 de Doleerenden zich met de Christelijk-Gereformeerden vereenigden onder den naam ‘De Gereformeerde Kerken in Nederland.’ In zijn bovengenoemde leerrede over Psalm 89:2 getuigt hij dan ook met inge-