zich gedeeltelijk aan de gebruikelijke formulieren zou houden. K. bleef zich echter verzetten en zijn eigen gang gaan: de Alg. Staten - Sluis hoorde tot de generaliteitslanden - gingen zich met het geval bemoeien. 22 Sept. 1674 kwam er een verbod van preeken, K. onderwierp zich niet, zoodat Juni 1675 de resolutie volgde van uitbanning uit Sluis en de generaliteitslanden. Rampspoedige jaren volgden thans: het preeken werd hem overal verboden, ook het houden van vergaderingen binnenshuis, bijna alle provinciale synoden ageerden tegen hem, weldra, 20 Nov. 1675 stierf zijn vrouw Anna Huss. Van stad tot stad rondzwervend, verbleef hij nog 't meest te Amsterdam en Utrecht (Historisch Verhael der proceduuren tegen J. Koelman, door Th. Parresius, Rott. 1677).
Te Amsterdam, waar hij met tusschenpoozen van 1676 tot 91 woonde, vond hij vooral een onderkomen bij den krankenbezocker Uylenbroeck, en steun, ook geldelijken misschien, van burgemeester van Beuningen. In 1679 werd hij te Herford, in 1682 te New Castle in N.-Amerika beroepen, voor welke beide beroepen hij echter moest bedanken. Eindelijk, in 1691, nadat de Amsterdamsche kerkeraad er in geslaagd was hem voor goed uit Amsterdam te verjagen, kwam hij tot rust te Utrecht, waar hij zich van preeken moest onthouden, maar huispredikaties, catechisaties en bijbellezingen mocht houden. Een grooten steun vond hij in de vriendschap met Jod. Lodenstein, die hem reeds vroeger verdedigd had; ook stond hij in nauwe betrekking tot Wilh. a Brakel. In 1695 is hij, algemeen geëerd, te Utrecht gestorven en er 6 Febr. in de Catherinakerk begraven.
Talrijke geschriften, vooral strijdschriften, heeft hij nagelaten, die zich richtten tegen de Labadie en de labadisten, tegen de Sabbaths-mannen, en tegen R. Descartes en Balth. Bekker. Tegen de eersten schreef hij: Historisch verhael nopende der Labadisten Scheuringh en velerley dwalingen, met de Wederlegging derselver (Amst. 1683, 2e dr. Leeuw. 1770) en Der Labadisten dwaling grondig ontdekt en wederlegt (Amst. 1684); het vieren van den Zondag verdedigde hij in: Methode en bestieringen, om klaar te overtuigen de geene, die des Sabbats, en 's Heeren dags godlijke verbintenis nu bestrijden (Amst., 1682), De Praktijk des Sabbaths (Amst. 1682, Amst. 1685, Rott. 1738) en Het dispuyt, en de Historie, mitsgaders de praktijke van den Sabbath (Leeuw. 1685). Op het laatst van zijn leven deed hij zich als een heftig bestrijder van Descartes en Bekker kennen; hij schreef: Het vergift van de Cartesiaansche Philosophie grondig ontdekt (Amst. 1692) en Wederlegging van B. Bekkers Betoverde Wereldt (Amst. 1692).
Behalve door zijn polemische geschriften heeft hij ook door stichtelijke boeken van mystiekpiëtistischen aard invloed geoefend. Het bekendste is Pligten der ouders, in kinderen voor Godt op te voeden (Amst. 1679, 3e dr. Amst. 1724, 4e dr. Utr. 1749, Amst. 1838 en nog in 't laatst der 19e eeuw door D.K. Wielinge herdrukt); Sleutel ter opening van de donkerste kapittelen in de Openbaaringe (Amst. 1688); Het Verbond der Genaden en 't lot van des Heeren Bondgenoten (Utr. 1706, 2e dr. Rott. 1738); De weg Gods met den mensch hier op aarde (z.j., 2e dr. Utr. 1890). Reformatorisch bedoeld zijn: Neerlands plicht en voorbeeld, van de Reformatie der kerk (Amst. 1689); De Pointen van nodige Reformatie omtrent de kerk .. en Belijdenis der Geref. Kerke in Nedertandt (Vliss. 1678); Neerlandts ondergang, gedreigt en nabij (Utr. 1692); Spiegel der Wet (1689, Leiden ± 1885)