Vereenigingen tot ontwikkeling en hulp van zijne medemenschen vonden in van der Veen steeds een warm voorstander en medewerker.
Niet het minst is van der Veen ook buiten zijne naaste omgeving als letterkundige bekend. Menig letterkundig tijdschrift telde hem onder zijne medewerkers. Als dichter, novellist en geschiedschrijver heeft hij ons vele voortbrengselen van zijn geest nagelaten. Wegens zijne verdiensten op dit gebied werd hij tot lid onzer Maatschappij en tot buitengewoon lid van het Friesch Genootschap benoemd.
Van hem zag het licht in poëzie: De Roover, een Drentsch verhaal (anoniem), Koevorden 1838; Welkomsgroet aan de bezoekers van Drenthe bij gelegenheid van het 20ste Nederl. Landhuishoudkundig Congres te Assen, Assen; Nachtlichtjes, Rijmen, rakende vraagpunten van den dag (pseudoniem Frisius), Groningen 1865; 1815 Waterloo, 1865, twee liederen voor Drenthe, Hoogeveen 1865; Liedjes om te zingen bij de feestelijke opening van den Drentschen spoorweg, Assen 1870; 1572-1672, feestliedjes voor 1872, Assen 1872; Bij 's Konings komst te Hoogeveen, Hoogeveen 1873.
In proza verscheen van hem: Iets over oom Thomas (pseudoniem Paul Bodestaf), Utrecht 1842; Meester Paul, Waarheid en verbeelding (door den schrijver van: Iets over oom Thomas), Groningen 1844; Drentsch Mozaïk, 2 stukjes, Groningen 1844 - 48; Paul's verblijf op den Sperwerhorst, een romantisch verhaal, Groningen 1847; Een paar vertellingen, Meppel 1849; De laatste bewoners van Lijcklamastate (pseudoniem Frisius), Heerenveen 1852; Voor zestig jaren, een Drentsch verhaal, Sneek 1855; Remonstranten en Contra-Remonstranten, 2 dln., Sneek 1858; O, wat mooie sprookjes, een 5-tal uit de oude