Martin Caspar/Kaspar war letzter Konventual (stimmberechtigtes Mitglied des Konvents) des Prämonstratenserklosters Fürstenfeld. Er wurde in kurzer Zeit bei seinen Pfarrmitgliedern sehr beliebt.
In der Chronik von Westerholzhausen wird berichtet, dass eine Gedenktafel in der Kirche berichte, Pfarrer Kaspar habe das Gotteshaus geziert und verschönert. Er schaffte eine versilberte Ewig-Licht-Ampel um 33 Gulden an. Zudem sei er "gegen die Armen wohltätig, gegen seine Freunde herzlich und innig und gegen alle Menschen aufrichtig und liebenswürdig" gewesen.
Im Jahre 1834 habe Kaspar viele Bäume an den Straßen und Wegen pflanzen lassen.
Er starb am 17.April 1837