Kandidaat Kleppe werd op 17 augustus 1971 tot predikant bevestigd te Woerden. Na tien jaar vertrok hij naar Apeldoorn, waar hij predikant was van 1981 tot 1985. Van 1985 tot 2000 diende ds. Kleppe de gemeente van Rijssen-Noord. In 2000 ging hij met emeritaat.

Er wordt geen herdenkingsbijeenkomst gehouden rond het ambtsjubileum vanwege het overlijden van de echtgenote van ds. Kleppe. Zij stierf in in 2006.

De nu 81-jarige ds. Kleppe was onder meer actief in het deputaatschap voor evangelisatie. Hij was voorzitter van het deputaatschap algemene diaconale zaken en van de besturen van de Jacobus Fruytier Scholen­gemeenschap in Apeldoorn en van verzorgingscentrum Maranatha in Rijssen.

Ds. Kleppe is samen met zijn in de VS woonachtige zoon oprichter van de Stichting Hudson Taylor voor Bijbelse hulpverlening in China. Deze stichting zet zich onder andere in voor het beheren van christelijke scholen in China en de toerusting van voorgangers van Chinese huisgemeenten door predikanten van de Gereformeerde Gemeenten.