Van den Berg werd op 15 oktober 1935 geboren in Rotterdam en groeide op in Veenendaal.

Vanaf 1970 was hij SGP-wethouder in Veenendaal en vervolgens burgemeester in Sint Philipsland (1973-1981) en Genemuiden (1981-1986), waarna hij directeur werd van de Nederlandse Patiënten Vereniging (NPV). Hij stond aan de wieg van zorgverzekering Pro Life.

Hij was van 1974 tot 1981 lid van de Provinciale Staten in Zeeland en van 1987 tot 2003 in Utrecht.

Van 1995 tot 2011 was Van den Berg lid van de SGP-fractie in de Eerste Kamer.

Jarenlang diende Van den Berg de gereformeerde gemeente van Veenendaal als ouderling.