Bajer werd geboren als zoon van een dominee. Hij diende als officier in het Deense leger, en vocht onder andere in 1864 mee in de oorlog tegen Pruisen en Oostenrijk. Tijdens deze oorlog werd hij gepromoveerd tot eerste luitenant. In 1865 nam hij ontslag uit het leger en vertrok naar Kopenhagen. Daar werd hij vertaler, leraar en schrijver.
In 1872 deed Bajer zijn intrede in het Deense parlement als lid van het Folketing. Hij behield hier gedurende 23 jaar een zetel. Als lid van het parlement zette hij zich in voor internationale arbitrage voor het oplossen van conflicten tussen landen. Dankzij zijn inzet werden buitenlandse relaties officieel onderdeel van de taken van het Deense parlement, en nam Denemarken deel aan de Interparlementaire Unie.[1][2]
Bajer steunde veel vredesorganisaties, zowel binnen als buiten Denemarken.
↑Skou, Kaare R. (2005). Dansk politik A-Å. Aschehoug, p. 109. ISBN 87-11-11652-8.
↑Andersen, Holger (1953). "Den danske rigsdag og det interparlamentariske arbejde" in Fabricius, Knud; Bomholt, Jul.; Hjelholt, Holger; Mackeprang, M.; Møller, Andr. (eds.): Den danske rigsdag 1849-1949 bind VI. Copenhagen: J. H. Schultz Forlag, pp. 415-416.