Harpur nació en 1810 en el distrito Hunter River de Nueva Gales del Sur , [2] hijo de Joseph Harpur y Sarah de soltera Chidley. [3] Su padre era originario de Kinsale, condado de Cork , Irlanda, y fue secretario parroquial y maestro de la escuela del distrito de Windsor, mientras que su madre era de Somerset . Ambos habían sido transportados . Uno de sus hermanos fue el poeta Charles Harpur . [4]
Fue servidor público y empleado, y participó activamente en movimientos radicales y de templanza . En 1861 fue elegido miembro de la Asamblea Legislativa de Nueva Gales del Sur para Patrick's Plains en una elección parcial , pero no volvió a competir en 1864. [5]