Fulford emigró al sur de Australia en 1847 con el obispo Short y el reverendo MB Hale a bordo del Derwent , y fue ordenado diácono en Trinity Church en 1848. [1]
Fue puesto a cargo de St Mary's on the Sturt en 1848. También sirvió en Christ Church, O'Halloran Hill . Sirvió en la iglesia de Blakiston en Balhannah entre 1851 y 1858 y también fue responsable de St. Mark's, Woodside .
Se casó con Sarah Marshall (c. 1822 - 30 de agosto de 1899) en 1852, tuvo cinco hijos y luego regresó a Inglaterra, donde nació su hijo Harry English Fulford .
Regresó a Australia en 1863, donde estuvo a cargo (como locum tenens) de Christ Church, South Yarra en Victoria .