Baly se educó en Worcester College, Oxford , [5] graduándose de BA en 1846 [6] y MA en 1857. [7] Fue ordenado diácono en 1847 [8] y sacerdote en 1848. [9] Sirvió curatos en Leicester y Falmouth . [10] En 1854 se convirtió en Guardián del Colegio de Santo Tomás, Colombo . [11] Más tarde se desempeñó como capellán en Allahabad , Sealkote y Simla antes de regresar a Falmouth como su Rector (1870 [12] -1872). [13] Fue nombrado miembro de la Universidad de Calcuta en 1879. A su regreso de la India fue capellán de Windsor Great Park desde 1885 [14] hasta 1906. [15]