Hill, hijo del comandante Thomas Hill, nació en Marazion, Cornwall , el 15 de mayo de 1804. Fue educado en Mill Hill School , Londres, y en Trinity College, Dublín , donde se graduó en 1836. En el mismo año fue se ordenó sacerdote y se convirtió en capellán de la Royal Navy , en la que sirvió hasta 1845, cuando fue incluido en la lista de jubilados.
Durante su servicio en el mar, vio gran parte del comercio de esclavos en la costa africana, del que luego publicó un relato en dos obras. Una publicación temprana, titulada 'Poemas en varias ocasiones' (principalmente poemas de amor), se dedicó a su tío, Oliver Hill, pero años después se arrepintió de esta producción.
De 1852 a 1857 fue capellán del Hospital de Westminster y durante algún tiempo lector matutino en la Abadía de Westminster . El 26 de enero de 1863 fue nombrado rector de St. Edmund the King and Martyr with St. Nicholas Acons, Lombard Street, City of London , donde continuó hasta su muerte. Se esforzó por animar su iglesia proporcionando una sucesión de predicadores, mejorando el coro y celebrando breves servicios a la mitad del día. Fue el primero en introducir un coro con sobrepelliz en una iglesia de la ciudad.
Murió en la rectoría, 32 Finsbury Square , Londres, el 28 de agosto de 1882, y fue enterrado en el cementerio de la ciudad de Londres en Ilford. Su esposa, Ellen Annetta, con quien se casó el 26 de enero de 1846, murió el 18 de abril de 1878.