Era hijo de Zenas y Mary (Skinner) Brace, y nació en West Hartford, Connecticut , el 13 de junio de 1781. Se graduó de la Universidad de Yale en 1804. Estudió teología, obtuvo la licencia para predicar y el 16 de enero de 1805 , fue ordenado e instalado pastor de la iglesia congregacional en la parroquia de Newington , en el pueblo de Wethersfield, Connecticut, y allí continuó hasta completar cincuenta años de activo y útil servicio como pastor. Se casó con la señorita Lucy Collins, de West Hartford, Connecticut, el 21 de enero de 1805 y tuvo seis hijos. El 16 de enero de 1855 pronunció un discurso de medio siglo, repasando la historia de la iglesia y la sociedad desde los primeros tiempos. Este discurso ha sido impreso. (Hartford 1855, págs. 75, 8vo.)
En 1854 recibió el grado de Doctor en Teología del Williams College . Todavía conservando una conexión nominal con su parroquia, se mudó a Pittsfield, Massachusetts , donde, en la familia de su yerno, el reverendo J. Todd, pasó felizmente los últimos seis años de su vida.