Kimberly nació el 23 de octubre de 1790 en lo que entonces era parte de New Haven, Connecticut , y ahora es la ciudad de Orange, Connecticut . Era el menor de los doce hijos del Capitán Silas y Sarah (Smith) Kimberly. Fue educado en la escuela de Litchfield South Farms antes de asistir a la universidad.
Se graduó de la Universidad de Yale en 1812. Se formó para la ley en Springfield con Geo. Bliss, Esq, y en Fairfield, Connecticut con el Excmo. Roger M. Sherman. En marzo de 1814 fue admitido en el colegio de abogados de New Haven, donde pronto adquirió una sólida reputación.
Al principio de su vida, dedicó mucho tiempo a los asuntos militares, y finalmente obtuvo el rango de Mayor General en la Milicia del Estado de Connecticut . Se le impusieron otros cargos públicos.
Fue miembro de la Cámara de Representantes de Connecticut de 1826 a 1829 y de 1832 a 1835. En 1831 fue alcalde de New Haven y fue reelegido en 1833, pero rechazó el honor.
En 1838 fue seleccionado como Senador de los Estados Unidos por la Legislatura de Connecticut , pero declinó. También rechazó una nominación para gobernador de Connecticut en un momento en que su elección se consideraba segura. Unos años más tarde, de 1845 a 1848, fue fiscal estatal del condado de New Haven, Connecticut .
Debido a problemas de salud, Gen Kimberly, en julio de 1852, inició una gira por Europa, de la que regresó en mayo de 1854, algo mejor, pero estuvo lejos de estar bien durante los últimos años de su vida. Siguió prestando cierta atención a su negocio profesional, y especialmente a los asuntos del Ferrocarril de Nueva York y New Haven , cuando era Director, hasta unos meses antes de su muerte en New Haven, el 15 de diciembre de 1862, a la edad de 73 años. .