Nacido en Nine Partners, Nueva York en 1776, más tarde se mudó a Danbury, Connecticut . Fue miembro de la Cámara de Representantes de Connecticut en 1818, 1820 y 1824 y también sirvió en el Senado de Connecticut entre 1826 y 1828.
Tweedy ocupó muchos cargos locales antes de ser elegido como anti-jacksoniano en el Vigésimo Tercer Congreso (4 de marzo de 1833 - 3 de marzo de 1835). Murió en Danbury, Connecticut , a los 92 años. Fue enterrado en el cementerio Wooster.