Nacido en Massachusetts, Plummer se mudó a Mississippi y enseñó en una escuela en el condado de Copiah, Mississippi . Después de completar sus estudios de derecho, fue admitido en el colegio de abogados y comenzó a ejercer en Westville, Mississippi . Ocupó varios cargos locales y se desempeñó como miembro de la Cámara de Representantes del Estado, además de fundar la ciudad de Pittsburg (ahora parte de Granada).
Plummer fue elegido como jacksoniano para los congresos vigésimo segundo y vigésimo tercero (4 de marzo de 1831 - 3 de marzo de 1835). Fue un candidato fallido para el Senado de los Estados Unidos . Murió en Jackson, Mississippi , el 24 de septiembre de 1847.