Bailey nació el 26 de diciembre de 1842 en Greenfield, Nueva York . Durante la Guerra Civil Estadounidense , sirvió con la 115.a Infantería de Nueva York del Ejército de la Unión , originalmente como soldado raso y luego como oficial. Posteriormente, fue jefe del departamento de bomberos de Oconto, Wisconsin . Bailey murió el 7 de octubre de 1903.
Bailey fue elegido miembro de la Asamblea en 1890. Otros cargos que ocupó incluyen el de juez del condado de Oconto, Wisconsin y juez de paz . Él era un demócrata .