Kempf sirvió como concejal de Milwaukee, Wisconsin de 1887 a 1888. Fue miembro del Senado del Estado de Wisconsin y del Registro de Escrituras del Condado de Milwaukee, Wisconsin antes de servir como Tesorero de Wisconsin de 1903 a 1904 y nuevamente de 1905 a 1907. Además , fue miembro del Comité Central del Estado Republicano de 1900 a 1903. El 30 de agosto de 1904, el gobernador de Wisconsin , Robert M. La Follette , destituyó a Kempf de su cargo y nombró tesorero interino a Thomas M. Purtell . [2] [3]