Appleby nació en Florenceville, Nuevo Brunswick . En 1864, Appleby se casó con Harriet Elizabeth Estey. Fue llamado al colegio de abogados de New Brunswick en 1869. [2] Appleby ejerció la abogacía en Woodstock, New Brunswick . [3] Fue elegido por primera vez a la Cámara de los Comunes de Canadá como miembro del Partido Liberal en una elección parcial de 1873 celebrada en Carleton después de la muerte de Charles Connell . Appleby fue reelegido en las elecciones generales de 1874. Fue derrotado en las elecciones de 1878 por el hijo de Connell, George Heber Connell . [1]