Nacido en Erin, Ontario , Oliver vivió en Toronto desde que tenía tres años. Trabajó en el negocio de la madera. Fue elegido miembro de la Junta Escolar en 1885 y del Ayuntamiento de Toronto en 1895, 1901, 1902, 1903 (también Junta de Control de Toronto ) y 1906. Fue elegido alcalde en 1908 y 1909 . [1] Fue presidente de la Asociación Nacional de Exposiciones de Canadá en 1914 y 1915. También fue el Gran Sire de la Gran Logia Soberana de la Orden Independiente de Oddfellows of America desde 1920 hasta la fecha de su muerte, habiendo estado en la organización durante casi 50 años. Fue el último liberal .para ser elegido alcalde en Toronto antes que Allan A. Lamport en 1951. También fue miembro de la Orden de Orange en Canadá .