Nació en Prahran de comerciante y político William Bayles e Isobel Buist. Asistió a Toorak College y Scotch College antes de estudiar derecho en la Universidad de Melbourne . Se convirtió en abogado desde 1887, trabajando como socio en Bayles, Hamilton y Wilks. El 18 de febrero de 1897 se casó con Marion Elizabeth Clarke; ella murió en 1915 y el 11 de septiembre de 1917 se casó con Roma Mary Hill Neill, con quien tuvo un hijo. En 1906 ganó una elección parcial para el escaño de Toorak en la Asamblea Legislativa de Victoria . Votó en contra del gobierno de Bent y se desempeñó como liberal y más tarde como nacionalista.. Bayles se retiró en 1920 y murió en Toorak en 1946. [1]