Mars comenzó su formación musical en Sykes Music en Brantford, Ontario, donde estudió batería con Carl Lemke. A fines de la década de 1960, tocó la batería en la banda "John Mars and the Martians" con el bajista Kevin Cosman y el guitarrista Stan Baka. El grupo se disolvió después de que Baka fuera asesinado por un conductor ebrio. Mard luego se mudó a Toronto donde conoció al pianista Stuart Broomer y al saxofonista Bill Smith . Los tres hombres formaron el exitoso trío de jazz "Broomer, Mars & Smith" que actuó activamente durante la década de 1970. En 1980, Smith se fue para dedicarse a otros proyectos y se formó el dúo "Stuart Broomer & John Mars".Registros de perros feos .
Mientras actuaba en el dúo de jazz con Broomer, Mars actuó simultáneamente en la banda de rock "Brian's Children" que fundó con el guitarrista y compositor Dave Templeton (Temps) y el baterista Teddy Fury en 1979. Para este grupo, Martin se desempeñó como cantante principal y el compositor principal. El grupo lanzó un sencillo "Cut Her Hair b/w Oh Yeah", que fue producido por Daniel Lanois . En 1986, Mars acortó el nombre de la banda a "The Children" y formó una nueva banda con el guitarrista y compositor Aurelio Lanzalone y el bajista Mark Sinkowski. El grupo actuó hasta 1991 y pasó por varios cambios de miembros.
En 1988, Mars comenzó a actuar en el área de Ontario con el guitarrista David Essig. A mediados de la década de 1990 conoció al guitarrista Mike Ardelli y los dos comenzaron a tocar con su compañero baterista Glenn Kimberley en un grupo ad hoc llamado Natural Born Lovers. La banda tocó rockabilly/roots en series de conciertos en varias universidades. La banda se disolvió cuando Ardelli murió de un tumor cerebral a la edad de 24 años.