La carrera de McSherry comenzó con Kilmarnock en 1970. Como mediocampista , McSherry tuvo 118 apariciones con el club y marcó 8 goles. En 1975, se unió a los rivales locales Ayr United , donde jugó 190 partidos y marcó 10 goles. En 1982, McSherry se unió a Berwick Rangers como jugador-entrenador con 24 apariciones y anotó un gol. Después de dejar a los Borderers en enero de 1983, McSherry pasó un breve período con Stirling Albion antes de pasar una temporada con el club chipriota Pezoporikos Larnaca . En 1984, McSherry regresó a los Binos por otro breve período antes de retirarse del juego.
En 1989, McSherry regresó a la gerencia de fútbol, como asistente de Jim Fleeting en Rugby Park con Killie [1] y dejó su puesto en 1992 antes de ser nombrado gerente comercial de Kilmarnock en Rugby Park y actualmente es el anfitrión mío de la hostería Wee Windaes en Ayr. . [2]