McCoy Mrubata nació en 1959 en el municipio de Langa, Ciudad del Cabo , Sudáfrica. En su infancia estuvo rodeado de muchos himnos africanos, desde los sonidos de las iglesias de Zion hasta la música estridente de la banda Merry Macs que ensayaba frente a su casa. Con la dificultad de vivir bajo el gobierno del apartheid y el levantamiento de 1976, McCoy dejó la escuela y siguió su pasión por la música. Su instrumento entonces era la flauta, que estudió informalmente con Madoda Gxabeka, los Ngcukanas, Winston Ngozi, Ezra y muchos grandes de Langa.
A principios de la década de 1980, Mrubata tocó con muchas bandas de versiones como Fever, Touch y Airborne, desde donde se mudó al conjunto cruzado Louis and the Jive. Mientras estaba de gira en la década de 1980, fue descubierto por el líder de la banda Sipho "Hotstix" Mabuse , quien lo ayudó a hacer de Johannesburgo su hogar. A medida que Mrubata creció tocando una gama más amplia de lengüetas y componiendo más, se comprometió con muchas otras bandas y eso le llevó a la oportunidad de un contrato de grabación del productor Koloi Lebona con una compañía discográfica con sede en Gran Bretaña llamada Zomba Records en 1988. La misma compañía había producido, entre otros, a Jonathan Butler y Billy Ocean . Al año siguiente, Mrubata lanzó su álbum debut Firebird .y luego formó Brotherhood, una banda con nombres como el guitarrista Jimmy Dludlu, la pianista Nhlanhla Magagula y Lucas Khumalo que ganó el premio Gilbey's Music for Africa en 1990.
En 1992, Mrubata se unió a Lerapo de Hugh Masekela y realizó una gira por todo el mundo, tocando junto al guitarrista Lawrence Matshiza y al pianista Moses Molelekwa . Mrubata continuó creando sus propias bandas, Cape to Cairo y McCoy and Friends. A mediados de la década de 1990, hizo el primero de una serie de álbumes como líder, con Face the Music ganando el South African Music Award (SAMA) 2003 en la categoría de Jazz tradicional e Icamagu Livumile ganando el mismo premio en 2005. Además de su viaje musical internacional, Mrubata también hizo algunos trabajos de música para producciones sudafricanas sobre el periodista Bloke Modisane y en 2001 protagonizó una producción noruega basada en la vida de John Coltrane.. En junio de 2007, Mrubata viajó con Paul Hanmer a la República Democrática del Congo y Kinshasa para participar en la realización de talleres de música con músicos belgas y congoleños para un festival de jazz local. En 2008, ganó su tercer SAMA en la categoría Mejor Álbum de Jazz Tradicional por su álbum The Brasskap Sessions Volume 1 .
La participación musical actual de Mrubata incluye la producción y la enseñanza, además de ser un hombre de familia. Su ambición es mantener vivo nuestro tipo de música aquí en casa y compartir sus experiencias sudafricanas a través de la música con el resto del continente y el mundo en general.