Johnson se crió en la ciudad de Nueva York , donde tocaba el piano y el violín antes de cambiar a la batería. Trabajó con Willie Gant 's Ramblers (1926), June Clark , Elmer Snowden , Joe Steele , Fats Waller , Jelly Roll Morton (1928), James P. Johnson y Horace Henderson (1930) antes de unirse a la orquesta de Don Redman . donde tocó desde 1931 hasta 1937. Johnson luego pasó un tiempo como músico independiente con Red Allen , Benny Morton , Willie Bryant , Lil Armstrong , Mezz Mezzrow, Redman y James P. Johnson nuevamente, Ovie Alston y Fletcher Henderson . Sirvió en el ejército durante la Segunda Guerra Mundial , luego jugó a tiempo parcial con Sidney Bechet (ca. 1951), Garvin Bushell y Happy Caldwell . Johnson nunca dirigió su propia sesión de grabación.