Wilson tocaba el violín cuando era niño y estudió composición y arreglos en su juventud. Tuvo su primera experiencia profesional a mediados de la década de 1920, tocando con Tiny Parham , Walter Barnes , Jelly Roll Morton (1927), Erskine Tate (1928-1931) y Richard M. Jones (1929). En la década de 1930 arregló y tocó el bajo con Earl Hines de 1931 a 1939, además de tocar el bajo en grabaciones con Jimmie Noone .
En la década de 1940 comenzó a tocar el bajo eléctrico y comenzó a grabar con músicos de R&B y blues , incluidos Lefty Bates y John Lee Hooker , con quienes tocó en varios álbumes. También continuó tocando jazz, trabajando con Bill Reinhardt en la década de 1960 y Joe Kelly en la década de 1970.