DuConge se crió en una familia de músicos. Su padre era un barbero oficial y tenía voz de bajo y cantante. Su madre, Daniska, era soprano. Enseñó piano y enseñó música a sus hijos. Tres de sus hermanos eran músicos profesionales; Adolphus DuConge era pianista, Albert DuConge era trompetista y Earl DuConge era saxofonista tenor. Jugó en clubes locales en Nueva Orleans como el Elite Club y Tom Anderson's, con Alex Bigard como uno de sus acompañantes. A mediados de la década de 1920, comenzó a trabajar como músico en botes fluviales en el río Mississippi , luego se mudó a la ciudad de Nueva York, tocando con Jim Dandies y la Lucky Sambo Orchestra de Vaughn. Luego encontró trabajo con Bill Brown and His Brownies (tocando junto aOvie Alston ) y realizó una gira por Europa como miembro de la orquesta de Leon Abbey . En 1929 se casó con Ada "Bricktop" Smith y jugó en clubes de su propiedad en la década de 1930 antes de que se separaran formalmente.
Periódicamente, DuConge trabajó con Louis Armstrong . En 1932, formó parte de su conjunto para giras por Inglaterra (1932) y Europa continental (1933-1934). Tocó con Leon Abbey una vez más en 1934 mientras estaba en los Países Bajos, y también con Coleman Hawkins y Benny Peyton en Europa. En 1939, cuando estalló la Segunda Guerra Mundial, DuConge regresó a los Estados Unidos.