Windgassen nació en Lennep (ahora parte de Remscheid ) en la provincia prusiana del Rin . Siguiendo los deseos de sus honrados padres de clase media, emprendió una carrera respetable en la marina alemana. Solo después de que el Príncipe Heinrich de Prusia elogió su habilidad para el canto, se atrevió a emprender una carrera como cantante. Después de formarse en el Conservatorio Bernuth de Hamburgo , debutó en 1909 en Harburg . Otros compromisos lo llevaron a Bremen , Hamburgo y al Court Theatre de Kassel , donde conoció a la soprano de coloratura Vali von der Osten , con quien se casó en 1916. De 1923 a 1945, fue miembro de laÓpera Nacional de Stuttgart . A partir de 1919 se especializó cada vez más en papeles de Heldentenor y se convirtió en un renombrado intérprete de Richard Wagner .
También fue muy solicitado como concertista y ejecutante de Lieder . Dio su concierto de despedida en Stuttgart en 1949, presentando obras de Richard Strauss , Gustav Mahler y Hugo Wolf , entre otros; su hijo, Wolfgang Windgassen , más tarde un célebre Heldentenor por derecho propio, también participó.
Tras su retiro de los escenarios, Windgassen enseñó en la Escuela de Música de Stuttgart . Entre sus alumnos se encontraba el bajo Gottlob Frick . Windgassen murió en Murnau .