Von Rohr nació en Berlín . Después de su educación en la Musikhochschule Berlin con Hermann Weißenborn , hizo su debut en 1938 en el Teatro Duisburg como Sarastro en La flauta mágica . Permaneció allí hasta 1941 y luego fue contratado en el Staatstheater Stuttgart entre 1941 y 1979. Allí actuó hasta su muerte en Leonberg .