Gyldmark tocaba el violonchelo desde muy joven y su primer compromiso como músico de orquesta fue a los 15 años. De vuelta en Copenhague formó con sus hermanos Leonard y Sven Gyldmark y formó el trío Gyldmark , que tocaba para las proyecciones del cine mudo. También actuó bajo el nombre de Sid Merriman.