Su álbum anterior, Swing the Statue! de 1990. , ganó algunos elogios de la crítica pero fracasó por completo en atraer la atención comercial, y el colapso de Rough Trade Records la dejó sin contrato hasta que Mammoth Records compró los derechos de ese álbum. [8] Dos años después, a Williams le diagnosticaron esclerosis múltiple y, como músico en activo, no tenía seguro médico ni dinero para pagar sus gastos médicos; sin embargo, una gran cantidad de músicos que admiraban el talento que había mostrado en sus álbumes de Geffen Records acudieron a apoyarla con Sweet Relief: A Benefit for Victoria Williams de 1993. álbum tributo que graba sus canciones, incluidas dos no grabadas por la propia Williams.
Loose , en contraste con sus primeros dos álbumes, fue grabado con un gran equipo que incluye algunos colaboradores de alto perfil como Mike Mills de REM , la hermana y compañera de banda de Sly Stone , Rose , el futuro esposo Mark Olson y Dave Pirner de Soul Asylum . .
Con una hora completa de música, Loose vio a Victoria Williams usar una mayor diversidad de estilos, en particular, "You R Loved" y "Get Away" , de influencia espiritual . [1] A pesar de los elogios generalizados de la crítica, Loose no pudo romperla comercialmente, al no lograr hacer mella en el Billboard Top 200 , y Williams se mudó con su nuevo esposo Olson a Joshua Tree , California.