The Amateur Transplants lanzaron su primer álbum Fitness to Practice en 2004. [2] Sin embargo, la banda recibió poca atención hasta 2005 cuando su canción de su álbum debut, London Underground, una parodia de Going Underground de The Jam , se volvió viral y recibió millones de visualizaciones en YouTube. [3] A partir de 2005 el dúo comenzó a escribir muchas más canciones para el segundo álbum, en 2007 cantaron muchas de estas por primera vez en su gira en vivo, The Black and White Menstrual Tour. El álbum fue lanzado en CD en 2008 con poca atención; sin embargo, en 2010 fue lanzado en Spotify , iTunes y Amazon.com., tres canciones del álbum ahora tienen más de 50.000 reproducciones en Spotify. [4]