Lips Like Morphine fue lanzado por primera vez el 16 de mayo de 2006, de la banda con sede en Chicago Kill Hannah y luego liberados de nuevo en agosto en el álbum de la banda hasta que no quede nada de nosotros . Está disponible mediante descarga paga en varios minoristas de música en línea, incluida iTunes Music Store . El primer lanzamiento incluyó versiones de demostración de " Rebel Yell ". El 13 de junio de 2006 se publicó la versión correcta de "Rebel Yell". Al principio se pensó que en este EP se había publicado una versión incorrecta de "Goodnight, Goodbye". Esto se debió a su aparición en una promoción poco común llamada 1993-1999 que tenía una mezcla inicial. La versión de este EP es la versión correcta y final.