No puedes mantener una buena banda abajorecibió elogios de la crítica tras su lanzamiento. El crítico de AllMusic, Kurt Morris, quien otorgó al álbum 4.5 de 5 estrellas, le dio crédito a la banda por "mostrar creativamente una mezcla de ritmos infecciosos, influencia de los años 50, energía antisistema y mucho más", afirmando que las armonías y melodías de la banda son "notable para un acto punk". En cuanto a las letras, Morris felicita a la banda por "[expresar] sus puntos de vista anarquistas [...] de una manera honesta y abierta", así como por incluir "historias tontas" en canciones como "The Exorcist", "Me and the Boys". , y "Randy, no te necesito". Morris concluye su reseña afirmando: "Randy parece haber hecho un álbum muy exitoso que probablemente muchos pasarán por alto, pero es su pérdida, ya que todas las piezas realmente están en su lugar.[1]
En una reseña retrospectiva de PunkNews publicada cuatro años después del lanzamiento del álbum, Dubar también otorga al álbum 4,5 de 5 estrellas. Señala la drástica "reinvención" de la banda en comparación con su estilo anterior, que estaba más en línea con conjuntos de skate punk como Satanic Surfers . Por el contrario, Dubar señala que You Can't Keep a Good Band Down es "notablemente menos agresivo, mucho más pegadizo, y eso no es nada malo". Compara positivamente la reinvención de la banda con Bad Religion ., "pero con palabras menos grandilocuentes, y parece que se están divirtiendo MUCHO más". Felicita el estilo lírico "directo" de Randy y evita las metáforas y la poesía a favor de "abordar ideas realistas y ofrecer soluciones del mundo real". Dubar distingue "The Exorcist", "Superstar", "Randy, I Don't Need You", "They Fear Us" y "Working Class Radio" como temas destacados. [2]
Toda la música está compuesta por Randy (Johan Brändström, Fredrik Granberg, Stefan Granberg, Johan Gustafsson).