Party Fun Action Committee lanzó el primer álbum de estudio, Let's Get Serious , en Definitive Jux en 2003. [3] El álbum alcanzó el puesto número 7 en la lista CMJ Hip-Hop. [4] Recibió críticas favorables de AllMusic , [1] The AV Club , [5] y Stylus Magazine . [3]
El grupo apareció en la canción "Cook It Up" de Aesop Rock , que apareció en su álbum de 2003, Bazooka Tooth . [6]