«Ain't No Rest for the Wicked» está inspirada en hechos reales que vivió el vocalista Matt Schultz, cuando en 2006 recogió a una mujer en su auto en Kentucky y esta comenzó a hacerle comentarios de índole sexual por tratarse, en realidad, de una prostituta.
Sin embargo, el tercero, «Ain't No Rest for the Wicked» (desde su lanzamiento original en 2008), llegó hasta el puesto número 38 en el UK Singles Chart, y más tarde su versión estadounidense lograría alcanzar el puesto número 3 en la lista Alternative Songs, octavo puesto en Mainstream Rock Tracks y 83 en Billboard Hot 100 ( lista pop).
"Ain't No Rest for the Wicked" se convirtió en su canción más popular, siendo usada en varios comerciales de televisión e incluso, la canción se usó como tema musical para la secuencia de apertura del videojuego Borderlands.
«Back Against The Wall» se convirtió en el sexto single del álbum, y hasta el momento llegó al puesto número 1 en Alternative Songs, no.
Hasta el lanzamiento de su segundo álbum, Thank You, Happy Birthday, Cage The Elephant reapareció en las lista Billboard 200, esta vez llegando al puesto 59.