Hole quiso diferir significativamente el álbum de su anterior sonido noise e influenciado por el grunge de Pretty on the Inside (1991) y Live Through This (1994).
Con el fin de producir un pop rock más limpio, pulido y comercial, la banda contrató al productor Michael Beinhorn para la realización del disco durante un período de nueve meses que incluyó grabaciones en California, Nueva York y el Reino Unido.
Aunque acreditada, la baterista Patty Schemel realmente no tocó la batería en este álbum y fue reemplazada por el baterista Deen Castronovo por sugerencia del productor Beinhorn.
Hasta la fecha, se han vendido más de 1 400 000 copias solamente en Estados Unidos y ha sido certificado como disco de platino en Australia, Canadá y Estados Unidos.
Hole obtuvo un sencillo número uno en la lista Modern Rock Tracks con la canción que da nombre al álbum «Celebrity Skin».