Publicado por Jeepster Records en Europa y por Matador Records para Estados Unidos y Canadá en 1998,[3] el título del álbum fue inspirado por la banda escocesa Arab Strap, quienes habían acompañado de gira a Belle and Sebastian.
Malcolm Middleton, miembro del grupo comentó al respecto que "Arab Strap es un nombre bastante interesante.
Somos amigos de ellos, pero hay un límite, al poner el nombre en un álbum nos están quitando algo nuestro".
También mencionó que el álbum había sido confundido con una colaboración entre las bandas.
La canción "Seymour Stein" aparece en las películas Alta fidelidad y en Definitely, Maybe protagonizada por Ryan Reynolds e Isla Fisher.