Su padre era de origen turco, y su madre era una judía bereber.
En París se encontró con el actor, cantante y compositor Mohamed Kamal, uno de los primeros argelinos en modernizar su música tradicional.
Kamal compuso las primeras canciones con las que hasta el día de hoy se puede identificar a Salim Halali: Andaloussia, Ezzine risas, Arja lebladek, etc.
En 1949 se trasladó a vivir a Casablanca, Marruecos, y adoptó para sus presentaciones al salón "Coq d'Or" (el gallo de oro).
En esta época comenzó a explorar en su mezcla cultural judeo-árabe, como lo evoca Mohamed Maradji en su libro "Salam Shalom", publicado en 1970.