Nacido en Melle, Deux-Sèvres, Francia, su padre fue un pintor que se trasladó a París cuando Marcel era un niño.
La familia Brillouin regresó a Melle durante la Guerra Franco-prusiana de 1870.
Tras la guerra, regresó a París e ingresó a la École Normale Supérieure en 1874 para graduarse en 1878.
Se convirtió en físico adjunto en el Collège de France, mientras que al mismo tiempo trabajaba para su doctorado en matemática y física, el cual obtuvo en 1881.
Como trabajos más destacados podemos nombrar: Su hijo Léon Brillouin, también tuvo una carrera prominente en la física.