Mario Rocas nació en Perú, donde su padre formaba parte del cuerpo consular, aunque se educó en París, a pesar de que su familia era originariamente occitana.
Al mismo tiempo, iba a escuchar lecciones en la École Nationale des Chartes.
Fue profesor de varias instituciones parisienses, las mismas donde había estudiado (sucedió Gaston Paris en la École pratique des hautes études) y también en el Institut National des Langues et Civilisations Orientales, donde enseñó rumano y también albanés.
El 1910 fundó la colección Classiques français du Moyen âge, que publica la editorial Honoré Champion.
También dirigió, desde 1911 y hasta que murió, la revista Romania, sucediendo en este cargo a Paul Meyer.