Continuó su educación en el Groupe Scolaire d'Astrida (Actual Butare), donde estudió medicina veterinaria hasta graduarse en 1952.
Desde entonces y hasta 1957 se desempeñó como veterinario asistente en el distrito de Rutana.
[1][2] Participó activamente en la política local durante el dominio colonial belga y fundó un partido de corta duración llamado AMEHUTU en 1960.
[5][2]Pronto, la UPP se dividió en tres tendencias y Cimpaye, junto con Emmanuel Nigane, lideraron uno de los grupos que buscaba llegar a un entendimiento con la UPRONA.
[9] La UPRONA arrasó en las primeras elecciones del país en septiembre de 1961, y como consecuencia Rwagasore reemplazó a Cimpaye como primer ministro.
Posteriormente regresó a Burundi y en 1964 fue contratado por la aerolínea belga Sabena como especialista en relaciones públicas, pasando más adelante a ser nombrado jefe de ventas de la oficina en Buyumbura.
[1] Estando en la cárcel, escribió una novela en francés llamada L'homme de ma colline (tdl.