De 1873 a 1879 estudió clarinete, arpa y piano en el Conservatorio de Praga.
En 1900 Kovařovic se convirtió en el director de orquesta del teatro nacional de Praga, debido principalmente al éxito de su ópera Los cabeza de perro, a partir de la novela del mismo nombre (basada en la vida de Jan Sladký Kozina) por Alois Jirásek.
Su participación en el Teatro Nacional duró veinte años, hasta el año 1920.
Kovařovic es recordado hoy en día por las revisiones que ha realizado a Jenůfa de Leoš Janáček para su estreno en Praga, y su versión de la ópera fue escuchado durante muchos años.
Existe una grabación de Los cabeza de perro, con Beno Blachut.