Johann Heinrich Rolle fue hijo de Christian Friedrich Rolle, músico y, algunos años después del nacimiento de su hijo, cantor del Liceo municipal de Magdeburgo.
En 1752 sucedió a su padre como cantor del liceo y como director musical de la ciudad, siendo muy reconocido en este ámbito, incluso fuera de la región.
Rolle perteneció a la Sociedad del Miércoles fundada por Johann Wilhelm Ludwig Gleim, donde tuvo contacto con Heinrich Rathmann, Friedrich von Koepcken, Johann Bernhard Basedow, Johann Samuel Patzke, Friedrich Gabriel Resewitz, Gottfried Benedict Funk y Gotthilf Sebastian Rötger.
Sus composiciones se encuentran en la tradición del barroco tardío, aunque tienen ya tendencias del estilo galante y rococó.
Dejó una gran cantidad de obras que hoy en día siguen siendo interpretadas.