Rümann nació en Hannover.
Estudió de 1872 a 1874 en la Academia de Bellas Artes de Múnich (Akademie der Bildenden Künste München), y desde 1880 con Michael Wagmüller.
Junto con numerosos monumentos funerarios en el Alter Südfriedhof (Antiguo Cementerio Meridional) en Múnich, creó esculturas que todavía pueden verse en esta ciudad: monumentos a Georg Simon Ohm (1895, en el patio de la Universidad Técnica de Múnich), Max von Pettenkofer (1909) y Carl von Effner (1886) en la Maximiliansplatz (ahora la Lenbachplatz), la Fuente de Putti (Puttenbrunnen) en el Monumento a la Paz en la Prinzregentenstrasse (originalmente previsto para el Palacio de Herrenchiemsee) y los leones de mármol en frente del Feldherrnhalle (1906).
Entre sus alumnos se encontraron Bernhard Bleeker, Jakob Hofmann, Moissey Kogan, Martin Scheible y Alois Mayer.
Murió en Ajaccio, Córcega, y está enterrado en el Nordfriedhof ("Cementerio Septentrional), Múnich.