Nació en Breslavia (actual Polonia), y fue hijo del famoso historiador de origen judío Heinrich Graetz.
[1] En 1881 se convirtió en el asistente del catedrático August Kundt en la Universidad de Estrasburgo.
También se vincula su nombre al puente rectificador de diodos, inventado por el ingeniero electrotécnico polaco Karol Pollak y popularizado por Leo Graetz en la revista Elektronische Zeitung en 1897.
Su libro de texto "La electricidad y sus aplicaciones" (1883), dirigida a un público específico, alcanzó 23 ediciones (1928), siendo rápidamente traducida al finlandés, francés, italiano, portugués, ruso, español...; una razón de su éxito editorial fue que apareció justo a tiempo, en una época donde la ingeniería eléctrica se empezaba a notar en la vida pública.
Graetz comenzó a escribir en 1912 su obra magna en cinco volúmenes, el "Manual de Electricidad y Magnetismo", que aún conserva su importancia como la única existente (de la época) con la discusión casi completa y crítica de la literatura científica anterior sobre estos temas.