Yohanan Levy nació en 1901 en Berlín, Alemania, y desde su temprana juventud se interesó por la historia judía y los estudios judaicos, así como por la cultura clásica del mundo griego y romano en la antigüedad, lo que se convirtió en el centro de sus estudios académicos.
Se doctoró en 1926 en la Universidad de Berlín, donde estudió con Werner Jaeger, Eduard Norden, Eduard Mayer y Ulrich von Wilamowitz-Moellendorff, entre otros.
[2] Paralelamente a sus estudios universitarios también estudió en la Academia de Ciencias del Judaísmo en Berlín.
En 1933 se propuso dedicarse a la enseñanza privada en Berlín, pero no consiguió trabajo en esta área.
[3] Levi fue sionista desde su temprana juventud, y en 1934, después de que los nazis tomaron el poder, emigró a Eretz Israel, donde fue uno de los fundadores de los clásicos latinos en la Universidad Hebrea, junto a Victor Tcherikover y Moshe Schwabe.