Isaac Halevi Herzog nació en Łomża en el Zarato de Polonia, estado satélite del Imperio Ruso.
Hijo de Liba Miriam (Cyrowicz) y Joel Leib Herzog.
Su educación inicial fue en gran parte bajo la instrucción de su padre, que era rabino en Leeds y luego en París.
Su tesis (donde acuñó el término Porfirología hebrea),[4] que lo hizo famoso en el mundo judío, se refería a su afirmación de redescubrir Tekhelet, el tipo de tinte azul que alguna vez se usó para hacer Tzitzit.
[5] Los descendientes del rabino Herzog han continuado activamente en la vida política de Israel.
Un hablante fluido del idioma irlandés, apoyó al Primer Dáil y la causa republicana irlandesa durante la Guerra de Independencia de Irlanda, y se hizo conocido como "el rabino del Sinn Féin ".
[11] Sin embargo, los defensores del Papa Pío XII han afirmado que Herzog mantuvo relaciones amistosas con el pontífice tanto durante como después de la Segunda Guerra Mundial.