Hergt asistió al prestigioso Domgymnasium Naumburg antes estudiar leyes en Würzburg, Munich y Berlín.
Trabajó como Gerichtsassessor en Sajonia, y también como juez en Liebenwerda.
Miembro del Freikonservative Partei (FKP), que se disolvió después de la Primera Guerra Mundial, Hergt fue miembro fundador del nacionalista Partido Nacional del Pueblo Alemán (DNVP) y primer presidente de esta formación.
Elegido por primera vez al Reichstag en 1920, fue visto como uno de los miembros más moderados del partido, y su apoyo al Plan Dawes en 1924 fue visto como una traición a la línea del partido y lo llevó a ser reemplazado por un conservador más duro, Kuno von Westarp.
Después del ascenso al poder de Adolf Hitler, Hergt se retiró de la política.