Fue galardonado con una cátedra y renunció al gobierno en 1977 para protestar por la visita de Anwar el-Sadat a Jerusalén.
Decidió mantener abierta las líneas de comunicación entre Egipto y la Unión Soviética.
Sin embargo, Fahmy relata ciertos hechos en los que estuvo directamente involucrado: sus primeros encuentros con Henry Kissinger y Richard Nixon; su participación en las conversaciones que condujeron a los acuerdos de separación entre Egipto e Israel de 1974 y 1975.
Apoyó a regañadientes el primer acuerdo y se opuso al segundo.
Cuando Sadat decidió visitar Jerusalén, reaccionó a la decisión con estas palabras: "Creí que dañaría la seguridad nacional de Egipto, dañaría nuestras relaciones con los demás países árabes y destruiría nuestro liderazgo en el mundo árabe."
En 1984, se presentó sin éxito a las elecciones generales en la lista del Partido Wafd.