Después del atentado fallido contra Hitler del 20 de julio de 1944, fue llamado al Wolfsschanze para sustituir al general Carl-Heinrich von Stülpnagel (implicado en el complot) como comandante de las tropas alemanas en París, con las órdenes precisas de no ceder la ciudad sin luchar casa por casa y no entregarla sin arrasarla, minando los puentes sobre el río Sena y otras zonas estratégicas, así como algunos palacios y monumentos.
En París, las noticias sobre las derrotas germanas pusieron en ebullición a la Resistencia, principalmente las FFI, Forces Françaises de l'Intérieur (Fuerzas Francesas del Interior) y la France Libre (Francia Libre), que formaban el Comité de Liberación Nacional (CLN).
Mientras el CLN hacía llamamientos a la calma para preparar un levantamiento ordenado, los jefes de muchas formaciones resistentes anunciaron la insurrección inmediata.
Los gendarmes franceses, que hasta entonces estaban al cargo del orden durante la ocupación alemana, desaparecieron de la circulación.
Del mismo modo, Choltitz autorizó que las unidades de la Gestapo y las SS aún presentes en París siguieran ejerciendo la represión nazi hasta el final.
de Larry Collins), las versiones de la Resistencia francesa rechazan esta imagen y niegan mérito alguno al militar alemán, considerando que Choltitz permaneció fiel a Hitler hasta el final y «mantuvo la represión contra los franceses hasta quedar sin alemanes que le obedeciesen», señalando que los fusilamientos y arrestos contra franceses se sucedieron hasta horas antes de la rendición alemana.