La antigua sede del Zongli Yamen está hoy en día situada en Dongtangzi Hutong, en el distrito de Dongcheng en Pekín.
El nombre correspondiente en manchú, por entonces la otra lengua oficial del Imperio Qing, era Geren gurun i baita be uherileme icihiyara yamun.
Aunque frecuentemente repetido, es erróneo creer que Zongli Yamen significa "Despacho del Premier".
Esta noción moderna se debe a que el término zongli (总理) es en la actualidad empleado en chino para referirse al Premier o Primer Ministro de un país.
Las primeras legaciones comerciales europeas tenían prohibido acceder al interior del país, y se limitaban a tratar con mandarines locales en ciudades portuarias como Cantón.
En su concepción inicial, el Zongli Yamen estaba pensado como una institución temporal que solo estaría abierta en tanto en cuanto durase la crisis diplomática y doméstica.
Para enfatizar esto, el Zongli Yamen tenía un estatus formal muy bajo dentro de la jerarquía administrativa del gobierno de los Qing, y sus miembros servían al mismo tiempo en otros departamentos del gobierno Chino, lo que disminuía aún más su eficacia.