La familia de Neumann se trasladó a Kreutzburg (entonces en el Imperio ruso) durante la infancia de Wilhelm.
En 1895 se trasladó a Riga, donde creó numerosos edificios prominentes en estilo historicista, entre ellos la Sinagoga de Peitav.
[1] Además, Neumann fue el planificador de muchas mansiones en las Gobernaturas del Báltico y edificios públicos como el Museo y Ateneo Provincial de Curlandia.
En 1905 se convirtió en director del Museo de Arte de Riga, un edificio que había sido diseñado por él mismo.
Después de 1906 Neumann se centró en sus obras sobre la historia del arte.