En 1975 fichó por el FC Barcelona, pero solo permaneció una temporada debido a sus malas relaciones con la estrella del equipo, el holandés Johan Cruyff.
En 1964, Weisweiler asumió el mando del Borussia Mönchengladbach, un equipo joven con talento emergente como Günter Netzer y Jupp Heynckes.
FC Köln, con el que conquistó la Bundesliga en la temporada 1977-78 y dos Copas de Alemania, estableciendo al club como una potencia en el fútbol alemán.
En 1980, Weisweiler asumió el cargo de entrenador del New York Cosmos en la NASL, donde dirigió a figuras como Franz Beckenbauer y Johan Neeskens.
Finalmente, en la temporada 1982-83, Weisweiler se hizo cargo del Grasshopper Club Zúrich en Suiza, donde logró un doblete doméstico antes de retirarse.