En 1928, entró en el Ejército Rojo, graduándose en la escuela militar de Bielorrusia tres años más tarde.
Tras acabar la guerra, Vasili Marguélov encabezó un regimiento durante el Desfile de la Victoria en Moscú.
En 1948, Marguélov fue asignado a dirigir la 76.ª División Aerotransportada, y en 1954 fue nombrado comandante en jefe de las Tropas Aerotransportadas (VDV).
Marguélov desempeñó este cargo durante los periodos 1954-1959 y 1961-1978.
Durante este tiempo, las VDV fueron modernizadas, haciendo uso de vehículos de combate de infantería y artillería autopropulsada, algo poco común entre las fuerzas aerotransportadas.