Era apodado el "Escocés Plateado" (Silver Scot en inglés).
Armour estudió en la Universidad de Edimburgo y combatió en la Primera Guerra Mundial en el regimiento de tanques del Ejército Británico.
A lo largo de su carrera en el PGA Tour, Armour obtuvo 25 torneos del PGA Tour, destacándose cinco en 1927, cuatro en 1928 y tres en 1930 y 1932.
Armour ingresó en el Salón de la Fama del Golf Mundial en la tercera generación en 1976.
Su nieto Tommy Armour III también obtuvo victorias en el PGA Tour.