McHugh venía de una familia con experiencia en el teatro.
Su hermano Frank se unió a la Warner Bros durante los años 30 y 40 y su hermana Kitty hacía un espectáculo con él a los 14 años.
Uno de sus hermanos, Ed, se hizo agente en Nueva York.
Matt debutó en Brodway en la obra Street Scene de Elmer Rice en 1929 junto a su hermano Ed y, en 1936, apareció también en Swing your lady.
Su escena más célebre en Star spangled rhythm (1941) es un monólogo en la escena de la “Vieja Gloria” en la que interpreta a un hombre que, literalmente, encarna el espíritu de Brooklyn.