Fue la figura central en la vida musical de New Haven, Connecticut a fines del siglo XIX, y también es recordado por haber sido profesor de Charles Ives.
Después de sus estudios iniciales en Estados Unidos con George Whitefield Chadwick y otros, fue a Europa, un destino común para un joven compositor estadounidense en los años 1880.
UU., tomó sucesivos empleos como maestro, organista y director de coro, sobre todo en Nueva York.
Durante su vida fue considerado el mejor compositor en los Estados Unidos, un profesional superior que escribía en un avanzado estilo.
En 1892, Parker compuso la melodía del himno "Auburndale" en celebración por la colocación de la piedra angular en la nueva iglesia construida en la parroquia episcopal en donde había sido bautizado, la Parroquia del Mesías.