Nacido en Toronto, Ontario, como el más joven de cinco hijos de un padre armenio y madre inglesa, Oundjian también afirma tener ascendencia escocesa a través de su abuelo materno, un Sanderson, y el clan MacDonell of Glengarry.
Asistió a Charterhouse School en Godalming y continuó sus estudios más tarde con Béla Katona.
Oundjian posteriormente estudió en la Juilliard School con Ivan Galamian, Itzhak Perlman, y Dorothy DeLay.
En Juilliard estudió interpretación y, más tarde, recibió estímulo en sus esfuerzos cuando asistió a una clase magistral del eminente director de orquesta austríaco Herbert von Karajan.
Oundjian se convirtió en el primer violinista del Cuarteto de Cuerda de Tokio y ocupó el cargo durante 14 años.
Una lesión por estrés repetitivo le obligó a reducir su carrera instrumental.